Androidでファイル名に使えない文字は、Windowsと同じで以下の9文字です。

< > : * ? ” / \ |

ファイル名に使用できない文字が含まれた文字列の正規表現は

^.*[\\\\|/|:|\\*|?|\”|<|>|\\|].*$

となります。

↓こんな感じで使用できない文字が含まれているか判定できます。