Androidでファイル名に使えない文字は、Windowsと同じで以下の9文字です。

< > : * ? ” / \ |

ファイル名に使用できない文字が含まれた文字列の正規表現は

^.*[\\\\|/|:|\\*|?|\”|<|>|\\|].*$

となります。

↓こんな感じで使用できない文字が含まれているか判定できます。

maches = "^.*[\\\\|/|:|\\*|?|\"|<|>|\\|].*$";
 
// false
System.out.println("abcde".matches(maches));
System.out.println("あいうえお".matches(maches));
 
// true
System.out.println("a*cde".matches(maches));
System.out.println("あいう;お".matches(maches));