Androidでは、以下でファイルの削除ができます。

ただしギャラリーからは削除されず、消した画像へのパスが残ったままになります。
これを解消するには、ContentProviderから任意のファイルを削除します。

↓ちなみにメディア全体をスキャンするsendBroadcast()は、Android4.4から使用できなくなりました。
呼ぶとSecurityExceptionが発生します。

↓ギャラリーからファイルを削除する方法はこちらの記事を参考にさせていただきました。
ありがとうございます!
プログラミングノート MediaScanがKitKat(4.4)で動作しない件について