まずアプリ内で表示する文字列はすべてres\strings.xmlから取得するように変更します。

strings.xml

<?xml version="1.0" encoding="utf-8"?>
<resources>
    <string name="word">文字列</string>
</resources>

プログラム中でstrings.xmlの文字列を取得するには

String word = getString(R.string.word);

で取得できます。

xml内でstrings.xmlの文字列を取得する場合は
例えばボタンのラベルに使用するには

<Button
    android:id="@+id/add_button"
    android:layout_width="wrap_content"
    android:layout_height="wrap_content"
    android:text="@string/word"
 />

で取得できます。

次に、resフォルダ直下に「values-ja」という名前のフォルダを用意します。
そして、「values」フォルダと同じように、strings.xmlを作成します。
キャプチャ

values\strings.xmlには英語表記を、
values-ja\strings.xmlには日本語表記をそれぞれ入力します。

キャプチャ

これで、端末の言語設定が日本語になっている場合はvalues-ja\strings.xml、
それ以外の設定になっている場合はvalues\strings.xmlが参照されるようになります。

↓GooglePlayストアの説明文を英語に対応したい場合はこちら
[Android開発]Google Playストアで英語表記に対応する方法