「Office のカスタム テンプレート」というフォルダがExcelなどのOfficeで保存しようとすると勝手に作成されてしまいます。なので、削除しても削除しても作成されます。
全く使っていなくてこのフォルダは不要という場合は以下の手順で作成されなくなります。
[ファイル]→[オプション]→[保存]→[個人用テンプレートの既定の場所]という所が、初期設定では空欄になっていると思いますが、ここに自分のドキュメントなど(「既定のローカルファイルの保存場所」と同じでもよい)を入れOKし、「Office のカスタム テンプレート」というフォルダを削除します。
※この設定はExcelだけ行っても、Wordで保存しようとする時に再作成されるので、Wordなどの他のOfficeでも同様の設定をしておく必要があります。