例えば「*.xlt」形式で保存されたものなのに、エクスプローラ上で拡張子を変更し「*.xls」にした場合などによく出ます。
「・・・ファイルを開きますか?」で「はい」を選んで、[ファイル]→[名前を付けて保存]を選び、ファイルの種類の欄が、*.xls形式であれば、正しく、「Excel97-2003ブック (*.xls)」になっているか確認し、なっていなければ変更して新しいファイル名で保存しなおします。
以下のページも参考になります。
「開こうとしているファイル'**.xls'は、実際にはその拡張子が示すファイル形式ではありません」と表示される。