MATLABのbit数と外部タイヤのbit数が合っていないことが原因です。
MATLAB 64bitをご利用の場合は、外部タイヤのソルバーも64bitを選択してください。
例としてMF-Tyreのソルバーの設定方法は以下の通りです。

＜例＞MF-Tyre 6.2のソルバーを64bitに変更する方法

1. Tire (External)画面を表示
2. Tire program file (DLL)右のを選択し、{CarSim_Prog}\Resources\Extensions\TNO_DelftTyre\win64\tno_delfttyre.dllを選択