GUIから起動されるVS Terrain Utilityは32bit版になります。
32bit版のVS Terrain Utilityでは扱えるサイズに制限があります。
CarSim/TruckSim/BikeSIm 2020.0以降のバージョンには64bit版のVS Terrain Utilityが以下のフォルダに用意されています。
“{プログラムファイル}\Programs\VsSceneBuilder\x64” 内
64bit版のVS Terrain Utilityをご利用いただくことでサイズの大きいファイルをコンバートすることが可能となります(例:fbxファイルからvsterrainファイルへコンバート)。
※GUIから直接64bit版のVS Terrain Utilityを起動することはできませんので、ショートカットを作成してアクセスしやすい場所に配置するなどの対応をお願いします。