AIの「幻覚」予測・防止が可能に

研究の概要

生成AIが未来の状態を予測・映像化する「世界モデル」は、自動運転やロボット制御、ゲームAIなどの分野で急速に普及しつつある。しかしこれらのモデルは、映像として自然に見える一方で実際の物理法則や環境ダイナミクスから逸脱した予測——いわゆる「幻覚（ハルシネーション）」——を頻繁に生じさせる問題を抱えていた。

米カリフォルニア大学サンディエゴ校のNicklas Hansen氏らの研究チームは、この問題に対して体系的なアプローチを採用した。研究チームはまず、​427時間・210タスク​に及ぶ大規模ベンチマークデータセット「MMBench2」を構築し、​3億5000万パラメータ​の世界モデルを訓練した。その結果、幻覚は主に「学習データが薄い状態・行動空間の領域」に集中して発生することを実証した。

幻覚の発生パターンは、​知覚的幻覚​（センサー入力の誤認識）、​行動周辺化幻覚​（特定行動の学習不足による誤予測）、​シーン乖離幻覚​（時系列の蓄積誤差）の3種類に分類される。研究チームはそれぞれに対応する予測シグナルを開発し、モデルが失敗する箇所を事前に検出することを可能にした。

さらに、この予測シグナルを「好奇心報酬」として追加データ収集に活用する手法を開発。​わずか50本の実環境軌跡データ​を用いた効率的なファインチューニングで、未知の環境に事前学習済みモデルを適応させることに成功した。

ビジネスへの示唆

この研究が持つビジネス上の意義は複数の産業にまたがる。

自動運転業界では、シミュレーターによる仮想テストの信頼性が開発コストと安全認証に直結する。世界モデルの幻覚が予測可能になれば、テスト計画の優先順位付けが合理化され、​実走行テスト削減率​や​シミュレーション精度​といったKPIの改善が期待できる。トヨタ、GM、テスラなどが大規模投資を続けるAD（自動運転）開発部門において、検証工数の大幅な圧縮につながる可能性がある。

ロボティクス・製造分野では、工場の生産ラインやピッキングロボットの動作検証にも直接応用できる。従来、未知の製品形状や作業環境に対してロボットを適応させるには大量の実機テストが必要だったが、50軌跡程度の少量データで適応できるのであれば、

• 新製品導入時のロボット再訓練コスト
• ライン切り替えのダウンタイム
• QA（品質保証）部門の検証リードタイム

などのKPIを大幅に改善できる。

ゲーム・メタバース産業においても、プロシージャル生成されたゲーム環境の品質保証や、没入型VR体験における物理的整合性の維持に活用できる。コンテンツQA部門が手動で発見していた異常挙動を自動検出できるようになれば、開発サイクルの短縮が見込まれる。

今後の展望

研究チームが公開したインタラクティブ版論文サイトは、手法の再現性と産業応用への門戸を広げている。今後の課題としては、リアルタイム推論環境への統合コストや、予測シグナル自体の誤検知率管理が挙げられる。

世界モデルへの投資は、​エヌビディア​が発表した物理AIプラットフォーム「Cosmos」をはじめ、大手テクノロジー企業を中心に加速している。本研究が示す「データカバレッジ」という根本原因の特定は、今後の世界モデル開発における品質管理フレームワークの標準化を促進するものとなろう。信頼性の定量化が可能になることで、世界モデルを保険・金融リスク評価などより高度な意思決定支援へ応用する議論も進むと予想される。