トピック: Attention Head

全セクション横断 6 件

画像内の無関係なテキストがAIの視覚認識を誤らせる「タイポグラフィック攻撃」に対し、追加学習なしで防御できる手法が開発された。自動運転や製造ライン検査など安全性が問われる業務への導入障壁が下がる可能性がある。

大規模言語モデルへの「脱獄攻撃」が成功した場合でも、モデル内部に安全性の活性化信号が残存することが判明した。訓練不要の検知手法への応用が期待され、企業のAIガバナンス態勢を大きく変える可能性がある。

視覚言語モデルが視覚情報と記憶知識の矛盾をどう解決するかを示す因果的メカニズムが特定された。わずか数%の注意ヘッドが挙動を支配しており、医療・製造・小売など現場導入企業のリスク管理に直結する知見である。

MITの研究チームがトランスフォーマー型AIの内部動作をPythonプログラムで近似・置換する手法を開発した。金融・医療・法務など説明責任が求められる業界でのAI導入加速が期待される。

米ブラウン大学の研究者らが、画像言語モデルの注意機構を再学習なしに操作し、モデルが「見て説明する」領域を83.1%の精度で誘導できる手法を発表した。製造・医療・広告など画像解析を活用する業界に広範な事業インパクトをもたらす可能性がある。

ウィスコンシン大学の研究者らが人間と25種のLLMを比較し、日常的な因果推論において両者が類似した誤りを示すことを実証した。「LLMは単なるパターンマッチング」という批判が、人間の推論にも同様に当てはまる可能性を示す知見は、AIシステムの業務導入設計に根本的な見直しを迫る。