トピック: Mixture of Experts (MoE)

全セクション横断 8 件

単一のTransformerブロックを繰り返し使う画像認識モデル「reViT」が、全層モデルと同等の精度を保ちつつ保存パラメータを約70%減らした。端末搭載や配布のコストを下げる道を開く成果である。

Kali Linux上のコマンド生成力を測る新ベンチマーク「KaliBench」が公開された。ヒントなしの条件では完全一致精度が42%を超えるオープンモデルはなかった。専用の報酬による学習で8Bモデルが685B級に迫った。

中国の研究チームが、わずか350億パラメータのAIエージェントで1兆パラメータ級モデルと同等の性能を実証した。推論コストを大幅に削減しながら高度な自律タスクをこなせる可能性が示され、企業のAI導入コスト構造を根本から変えうる。

欧州の研究チームが、多言語ニュースから政治エリートの関係網を自動抽出するAIパイプラインを開発した。企業の政治リスク管理やESG評価に直結する技術として注目される。

Transformer型AIの事前学習を効率化する新最適化アルゴリズム「AngularMuown」が発表された。学習の安定性向上と速度改善により、大規模言語モデルの開発コスト圧縮に直結する可能性がある。

米ジョンズ・ホプキンス大などの研究チームが、AIモデルの予測確率の信頼性を実環境の変化下でも保つ技術を開発した。医療診断や金融リスク管理など、確率値の精度が業績に直結する分野での実装加速が見込まれる。

シンガポール国立大学などの研究チームが、イベントカメラと言語モデルを統合した自動運転向けベンチマーク「EventDrive」を発表した。従来のカメラが苦手とする逆光・高速移動下での認識精度が大幅に向上し、自動車・物流・保険業界に広範な影響を与える可能性がある。

MITとIBMの研究チームが開発した「><former」は、層ごとに幅を変える新設計でLLMの計算量を22%削減する。クラウドAI基盤を運営する企業にとってコスト構造の抜本的見直しを迫る成果である。