トピック: Floating Point Operations

全セクション横断 3 件

米研究チームが、ループ型Transformerの途中計算を活用し追加学習なしで推論精度を高める手法LoopCDを開発した。ループ数を半減しても同等以上の精度を保ち、演算量を最大48.2%削減した。

スタンフォード大などの研究チームが、大規模言語モデルによる社会シミュレーションの精度とモデル規模の関係を定量的に解明した。マーケティングや政策立案など、人間行動の予測を必要とする分野に広範な影響を与える可能性がある。

MITとIBMの研究チームが開発した「><former」は、層ごとに幅を変える新設計でLLMの計算量を22%削減する。クラウドAI基盤を運営する企業にとってコスト構造の抜本的見直しを迫る成果である。