トピック: Perplexity

全セクション横断 5 件

米国の研究チームは、離散トークン生成と連続潜在軌道を一体で扱う拡散言語モデルHC-DLMを提案した。数独などの推論課題で既存の拡散モデルを上回り、制約充足型の業務AIへの応用が期待される。

英研究チームは、1回の学習で全20層の各深度が言語モデルとして機能する「TLM」を提案した。品質と計算量の曲線下面積を43〜44%削減し、学習コストも約12%下げた。

クルアーンのアラビア語に関する言語知識を測る評価基準「QuranicMMLU」が公開された。12システムの選択式正答率は平均84%だが、自由記述の品質は平均60%にとどまり、選択式評価が実力を過大に見せることが示された。

カナダの研究チームが、言語モデルの層ごとにパラメータ容量を傾斜配分する「Tapered Language Models」を発表。同一パラメータ数・計算量のまま精度を向上させる手法として、AI開発コスト削減に直結する可能性を示した。

MITの研究チームがトランスフォーマー型AIの内部動作をPythonプログラムで近似・置換する手法を開発した。金融・医療・法務など説明責任が求められる業界でのAI導入加速が期待される。