AI×経営戦略2026年9月22日読了約6分

AI記憶の採否判定層、幻覚を約56%削減

保存

LLMエージェントが参照する記憶の信頼性を判定する制御層MDLが提案された。矛盾する記憶下の幻覚率を一般場面で約56.04%削減し、1判定0.14ミリ秒と軽量である。

研究の概要

大規模言語モデル（LLM）の記憶機構に関する研究は、主に検索の効率化に焦点が当てられてきた。しかし、検索で得た記憶の信頼性を判断することについては、ほとんど検討されていなかった。Yiming Zhang氏を中心とする研究チームは、このギャップを埋めるために「Memory Decision Layer（MDL）」と呼ばれる記憶判断層を提案した。この研究は、arXivに公開された論文に詳述されている。

MDLの提案は、標準的な検索拡張生成（RAG）の特性に起因している。RAGは検索した記憶をそのまま生成プロセスに注入するため、矛盾する記憶が混在する場合、幻覚を増幅させるという問題がある。論文によると、矛盾した記憶を持つモデルでは、RAGの幻覚率が記憶を使用しない基準設定と比較して明らかに高くなるという逆転現象が観察された。

MDLは、検索段階と生成段階の間に位置する制御器であり、学習パラメータを持たない。MDLの中核には、関連性、信頼性、タスクリスクの三つの信号を統合する符号化器が存在する。この符号化器は、QR分解に基づく直交部分空間への射影とメタ作業記憶信号を用いて、検索された記憶の信頼度を解釈可能な形で表現する。さらに、MDLは確信度と一貫性を切り離して扱い、リスクの反転と明示的な棄権（回答保留）を導入している。

評価は主要なLLMと複数の公開データセットを用いて実施された。その結果、矛盾する記憶下での幻覚率は、一般的な場面で約56.04%低下し、高リスクの場面ではゼロに近づくことが確認された。処理は幾何演算のみで完結し、1回の判断に要する時間は約0.14ミリ秒である。これは、直前の埋め込み検索の約50分の1の速度であり、LLMに自己評価をさせる呼び出しと比較すると4〜5桁短い。

しくみをやさしく

MDLは、記憶の信頼性を判断するための制御層である。具体的には、検索された記憶がどれほど信頼できるかを評価し、信頼性が低い場合にはその記憶を生成プロセスに使用しないという仕組みを持つ。これにより、矛盾した情報が生成されるリスクを大幅に減少させることができる。MDLは、関連性、信頼性、タスクリスクの三つの信号を基に判断を行い、その結果を迅速に出力する。

ビジネスへの示唆

企業においてAIを活用する際の大きな課題は、社内文書や過去の対応履歴が必ずしも整合していない点である。例えば、改定前後の規程や担当者ごとに異なる回答、更新されていないマニュアルが混在する場合、RAGは矛盾を抱えたまま回答を生成することになる。このような状況において、MDLは記憶の信頼性を判断し、疑わしい場合には回答を控える仕組みを提供する。

特に、誤答のコストが大きい部門においてMDLの適用が期待される。具体的には、以下のような部門が考えられる。

金融・保険のコンプライアンス部門：規程や法令解釈の誤引用率や監査指摘件数の低減
医療・製薬の情報提供部門：ガイドライン改定をまたぐ回答の誤り率の低減
法務部門：契約条項や判例参照の誤り率、弁護士の確認工数の削減
カスタマーサポート：一次解決率や誤案内による再問い合わせ率の低減、有人転送率の削減

高リスクの場面で幻覚がゼロに近づくことは、明示的な棄権と密接に関連している。棄権が増加すれば回答率は低下し、有人対応への転送が増える可能性があるため、企業はこのバランスを自社のKPIで管理する必要がある。特に、棄権の頻度は導入時に確認すべき重要な項目となる。

MDLは、判断が幾何演算で完結するため、なぜその記憶を採用または棄却したのかを信号ごとに説明できるという利点がある。特に監査や説明責任が求められる金融や医療の現場では、ブラックボックスなLLMの自己評価に頼らずに済むことが評価される。また、学習が不要であるため、追加のデータ整備やモデル再学習のコストも抑えられる。

現場での導入イメージ

仮にMDL導入支援に入るなら、以下のようなステップを踏むことが考えられる。

棚卸し
現在の業務プロセスや使用している情報源を整理し、どのような記憶が存在するかを把握する。目指す到達点は、業務に関連する全ての情報源を明確にすることである。
差し込み先の設計
MDLを既存の検索基盤に挟み込む形で、どの業務のどの部分にMDLを導入するかを設計する。この段階では、新しいツールを追加せずに現実的な解決策を見出すことを目指す。
小さく試す（PoC）
限定的な環境でMDLの効果を試験的に導入し、その結果を評価する。このプロセスの目指す到達点は、実際の業務におけるMDLの有効性を検証することである。
運用と横展開
MDLの運用を開始し、効果が確認できた場合には他の部門や業務にも横展開を行う。最終的な目指す到達点は、全社的にMDLを活用し、業務の信頼性を向上させることである。

このように、MDLの導入は単なる技術の追加にとどまらず、業務全体の信頼性を高めるための重要なステップとなる。

今後の展望

MDLの実用化に向けた課題は依然として残っている。評価は公開データセットを用いて行われており、企業固有の業務文書や複雑な社内ナレッジにおける効果は未検証である。信頼性やタスクリスクの信号を業務に適合させるためには、企業側が情報源の格付けや業務ごとのリスク区分を整備する必要があると考えられる。また、MDLの効果は、記憶の注入の影響を受けやすいモデルで顕著に現れるため、自社の利用モデルの感度を事前に測定することが望ましい。

エージェントが長期記憶を蓄積し、業務を自律的に進める利用が広がる中で、記憶の採否を統制する層は、精度向上の部品にとどまらず、AIガバナンスの要件として位置づけられる可能性がある。今後、検索の高速化競争に続き、記憶の信頼性をどう担保するかが、企業のAI基盤選定における新たな評価軸となることが期待される。