トピック: Machine Unlearning

全セクション横断 5 件

学習済みモデルと消去対象だけで特定データを忘れさせる手法には、理論上の限界があると判明した。確実に忘れさせるには学習時に多くの情報を残す設計が要り、個人データ削除対応の運用に影響する。

大規模言語モデルが記憶した個人情報を真に削除できているかを検証する初のパラメータ水準テストベッド「LACUNA」が発表された。既存の消去手法が出力を隠蔽するにとどまることを示し、企業のAIガバナンスに根本的な問い直しを迫る。

テキスト要約AIへの学習データ汚染攻撃を検知・無害化する統合防衛フレームワークが発表された。金融・法務・医療など要約AIを業務に組み込む企業にとって、サプライチェーンリスク管理の新たな選択肢となる。

ポルトガルの研究チームが、ネットワーク侵入検知に使われるXGBoostモデルから特定データを高速削除する手法「XGBoost-Forget」を開発した。AIガバナンス強化が急務となる企業のセキュリティ運用に変革をもたらす可能性がある。

AIモデルから特定知識だけを外科的に消去する技術「MAST」が開発された。既存手法が引き起こす性能劣化を大幅に抑制し、コンプライアンス対応や知財管理に求められる精密な学習取消しを可能にする。