トピック: Prompt Injection

全セクション横断 3 件

大規模言語モデルを用いた履歴書自動選考が、応募者による「プロンプトインジェクション」操作で結果を歪められる可能性があることが研究で示された。採用の公正性とAI導入戦略に直接影響を及ぼす知見として注目される。

米研究者がAIエージェントへの不正攻撃に対し、拒絶応答の代わりに意図的な誤誘導で返答する新防御手法を発表。自動化攻撃の成功率を最大100分の1に抑制し、企業AI導入の安全基盤を強化する可能性を示した。

大規模言語モデルの処理済み文脈から特定情報を効率的に削除する技術「KVEraser」が登場した。従来比17.6倍の計算コスト増を24%増に抑え、企業のAI運用コストと情報管理リスクを同時に低減する可能性がある。