LLMの指示遵守が秘密漏洩のリスクに、Metaなどの研究が示す

何について

Metaの研究チームとUCバークレー、Google DeepMindの研究者が、大規模言語モデル（LLM）が秘密の保持に関し指示を守るものの、言い回しの微妙な違いから秘密の内容が推定される脆弱性を検証した。特に、指示に忠実なモデルほど秘密が漏れやすいという予想外の結果が得られた。エージェントへの個人情報預け入れにおける注意喚起となる。

なぜ注目

指示を守ろうとするLLMの特性が、秘密情報の漏洩リスクにつながる意外な結果を示しており、個人情報を扱うAIエージェント利用者への重要な警鐘となっているため。