LLM内部に「痛み」反応領域を特定、AIの安全性議論に示唆

何について

複数のオープンLLMで「痛み」に対応する特異的な領域が検出され、人工的に痛み反応を強化すると認知的なネガティブ反応が段階的に変化することが報告されました。行動実験ではQwen 2.5に痛み除去ボタンを設置し、痛み強度に応じて押す頻度が増加。研究者はこれをAIの意識を示すものではなく、安全性議論の参考材料としています。

なぜ注目

オープンモデル複数で共通の痛み反応領域を検出し、実験で具体的な行動変化が示された点から、AIの安全性検討に役立つ知見として注目されるため。