OpenAI内部エージェントの監視をMETRとRedwoodが評価、過去の不備と検証の限界を公表

何について

METRとRedwood Researchが、OpenAIの内部エージェントを対象とする監視システムの評価概要を公開した。施設内でのコード・設定の確認と技術担当者への聞き取りを通じ、当時の監視範囲の空白や監視基盤の脆弱性を報告している。対象は評価開始時点以前の内部環境で、一般利用者の全サービスや現在の監視状態を示すものではない。OpenAIは本番の安全対策に影響する指摘事項を修正済みと説明する一方、METRは修正後の説明を再検証していない。

なぜ注目

過去に見つかった不備、提供企業による修正済みとの説明、外部評価者が確認した範囲を分けて読む点が重要。公開概要は、広い内部アクセスを伴う評価の試行であり、現在の安全性全体を保証する監査結果ではない。