AI研究の自動化は警戒水準に達したか　METRがAnthropicの8月リスク報告を検証

何について

評価機関METRは11月5日、Anthropicの8月版リスク報告のうち、AIが研究開発そのものを自動化するリスクを扱った節のレビューを公開した。7月15日時点で社内に導入されていたモデルによる差し迫った破局的リスクは低いとの評価に同意した一方、早期警戒の基準をすでに超えていた可能性は残るとした。

なぜ注目

METRは公開版に加え、非公開版と追加資料も参照した。担当研究者の判断は「早期警戒の基準には達していなかった」側に傾くものの、別の判断にも合理的な余地があるという。今回の対象は7月時点の社内モデルで、11月時点の全モデルへの評価とは区別される。