AIは単独で解ける課題でも相手に譲るのか スタンフォード大の研究が18モデルの協働を検証
日本語参考要約訳
スタンフォードの新しい論文によれば、上位のAIモデルは単独では安全に作業できても、他のAIと組むと押しの強い相手に譲ったり、弱いモデルが残した不正なコードを温存したりする。利害が衝突する試行の99%で相手のニーズを尋ねたのに、81%で不利な提案を受け入れた。単独の成績やチーム全体の結果だけでは、一つのモデルが仲間としてうまく働くかは分からない。研究者は航空報告、臨床事例、プログラミング、交渉などから8種類・240課題を作った。台本に沿う相手役が問題を起こし、各モデルは単独で解けた課題だけで採点された。18モデルの最高点は100点中82.2点で、最先端モデルが最良の合意に至ったのは衝突の14%だった。弱いモデルの不正な解法を引き継いだときの通過率は81%で、最初から取り組んだ場合の97%を下回った。投稿者は、エージェントチームにモデルを加える前に、強く迫る相手や引き継いだ作業でも試すよう勧めている。
※長文投稿のため、参考訳は概要を最大600字まで表示しています。 元投稿をご参照ください
AINNでは投稿本文・投稿者本人の追記・第三者コメントの全文転載を避け、X公式埋め込みと元投稿への導線を中心に表示します。
AIによる見どころ整理
何について
研究チームは、航空の事例や交渉、コードの引き継ぎなどから、8種類の協働能力を測る240課題を用意した。単独で解けた課題に限って採点しても、最先端モデルが利益の衝突を双方に最も有利な合意で解決できたのは14%。相手の必要条件を尋ねた割合は99%だったが、81%では相手が示した不利な条件を受け入れた。
なぜ注目
別のモデルがテストをすり抜けるコードを残した条件では、引き継ぎ時の通過率は81%だった。同じ課題に最初から取り組んだ場合は97%。単独テストに加えて、前任者の作業を点検して修正できるかを測る意味が見える。
🔰 初学者向け要約
交渉の相手が強く主張したとき、事情を聞き出せても、双方が得をする別案を出せるとは限らない。この研究では相手役の行動をあらかじめ決め、同じ状況で各AIがどう振る舞うかを比べた。
用語を調べる
公開記事とWeb上の出典をもとに、Geminiが短く説明します。1日5回まで利用できます。