OpenAIのサミュエル・H・アルトマン氏が前線AIの安全開発と連携強化を呼びかける

アメリカ企業が開発する先端的AIに対し、社会が信頼を持てるよう責任ある行動が不可欠だと投稿者は述べています。急速に進展するAIの技術開発に伴うリスク管理は重要であり、最前線の研究機関はこの責任を果たすべきだと強調します。連邦政府による安全基準の統一的枠組みは歓迎するものの、独占禁止法の適用除外や新法の成立を待つ必要はなく、企業自身が信頼構築に向けた措置を自発的に始めるべきだとしています。 投稿者は、かつて開発した「責任ある拡張ポリシー」や「準備体制フレームワーク」は完成モデルの展開に重きを置いていたが、現在は開発過程での安全性確保に注力する必要があり、新たな手法が求められていると指摘します。OpenAIでは、能力向上が見込まれる強化学習の実施前に安全性に関する明確な検証を行い、モデル公開前の安全対策も継続しているとのことです。 また、他社にも同様の取り組みを促し、ミスマッチの検知や監視、安全対策の共有基準が業界全体の成果向上につながると期待しています。技術進展の「ペーシング（進行調整）」は「停止」ではなく、迅速な発展は続くが、安全性と監視が追いつかないスピードでは問題があるため、適度な抑制は重要であると述べます。

※長文投稿のため、参考訳は概要を最大600字まで表示しています。 元投稿をご参照ください