Vercel AI Gatewayに仮想モデル、共通IDのままモデルと設定を一元管理

何について

VercelはAI GatewayにVirtual Models（仮想モデル）を導入しました。アプリやエージェントから共通の仮想モデルIDを呼び出し、その背後のモデルや設定をGateway側で管理する仕組みです。モデルの変更は数分以内に反映され、呼び出し側のコード変更や再デプロイを省けると説明しています。 フォールバックの順序、サービス階層、タグなどをまとめて設定できます。仮想モデルで指定した同じ設定は、リクエスト側の指定より優先されます。Zero Data Retentionや、依頼データを学習に使わない提供元を求める設定についても、呼び出し側で無効化できない設計だとしています。 ただし、提供元固有のオプションはモデル提供元を変更すると適用されなくなる場合があります。公式記事は、新モデルを別の仮想IDで評価してから本番用IDを切り替え、品質が下がれば前のモデルへ戻す手順を案内しています。単に共通IDを作れば切替先の品質まで同じになる、という機能ではありません。

なぜ注目

複数のアプリやエージェントに散らばるモデル指定をまとめ、切替や共通設定の管理方法を変えられる点が注目です。