Sage2、会話の追加分から情報抽出と判断を更新 元の文にひも付く値と確率を返す
日本語参考要約訳
Jevに続く、また大きな進展です。 Jevは固定された入力に対して固定された質問に答えるため、ライブチャットでは更新のたびに会話全文を読み直す必要があります。 開発者たちはSage2を作りました。同じライブストリーム上で、抽出モデルと判断モデルを組み合わせます。 進行中の会話では、細部も判断も変わり続けます。新しい情報が少しずつ現れ、複数の質問がずっと未解決のままになります。 ・抽出段階では、新しいメッセージを150ミリ秒で構造化した項目へ変換し、それぞれを元の文章の正確な範囲にひも付けます。その項目が判断の選択肢になります。 ・判断モデルは文章が流れてくる間にそれらを評価し、型の決まった答えを確率付きで返します。生の文章から動作までの一連の処理は約200ミリ秒です。 これにより、会話全文を読み直さず、ライブチャットに反応する自動化ができます。 Sage2を開発したのは、Jevより前に最初の判断モデルを出したLevanto Labsです。下の動画はブロードバンドのサポートチャットでモデルが実際に動く様子で、私はチームと協力してこれを制作しました。詳細は以下にあります。
※長文投稿のため、参考訳は概要を最大600字まで表示しています。 元投稿をご参照ください
AINNでは投稿本文・投稿者本人の追記・第三者コメントの全文転載を避け、X公式埋め込みと元投稿への導線を中心に表示します。
AIによる見どころ整理
何について
Levanto LabsのSage2は、文章から必要な情報を取り出すExtractと、増え続ける文脈に対して答えを更新するDecideを提供する。Avi Chawlaは開発元と制作した紹介として、ブロードバンドのサポートチャットを例に、抽出した値を判断の選択肢につなぐ仕組みを説明した。 公式仕様では、抽出結果に金額や日付などの型、元の文の位置、確率が付く。値がない場合や判断が拮抗する場合はnullを返す。ストリーミングでは会話をサーバー側に保持し、計算のキャッシュを再利用するため、利用側は更新のたびに全文を送り直さず追加分を送れる。文脈と質問の合計は1セッション16,384トークンまで。 公式が示す抽出150msは短い文書のサーバー処理時間で、逐次判断は最短50msとしている。投稿者の「全体で約200ms」は紹介時の説明であり、通信や利用環境を含む一律の保証ではない。ツールの実行、結果の検証、失敗時の代替処理はアプリ側が管理する。
なぜ注目
文章を毎回まとめ直すだけでなく、会話の変化を構造化した値と判断につなぐ設計。出典位置、曖昧な場合の扱い、文脈容量が明示されており、対話型業務への組み込みを検討しやすい点が注目されます。
🔰 初学者向け要約
会話に新しい発言が来るたび、必要な金額や日付を取り出し、対応を変えるべきかを更新するAIです。値がどの文から来たかも返すため確認しやすくなりますが、その判断を実際の処理につなぐ責任はアプリ側に残ります。
用語を調べる
公開記事とWeb上の出典をもとに、Geminiが短く説明します。1日5回まで利用できます。