ひとつのモデルが教師と生徒を兼ねるJOLT、Perplexityが学習トークン効率の研究を発表

何について

Perplexityは、ひとつのモデルが教師と生徒の両方を担う学習後の調整手法「JOLT」を発表した。教師側も、生徒が役立てられるフィードバックを返すように学習させるという。 数学評価MATHでは、GRPOと同じ精度に、6.5x少ない学習トークンで到達したと報告している。特定の評価での比較結果であり、すべての課題で同じ効率や精度が得られるという説明ではない。

なぜ注目

フィードバックを与える教師の訓練を含めて学習効率を扱っている点。数学評価と比較手法を限定し、一般の利用料金や応答速度への効果に読み替えない。