AIの生成データで学び続けると何が失われるか　「モデル崩壊」の元研究を読む

何について

テツメモ氏はCrazyShyyt氏の投稿を引用し、AIが生成したデータを無差別に繰り返し学習させる「モデル崩壊」を取り上げた。背景にあるのは、オックスフォード大学などの研究者が2024年にNatureで発表した研究だ。

なぜ注目

テツメモ氏は、人が作り出どころを確かめられるデータの価値に注目している。研究が扱ったのは再帰的な学習条件で、現在の特定サービスにモデル崩壊が生じていることを示す測定ではない。