合成データの再帰学習では、平均より先に分布の尾が失われる

モデル崩壊は、ある世代の生成物を次の世代が学び、その生成物をさらに次の世代が学ぶ循環で、元の分布から情報が失われる現象です。とくに確率の低い事例が早く消え、後には分散や品質も損なわれ得ます。[1] 一回のデータ拡張、教師モデルによるラベル付け、実データを含む混合学習を、すべて同じ『自己消費』として扱うと原因を取り違えます。

運用上の問いは、合成データを使うか否かではありません。どの生成器が、どの実データから、どの選択条件で作り、学習セットの何を置き換え、何世代にわたり再利用されたかです。同じ合成比率でも、実データの固定核を残すのか、毎世代すべて置き換えるのかで、情報の回復可能性が変わります。

この記事は、合成データを外部へ配布する際の再識別リスクを扱いません。また、人がAI支援で作る案群の多様性とも単位が違います。ここで守る対象は、学習分布の希少事例、少数クラス、語彙・意味の幅と、それらを次の世代が学べる状態です。

Shumailovらは、ガウス混合、変分オートエンコーダー、言語モデルを用い、前世代の生成データで次世代を学習する過程を理論と実験で調べました。元分布の低確率領域が先に失われ、誤差が世代を越えて蓄積するという結果を報告しています。[1] これはウェブ上の全データや現在の大規模基盤モデルを直接観測した研究ではありません。

言語実験はOPT-125mとWikiText-2を中心とする概念実証で、巨大な商用モデルの事前学習を再現していません。[1] したがって『合成データが一件でも入ると不可逆に崩壊する』とは読めません。重要なのは、有限標本、モデル近似、生成時の選択が、低頻度の情報を毎世代取りこぼす仕組みです。

この論文には2025年、理論節の記号を訂正するAuthor Correctionが出ています。本文中のαをβへ直す記号訂正で、出版社はHTMLとPDFを修正しました。[2] 結論の撤回ではありませんが、訂正前の式や二次資料ではなく、修正済みの版を参照する必要があります。

• TAIL：平均損失の前に、低頻度事例と少数クラスの再現率を確認する
• GENERATION：合成物が何世代目かを失わず、世代をまたいで混ぜない
• REPLACEMENT：実データを置き換えた量と、保持した固定核を別々に記録する

KazdanらはICML 2025で、実データを合成データへ置き換える、実データと合成データをすべて蓄積する、固定サイズの部分集合だけを使う、という学習手順を比較しました。置換では崩壊し、すべてを蓄積する手順ではテスト損失の発散を抑え、固定予算では緩やかな劣化が残ると報告しました。[3]

この反証は、『合成データは危険だから排除する』という単純な結論を退けます。同時に、蓄積すれば常に安全とも言えません。実験は多変量ガウス、カーネル密度推定、言語モデルの微調整であり、データ重複、権利、計算予算、モデル規模が異なる現場へ同じ安定性を移せないためです。[3]

実務では、合成比率だけでなく、実データの絶対量とカバレッジを管理します。合成データを追加して総量が増えた結果と、同じ予算で実データを追い出した結果を分けます。比較条件を固定しなければ、量の便益と分布の置換損失を同じ改善率へ混ぜることになります。

DraysonらはEMNLP 2025で、生成由来が不明なテキストを検出器で重み付けし、人間らしい標本を再抽出する方法を、GPT-2とSmolLM2の四モデルで評価しました。特定の再帰学習条件で崩壊を防ぎ、純粋な人間データ学習を上回る条件も報告しています。[4] 合成標本が常に害ではなく、選別が情報を回復させ得る反証です。

ただし、検出器は由来を知る台帳ではありません。研究対象は二系列の比較的小さなモデルと開放型テキスト生成で、未知の商用モデル、翻訳、編集、混合作文では誤分類が変わります。[4] 人間らしい文章を上げる手順は、非典型な人間表現や少数言語を誤って下げる可能性もあります。

したがって、生成時に付与できるデータID、モデル版、プロンプト、元データ参照を一次の来歴とし、検出器は欠損した来歴を補う二次推定に置きます。検出確率だけで削除せず、閾値を変えたときに尾部と少数群がどう動くかを併記します。

• PROVENANCE：生成時のIDと元データ参照を正本にし、検出器の推定で上書きしない
• UNKNOWN：未学習の生成器、翻訳、編集済み文章を独立した外部試験へ入れる
• GROUPS：言語、領域、頻度、少数クラス別に誤除外率を測る

平均損失や一般ベンチマークは、多数派の典型例に強く引かれます。尾部が消えても中心の文章は流暢に見え、全体精度が維持されることがあります。モデル崩壊の早期兆候を拾うには、希少語、少数クラス、長尾の組合せ、創造的な分岐を固定した試験が必要です。これは研究から導く測定提案であり、単一研究が普遍的な指標を定めたわけではありません。

別の説明も検査します。劣化が合成由来ではなく、重複、低品質フィルター、デコード温度、教師モデルの偏り、評価器との近縁性から生じる場合があります。合成か人間かだけで二分すると、同一テンプレートを大量に複製した人間データや、高品質な合成例の便益を見落とします。

因果を分けるため、元の実データ、実データの重複追加、合成追加、実データ置換、検出器選別という条件を同じ計算予算で比べます。第一世代の改善だけでなく、同じ手順を複数回繰り返した後の劣化と、元分布へ戻したときの回復を測ります。

測定単位はファイルではなく標本です。各標本に由来、生成器、生成日時、編集者、元標本、選択スコア、使用したモデル世代を付けます。完全な来歴がないウェブ取得データは、既知の人間・既知の合成と同じ列へ入れず、未知として分離します。

評価は三層にします。第一層は平均損失と主業務品質、第二層は少数クラス・希少語・外れ条件、第三層は出力間の重複と意味多様性です。さらに、次世代学習後の性能を測り、当代で良く見えるデータが後代で幅を狭めないか確認します。

結果は合成比率の一点にせず、実データの絶対量、生成器、選別法、世代、計算予算を軸にした応答曲線で残します。品質下限を満たす最大比率を永続的な規格にせず、モデルや領域が変われば再推定します。

• BASELINE：実データだけの同予算学習を必ず残す
• RECURSION：一世代目だけでなく、反復後の尾部・多様性を測る
• RECOVERY：問題標本を外し、元データへ戻した際の回復可能性を試す

採用候補は、主業務の品質を改善し、希少群の下限を破らず、次世代で劣化が増幅しない範囲です。平均が改善しても一つの重要な少数群が悪化すれば、総合点で相殺しません。その合成源だけを外す、比率を下げる、実データ固定核を増やすという可逆な縮退を先に選びます。

データ量の節約、権利処理、プライバシー、品質は別ゲートです。モデル崩壊を抑えたからといって、個人情報や著作権の問題が解消するわけではありません。逆に、プライバシー保証のある合成データでも、学習分布の尾部を保つとは限りません。

停止条件は、来歴不明率の上昇、世代別劣化、重要群の再現率低下、出力重複の増加、検出器の外部試験失敗です。再開には、原因となるデータ経路を特定し、固定核を回復し、複数世代の再試験を通す必要があります。合成データはコスト削減策ではなく、世代を持つ実験資産として管理します。

版付き受入票は、データ世代と生成経路を識別欄に、来歴充足率と重要群の再現率の下限、出力重複率と世代別劣化の上限を合格欄に分けます。下限未達または上限超過の世代は配布せず、直前の合格版と固定した実データ核へ戻します。原因経路を除き、固定核を使った複数世代の再試験を独立評価者が承認した場合だけデータ責任者が再開します。

• 採用：平均品質と尾部・少数群の下限を同時に満たす
• 縮退：悪化した生成源、世代、領域だけを外し、実データ固定核へ戻す
• 撤回：来歴を追えず、反復後の重要能力低下を局所化できない経路は止める
• 再開：修正済みデータで複数世代を再学習し、回復と再発防止を確認する