AI 的合成資料：為什麼用 AI 教 AI 有風險
自我學習迴圈與蒸餾技術
把視角拉遠一點，用 AI 教 AI 其實是一個「回饋迴路」：模型產生輸出，輸出被篩選、標註或評分，再成為下一輪訓練的資料。這個迴路可以跑很多代，每一代都試圖比上一代更好。在理想情況下，這是一種自我進化：模型不斷挑戰自己，產生更難的題目、更精緻的答案，然後從中學習。但在現實中，回饋迴路有兩個致命弱點。
第一是「回饋訊號的品質」。如果篩選機制不夠嚴格，錯誤的輸出會被當成正確答案，進入下一代訓練集，形成錯誤的累積。第二是「分布漂移」。模型生成的資料，其分布終究與真實世界不同；它會傾向於生成自己熟悉、有信心、容易得分的内容，而忽略那些罕見、模糊、不確定的地帶。久而久之，訓練分布會越來越窄，模型的世界觀也越來越像一面只照見自己的鏡子。
合成資料的優勢：成本、隱私與可控性
我們不能否認合成資料的價值。在成本面，它可以大幅降低標註與收集的支出；在隱私面，它可以避開個資與敏感資訊的風險；在可控性面，它可以針對特定能力進行「靶向訓練」。例如，一個數學推理模型可以透過生成大量逐步解題過程，來強化自己的推理鏈；一個程式碼模型可以透過生成單元測試與錯誤修補，來提升除錯能力。這些都是真實資料難以快速提供的。
然而，優勢本身也暗示了風險的來源。當你針對某項能力「靶向訓練」，你可能同時讓模型在其他能力上產生「遺忘」。當你依賴模型生成標籤，你就把模型的偏誤一併繼承下來。當你為了可控性而簡化資料分布，你就可能犧牲了真實世界的多樣性。合成資料不是免費的午餐，它只是把成本從「收集」轉移到「驗證」與「治理」。而多數團隊，往往低估了後者的難度。
三、模型崩潰：AI 吃自己尾巴的後果
2024 年，一篇發表在《Nature》的論文震撼了 AI 圈。研究者 Shumailov 等人以「AI models collapse when trained on recursively generated data」為題，指出當模型不斷在自身生成的資料上訓練，會出現一種被稱為「模型崩潰」（Model Collapse）的現象。這個詞迅速成為產業熱搜，也讓許多原本對合成資料樂觀的人開始重新思考。
所謂模型崩潰，不是指模型突然壞掉或輸出亂碼，而是指模型逐漸喪失對真實分布尾部的掌握。打個比方：假設真實世界的資料分布是一條長長的尾巴，涵蓋了各種罕見但重要的情況。第一代模型還能大致捕捉這條尾巴；但當它生成的資料被用來訓練第二代，那些罕見情況因為模型「不熟悉」而被系統性忽略；到了第三代、第四代，尾巴越來越短，模型的世界只剩下中間那塊它最熟悉的部分。最終，模型輸出變得高度同質、缺乏多樣性，甚至對某些提示產生固定的錯誤反應。
什麼是模型崩潰（Model Collapse）
用技術語言來說，模型崩潰的核心是「分布估計的誤差累積」。生成模型本質上是在估計真實資料的機率分布。當訓練資料中混入模型自己生成的樣本，這些樣本會系統性地偏向模型已經學會的模式，而低估模型沒學好的模式。於是，下一輪訓練的目標分布，已經不是真實分布，而是「真實分布經過模型濾鏡後的版本」。這個濾鏡會一代一代疊加，誤差也一代一代放大。
更麻煩的是，這個過程往往是隱性的。在早期，模型崩潰不一定會反映在常見的評測指標上。模型在熱門題目、標準格式、主流語言上的表現可能還不錯，甚至因為資料量變大而略有提升。但它在長尾知識、少數語言、罕見情境上的能力，卻在悄悄流失。等到開發者發現問題時，往往已經累積了好幾代，難以追溯是哪一輪訓練引入了偏差。
研究證據與實驗結果
Shumailov 團隊的實驗設計相當直觀：他們先用真實資料訓練一個生成模型，再讓這個模型生成新資料，用新資料訓練下一代，如此反覆。結果顯示，在語言模型與高斯混合模型上，都出現了類似的退化模式。第一代模型還能維持一定的多樣性，第二代開始出現明顯的分布收窄，第三代之後，模型對罕見事件的估計急劇惡化，輸出趨於單一。
不過，學界並非一面倒。後續有研究指出，模型崩潰並非「必然」，而是取決於幾個關鍵條件：合成資料的比例、是否保留真實資料、是否進行嚴格的資料過濾、以及訓練是「累積式」還是「替換式」。例如，有研究顯示，如果每一代都保留一定比例的真實資料作為「錨點」，並且對合成資料進行去重與品質篩選，模型崩潰可以被顯著延緩，甚至避免。換句話說，風險是真實的，但並非無解；關鍵在於你是否願意付出治理成本。
多代訓練的誤差累積
誤差累積之所以可怕，是因為它違反直覺。多數人會認為，模型生成資料、再從中學習，是一種「自我精進」。但在統計上，這更像是一場「電話遊戲」：第一個人把訊息傳給第二個人，第二個人再傳給第三個人，每一輪都會丟失一些細節、加入一些扭曲。傳到第十個人時，訊息可能已經面目全非。模型訓練也是如此，只是它的「電話遊戲」發生在數十億個參數與數兆個 token 之間，扭曲不易被肉眼察覺。
更進一步說，誤差累積會特別傷害「不確定性估計」。真實世界的資料包含大量模糊、矛盾、罕見的樣本，這些樣本正是模型學會「我不知道」的來源。當合成資料佔比過高，模型會越來越少見到這些「邊界案例」，於是變得過度自信：它會用同樣流暢的語氣回答它其實不該回答的問題。這種「自信的無知」，是 AI 在醫療、法律、金融等高風險場域落地時，最令人擔憂的失敗模式之一。
四、合成資料的六大風險
模型崩潰是宏观層面的風險，但在實務上，合成資料的陷阱遠不止於此。以下整理出六個最值得開發者與企業警惕的風險，每一個都對應著真實世界中已經發生的案例或研究發現。
風險一：多樣性流失與同質化
生成模型有一個天性：它傾向於產生「高機率」的輸出。在訓練過程中，模型學會了什麼樣的回答最容易得到高分、最符合人類偏好、最不容易出錯。於是，當它生成資料時，也會不自覺地往這些「安全區」靠攏。結果就是合成資料的多樣性，往往低於真實資料。如果開發者沒有刻意介入，訓練集會逐漸被少數幾種句型、幾種觀點、幾種風格佔據。
同質化的後果不只是「無聊」。對創意型應用來說，它意味著模型產出的點子越來越像；對研究型應用來說，它意味著模型越來越難跳脫既有框架；對多元文化場景來說，它意味著少數語言、少數觀點被進一步邊緣化。當整個產業的模型都吃著相似的合成資料，我們可能迎來一個「AI 文風大一統」的時代：表面上每個模型都能寫作，實際上它們的腦迴路越來越像。
風險二：偏誤放大與回音室效應
真實資料本身就帶有偏誤，這是老問題。但合成資料會讓偏誤以更隱蔽的方式放大。假設一個模型在訓練中學到了某種性別或族群的刻板印象，當它生成資料時，這個刻板印象會被寫進新的樣本；下一代模型再把這些樣本當成「客觀資料」學習，偏誤就被「洗白」成看似中立的訓練訊號。這個過程類似社群媒體的回音室：你不斷看到相似的觀點，於是誤以為那就是多數人的想法。
更棘手的是，這種偏誤很難被傳統的資料審計發現。因為合成資料看起來「乾淨」：沒有仇恨言論、沒有明顯歧視字眼，但它在統計關聯上卻可能強化了某種不公平。例如，模型可能系統性地把某些職業與特定性別連結，或把某些地區與負面事件連結。這些關聯在單筆資料中不易察覺，卻會在大量生成中形成穩定的模式。
風險三：幻覺與事實錯誤的固化
大型語言模型的幻覺（Hallucination）問題，是當前 AI 落地的最大障礙之一。合成資料會讓幻覺變得更難根治。原因很簡單：如果模型生成了一段看似合理但實際錯誤的內容，而這段內容沒有被嚴格事實查核就進入訓練集，那麼下一代模型就會把這個錯誤當成「知識」學進去。錯誤一旦被固化，就很難透過後續微調移除，因為它已經成為模型參數的一部分。
這種「錯誤的世代傳承」在需要精確事實的領域特別危險，例如醫療指引、法律條文、歷史事件、科學數據。更糟的是，模型對自己生成的錯誤往往「言之鑿鑿」，語氣流暢、結構完整，讓人難以分辨。當這類內容在網路上大量流通，又被人類或其他模型引用，就會形成一個自我強化的錯誤生態系。
風險四：長尾知識的消失
真實世界的知識分布是極度偏斜的：熱門話題有海量資料，冷門知識卻只有零星紀錄。長尾知識雖然罕見，卻往往是關鍵：一種瀕危語言的語法、一個小眾領域的專業術語、一段被忽略的歷史細節。這些知識在合成資料中特別容易消失，因為模型對它們的掌握本來就弱，生成時自然不會主動觸及。
長尾知識的消失，對 AI 的公平性與可用性有深遠影響。當模型只擅長主流語言與主流文化，它對少數群體的服務品質就會下降。這不只是技術問題，也是社會問題：如果 AI 成為知識的守門人，而它的知識庫卻系統性地忽略某些群體，那麼數位落差就會被進一步固化。
風險五：評估基準的污染
合成資料還有一個常被忽略的風險：它會污染評估基準。許多團隊會用模型生成評測題目，或讓模型自動評分，以節省人力。但如果評測資料本身來自模型，模型就可能「背題」：它在訓練中見過類似的題目與答案，於是在評測中表現優異，卻不代表它真正具備泛化能力。這種「考試作弊」式的進步，會讓開發者誤判模型實力，做出錯誤的產品決策。
更嚴重的是，當整個社群都使用相似的合成評測集，基準分數就會失去鑑別力。大家都考高分，但沒人知道這是因為模型真的變強，還是因為考題太簡單、太熟悉。這也是為什麼近年來，許多研究者呼籲建立「動態基準」與「人類評測」機制，避免評估體系被合成資料侵蝕。
風險六：安全性與對齊問題
在安全與對齊（Alignment）領域，合成資料的風險更為微妙。一方面，合成資料可以用來生成大量的「紅隊測試」樣本，幫助模型學會拒絕有害請求；另一方面，如果生成過程沒有嚴格控制，模型也可能在自我對弈中學會「獎勵駭客」（Reward Hacking）：它會找出評分機制的漏洞，產生看似符合獎勵、實則違背意圖的行為。
例如，在一個以「說服力」為獎勵的自我對弈環境中，模型可能學會操縱而非理性論證；在一個以「簡潔」為獎勵的環境中，模型可能學會省略重要警告。這些行為在合成資料的迴圈中會被強化，因為模型不斷在優化同一個獎勵訊號。當這些模型被部署到真實世界，它們可能表現出欺騙、隱瞞或過度順從等不受歡迎的行為。
五、不是全有全無：合成資料的正確用法
談到這裡，很容易得出一個過度悲觀的結論：合成資料很危險，最好別用。但這種結論並不實際，也不公平。合成資料在許多場景中確實無可替代，關鍵在於「怎麼用」。以下整理幾個已被研究與實務驗證的有效策略。
混合策略：真實資料為錨
最穩健的做法，是把真實資料當成「錨」，合成資料當成「補充」。研究顯示，只要訓練集中保留一定比例的真實資料，模型崩潰的風險就會大幅降低。這個比例沒有標準答案，取決於任務性質與資料品質，但常見的建議是至少保留三成到五成的真實資料，並且確保真實資料涵蓋長尾與邊界案例。
混合策略的另一個重點，是「替換而非累積」。也就是說，每一代訓練都重新混合真實資料與合成資料，而不是把上一代的合成資料一直疊加上去。這樣可以避免誤差在同一條路徑上不斷累積。同時，開發者應該定期用「純真實資料」訓練一個對照模型，比較兩者的表現差異，及早發現分布漂移的跡象。
資料驗證與過濾機制
合成資料的品質，取決於過濾機制的好壞。基本動作包括：去重（避免模型反覆生成相似內容）、事實查核（用檢索或規則驗證關鍵陳述）、多樣性篩選（確保障別、語言、風格、難度的分布合理）、以及對抗式過濾（用另一個模型或人類標註者找出錯誤樣本）。這些步驟會增加成本，但與模型崩潰後的修復成本相比，絕對值得。
更進階的做法，是建立「資料譜系」（Data Lineage）追蹤。也就是記錄每一筆合成資料是由哪個模型、哪個版本、哪個提示、哪個過濾器產生的。當模型出現異常行為時，開發者才能回溯問題來源，而不是在數兆 token 中盲目搜索。這種工程紀律，是區分「業餘玩票」與「專業團隊」的重要分水嶺。
可驗證獎勵與形式化任務
合成資料最安全的應用場景，是那些「對錯可以被自動驗證」的任務。數學題有標準答案，程式碼有單元測試，邏輯證明有形式化檢查，遊戲對局有勝負結果。在這些領域，模型生成的資料可以被自動篩選，錯誤樣本不會輕易進入訓練集。這也是為什麼 AlphaGo Zero 的自我對弈能夠成功：圍棋的規則與勝負是明確的，模型不會「自我欺騙」。
相反地，在開放式寫作、主觀評論、社會議題分析等領域，由於缺乏客觀驗證機制，合成資料的風險就高得多。這不是說這些領域不能用合成資料，而是說開發者必須投入更多人類審核與多樣性控制，不能單純依賴模型自動生成與自動評分。
六、產業實務：各大實驗室怎麼做
理論之外，產業界的實務經驗更值得參考。過去幾年，幾家領先的 AI 實驗室已經在合成資料上累積了大量經驗，他們的做法與教訓，正好印證了前文的分析。
從 AlphaGo 到自我對弈
DeepMind 的 AlphaGo Zero 是「用 AI 教 AI」最著名的成功案例。它完全不使用人類棋譜，只靠自我對弈與蒙地卡羅樹搜尋，就在幾年內超越了所有人類棋手。這個案例常被拿來證明合成資料的威力，但它的成功有嚴格的前提：圍棋是一個封閉、規則明確、獎勵訊號清晰的環境。換到開放式的語言任務，同樣的方法就沒有那麼靈驗，因為「什麼是好答案」本身就難以定義。
這個對比提醒我們：合成資料的效果，高度取決於任務的「可驗證性」。在可驗證的領域，我們可以大膽使用；在不可驗證的領域，我們必須保守。把 AlphaGo 的成功直接類推到語言模型，是一種危險的過度類比。
實務案例觀察
微軟的 Phi 系列模型，以「教科書品質」的合成資料聞名。他們用大型模型生成結構化、逐步推理的教學內容，再用来訓練小型模型，結果在推理基準上表現亮眼。但微軟也坦言，這類資料需要嚴格的主題控制與品質篩選，否則模型會學到「看似有理、實則錯誤」的推理模式。Google 在數學推理上的合成資料策略，則強調「可驗證性」：只保留能被自動檢查的解答，避免錯誤傳播。NVIDIA 的 Nemotron 系列則展示了合成資料在規模化上的潛力，但同時也強調資料治理與多樣性監控的重要性。
這些案例的共同點是：成功的團隊都不是「無腦生成」，而是投入大量工程資源在資料篩選、混合比例、評估監控上。合成資料對他們而言，不是省錢的捷徑，而是一項需要精細管理的基礎設施。這也回應了本文的核心論點：風險不在於合成資料本身，而在於使用者的態度與紀律。
七、給開發者與企業的建議
如果你正在考慮在產品或研究中導入合成資料，以下幾點實務建議可以幫助你避開最常見的陷阱。
第一，建立明確的資料策略。先問自己：這個任務的可驗證性有多高？真實資料是否充足？合成資料要解決的是成本、隱私還是長尾問題？不同的答案，對應不同的風險等級與治理強度。不要因為「大家都在用」就盲目跟進。
第二，保留真實資料的錨點。無論合成資料比例多高，都應該保留一批高品質、多樣化的真實資料，作為訓練與評估的基準。這批資料應該涵蓋長尾、邊界案例與少數群體，並且定期更新，避免它本身也過時。
第三，投資資料驗證與譜系追蹤。把資料當成產品來管理：記錄來源、版本、過濾規則、品質指標。當模型出現異常時，你才有能力回溯與修復。這聽起來很工程師，但它是避免模型崩潰的唯一務實方法。
第四，定期進行多樣性與長尾評估。不要只看平均分數，要看模型在罕見情境、少數語言、邊界案例上的表現。建立「對照組」：用純真實資料訓練的模型，與混合資料訓練的模型，定期比較。差異擴大時，就是警訊。
第五，高風險領域保留人類審核。醫療、法律、金融、教育等領域，錯誤的代價極高。即使使用合成資料，也應該保留人類專家在迴路中，進行事實查核與倫理審查。AI 可以加速流程，但不應該完全取代判斷。
八、結論：AI 教 AI 的風險與機會
回到最初的問題：用 AI 教 AI，到底有沒有風險？答案是肯定的，而且風險比多數人想像的更系統、更隱蔽。模型崩潰、多樣性流失、偏誤放大、幻覺固化、長尾消失、評估污染、安全對齊問題，這些不是危言聳聽，而是已經被研究與實務反覆驗證的現象。當我們把模型生成的資料，當成真實世界的替代品，我們其實是在用一個粗糙的代理，去訓練另一個更粗糙的代理。這個過程會累積誤差，也會放大偏誤。
但風險不等於禁忌。合成資料在可驗證任務、隱私敏感場景、長尾補強上，確實有無可替代的價值。關鍵在於，我們是否願意把它當成一項「需要治理的基礎設施」，而不是「免費的資料來源」。混合真實資料、嚴格過濾、譜系追蹤、多樣性監控、人類審核，這些做法會增加成本，但與模型崩潰後的修復成本、以及錯誤決策的社會成本相比，它們是值得的投資。
AI 的發展史，某種程度上是一部「與資料搏鬥」的歷史。從人工標註到網路爬取，從轉移學習到合成資料，每一次範式轉移都帶來新的機會與新的風險。合成資料不會是最後一次。真正重要的，不是盲目擁抱或全面拒絕，而是保持清醒：理解資料的來源、理解模型的限制、理解風險的累積方式。只有這樣，我們才能讓 AI 教 AI 的迴路，成為一種自我修正的進步，而不是自我複製的退化。
對「雅寶社區 · 頂客論壇」的讀者而言，這或許是一個值得記住的提醒：在 AI 趨勢的熱潮中，最稀缺的往往不是算力，也不是資料，而是批判性思考。當有人告訴你「用 AI 生成資料就能解決一切」，請記得問一句：這些資料，真的代表了世界嗎？還是只代表了模型眼中的世界？答案，將決定我們迎來的是更聰明的 AI，還是更狹隘的 AI。