AI 的半監督學習：為什麼少量標籤也能學
值得注意的是，半監督學習也常被拿來和「主動學習（Active Learning）」比較。主動學習的核心是「聰明地挑選要標註的樣本」，用最少的標註換取最大的資訊增益；半監督學習則是「接受了標籤很少的現實，想辦法把手上的無標籤資料榨出價值」。兩者其實可以互補，實務上也常被一起使用。
1.3 一個直覺例子：從少數範例推廣到整個分佈
讓我們用一個生活化的例子來建立直覺。假設你要教一個外國朋友分辨「珍珠奶茶」和「木瓜牛奶」。你只給他看了三杯珍珠奶茶和兩杯木瓜牛奶，然後指著桌上另外一百杯沒說名字的飲料問他：「其他的你猜猜看？」
如果他只看顏色，可能會把咖啡色的都歸成珍珠奶茶；如果他看有沒有顆粒，就會發現珍珠奶茶有「沉在底下的圓球」，而木瓜牛奶沒有。這個發現的過程並不需要你逐一告訴他每一杯的答案——他自己從「未標註的飲料群」中觀察到了結構差異（有沒有珍珠、顏色深淺、有沒有果肉），並把這個結構和少數幾個已知範例對應起來。
這就是半監督學習的縮影：少量標籤負責定義「類別的語意」，大量無標籤資料負責勾勒「資料的形狀」，兩者結合，模型才能既知道正確答案長什麼樣，又知道整個資料空間長什麼樣。
二、為什麼少量標籤也能學？半監督學習的核心原理
「少量標籤也能學」聽起來像是魔法，但它其實建立在幾個相當樸素的數學假設之上。理解這些假設，你就能明白半監督學習何時有效、何時會失效——這比單純背下幾種演算法重要得多。
2.1 分佈假設與流形假設
半監督學習的理論基礎，主要來自三個經典假設：
平滑性假設（Smoothness Assumption）：如果兩個樣本在輸入空間中彼此接近，那它們的標籤也應該相同或相近。這是最基本也最直觀的假設。它意味著模型不應該在相似的輸入上給出截然不同的答案，否則就是學到了不穩定的決策邊界。
聚類假設（Cluster Assumption）：同一類別的資料傾向於聚集在一起，不同類別之間則存在低密度的「空白地帶」。換句話說，決策邊界應該盡量穿過資料稀疏的區域，而不是把密集的資料群硬生生切成兩半。這個假設解釋了為什麼無標籤資料有價值——它幫助模型「看見」哪裡是密集區、哪裡是空隙。
流形假設（Manifold Assumption）：高維度資料其實分佈在一個低維度的流形（manifold）上。舉例來說，人臉照片雖然是上百萬像素的高維向量，但真正有意義的變化（表情、角度、光線）只有少數幾個自由度。如果模型能學會沿著這個流形移動，就能用少量樣本推斷出大量變化。
在深度學習中，這三個假設特別重要，因為神經網路本身就具有很強的「表徵學習」能力：它可以自動把高維輸入壓縮成低維的語意向量。半監督學習正是利用這種能力，讓無標籤資料參與表徵的塑造，使相似樣本在隱空間中自然聚攏。
2.2 偽標籤：讓模型自己當老師
最直觀的半監督策略就是偽標籤（Pseudo-Labeling），又稱自訓練（Self-Training）。做法如下：先用少量有標籤資料訓練一個初始模型；接著用這個模型去預測大量無標籤資料，把預測結果中「信心度很高」的樣本，當成暫時性的標籤；最後把這些偽標籤資料併入訓練集，重新訓練模型，如此反覆迭代。
這個方法的魅力在於極其簡單，幾乎不需要修改原有訓練流程。但它也有一個致命弱點：確認偏誤（Confirmation Bias）。如果模型一開始就預測錯誤，而且錯得很有自信，那麼偽標籤就會把錯誤固化下來，越訓練越偏。這就像一個學生自己寫答案、自己批改，還只挑自己有把握的題目來複習——錯誤的觀念會被反覆強化。
因此，現代偽標籤方法幾乎都會搭配兩個机制：一是信心度閾值，只採用模型高度確信的預測；二是資料增強，用不同視角的同一樣本互相驗證，降低單一預測的偶然性。後面會提到的 FixMatch，就是把這兩件事做到極致的代表。
2.3 一致性正則化：同一個東西，答案應該一樣
如果說偽標籤是「用預測結果當教材」，那一致性正則化（Consistency Regularization）就是「用穩定性當約束」。它的核心思想是：同一個輸入經過不同的擾動（例如旋轉、裁切、加噪聲）之後，模型給出的預測應該保持一致。
這個想法之所以有效，是因為它不需要真實標籤。對於無標籤資料，我們不知道正確答案是什麼，但我們知道「同一張貓的照片，稍微轉個角度還是貓」。所以我們可以要求模型：對原始影像的預測，和對增強後影像的預測，兩者之間的差異要越小越好。這個「差異」就構成了額外的損失函數，迫使模型學習到更穩健、更不受表面變化干擾的特徵。
一致性正則化有個很大的優勢：它不需要模型先有自信。即使模型對某張無標籤圖片的預測信心不高，一致性約束依然能提供訓練訊號，因為它只要求「兩個版本答案相同」，而不要求「答案正確」。這讓它比偽標籤更不容易踩到確認偏誤的坑。
2.4 熵最小化與決策邊界
另一個常被使用的技巧是熵最小化（Entropy Minimization）。它的邏輯是：對於無標籤資料，我們雖然不知道答案，但我們希望模型的預測是「果斷」的，而不是在每個類別上平均分配機率。如果一張圖片，模型預測「貓 33%、狗 33%、兔子 33%」，這代表模型完全沒學到東西；相反地，如果它預測「貓 95%」，至少表示模型認為這張圖有明確的歸屬。
把預測分佈的熵（混亂程度）加入損失函數一起最小化，會鼓勵模型把決策邊界推向資料稀疏的區域——這正好呼應了前面提到的聚類假設。在實務上，熵最小化很少單獨使用，通常與一致性正則化或偽標籤結合，形成更強大的組合。
總結來說，半監督學習之所以能用少量標籤學得好，靠的是把「標籤提供的監督訊號」與「資料結構提供的幾何訊號」結合起來。標籤告訴模型什麼是對的，資料結構告訴模型什麼是合理的，兩者相輔相成，才讓少樣本學習成為可能。
三、主流方法與演進路線
半監督學習並不是新概念，它的歷史可以追溯到上世紀九十年代，只是近年因為深度學習的興起而重新受到重視。以下按照時間與技術路線，梳理幾個最具代表性的方法。
3.1 早期方法：自訓練與協同訓練
自訓練（Self-Training）是最早被提出的半監督策略之一，思路就是前面提到的偽標籤循環。它的優點是通用、實作簡單，缺點是容易累積錯誤。
協同訓練（Co-Training）則試圖用「多個視角」來降低偏誤。它的想法是：如果一個樣本可以從不同特徵子集來描述（例如網頁分類中，一個視角是網頁上的文字，另一個視角是指向該網頁的超連結文字），那我們可以訓練兩個獨立的分類器，各自標註自己最有信心的樣本，然後把這些樣本交給對方學習。兩個模型互相「教」對方，形成一種交叉驗證的效果。協同訓練在資料具備天然多視角結構時效果不錯，但對一般影像資料較難直接套用。
3.2 圖半監督學習與標籤傳播
圖方法把資料點視為圖上的節點，節點之間的邊代表相似度（例如特徵距離很近就建邊）。有標籤的節點像是「已知答案的種子」，接著讓標籤沿著邊的權重逐步擴散到鄰近節點，這就是標籤傳播（Label Propagation）。
這類方法在資料量不大、相似度矩陣可計算時表現很好，也常被用在社群網路分析、推薦系統等場景。但在深度學習時代，它的擴展性受到限制，因為對上百萬筆資料建立完整相似度圖並不現實。不過，圖方法的概念後來以「對比學習」「鄰域一致性」等形式，重新出現在現代半監督框架中。
3.3 深度學習時代：Mean Teacher、MixMatch、FixMatch
2017 年之後，深度半監督學習進入爆發期，幾個方法成為後續研究的基石：
Mean Teacher（2017）：這個方法同時維護兩個模型——學生模型與教師模型。學生模型正常訓練；教師模型則是學生模型權重的指數移動平均（EMA）。訓練時，要求學生模型對增強後影像的預測，與教師模型對原始影像的預測保持一致。因為教師模型是過去多個學生模型的平均，預測更穩定，能提供更可靠的「軟標籤」來指導學生，有效緩解確認偏誤。
MixMatch（2019）：它把多種半監督技巧整合成一個統一框架，包括對無標籤資料做多次增強、把預測平均後做「溫度銳化（sharpening）」得到偽標籤、以及對有標籤與無標籤資料一起做 MixUp 混合。MixMatch 在當時的多個基準資料集上大幅刷新紀錄，證明了「組合式設計」的威力。
FixMatch（2020）：如果只能記住一個方法，很多研究者會推薦 FixMatch，因為它的設計極簡卻極有效。流程是：對同一張無標籤圖片，先做「弱增強」（例如單純裁切翻轉）得到預測，若信心度高於閾值，就把它當成偽標籤；然後對同一張圖片做「強增強」（例如 RandAugment 的劇烈變形），要求強增強版本的預測等於剛剛的偽標籤。這個方法把「偽標籤」與「一致性正則化」巧妙縫合：偽標籤負責提供監督訊號，強增強負責製造難度，迫使模型學到真正穩健的特徵。在 CIFAR-10 這種經典基準上，區區數十張標籤就能把準確率推到接近九成的水準，與純監督學習相比有數十個百分點的差距。
其他值得一提的還有 UDA（無監督資料增強）、ReMixMatch、FlexMatch（動態調整每類別的閾值）、以及 Noisy Student（用大型教師模型標註大量無標籤資料，訓練學生模型，並刻意加入噪聲提升魯棒性）。這些方法的基本精神大同小異，差異多集中在「偽標籤怎麼產生」「增強多強」「閾值怎麼設」等工程細節上。
3.4 對比式半監督學習
近年另一個重要分支，是把對比學習（Contrastive Learning）引入半監督場景。對比學習的核心是：把同一張圖片的兩個增強版本拉近（正樣本對），把不同圖片的版本推遠（負樣本對）。這種「無需標籤」的預訓練方式，能學到非常強大的視覺表徵。
在半監督設定下，常見做法是先用大量無標籤資料做自監督預訓練，再用少量標籤進行微調（fine-tuning）。這種「預訓練＋微調」的範式，已經成為當今電腦視覺與自然語言處理的主流。從某個角度看，它其實是一種「先學會看世界，再學會分類」的策略，而這也模糊了半監督學習與自監督學習之間的界線。
方法
核心機制
優點
限制
偽標籤 / 自訓練
用高信心預測當標籤
實作簡單、通用性高
易累積確認偏誤
Mean Teacher
教師模型 EMA 指導學生
訊號穩定、抗噪能力佳
需維護雙模型、記憶體成本較高
MixMatch
多次增強＋銳化＋MixUp
整合多種技巧、效果強
流程複雜、超參數多
FixMatch
弱增強出偽標籤，強增強對齊
結構極簡、效果出色
閾值固定，類別不平衡時表現較差
自監督預訓練＋微調
先學表徵，再學分類
遷移能力強、標籤需求極低
預訓練成本高、需大量無標籤資料
四、半監督學習的實戰應用場景
談完理論與方法，接下來要回答一個更實際的問題：這些技術到底用在哪裡？以下幾個領域是半監督學習最常發揮價值的地方，它們的共同特徵都是「無標籤資料爆炸、標註成本高昂」。
4.1 醫療影像與臨床輔助診斷
醫療領域可以說是半監督學習的完美舞台。醫院每天產生的 X 光、CT、MRI 影像數量龐大，但專業放射科醫師人力有限，逐張標註不僅耗時，還涉及病患隱私與法規限制。透過半監督學習，團隊可以用少量由專家精選標註的影像，搭配大量未標註影像進行訓練，常見的應用包括肺結節偵測、視網膜病變分級、腫瘤區域分割等。
在醫療場景中，偽標籤的策略尤其需要謹慎，因為誤診的代價極高。實務上通常會採用更保守的設計：例如只採信多位專家意見一致的樣本、使用不確定性估計（uncertainty estimation）來篩選可靠的偽標籤，並且在部署前進行嚴格的獨立驗證。換句話說，半監督學習在醫療領域不是為了「省錢」，而是為了「在有限標註資源下最大化模型能力」。
4.2 工業瑕疵檢測與製造品管
製造業的瑕疵檢測有幾個特點：良品數量遠多於不良品（類別極度不平衡）、瑕疵型態多樣且不斷變化、標註需要品管專家判斷。一家工廠可能每天拍攝數萬張產品照片，但真正被標註的只有少數幾百張。
半監督學習在這裡有兩個典型用法。第一，利用大量未標註的良品影像學習「正常長什麼樣」，再把偏離常態的樣本視為可疑瑕疵，這其實與異常檢測（Anomaly Detection）互相呼應。第二，用少量已標註的瑕疵樣本建立初始模型，再透過偽標籤與一致性正則化，把模型推廣到更多未標註資料上。由於產線模型需要頻繁更新（新產品、新製程），能快速利用新資料的半監督流程非常有價值。
4.3 語音、文字與多模態資料
在語音領域，標註逐字稿的成本極高，尤其是低資源語言（如台語、客語或某些少數民族語言），能取得的標註資料更是稀少。半監督學習在這裡的典型做法，是先用大量無標註語音做自監督預訓練（例如 wav2vec 系列），再用少量逐字稿微調，實現低資源語音辨識。
自然語言處理也不例外。文字資料在網路上取之不盡，但標註情感、意圖、實體關係等任務仍需要人工。近年的大型語言模型，本質上就是「用海量無標註文字做預訓練，再用少量標註資料做指令微調」的超大規模半監督實踐。從這個角度看，我們今天習以為常的各種 AI 助理，其實都是半監督思想的產物。
五、實務落地：怎麼開始用半監督學習
如果你的團隊正考慮在專案中導入半監督學習，以下幾個實務要點可以幫助你少走冤枉路。
5.1 資料策略與標籤預算
首先要建立一個重要觀念：半監督學習不是「標註越少越好」，而是「讓每一分標註預算花得更有價值」。在實務上，通常建議先做一組基準實驗，比較不同標籤數量下的模型表現，找出「邊際效益開始遞減」的甜蜜點。有時候增加 10% 的標籤量能帶來明顯提升，那就不必急著導入複雜的半監督方法；但如果標籤量增加對表現的幫助已經很小，那半監督的價值就浮現了。
另外，無標籤資料的「品質」與「相關性」同樣關鍵。如果無標籤資料和目標任務的分佈差異太大（例如用大量網路圖片去訓練醫療影像模型），模型可能會學到無效甚至有害的特徵。資料清理、領域過濾、以及檢查無標籤集與有標籤集的分佈一致性，都是不可或缺的前置工作。
5.2 常見陷阱與解法
以下是幾個筆者認為最值得注意的陷阱：
5.3 評估方法與實驗設計
在實驗設計上，建議遵循以下流程：先建立純監督基準（用全部可用標籤），再建立「只用少量標籤」的監督基準，然後導入半監督方法進行對照。這樣做的好處是能清楚看出半監督帶來的增益幅度，而不會被其他因素混淆。
此外，半監督學習的實驗變異數通常比較大（因為偽標籤的隨機性與資料順序敏感），建議至少跑三次不同隨機種子，報告平均值與標準差。如果某個方法平均表現不錯但變異極大，在生產環境中反而是風險。
六、與自監督、遷移學習的關係
半監督學習不是孤島，它和自監督學習（Self-Supervised Learning）、遷移學習（Transfer Learning）之間有千絲萬縷的關係，實務上也很常被混用。搞懂三者的分界，有助於你選對工具。
6.1 三者的分界
半監督學習的重點是「少量標籤＋大量無標籤，一起訓練同一個任務」。標籤是任務導向的，無標籤資料用來輔助任務學習。
自監督學習則是「完全不需要人工標籤」，透過設計代理任務（pretext task）從資料本身產生監督訊號，例如預測句子中被遮住的詞、判斷兩張圖片是否為同一張的增強版本。它的產出通常是通用表徵，可以再遷移到下游任務。
遷移學習則是「把在 A 任務學到的知識，搬到 B 任務」。它可以是監督式預訓練模型微調，也可以是自監督預訓練模型微調。
實務上，三者經常交織：先用自監督在大量無標籤資料上預訓練，再用少量標籤微調（這是遷移學習），微調過程中再搭配半監督技巧（偽標籤、一致性正則化）進一步利用剩下的無標籤資料。這種「組合拳」是目前效果最好的做法之一。
6.2 實務上怎麼選
如果你的無標籤資料量極大、且與目標任務高度相關，可以考慮自監督預訓練；如果預訓練成本太高（需要大量算力），則可以直接用開源預訓練模型微調。如果你的資料規模中等、標籤很少，但任務相對單純，那 FixMatch 這類輕量半監督方法可能是投報率最高的選擇。若你的任務涉及獨特領域（如醫療、工業），開源模型可能不夠貼合，此時自行設計半監督流程就更有必要。
七、未來展望與結語
7.1 半監督學習的下一步
展望未來，半監督學習有幾個值得關注的發展方向。第一是與大型基礎模型的結合：現在已經有研究利用大型視覺語言模型（VLM）自動產生偽標籤，取代傳統的小模型自訓練，這可能大幅降低人工標註需求。第二是不確定性估計的深化：更精準地判斷「模型哪裡不懂」，能讓偽標籤策略更安全。第三是跨模態半監督：利用文字、圖像、聲音之間的互補性，在某一模態缺標籤時，用其他模態輔助學習。
此外，半監督學習在邊緣裝置與聯邦學習場景也很有潛力。當資料散落在多個裝置上、無法集中標註時，如何用少量標籤與大量本地無標籤資料訓練出可用的模型，是一個正在快速發展的課題。
7.2 給讀者的三個提醒
最後，筆者想留給讀者三個提醒：
第一，半監督學習是「放大器」而不是「替代品」。 它能把少量標籤的價值放大，但如果標籤本身品質很差、或者無標籤資料與任務無關，再厲害的方法也救不回來。資料品質永遠是第一優先。
第二，方法選擇要考慮落地成本。 學術論文追求的是基準資料集上的最高分數，但生產環境要考慮推論延遲、維護成本、可解釋性。FixMatch 之所以受歡迎，很大程度是因為它簡單好維護，而不只是分數高。
第三，保持實驗精神。 半監督學習的超參數（閾值、增強強度、一致性權重）對結果影響很大，而且最優設定往往因資料集而異。不要直接照搬論文參數，務必在自己的資料上做消融實驗。
回到文章開頭的問題：AI 為什麼能用少量標籤學會東西？因為學習從來就不只是「背答案」。人類小孩也不需要看過一百萬張貓的照片才能認識貓——他們從少量範例中捕捉到關鍵特徵，再用日常生活中大量「沒有標準答案」的觀察來驗證與修正。半監督學習，本質上就是讓 AI 模仿這種更接近人類的學習方式：用少量明確的指引，加上大量開放的觀察，最終建構出對世界的理解。這條路還很長，但方向已經相當清楚。
希望這篇文章能幫助你對半監督學習建立完整的認識。如果你正在實作相關專案，歡迎在雅寶社區與其他讀者交流經驗，一起把 AI 的潛力發揮到極致。
```