協同訓練

兩個模型互當家教:你教我你最有把握的題目,我教你我最有把握的 — 這就是協同訓練。

核心觀念

協同訓練(Co-Training,又譯共同訓練)使用兩個不同視角(View)的分類器互相教學。每個視角是一組特徵子集,兩個分類器各自訓練,再用自己的高信心預測去擴充另一個分類器的訓練集,反覆迭代。

白話理解

判斷網頁主題可以拆兩個視角:視角一看「網頁內文文字」,視角二看「連向這頁的錨點文字」。內文模型很確定某頁是美食類,就把這頁交給連結模型當新教材;反之亦然。兩邊互補,標記樣本愈滾愈多。

成立條件

• 視角獨立性:兩組特徵要足夠獨立,各自都能單獨判斷 — 視角高度相關,等於同一個老師講兩次
• 互補性:一個視角看不清的樣本,另一個視角要看得清,互教才有價值
• 每輪只交換高信心樣本,控制偽標籤品質
• 沒有天然雙視角時,可用不同演算法或不同特徵抽樣近似

🎯 口訣:兩個老師分科互教 — 視角要獨立,互補才教得動。

iPAS 考點

判斷關鍵字:兩個分類器、不同特徵子集(多視角)、互相標註擴充訓練集。易混淆對:自訓練是「一個模型自己教自己」,協同訓練是「兩個模型互教」。陷阱選項:「兩個模型用同一組特徵各自訓練」— 那是模型集成的思路,不是協同訓練。