強健性

實驗室裡考 98 分,一到現場就當機 — 差的不是準確率,是強健性。

核心觀念

強健性(Robustness,又譯魯棒性)指模型面對雜訊(Noise)、分布偏移(Distribution Shift)與邊界案例(Edge Cases)時仍穩定運作,不因輸入的微小變化產生錯誤判斷。準確率量的是「平常考幾分」,強健性量的是「風雨中還能考幾分」。

白話理解

瑕疵檢測模型在 A 廠訓練,搬到 B 廠 — 光源、鏡頭角度、產品批次全變了(分布偏移),只認得 A 廠世界的模型會大量誤判。醫療影像換一台掃描儀器,也是同一種考驗。

怎麼量測與強化

• 雜訊下準確率:對輸入加擾動再測,看效能掉多少
• OOD 檢測率:能否辨識分布外(Out-of-Distribution)輸入 — 遇到沒看過的東西要說「我不確定」,而不是硬猜
• 穩定性指標:輸入微變時,輸出波動的程度
• 強化手段:資料增強、對抗訓練、多樣化訓練資料、不確定性估計

🎯 口訣:準確率是晴天成績,強健性是颱風天成績。

iPAS 考點

考情境診斷:「測試集表現好,換了環境就大幅失準」→ 指向強健性不足或分布偏移,對策是多樣化資料、壓力測試與持續監控,而不是再刷高測試分數。易混淆對:強健性對抗自然變異與雜訊,對抗式防禦對抗惡意設計的擾動 — 一個防天災,一個防人禍。