機器學習知識地圖 · 評估指標
評估指標
準確率、類別分離度
觀念教學
LDA/QDA 是「先投影、再分類」的方法,評估它不只看分對多少,還要看投影後各類別有沒有真的被拉開。
核心觀念
準確率衡量分類正確率,是底線。類別分離度衡量各類別之間的區分程度;Fisher 準則(Fisher Criterion)把它量化 — 投影後「類間變異 ÷ 類內變異」的比值,越大代表不同類離得遠、同類縮得緊。解釋變異比例看每個判別軸貢獻多少區分資訊。
白話理解
製造瑕疵檢測把高維感測資料投影到低維。好的投影像分豆機:紅豆一堆、綠豆一堆,兩堆離很開、各自抱很緊 — 這正是 Fisher 準則要最大化的東西。另外,LDA 的判別軸最多只有「類別數減一」條,這也是它與 PCA 的結構差異之一。
評估重點
- 準確率:最終分類表現
- 類別分離度:投影空間中各類別的區分程度
- Fisher 準則 = 類間變異 ÷ 類內變異,越大越好
- 解釋變異比例:各判別軸的區分資訊佔比
- QDA 邊界是曲線,各類別共變異差異大時,準確率通常勝過 LDA
- 實務流程:先看解釋變異比例決定投影維度,再用準確率與分離度驗收分類效果
🎯 口訣:類間拉遠、類內縮緊,Fisher 比值越大越好。
iPAS 考點
判斷關鍵字「投影後類間/類內變異比」對應 Fisher 準則。經典陷阱是把 LDA 與 PCA 的變異混為一談:PCA 保留整體變異、不用標籤;LDA 用標籤、保留「最能區分類別」的變異 — 一個求資訊量,一個求分離度。