機器學習知識地圖 · 評估指標
評估指標
準確率、OOB誤差、特徵重要性
觀念教學
決策樹家族的評估有顆經典地雷:Gini 和 Entropy 常被誤當「評估指標」— 它們其實是訓練時的分裂準則,考題年年埋這題。
核心觀念
分兩層看。訓練內部:決策樹分裂節點時,用 Gini 不純度或 Entropy(熵)衡量節點純度,挑「分完最純」的特徵下刀 — 這是訓練時的內部準則,不是模型評估指標。對外評估:驗收模型還是用 Accuracy(準確率)、F1-Score、AUC-ROC 這些通用分類指標。
白話理解
像餐廳:Gini/Entropy 是廚房內規(火候怎麼控),Accuracy/F1 是顧客評分(菜好不好吃)。驗收看顧客評分,不會拿廚房內規當成績單。
隨機森林的兩個獨家配備
- OOB 誤差(Out-of-Bag Error):每棵樹用抽樣資料訓練,約三分之一樣本沒被抽到(袋外),直接拿這些「沒見過的」樣本驗證 — 內建驗證機制,不必另切驗證集
- 特徵重要性(Feature Importance):統計各特徵對分裂的貢獻,回答「模型主要看哪些欄位」,是可解釋性的第一站
- 兩者都是隨機森林(RF)特有 — 單棵決策樹沒有 OOB,因為它沒做抽樣
🎯 口訣:Gini/Entropy 管分裂,Accuracy/F1 管驗收;隨機森林加送 OOB 與特徵重要性。
iPAS 考點
必考陷阱:「下列何者是評估決策樹模型表現的指標?」— Gini/Entropy 是分裂準則,是誘餌選項,評估要選 Accuracy/F1/AUC。第二考點:OOB 誤差的意義 — 隨機森林不用額外驗證集也能估泛化誤差。判斷關鍵字:節點純度=訓練內部;OOB=內建驗證;特徵重要性=解釋模型。