機器學習知識地圖 · 評估指標

評估指標

準確率、F1、Log Loss

在互動地圖中開啟 回機器學習知識地圖

觀念教學

分類模型說「這筆是詐欺」,你怎麼知道它可信?準確率只是入門 — 真正的驗收,要看你怕漏抓還是怕誤殺。

核心觀念

分類評估的地基是混淆矩陣:預測結果拆成真陽性、假陽性、真陰性、假陰性四格,各指標都從這裡長出來。另一路是 Log Loss(對數損失):衡量機率預測品質,預測機率越接近真相分數越低,同時它也是邏輯迴歸訓練時優化的核心指標。

白話理解

銀行詐欺偵測:一萬筆交易只有 50 筆詐欺,模型全猜「正常」,準確率還有 99.5% — 漂亮但沒用。這就是類別不平衡下準確率的騙局,必須改看精確率、召回率、F1 與 AUC-ROC。

指標怎麼挑

  • 準確率(Accuracy):整體正確率,類別均衡時才可信
  • 精確率(Precision):抓出來的裡面多少是真的 — 怕誤殺時看它(如垃圾郵件誤擋正常信)
  • 召回率(Recall):真的裡面抓到多少 — 怕漏抓時看它(疾病、詐欺漏一個代價巨大)
  • F1-Score:精確率與召回率的調和平均,兩個都要顧時的折衷
  • AUC-ROC:整體排序與區分能力,不受單一閾值影響,適合跨模型比較
  • Log Loss:重罰「自信滿滿卻答錯」,適合在意機率品質的場景
🎯 口訣:怕誤殺看精確率,怕漏抓看召回率,兩個都要看 F1,不平衡別信準確率。

iPAS 考點

情境判斷是主戰場:醫療篩檢、詐欺偵測 → 召回率優先;誤報成本高 → 精確率;類別不平衡 → F1 或 AUC-ROC,別選準確率(必考陷阱)。概念題:Log Loss 衡量機率預測品質、是訓練時優化的損失;AUC-ROC 的特點是不受閾值影響。

應用場景

準確率 - 整體正確率精確率/召回率 - 避免誤報/漏報F1 - 綜合指標Log Loss - 機率預測品質

評估指標

準確率精確率召回率F1-ScoreAUC-ROCLog Loss (對數損失)

iPAS 歷屆考題詳解(1 題)

先自行作答,再展開詳解。題目出處均為 iPAS AI 應用規劃師正式考題,著作權屬原主辦單位。

115年第三次初級AI應用規劃師第一科人工智慧基礎概論 第24題

某醫院利用 AI 模型進行癌症篩檢,目前模型的精確率(Precision)為 96%,召回率(Recall)為 71%。醫師評估後認為,希望能讓更多真正罹癌的病患在初步篩檢時被及早發現,即使因此增加部分後續複檢人數也可以接受。分析師應優先採取何種策略?

  1. A調高判定癌症的門檻值,以提高精確率(Precision),但召回率(Recall)可能會下降;
  2. B調低判定癌症的門檻值,以提高召回率(Recall),但精確率(Precision)可能會下降;
  3. C調整模型參數,使精確率(Precision)與召回率(Recall)同步提升,而不需調整判定門檻;
  4. D保持目前判定門檻,以維持較高的精確率(Precision),避免增加過多後續複檢
看正解與逐選項詳解

正解:B

正確答案:(B) 【正解解析】 題幹目標是「讓更多真正罹癌的病患在初步篩檢時被及早發現」,也就是減少漏診(偽陰性,False Negative),對應的指標是召回率(Recall):在所有實際罹癌者中被模型正確找出的比例。目前召回率僅 71%,代表近三成罹癌者被漏掉。調低判定癌症的門檻值(Threshold)會讓模型更容易判為陽性,召回率隨之提高;代價是更多未罹癌者被判為陽性(偽陽性增加),精確率(Precision)下降、複檢人數增加,而題幹已明確表示可接受此代價,故 (B) 正確。 【為何其他選項錯了?】 - (A):調高門檻會讓模型更保守,只在非常確定時才判為癌症,精確率上升但召回率下降,漏診更多,與醫師「及早發現更多病患」的目標背道而馳。 - (C):在同一個模型下,精確率與召回率通常存在此消彼長的取捨(Trade-off),單靠調整參數同步提升兩者並不保證可行,也不是題幹要求的優先策略;門檻調整才是最直接的手段。 - (D):維持現狀等於接受 71% 的召回率,近三成罹癌病患仍會被漏掉,不符合醫師願意增加複檢以換取早期發現的取向。 提示:「寧可多查也不能漏」對應提高召回率,作法是調低門檻;「寧可漏也不能誤判」才是提高精確率、調高門檻。

相關節點