AI 方法論知識地圖 · 治理與倫理

可信賴性

如何信任模型判斷

在互動地圖中開啟回AI 方法論知識地圖

觀念教學

模型說「這筆貸款拒絕」,你敢直接照辦嗎?可信賴性回答的就是:憑什麼信它。

核心觀念

可信賴性(Trustworthiness)是 AI 系統的核心支柱之一:系統不只要準,還要讓人知道模型為什麼做出這樣的判斷,並確保判斷過程沒有偏見或歧視。它是一組特質的總稱,涵蓋可解釋、公平、安全、隱私與當責。

白話理解

健保體系導入 AI 判讀醫療影像:醫師要看得懂模型「為什麼圈這裡」(可解釋),不同性別、年齡病患的誤判率要相當(公平),病歷不能外洩(隱私),影像帶點雜訊也不能亂判(強健)。缺一角,醫院就不敢用。

可信賴的五大面向

可解釋性(Explainability):能說清楚判斷依據,常以可解釋性分數量化
公平性(Fairness):不因敏感特徵歧視,用公平性指標檢核
強健性(Robustness):輸入被擾動仍穩定運作
隱私(Privacy):資料與模型輸出不洩漏個資
透明與當責(Accountability):流程可稽核、出錯找得到負責人

🎯 口訣:可信賴 = 解釋得了、公平得起、打不倒、藏得住、追得到。

iPAS 考點

真實考題:AI 新創聲稱產品通過我國「AI 產品與系統評測中心」的生成式 AI 評測,問下列何者不屬於該中心的評測項目。解題心法:評測項目都圍繞可信賴特質 — 安全性、公平性、隱私、資安、透明與可解釋這一類;選項若屬商業績效類(如市場競爭力、獲利能力、創新程度),就是「不屬於」的答案。把五大面向背熟,反著考也不怕。

📝 本節掛載 1 題 iPAS 歷屆試題 — 讀完往下到「iPAS 考題練習」直接實戰。

應用場景

模型解釋決策透明化偏見檢測法規遵循

評估指標

可解釋性分數公平性指標

iPAS 歷屆考題詳解(2 題)

先自行作答,再展開詳解。題目出處均為 iPAS AI 應用規劃師正式考題,著作權屬原主辦單位。

115年第二次初級AI應用規劃師第一科人工智慧基礎概論第6題

某AI 新創公司申請AI 系統認證，並聲稱其產品已通過我國「AI 產品與系統評測中心」之生成式AI 評測。下列何者不屬於該中心之評測項目？

A資安（Secure）；
B公平性（Fair）；
C效率性（Efficiency）；
D可靠性（Reliability）

看正解與逐選項詳解

正解:C

正確答案:(C) 【正解解析】題目問「不屬於」該中心的評測項目。我國「AI 產品與系統評測中心」的生成式 AI 評測聚焦於可信任 AI(Trustworthy AI)的風險面向,如資安、公平性、可靠性、安全性等,目的在確認系統是否值得信賴、風險是否可控。效率性(Efficiency)屬於系統效能與資源利用的工程指標,不在可信任評測的核心項目之列,故為本題答案。【為何其他選項錯了?】 - (A):資安(Secure)是評測項目之一;生成式 AI 面臨提示注入、資料外洩等威脅,資安防護是可信任評測的必要面向。 - (B):公平性(Fair)是評測項目之一;模型對不同族群不應存在系統性偏誤,是可信任 AI 的核心指標。 - (D):可靠性(Reliability)是評測項目之一;系統輸出需穩定一致、在預期條件下正確運作,才具備可信賴的基礎。提示:可信任 AI 評測看的是風險面向(資安、公平、可靠、安全);效率屬效能指標,不在其列。

115年第一次中級AI應用規劃師第一科人工智慧技術應用與規劃第25題

某企業欲將其 AI輔助決策系統提交給外部稽核單位審查，並宣稱符合 NIST《AI風險管理框架》（NIST AI RMF）中可驗證性（Verifiability）的要求。為讓第三方稽核人員能獨立重現模型評估結果，下列哪一項技術實踐最直接符合此要求？

A將模型測試準確率優化至 99%以上，以達到業界公認的高可靠標準
B建立可追溯的測試資料與評估流程，並記錄模型訓練與評估過程中的關鍵設定，以確保結果可被重現
C加快模型迭代速度，縮短版本發布週期以盡快累積外部驗證數據
D擴充訓練資料量至數百萬筆，以統計方式確保模型的泛化能力達標