AI 方法論知識地圖 · 治理與倫理
治理與倫理
Governance
觀念教學
AI 治理與倫理的三大支柱：可信賴性、安全與防禦、隱私保護技術。
🔑 人類介入程度四層級（Human-in/on/over/out-of-the-loop）：
1️⃣ Human-in-the-loop (HITL)：人類介入決策迴圈。AI 提供建議，人類做最終決定。
比喻：像學開車，教練坐在旁邊，你每做一個決定都要教練點頭。
2️⃣ Human-on-the-loop (HOTL)：AI 自主運作，人類僅監控並在必要時介入（如自動駕駛監控）。
比喻：像看自動化工廠，機器自己跑，你只在亮紅燈出錯時才去按暫停。
3️⃣ Human-over-the-loop：監控多個 AI 系統或更高層次的決策，人類在系統之上進行宏觀管理。
比喻：像工廠廠長巡視多條產線，不管每台機器怎麼跑，只看整體產能和品質。
4️⃣ Human-out-of-the-loop (HOOTL)：完全自動化，人類不介入。
比喻：像掃地機器人，你出門上班，它自己在家掃，完全不用管。
應用場景
iPAS 歷屆考題詳解(19 題)
先自行作答,再展開詳解。題目出處均為 iPAS AI 應用規劃師正式考題,著作權屬原主辦單位。
在人工智慧系統的決策流程中，下列哪一種情境最符合「人在迴圈上(Human-over-the-loop)」所強調的監督機制？
- AAI 系統只能提供建議，人類需主動下達命令才能進行決策
- B人類對AI 的運行進行日常監督，必要時可立即介入修正或干預
- C人類平時不參與AI 的運作，僅在發生異常或重大錯誤時才接手控制
- DAI 的所有判斷與行動在執行前，皆須經過人類逐一審核與批准
看正解與逐選項詳解
正解:B
正確答案:(B)
【正解解析】
「人在迴圈上(Human-over-the-loop)」指 AI 系統平時自主運作,人類居於監督位置:對系統運行進行日常監督,必要時可立即介入修正或干預。此模式兼顧自動化效率與人為控管:人類不逐案參與決策,但保有隨時接管的權力,(B) 的描述完全對應。相對地,「人在迴圈中(Human-in-the-loop)」是人類直接參與每項決策,「人在迴圈外(Human-out-of-the-loop)」則是人類平時不參與系統運作。
【為何其他選項錯了?】
- (A):AI 僅提供建議、須由人類主動下達命令才能決策,決策主體是人類,屬人在迴圈中(Human-in-the-loop)的型態,自動化程度低於題目所問的監督機制。
- (C):平時完全不參與、僅在異常或重大錯誤發生後才接手,缺乏日常監督,屬接近人在迴圈外的事後補救模式,無法即時防範風險。
- (D):所有判斷與行動執行前皆須人類逐一審核批准,是最嚴格的人在迴圈中模式,人類參與每個決策點,與「日常監督、必要時介入」的定位不同。
提示:區分三種監督層級:in-the-loop 逐案參與決策、over-the-loop 日常監督必要時介入、out-of-the-loop 平時不參與。
根據2025 年 9 月行政院通過之《人工智慧基本法》草案，政府推動人工智慧之「創新實驗環境」制度，主要參考歐盟的何種制度？
- AData Protection Impact Assessment
- BRegulatory Sandbox
- CAI Trust Label
- DAI Ethics Review Board
看正解與逐選項詳解
正解:B
正確答案:(B)
【正解解析】
行政院 2025 年 9 月通過的《人工智慧基本法》草案設有「創新實驗環境」機制,其制度原型即歐盟的監管沙盒(Regulatory Sandbox):讓 AI 產品與服務在主管機關監督的受控環境中先行測試,一面驗證創新可行性,一面滾動調整合規要求,降低新技術直接進入市場的風險。「受控測試、邊試邊調整規範」正是沙盒制度的核心特徵,故 (B) 為正確對應。
【為何其他選項錯了?】
- (A):資料保護影響評估(DPIA)源自 GDPR,是針對資料處理活動的隱私風險評估工具,處理的是個資風險,並非提供創新測試場域的機制。
- (C):AI 信任標章是對已上市 AI 產品可信賴程度的認證與標示制度,作用於產品評價階段,而非提供上市前的實驗環境。
- (D):AI 倫理審查委員會負責倫理面向的審議與監督,屬治理組織設計,不是讓業者在受控環境中測試創新應用的機制。
提示:看到「創新實驗環境」「受控測試」即對應監管沙盒;DPIA 管隱私風險、標章管產品認證、委員會管倫理審議。
根據《金融機構運用人工智慧技術作業規範》，金融機構須建立內部治理架構，並指定專責單位或人員負責推動及管理人工智慧事務，下列何者並非規範所明訂須落實的治理措施？
- A辦理人工智慧人才培育
- B清楚了解生成式 AI 技術之運作模式
- C每日公布人工智慧系統運作狀況
- D指派高階主管或委員會進行監督管理
看正解與逐選項詳解
正解:C
正確答案:(C)
【正解解析】
《金融機構運用人工智慧技術作業規範》要求金融機構建立內部治理架構,指定專責單位或人員推動及管理 AI 事務,並落實人才培育、技術理解與高階監督等措施。規範的重點在內部問責與風險管理,系統運作狀況屬內部持續監控與定期檢視的範疇,規範並未要求「每日公布」運作狀況;此種對外公布頻率的要求既不具實務可行性,也非規範明訂事項,故 (C) 為本題答案。
【為何其他選項錯了?】
- (A):辦理人工智慧人才培育為規範明訂措施,金融機構須提升相關人員運用與管理 AI 的專業能力,使治理制度能實際運作,故非本題答案。
- (B):規範要求金融機構於運用生成式 AI 前,應清楚了解其技術運作模式與限制,避免將模型當作黑盒子使用,以利風險辨識與結果解釋,屬明訂措施。
- (D):指派高階主管或委員會進行監督管理,是內部治理架構的核心設計,確保權責明確、出現問題時有清楚的問責對象,屬明訂措施。
提示:題目問「並非明訂」;治理規範強調內部問責與能力建置,出現「每日公布」這類過度且不合實務的頻率要求,通常即為答案。
下列何者並非我國數位發展部 AI 產品與評測中心在評估大型語言模型安全性時，所指出的常見使用指標？
- A資料複雜性
- B事實正確性
- C偏見與歧視
- D惡意與濫用可能性
看正解與逐選項詳解
正解:A
正確答案:(A)
【正解解析】
數位發展部 AI 產品與評測中心評估大型語言模型安全性時,常見指標聚焦於模型輸出可能造成的危害,包括事實正確性、偏見與歧視、惡意與濫用可能性等。「資料複雜性」描述的是資料本身的結構與處理難度,屬於資料品質或系統效能面向的議題,並非衡量模型輸出安全與否的指標,故 (A) 為本題答案。
【為何其他選項錯了?】
- (B):事實正確性是安全性評估的核心指標,用於檢測模型是否產生錯誤資訊或幻覺內容,避免不實資訊造成誤導,屬常見指標。
- (C):偏見與歧視指標檢測模型輸出是否對特定性別、族群等產生不公平內容,是可信任 AI 評估的重點項目,屬常見指標。
- (D):惡意與濫用可能性評估模型是否可能被誘導產生詐騙內容、攻擊程式碼等有害輸出,直接關係使用安全,屬常見指標。
提示:安全性指標針對「輸出可能造成的危害」;描述資料本身性質的選項與安全評測無關,即為答案。
下列何者不是我國數位發展部 AI 產品與系統評測中心對生成式 AI 的評測項目？
- A當責性
- B可靠性
- C隱私及資安
- D互動性
看正解與逐選項詳解
正解:D
正確答案:(D)
【正解解析】
數位發展部 AI 產品與系統評測中心對生成式 AI 的評測項目,對應國際上可信任 AI(Trustworthy AI)的構面,包括當責性(Accountability)、可靠性(Reliability)、隱私及資安(Privacy and Security)、公平性與透明性等,重點在於系統是否可信任、可問責、能保護資料。「互動性」屬於使用者介面與體驗設計的範疇,不在可信任 AI 評測構面之列,故 (D) 為本題答案。
【為何其他選項錯了?】
- (A):當責性要求 AI 系統的開發與運作有明確的責任歸屬與監督機制,是評測中心明列的評測項目。
- (B):可靠性檢驗系統輸出是否穩定、正確,並能在預期情境下持續正常運作,屬評測項目之一。
- (C):隱私及資安檢驗系統對個人資料保護與資訊安全防護的落實程度,例如資料保護與存取控制,屬評測項目之一。
提示:評測項目對應可信任 AI 構面(當責、可靠、隱私資安、公平、透明);屬於使用體驗層面的「互動性」不在其中。
根據《金融機構運用人工智慧技術作業規範》,金融機構於使用人工智慧提供金融 服務並直接與消費者互動時,下列何者非必要揭露之資訊?
- A該服務之 AI 模型原始程式碼
- B服務適用對象與用途範圍
- C該服務是否為 AI 自動完成
- D該服務是否提供替代方案
看正解與逐選項詳解
正解:A
正確答案:(A)
【正解解析】
《金融機構運用人工智慧技術作業規範》要求金融機構以 AI 直接與消費者互動時落實透明性揭露,使消費者知道自己正在與 AI 互動,並了解服務的適用對象、用途範圍與替代方案,以保障消費者權益。揭露義務的對象是「與消費者權益相關的必要資訊」,而非技術細節;AI 模型原始程式碼屬金融機構的營業秘密與智慧財產,公開它對消費者理解服務並無幫助,亦非規範要求,故 (A) 非必要揭露之資訊。
【為何其他選項錯了?】
- (B):服務適用對象與用途範圍屬必要揭露,消費者須能了解該 AI 服務提供的功能與使用限制。
- (C):是否由 AI 自動完成屬必要揭露,消費者有權知道服務由 AI 而非真人提供,避免誤認互動對象。
- (D):是否提供替代方案屬必要揭露,確保消費者不願使用 AI 服務時仍有其他管道,例如轉由真人服務。
提示:揭露義務的重點是消費者「知情與選擇」;涉及營業秘密的技術細節(程式碼、模型架構)不在揭露範圍。
OpenAI 已為 Sora 生成的影片提供多種出處證明機制,以降低誤導性或欺騙性內容帶來的風險。下列何者不屬於目前 OpenAI 官方為 Sora 內容提供的出處證明工具?
- A所有資產上內嵌的 C2PA (Content Credentials)元數據
- B預設可見的動態浮水印
- C用於追蹤生成內容的內部反向影像與音訊搜尋工具
- D平台對外開放的實時來源驗證介面
看正解與逐選項詳解
正解:D
正確答案:(D)
【正解解析】
OpenAI 為 Sora 生成影片提供的出處證明機制包括:在所有資產內嵌符合 C2PA(Content Credentials)標準的元資料,記錄內容由 AI 生成的來源資訊;預設加上可見的動態浮水印,讓一般觀看者可直接辨識;並以內部的反向影像與音訊搜尋工具追蹤內容是否出自 Sora。其中追蹤與驗證能力屬 OpenAI 內部使用,官方並未提供對外開放的實時來源驗證介面供大眾上傳內容查驗,故 (D) 不屬於現有機制。
【為何其他選項錯了?】
- (A):C2PA 元資料是業界推動內容來源證明的核心標準,OpenAI 已在 Sora 生成的資產中內嵌此類元資料,屬官方機制。
- (B):預設可見的動態浮水印是官方採用的標示方式,使觀看者無須工具即可辨識內容為 AI 生成。
- (C):OpenAI 具備內部反向影像與音訊搜尋工具,可追蹤特定內容是否由 Sora 生成,用於安全與濫用防範,屬官方機制。
提示:區分「內部工具」與「對外開放服務」;現行出處證明機制(C2PA、浮水印、內部搜尋)皆非公開的即時驗證平台。
某企業導入 No-Code/Low-Code 平台,讓各部門能自行建立資料分析與流程應用。隨著使用範圍擴大,管理層開始關注資料權限、存取紀錄與合規要求。依資料治理觀點,下列何者最合理描述此類平台對企業治理機制的典型影響?
- A平台內建角色權限與資料存取控管機制,有助治理制度落實
- B平台強化部門自主性,通常使既有治理流程難以延續
- C平台主要支援應用快速開發,資料治理仍需完全仰賴外部系統
- D平台透過自動化設定機制,可顯著降低治理與合規管理需求
看正解與逐選項詳解
正解:A
正確答案:(A)
【正解解析】
題幹關注 No-Code/Low-Code 平台在資料權限、存取紀錄與合規要求上的典型影響。成熟的企業級平台通常內建治理功能:角色型權限控管(如管理員、開發者、一般使用者)、資料存取範圍設定,以及操作日誌(log)記錄以供稽核。企業若善用這些內建機制,可以較低成本、標準化的方式落實資料治理制度,故 (A) 是對治理影響最合理的描述。
【為何其他選項錯了?】
- (B):部門自主性提高確實帶來治理挑戰,但「通常使既有治理流程難以延續」是把管理不當的後果當成平台的必然特性;平台內建的權限與稽核機制反而可支援既有治理流程延伸。
- (C):宣稱資料治理「完全仰賴外部系統」與事實不符,企業級平台普遍內建權限、稽核等治理功能,可直接支援治理落實。
- (D):平台降低的是「落實治理的技術門檻」,而非治理與合規「需求」本身;誰能存取哪些資料、如何符合法規,仍需企業自行定義與管理。
提示:區分「治理需求」與「治理工具」;平台提供工具協助落實,不會消除需求,也不必然破壞既有流程。
所有在 Gemini 應用程式透過 Veo 生成的影片,皆採用何種技術措施來協助企業用戶應對 AI 生成內容可能帶來的不實資訊風險?
- A嚴格限制所有用戶每日的影片生成次數與使用時間
- B在所有生成影片的開頭與結尾處強制加入明顯的 AI 標示警語
- C要求所有影片輸出時必須附帶至少 10秒的免責聲明片段
- D使用 SynthID 技術在每一幀(frame)影片中嵌入不可見的數位浮水印
看正解與逐選項詳解
正解:D
正確答案:(D)
【正解解析】
Google 對 Gemini 應用程式中以 Veo 生成的影片,採用 DeepMind 開發的 SynthID 技術,在每一幀(frame)影像中嵌入肉眼不可見的數位浮水印。浮水印直接寫入像素層,即使內容經壓縮、裁切或再編輯,仍有相當高的機率可被偵測,提供可靠的 AI 生成內容識別依據,協助企業用戶因應不實資訊與深度偽造(Deepfake)風險,故 (D) 正確。
【為何其他選項錯了?】
- (A):限制生成次數與使用時間屬資源與用量管理,無法標識或追溯已生成的內容,對不實資訊風險沒有直接作用。
- (B):在影片開頭與結尾強制加入可見警語,容易被惡意使用者裁剪移除,且非 Veo 影片採用的主要技術措施。
- (C):附帶免責聲明片段同樣可被剪除,僅屬形式性告知,無法提供可驗證的內容溯源能力。
提示:題幹關鍵詞「每一幀」「不可見浮水印」直接對應 SynthID;可見標示與使用限制皆易被規避,不具溯源韌性。
某企業導入 No-Code/Low-Code 平台開放各部門自行開發應用。半年後發現:出現多個功能相近系統、資料欄位定義不一致,且部分應用未經審核即上線,並伴隨權限與維運管理混亂。下列何者最可能為根本問題?
- A缺乏統一的開發與上線管理機制
- B平台提供過高的應用設計自主性
- C部門未建立共用的資料分析呈現標準
- D系統整合與自動化能力尚未完善
看正解與逐選項詳解
正解:A
正確答案:(A)
【正解解析】
題幹描述的現象包括功能重複的系統、資料欄位定義不一致、應用未經審核即上線、權限與維運管理混亂,這是 No-Code/Low-Code 普及後常見的「影子 IT(Shadow IT)」問題。多種亂象同時出現,指向共同的根源:企業導入工具時,未同步建立統一的開發規範、審核流程、上線管理與維運制度。治理機制缺位,各部門的開發行為因而彼此失去協調,故 (A) 為根本問題。
【為何其他選項錯了?】
- (B):應用設計自主性是平台的預期效益,不是問題本身;缺乏配套管理的自主性才會失控,應矯正的對象是管理機制而非自主性。
- (C):資料欄位與呈現標準不一致,是缺乏統一管理機制之下衍生的「結果」之一,屬表象而非根因。
- (D):整合與自動化能力不足或許存在,但無法解釋未經審核即上線、權限混亂等治理面問題,並非最根本原因。
提示:多種亂象並列時,先找能同時解釋所有現象的選項;「缺乏機制、制度」層級的選項通常比單點技術問題更接近根因。
某招聘公司使用生成式AI生成面試問題與候選人評估建議。團隊發現模型可能對性別或年齡產生的資料分布偏差。下列哪一種策略最能有效降低生成偏差輸出的風險?
- A調整模型架構與參數,使生成更靈活與多樣化
- B大幅增加訓練資料量,但不清理或平衡資料中的性別與年齡分布
- C在生成後對模型輸出進行人工審查,並依偏差情況修正結果
- D僅允許高階主管操作系統,透過人員篩選控制生成結果
看正解與逐選項詳解
正解:C
正確答案:(C)
【正解解析】
生成偏差的根源在訓練資料的分布偏差,理想解法是從資料源頭矯正;但題幹情境是使用生成式 AI 的招聘團隊,通常無法重新訓練或大幅改造模型。此時在生成之後加入人工審查,依公平任用原則檢核並修正帶有性別或年齡偏差的輸出,是務實且有效的風險緩解手段,即「人在迴路(Human-in-the-loop)」機制,適用於招聘這類高敏感度、高風險的應用場景,故 (C) 最能有效降低偏差輸出的風險。
【為何其他選項錯了?】
- (A):調整模型架構與參數可改變生成的靈活度與多樣性,但偏差來自資料分布,架構調整無法針對性消除語意層面的偏見。
- (B):不清理、不平衡資料就大幅增加資料量,原有的性別與年齡偏差會隨資料規模一併放大,模型反而把偏見學得更穩固。
- (D):限制操作人員層級屬存取權限管理,模型生成內容的偏差不因操作者職級而改變,且集中於少數人操作可能引入其個人偏好。
提示:選項中只有 (C) 直接針對「偏差輸出」設置檢核關卡;不清理資料的擴增與權限控管都未觸及偏見本身。
某地方政府導入AI 系統審核低收入補助資格。系統已通過內部測試且準確率高，但民間團體指出不同族群核准率差異顯著。政府表示該系統由專業廠商開發，且未接獲大量申訴。依《人工智慧基本法》精神，下列何者為最適當之優先作法？
- A要求廠商提出無歧視聲明，並持續觀察；
- B提升模型整體準確率，以降低錯誤影響；
- C進行偏誤影響評估並建立可解釋與申訴機制；
- D因尚無大量申訴，暫不調整現行制度
看正解與逐選項詳解
正解:C
正確答案:(C)
【正解解析】
題幹的關鍵訊號是「不同族群核准率差異顯著」,這是演算法偏誤的警訊;即使整體準確率高,也不能排除系統對特定族群造成系統性不利。依《人工智慧基本法》揭示的公平、透明與問責精神,政府機關應優先進行偏誤影響評估,檢視系統對各族群的差異影響,並建立可解釋性與申訴機制,讓受影響民眾能了解決策依據並尋求救濟,故 (C) 為最適當之優先作法。
【為何其他選項錯了?】
- (A):廠商的無歧視聲明僅是形式承諾,不能取代實際的偏誤檢測與影響評估;系統委外開發亦不免除機關自身的治理與問責義務。
- (B):整體準確率是平均指標,無法反映特定族群承受的差異待遇;準確率再高,仍可能存在對少數族群的系統性誤判。
- (D):申訴數量少不代表沒有問題,弱勢族群往往缺乏申訴的資訊與管道;以「未接獲大量申訴」為由維持現狀,違背主動治理與保障權益的精神。
提示:看到「族群間結果差異顯著」,優先對應偏誤影響評估與救濟機制;平均指標與被動等待申訴都無法處理公平性問題。
某媒體集團計畫自行訓練一套生成式AI 系統，用於自動產出新聞摘要與評論內容。在專案啟動會議中，法務與技術團隊共同討論如何從訓練階段就降低模型產出有害或偏頗內容的風險，並兼顧內容的多元性與公平性。請問下列哪一項措施最應該在模型訓練階段優先落實？
- A確保訓練資料來源多元，並經過嚴格的內容清洗與偏見過濾，以減少模型學習到有害或偏頗資訊的風險；
- B完全避免使用任何外部文本資料，以降低模型學習到不當內容的可能性；
- C僅使用公司內部的新聞稿與公告進行訓練，確保資料來源可控且符合企業立場；
- D限制模型僅能產出固定格式的內容，從輸出端約束模型避免生成不當資訊
看正解與逐選項詳解
正解:A
正確答案:(A)
【正解解析】
生成式 AI 從訓練語料學習語言模式,語料中的有害內容與偏見會直接反映在模型輸出。要在訓練階段降低風險,關鍵是資料治理:確保資料來源多元以涵蓋不同觀點,並經內容清洗與偏見過濾,移除有害或嚴重偏頗的素材。這能從源頭降低模型學到不當內容的機率,同時兼顧內容的多元性與公平性,故 (A) 是訓練階段最應優先落實的措施。
【為何其他選項錯了?】
- (B):完全排除外部文本會使語料規模與多樣性不足,模型觀點反而狹窄;偏見問題出在資料品質與分布,而非「外部資料」本身。
- (C):僅用公司內部新聞稿與公告訓練,語料立場與文體過度單一,與題幹「兼顧多元性與公平性」的目標相悖。
- (D):限制輸出格式是輸出端的約束手段,無法改變模型已學到的偏頗內容,也不屬於訓練階段的資料治理措施。
提示:題幹限定「訓練階段」且要求「多元與公平」;正解方向是資料來源多元加上清洗與偏見過濾,封閉語料與輸出限制皆不符。
某保險公司規劃推出一套AI 核保輔助系統，針對線上投保申請進行初步風險評估並自動回覆審核結果。系統開發完成後，依據金融機構運用人工智慧技術作業規範，系統在正式與消費者互動前，必須確認相關揭露義務已落實。請問下列何者不屬於該規範要求金融機構必要揭露的事項？
- A詳細公開本系統所採用的機器學習模型架構與完整訓練資料內容；
- B說明本服務的適用對象與用途範圍，使消費者了解系統的使用限制與服務邊界；
- C說明當消費者對AI 核保結果有異議時，是否提供人工複核或申訴管道；
- D告知消費者本次核保審查結果係由AI 系統自動完成，非人工逐案審核
看正解與逐選項詳解
正解:A
正確答案:(A)
【正解解析】
依《金融機構運用人工智慧技術作業規範》,金融機構以 AI 直接與消費者互動時,揭露重點是與消費者權益相關的必要資訊:服務用途與適用範圍、結果是否由 AI 自動完成、有無人工複核或申訴管道等。機器學習模型架構與完整訓練資料屬技術細節與營業秘密,公開後對消費者理解服務並無實益,且訓練資料可能含個人資料,全面公開反而衍生個資保護問題,故 (A) 不屬必要揭露事項。
【為何其他選項錯了?】
- (B):說明適用對象與用途範圍,使消費者了解系統的服務邊界與使用限制,屬規範要求的透明性揭露。
- (C):告知消費者對 AI 核保結果有異議時是否提供人工複核或申訴管道,攸關消費者救濟權益,屬必要揭露。
- (D):告知審查結果由 AI 系統自動完成而非人工逐案審核,可避免消費者誤解決策方式,屬必要的透明性要求。
提示:揭露義務環繞「知情、選擇、救濟」三個面向;要求公開模型架構或訓練資料的選項,通常就是「非必要揭露」的答案。
某大型醫院導入AI 輔助診斷系統，用於分析病患的電子病歷與影像資料並提供疾病風險評分。系統上線後，院方陸續收到三類回饋：①放射科醫師反映無法理解系統判斷某病患為高風險的依據與理由；②數位治理委員會發現系統對特定族裔病患的誤診率顯著偏高；③資訊安全部門指出部分病患個資在未告知當事人的情況下被納入模型再訓練。依據AI 倫理五大核心原則，上述三類問題分別對應哪一項原則的違反？
- A①違反安全性、②違反問責性、③違反透明性；
- B①違反隱私性、②違反安全性、③違反公平性；
- C①違反公平性、②違反透明性、③違反問責性；
- D①違反透明性、②違反公平性、③違反隱私性
看正解與逐選項詳解
正解:D
正確答案:(D)
【正解解析】
本題考 AI 倫理核心原則與具體情境的對應。情境①醫師無法理解系統判定高風險的依據,屬於決策過程不可解釋、資訊不公開的問題,違反透明性(Transparency)。情境②系統對特定族裔病患的誤診率顯著偏高,屬於對特定群體的系統性差別待遇,違反公平性(Fairness)。情境③病患個資未經告知即用於模型再訓練,屬於個人資料未經同意之利用,違反隱私性(Privacy)。三者依序對應透明性、公平性、隱私性,故 (D) 正確。
【為何其他選項錯了?】
- (A):將①配安全性、②配問責性皆屬錯置;無法理解判斷依據是透明性問題而非系統安全問題,族裔誤診率差異是公平性問題而非責任歸屬問題。
- (B):將①配隱私性、②配安全性、③配公平性,三組對應全部錯置;未經告知使用個資才是隱私議題,卻被配到公平性。
- (C):將①配公平性、②配透明性、③配問責性同樣錯置;族群間誤差才是公平性的典型情境,決策不可解釋才是透明性議題。
提示:抓三個關鍵詞逐一對應:「無法理解依據」=透明性,「族群誤差」=公平性,「未告知使用個資」=隱私性。
某企業導入No-Code／Low-Code 平台後，發現各部門可快速開發AI 應用，但同時產生大量重複功能之應用程式，且模型使用方式不一致，導致治理困難與風險上升。若企業希望在維持「AI 民主化」前提下改善此問題，下列何者最適當之作法？
- A全面禁止業務單位自行開發AI 應用，統一由資訊部門負責；
- B建立應用開發與模型使用之治理規範與共用標準；
- C停止使用No-Code／Low-Code 工具，改採傳統開發模式；
- D限制AI 應用僅能用於單一部門內部使用
看正解與逐選項詳解
正解:B
正確答案:(B)
【正解解析】
題幹要求在維持「AI 民主化」(各部門仍可自行快速開發)的前提下,解決重複開發與模型使用不一致造成的治理困難。最適當的作法是建立應用開發與模型使用的治理規範與共用標準,例如應用登錄與審核流程、共用元件庫、模型使用準則與資料標準。如此既保留分散開發的速度優勢,又以制度收斂混亂、控管風險,故 (B) 正確。
【為何其他選項錯了?】
- (A):全面禁止業務單位自行開發、改由資訊部門集中統一開發,等於放棄 AI 民主化,與題幹前提直接矛盾。
- (C):停止使用 No-Code/Low-Code 工具即失去快速開發的效益,且治理問題源於缺乏規範,改回傳統開發模式並未對症。
- (D):限制應用僅供單一部門使用,無法解決重複開發與模型使用不一致,反而阻礙跨部門共用,治理困難依舊存在。
提示:題目同時要求「保留開發速度」與「改善混亂」時,答案方向幾乎必為治理規範與標準化,而非禁止或限縮。
某企業部署生成式 AI系統協助行銷與內容產出，但近期遭質疑部分生成內容可能涉及著作權侵權。為降低企業在法律層面的潛在責任與風險，下列哪一項策略最能有效預防侵權問題產生？
- A對生成內容進行語意相似度比對，自動標註可能涉及既有著作的輸出結果，以降低侵權風險
- B建立訓練資料篩選與授權驗證機制，排除未授權或高風險資料來源
- C在訓練與微調過程中採用差分隱私技術，避免模型記憶特定受著作權保護的樣本
- D在模型輸出端嵌入浮水印（Watermarking）或數位指紋（Digital Fingerprint）技術，以確保生成內容可追溯
看正解與逐選項詳解
正解:B
正確答案:(B)
【正解解析】
生成式 AI 著作權風險的源頭在訓練資料:模型接觸過未經授權的作品,才可能生成與其高度相似的侵權內容。建立訓練資料篩選與授權驗證機制,從源頭排除未授權或高風險資料來源,是「預防」侵權最根本且有效的策略,也符合各國 AI 治理框架對資料來源合法性的要求,故 (B) 正確。
【為何其他選項錯了?】
- (A):語意相似度比對是在內容生成之後進行偵測與標註,屬事後把關;未被偵測到的內容仍可能流出,預防效果有限。
- (C):差分隱私可降低模型記憶特定樣本的程度,但屬隱私保護技術,無法保證生成內容不近似受著作權保護的作品,更不能使未授權利用變為合法。
- (D):浮水印(Watermarking)與數位指紋(Digital Fingerprint)解決的是內容可追溯性,便於事後舉證與歸責,對「避免生成侵權內容」本身沒有預防作用。
提示:題幹關鍵詞是「預防」;事前的資料源頭治理才是預防,相似度比對與浮水印皆屬事後措施。
某電信公司導入生成式 AI客服系統，利用過去對話紀錄與用戶行為資料訓練語言模型，在資料治理與合規審查過程中，團隊發現模型可能會在回答中生成包含真實姓名、電話或交易資訊的內容。為確保系統符合個資法及生成式AI的安全與隱私要求，下列哪一項作法最符合實務可行及法規原則？
- A在訓練資料前進行資料匿名化（Anonymization）或偽匿名化（Pseudonymization）處理，並建立輸出內容稽核機制
- B改以強化學習（Reinforcement Learning）微調模型，使模型學習避免產出真實資訊
- C採用同態加密（Homomorphic Encryption）以加密所有文字輸入，確保模型無法辨識任何個資
- D僅設定模型回覆時不顯示用戶姓名，即可視為隱私防護完成
看正解與逐選項詳解
正解:A
正確答案:(A)
【正解解析】
個資保護應從源頭落實:訓練前先對資料進行匿名化(Anonymization)或偽匿名化(Pseudonymization),移除或替換可識別個人的資訊,使模型自始學不到真實個資;再配合輸出內容稽核機制(個資偵測、過濾與紀錄)形成雙重防線。此作法符合個資法的資料最小化原則與 Privacy by Design 精神,也是生成式 AI 治理實務上可落地的標準做法,故 (A) 正確。
【為何其他選項錯了?】
- (B):強化學習微調只能降低模型輸出個資的傾向,個資仍儲存於模型參數中,可能被惡意設計的提示誘導而洩漏;僅靠此法不符合源頭治理的法遵要求。
- (C):同態加密保護的是運算過程中資料不被窺見,模型仍會將內容學入參數;且對大型語言模型的完整訓練流程施作同態加密,現階段運算成本過高而不可行。
- (D):僅設定不顯示姓名,電話與交易資訊仍可能被生成,模型內部依然保有個資,屬表面遮蔽而非實質的隱私防護。
提示:生成式 AI 個資防護採雙重防線:訓練前去識別化(源頭)加上輸出稽核(出口),缺一不可。
某醫院計劃導入一套AI醫療影像診斷輔助系統，用於輔助放射科醫師判讀 CT影像。院方技術委員會討論在人命攸關且需確保最終臨床決策責任由人類承擔的情境下，從系統設計架構層面，最關鍵的安全機制為何？
- A採用人機協作（Human-in-the-Loop, HITL）架構，由醫師最終審核決策
- B模型信心低於閾值（Threshold）即自動關機
- C隨機切換模型並以多數決決策
- D對輸入影像加入隨機擾動
看正解與逐選項詳解
正解:A
正確答案:(A)
【正解解析】
題幹給定兩個關鍵條件:應用場景人命攸關,且最終臨床決策責任必須由人類承擔。系統架構層面能同時滿足兩者的是人機協作(Human-in-the-Loop, HITL)設計:AI 產出判讀建議與標註,放射科醫師負責審核、修正並做成最終決定,人類始終位於決策迴路之內,AI 定位為輔助工具。此架構同時提供安全防線,模型出錯時由醫師攔截,錯誤不會直接轉化為臨床行動;這也是各國醫療 AI 法規對輔助診斷軟體的基本要求,故 (A) 正確。
【為何其他選項錯了?】
- (B):信心值低於閾值即自動關機,會使系統頻繁停止服務,醫師連參考資訊都無法取得;合理設計是將低信心案例轉交人工優先判讀,而非停機。
- (C):隨機切換模型並以多數決決策,輸出缺乏一致性與可追溯性,責任歸屬更加模糊,不符合臨床決策的問責要求。
- (D):對輸入影像加入隨機擾動屬對抗訓練或隱私保護的技術手段,置於臨床推論流程只會降低影像品質,與「人類承擔最終決策責任」的要求無關。
提示:高風險醫療 AI 的設計原則是人在迴路(HITL):AI 提供建議,人類做最終決定並承擔責任。