AI 方法論知識地圖 · 治理與倫理
隱私保護技術
保護數據隱私
觀念教學
資料是 AI 的燃料,但燃料裡混著每個人的隱私。隱私保護技術讓你在保護個資的前提下,照樣把模型練起來 — 資料不需要集中,也能進行有效的機器學習。
核心觀念
隱私保護技術(Privacy-Preserving Techniques)四大家族:去識別化(De-identification)、聯邦學習(Federated Learning)(資料不集中、只傳模型更新)、差分隱私(Differential Privacy)(加可證明的雜訊,以隱私預算 ε 量化強度)、同態加密(Homomorphic Encryption)(加密狀態下仍能運算)。共同代價:模型效能可能下降、通訊成本可能上升 — 隱私與效用永遠在拔河。
白話理解
市政府用生成式 AI 做公文摘要,文件分「機密」與「一般」兩級:機密文件不得離開受控環境,就留在地端封閉環境處理;一般文件才走雲端。資料分級分流本身,就是最基本的隱私工程。
常考技術地圖
- 匿名化 vs 假名化:匿名化不可逆、無法回推;假名化(Pseudonymization)把識別欄位換成不可回推的代碼,保留跨時間追蹤同一人的能力
- 聯邦學習:資料不出本地,適合跨機構、跨裝置合作
- 差分隱私:統計輸出加雜訊,防多次查詢拼出個體
- 同態加密:資料可集中,但全程鎖著算
- 資料最小化:用不到的個資,從一開始就不要收
🎯 口訣:藏名字(去識別)、不出門(聯邦)、加雜訊(差分)、鎖著算(同態)。
iPAS 考點
三類真題方向:交通局提供刷卡資料做研究、又要保留跨時間追蹤同一乘客 → 選假名化(卡號換成不可回推代碼),直接刪除識別欄位會失去追蹤能力;公文分機密/一般 → 選依機敏等級分流,機密留在受控環境;銀行 AI 助理主動說出當次輸入沒有的客戶資產明細、且已排除入侵與資料庫異常 → 最可能是訓練資料記憶(Memorization)造成的洩漏,模型把訓練時看過的個資背了出來。判斷關鍵字:要可追蹤 → 假名化;機密不出環境 → 分級處理;模型自己吐個資 → 訓練資料洩漏。
📝 本節掛載 3 題 iPAS 歷屆試題 — 讀完往下到「iPAS 考題練習」直接實戰。
應用場景
評估指標
iPAS 歷屆考題詳解(6 題)
先自行作答,再展開詳解。題目出處均為 iPAS AI 應用規劃師正式考題,著作權屬原主辦單位。
某交通局計劃將公車乘客刷卡資料提供給學術機構進行通勤模式研究，該資料包含卡號、上下車時間、路線編號等欄位，且需保留跨時間追蹤同一乘客行為能力。為保護乘客隱私，下列哪種處理方式最符合個人資料保護法的去識別化要求？
- A將卡號欄位全部刪除，僅保留上下車時間與路線編號；
- B對卡號進行MD5 雜湊處理，並保留對照表供查詢；
- C將資料彙總為每日各路線總乘客數統計；
- D將卡號替換為隨機編號，且不保留任何對應關係
看正解與逐選項詳解
正解:D
某市政府導入生成式AI 系統進行公文摘要作業，每日需處理約500 份文件。依資安規範，其中部分文件屬「機密等級」（不得離開受控環境），其餘為「一般等級」。在確保機密資料安全之前提下，且不改變既有AI 模型能力，何種資料處理策略最為適當？
- A機密文件與一般文件皆使用相同AI 模型，但機密文件於隔離環境中處理；
- B所有文件皆先去識別化後再送入同一AI 模型進行摘要處理；
- C機密文件與一般文件採相同處理流程，以避免系統架構複雜化；
- D所有文件先壓縮後批次處理，以提升AI 模型運算效率
看正解與逐選項詳解
正解:A
某銀行導入AI 理財助理供行員查詢客戶資訊。上線後發現，系統在部分對話中主動提及特定客戶的資產規模與交易紀錄，但這些資訊並未出現在當次輸入中。經調查已排除外部入侵、資料庫存取異常與輸入觸發問題。請問下列何者最可能是此次事件的根本原因？
- A行員在查詢過程中無意間輸入了特定關鍵字，觸發系統從資料庫中調用其他客戶的完整資料；
- B模型在訓練階段過度記憶了含有真實客戶資訊的訓練資料，在特定對話情境下將這些內容重新輸出；
- C客戶行為隨市場變化改變，導致模型對敏感資訊的判斷能力下降；
- D系統在不同使用者之間短暫共享對話上下文，導致部分資訊被誤帶入其他對話流程
看正解與逐選項詳解
正解:B
某銀行計畫將信用風險評估模型部署至雲端平台，以便即時分析客戶交易行為。由於涉及大量敏感金融資料，銀行要求雲端服務商在不解密原始資料的情況下仍能執行模型運算。為達成此目標，最適合採用下列哪一項技術？
- A在上傳資料前進行匿名化(Anonymization),僅保留可識別代碼供比對使用
- B利用雜湊(Hash)函數轉換資料,以確保模型可追蹤但無法還原個資
- C採用資料本地化(Data Localization)策略,將所有模型訓練限制於內部伺服器中
- D透過同態加密(Homomorphic Encryption),讓雲端系統能直接在加密資料上執行運算,解密後結果與原始資料一致
看正解與逐選項詳解
正解:D
某金融機構將訓練好的信用評分模型開放 API 供合作夥伴查詢。資安團隊警告此設計可能遭受成員推斷攻擊（Membership Inference Attack）。下列何者最準確說明攻擊原理與對應防禦？
- A利用模型對訓練樣本的高信心輸出判斷其是否屬於訓練集；以差分隱私或降低輸出信心防禦
- B利用查詢次數與回應頻率差異判斷資料是否在訓練集中；以限制查詢次數防禦
- C透過模型輸出推測輸入的敏感特徵；以限制輸出資訊防禦
- D透過大量查詢建立替代模型模擬目標模型；以限制模型存取防禦
看正解與逐選項詳解
正解:A
某金融機構的 AI 信用評分模型需上傳至第三方雲端服務商進行推論。法務部門要求：在不解密資料的前提下，由單一雲端服務商直接對加密資料進行模型運算。下列哪種隱私保護技術最符合此需求？
- A聯邦學習（Federated Learning）
- B同態加密（Homomorphic Encryption）
- C差分隱私（Differential Privacy）
- D安全多方計算（Secure Multi-Party Computation, MPC）
看正解與逐選項詳解
正解:B