AI 方法論知識地圖 · 部署與維運
監控與維護
Data Drift, Concept Drift
觀念教學
模型上線不是畢業,是入伍 — 真實世界天天在變,沒人監控的模型會無聲無息地爛掉。
核心觀念
模型上線後效能會隨時間衰退(Model Decay),主因是「世界變了」,分兩種:資料漂移(Data Drift)是輸入特徵分布 P(X) 改變、但 X 對 Y 的關係不變(新客群湧入、季節變化);概念漂移(Concept Drift)是 X 與 Y 的關係 P(Y|X) 本身改變(疫情改變消費行為、詐欺手法翻新),俗稱「答案變了」,最難救。偵測到漂移,就要啟動重新訓練機制。
白話理解
電商購買預測模型:上線半年後消費趨勢轉變,「長時間停留 = 高購買意願」這條規律不再成立 — 概念漂移(規則變了)。若只是檔期湧入大量新客、輸入分布改變但規律照舊 — 資料漂移(輸入變了)。
監控什麼、怎麼救
- 四個監控面向:資料品質(缺失/異常)、預測分佈差異、模型效能指標(準確率/延遲)、流量與資源
- PSI(族群穩定性指標):量化輸入或預測分布的偏移程度,超過警戒值就示警
- 代理訊號:真實標籤常延遲取得,先用預測分布變化提早預警
- 再訓練策略:定期排程(每週/月)或觸發式(偵測到漂移自動啟動),觸發式更省算力、更即時
- 安全換模型:重訓後先 A/B 測試或影子模式驗證,漸進上線,保留一鍵回滾
- Training-Serving Skew:訓練與線上服務的特徵處理不一致,離線分數對不上線上表現 — 前處理管線要共用同一套
🎯 口訣:輸入變了是資料漂移,答案變了是概念漂移;PSI 響了就該重練。
iPAS 考點
真題就是「情形甲/情形乙」分辨題:消費趨勢轉變、使用者行為與購買之間的關係改變 → 概念漂移;只是輸入分布改變、關係沒變 → 資料漂移。判斷心法:盯著「變的是 X,還是 X 到 Y 的規則」。延伸考再訓練時機(觸發式 vs 定期)與 A/B 測試的目的 — 離線指標好,不等於線上商業指標好。
📝 本節掛載 1 題 iPAS 歷屆試題 — 讀完往下到「iPAS 考題練習」直接實戰。
應用場景
評估指標
iPAS 歷屆考題詳解(6 題)
先自行作答,再展開詳解。題目出處均為 iPAS AI 應用規劃師正式考題,著作權屬原主辦單位。
某電商平台建置機器學習模型,用於預測用戶在瀏覽特定商品後的購買機率。 模型上線初期表現穩定,但維運團隊在定期審查中發現兩種不同情形: 情形甲:模型上線半年後恰逢消費趨勢轉變,過去高購買意願的用戶行為模式 (如長時間停留商品頁)不再是強烈的購買訊號,即便輸入特徵分布與訓練期相近,模型預測準確率仍明顯下降。 情形乙:平台新增了行動裝置端的入口,新用戶的年齡分布、裝置類型與使用時段特徵與原訓練資料差異顯著,導致模型對這批用戶的預測偏差增大。 下列哪一項最能正確對應兩種情形所屬的模型劣化類型?
- A甲為資料漂移(Data Drift)、乙為概念漂移(Concept Drift);
- B甲為概念漂移(Concept Drift)、乙為資料漂移(Data Drift);
- C甲為模型過擬合(Overfitting)、乙為資料漂移(Data Drift);
- D甲與乙均屬概念漂移(Concept Drift),因為兩者都導致模型預測準確率下降
看正解與逐選項詳解
正解:B
某企業已將 AI模型部署於生產環境,為確保系統持續穩定運作,並能提前偵測模型效能可能衰退,技術團隊希望透過監控指標進行預警。下列哪一項監控指標最具預測效力,能提早發現模型效能下滑風險?
- A系統CPU 與記憶體使用率波動幅度
- B模型推論結果的置信度(Confidence)分佈變化趨勢
- CAPI平均回應時間與延遲百分位數變化
- D輸入特徵與訓練資料分布差異的 PSI(Population Stability Index)指數
看正解與逐選項詳解
正解:D
某企業的AI 模型已部署於線上服務環境中,用於即時預測顧客流失機率。近期團隊注意到模型預測準確率逐漸下降,但系統運作正常且未出現錯誤訊息。經分析發現,近期輸入資料的分布與模型訓練資料相比出現顯著偏移。若要在 MLOps流程中主動偵測並預警此類問題,最應採用下列哪項措施?
- A建立即時的資料漂移(Data Drift)與概念漂移(Concept Drift)監測機制
- B將模型轉換為量化版本以降低延遲
- C增加模型超參數調整次數以強化適應性
- D使用固定隨機種子(Random Seed)確保訓練穩定
看正解與逐選項詳解
正解:A
某保險公司將理賠金額預測模型正式部署上線,MLOps 團隊設計監控機制。三個月後模型整體均方根誤差(RMSE)無明顯變化,但業務單位反映高額理賠案件的預測誤差明顯增加。經分析,高額理賠案件僅佔約 5%的樣本比例,且未被監控機制及時發現。請問最可能的設計缺陷為何?
- A監控頻率不足,應由每日批次監控改為即時串流監控
- B高額理賠案件屬於長尾分布,難以透過監控指標偵測,因此無法透過監控機制發現問題
- CRMSE 無法有效反映高額誤差,應改以平均絕對誤差(MAE)作為主要監控指標
- D僅監控整體 RMSE,未針對不同理賠金額區間進行分群監控
看正解與逐選項詳解
正解:D
某銀行的信用卡風控模型已穩定上線一年,主要用於偵測盜刷交易提醒。近期在未對模型或特徵工程進行調整的情況下,系統觀察到深夜電商交易的核准率明顯上升,盜刷攔截率下降,但模型 AUC 幾乎維持不變,且交易金額、地區與裝置等特徵分布未出現明顯變化。進一步分析發現,疫情後使用者行為改變,使原本被視為高風險的交易型態逐漸轉為一般消費。下列何者最能敘述此現象的原因?
- A資料漂移(Data Drift),因輸入特徵分布發生變化
- B訓練與服務偏差(Training-Serving Skew),因線上與離線特徵處理不一致
- C概念漂移(Concept Drift),因特徵與目標標籤之間的關聯性改變
- D決策閾值偏移(Threshold Shift),因分類門檻設定不當導致預測偏差
看正解與逐選項詳解
正解:C
某零售電商平台已建立模型監控儀表板,用於追蹤線上推薦模型的運作狀態與效能表現。維運工程師需判斷哪些指標屬於「線上持續監控(Continuous Monitoring)」的範疇。下列指標中,哪一項最不適合在即時監控系統中追蹤,而應改由離線實驗追蹤系統管理?
- A訓練實驗中每個 Epoch 的學習率(Learning Rate)變化曲線與超參數(Hyperparameter)設定軌跡
- B線上推論 API的P50/P95/P99 回應延遲與每日請求量(RPS)趨勢
- C輸入特徵分佈的族群穩定性指數(Population Stability Index, PSI),偵測資料漂移
- D模型預測結果分佈(如 CTR)與定期回收的人工標註結果之對比
看正解與逐選項詳解
正解:A