AI 方法論知識地圖 · 部署與維運

MLOps

ML Operations

在互動地圖中開啟 回AI 方法論知識地圖

觀念教學

模型躺在 notebook 裡不會產生價值 — MLOps 就是把「一次性的實驗」變成「持續運轉的服務」的工程紀律。

核心觀念

MLOps(Machine Learning Operations)結合 ML、DevOps 與 Data Engineering,把「資料 → 訓練 → 部署 → 監控 → 再訓練」做成自動化、可重現、可監控的閉環,確保模型能穩定部署、持續監控並自動化迭代。比傳統 DevOps 多出的關鍵一環是 CT(持續訓練):監控發現退化,自動觸發再訓練。

白話理解

零售推薦模型剛上線很準,三個月後消費行為變了、效能悄悄衰退。沒有 MLOps 的團隊靠人工發現、手動重訓、手動部署,一趟拖數週;有 MLOps 的團隊由監控自動示警、管線自動重訓驗證上線。模型不只「活著」,還「保鮮」。

核心組件

  • 版本控管:資料、模型、程式三者都要版本化,存入模型註冊表(Model Registry),可追溯、可回滾
  • CI/CD/CT:持續整合、持續交付、持續訓練,三個「持續」串成閉環
  • 自動化管線:特徵處理到部署一條龍,消滅不可重現的手工步驟
  • 監控:效能指標、漂移、流量與資源
  • 成熟度看得見:部署頻率上升、服務可用性穩定,模型迭代週期從「季」縮到「週」
🎯 口訣:MLOps = ML + DevOps + 一個會自己回鍋重練的迴圈(CT)。

iPAS 考點

考定義題:「結合機器學習與 DevOps,實現自動化部署、持續監控與再訓練」→ MLOps。考組件歸位:模型註冊表、版本控管、自動化管線都屬 MLOps 範疇。易混淆:DevOps 只管程式碼的生命週期,MLOps 還要多管資料與模型的生命週期 — 陷阱選項常漏掉「持續訓練」這個 MLOps 獨有的環節。

應用場景

自動化部署模型監控持續整合

評估指標

部署頻率服務可用性

iPAS 歷屆考題詳解(3 題)

先自行作答,再展開詳解。題目出處均為 iPAS AI 應用規劃師正式考題,著作權屬原主辦單位。

114年第二梯次中級AI應用規劃師第一科人工智慧技術應用與規劃 第15題

在企業導入的 MLOps(Machine Learning Operations)流程中,Model Registry 最常用於哪一個階段?

  1. A用於設定運算資源與執行環境以確保訓練穩定
  2. B用於建立可重複使用的資料與特徵版本
  3. C用於集中管理模型版本、訓練紀錄與部署狀態
  4. D用於追蹤模型上線後的表現與漂移情況
看正解與逐選項詳解

正解:C

正確答案:(C) 【正解解析】 Model Registry(模型註冊庫)是 MLOps 流程中集中管理模型資產的元件:登錄每一個模型版本、關聯其訓練紀錄與評估指標、標記所處階段(如 Staging、Production、Archived),並控管簽核與部署狀態。它銜接訓練與部署兩端,讓團隊能隨時掌握線上運行的是哪一版模型、該版本由哪次訓練產生,故 (C) 正確。 【為何其他選項錯了?】 - (A):設定運算資源與執行環境屬基礎設施與資源編排工具(如 Kubernetes、雲端資源配置)的職責,不是 Model Registry 的功能。 - (B):資料與特徵的版本管理屬於 Feature Store 或資料版本控制工具(如 DVC)的範疇;Model Registry 管理的對象是模型,不是資料與特徵。 - (D):追蹤模型上線後的表現與漂移(Drift)是模型監控(Model Monitoring)系統的工作;Registry 記錄部署狀態,但不負責線上效能監測。 提示:Registry 管模型版本與部署狀態,Feature Store 管特徵,Monitoring 管上線後表現,三者職責分明。
115年第一次中級AI應用規劃師第一科人工智慧技術應用與規劃 第22題

某金融科技公司計劃建立完整的 AI 開發到維運流程,希望實現「模型訓練→測試→部署→監控→再訓練」的自動化流程串接,並確保線上模型的版本可追溯。技術主管建議引入 MLOps 框架。MLOps 在此 AI 開發生命週期中的核心角色為何?

  1. A專注於訓練資料的標註與品質控管,以提升模型訓練效果
  2. B透過自動化模型搜尋與參數調整,降低模型開發門檻
  3. C建立機器學習流程的自動化與版本管理機制,支援模型部署、監控與持續更新
  4. D確保模型在部署後維持穩定效能,減少後續維運與更新需求
看正解與逐選項詳解

正解:C

正確答案:(C) 【正解解析】 MLOps 的核心定位是把機器學習生命週期工程化:將訓練、測試、部署、監控、再訓練整條流程自動化串接(CI/CD/CT,持續整合、持續交付、持續訓練),並對模型、資料、程式碼與環境進行版本管理,確保線上任何一版模型都能追溯至產生它的資料、程式與參數。題幹要求的「自動化流程串接」與「版本可追溯」,正是 MLOps 的兩項核心能力,故 (C) 正確。 【為何其他選項錯了?】 - (A):訓練資料的標註與品質控管屬資料管理範疇,是 MLOps 銜接的上游環節,並非 MLOps 的核心定位。 - (B):自動化模型搜尋與參數調整是 AutoML 的功能,關注模型如何產生;MLOps 關注的是模型產生後如何可靠地部署、監控與迭代。 - (D):MLOps 並不保證部署後效能穩定、維運需求減少;其前提正是模型效能會隨時間退化,因此把監控與持續更新建成常態化流程。 提示:MLOps 的兩個關鍵詞:自動化管線與版本可追溯;AutoML 管建模,資料標註屬上游環節。
115年第一次中級AI應用規劃師第二科大數據處理分析與應用 第31題

某公司中,A團隊負責信用評分模型,B 團隊負責詐欺偵測模型,兩團隊皆需要「使用者過去30天交易行為」資料,但各自會進行特徵工程與後續工作。以公司整體管理角度,下列何者為導入統一管理與共用特徵的主要目的?

  1. A模型推論延遲過高,導致線上服務回應時間不符合系統即時性需求與使用體驗要求
  2. B降低跨團隊重複開發的維護成本
  3. C訓練資料儲存空間不足,造成歷史資料保存與批次訓練流程效率下降問題
  4. D模型版本管理混亂,導致不同模型部署與回溯分析困難並增加維運複雜度
看正解與逐選項詳解

正解:B

正確答案:(B) 【正解解析】 兩個團隊都需要「使用者過去 30 天交易行為」特徵,若各自擷取資料、各寫一套特徵工程,同一特徵會存在兩份程式碼與兩條管線,計算口徑可能不一致,且每次資料源變動都須修改兩處。導入統一管理與共用特徵(即特徵平台或 Feature Store 的概念),讓特徵一次開發、多團隊重用,主要目的正是降低跨團隊重複開發與維護成本,並附帶確保特徵口徑一致。題目問公司整體管理角度,重點即在成本與重工,故 (B) 正確。 【為何其他選項錯了?】 - (A):推論延遲屬模型服務與基礎設施的效能議題;線上特徵庫或許間接有助於延遲,但不是導入共用特徵的主要動機。 - (C):儲存空間不足屬容量規劃問題,應以擴充儲存或資料生命週期管理解決,與特徵共用的目的無關。 - (D):模型版本管理混亂應以模型註冊庫(Model Registry)與 MLOps 流程解決;特徵共用處理的是特徵層,不是模型版本問題。 提示:Feature Store 的核心價值:特徵一次定義、跨團隊重用、訓練與線上口徑一致,節省重複開發與維護成本。

相關節點