學習路線圖 · AI應用規劃師中級

階段 3 系統部署

數據準備(ETL/特徵工程);模型選擇;系統集成(API/容器化)與部署(雲端/邊緣計算)。

在互動地圖中開啟 回學習路線圖

觀念教學

規劃書要落地,階段 3 練的是把 AI 從筆電上的模型變成企業裡的系統:資料、模型、整合、部署四關全通。

這一階段學什麼

  • 數據準備:ETL 流程(抽取、轉換、載入)與特徵工程,把髒資料整理成模型吃得下的格式
  • 模型選擇:依需求、資料量與資源限制挑模型,而不是永遠選最大最新
  • 系統集成:用 API 把模型服務接進既有系統,用 Docker 容器化確保環境一致
  • 部署策略:雲端與邊緣計算的取捨 — 延遲敏感、頻寬受限或資料不能離廠的場景往邊緣放
  • 端到端架構:從資料源到使用者介面,畫得出完整系統架構圖

為什麼是現在學

階段 2 的規劃書定義了「做什麼」,這一階段回答「怎麼做出來」;沒有部署觀念,規劃就停在簡報。它同時是階段 4 大數據與機器學習深化的實作場景 — 先懂系統全貌,再深挖演算法,才不會見樹不見林。

怎麼練(具體行動)

  1. 替階段 2 的規劃案畫一張系統架構圖:資料流、模型服務、API、部署位置
  2. 動手做一次小型 ETL:從檔案抽資料、清洗轉換、載入資料庫
  3. 把一個簡單模型包成 API,再用 Docker 容器化跑起來
  4. 寫一頁「雲端 vs 邊緣」比較:各列三個適用場景與限制

完成標準

  • 能建構端到端框架:從資料進到預測出,每一段都說得出用什麼技術(呼應里程碑:建構端到端框架)
  • 交得出一張禁得起追問的系統架構設計圖
  • 能依場景正確判斷該上雲端還是放邊緣
⚠️ 常見誤區:只練模型不練管線 — 考題與實務都常考 ETL 與部署選型,模型只是整個系統的一小塊。

系統部署是中級情境題的高頻考區:給場景選架構,答案永遠藏在需求限制裡。

里程碑

✓ 建構端到端框架

範例專題

系統架構設計

應用場景

ETLAPI串接Docker雲端/邊緣部署

iPAS 歷屆考題詳解(3 題)

先自行作答,再展開詳解。題目出處均為 iPAS AI 應用規劃師正式考題,著作權屬原主辦單位。

114年第二梯次中級AI應用規劃師第一科人工智慧技術應用與規劃 第23題

某大型醫院即將部署一套輔助診斷的 AI系統,為降低對臨床流程的衝擊,同時確保風險可控與回饋可收斂,應採取何種『漸進式部署』(Phased Rollout)策略最為合適?

  1. A從單一專科(如放射科)或特定病房開始啟用,逐步擴展至全院
  2. B先部署於病例量較高的急診單位,加速收集高頻使用回饋
  3. C僅在夜班或離峰時段啟用,避免影響主要臨床工作負載
  4. D在使用者界面啟用提示模式,讓全院同步體驗但不影響診斷流程
看正解與逐選項詳解

正解:A

正確答案:(A) 【正解解析】 漸進式部署(Phased Rollout)的原則是小範圍先行、風險可控、回饋收斂後再擴大。從單一專科(如放射科)或特定病房開始啟用,使用者群體固定、案例類型集中,回饋容易歸因與收斂;若系統出現問題,影響範圍也被限制在小場域內。驗證穩定後再逐步擴展至全院,是醫療這類高風險場域導入 AI 系統的標準路徑,故 (A) 正確。 【為何其他選項錯了?】 - (B):急診病例量大、時間壓力高、病況複雜,首階段即部署於急診,等於將風險最高的流程當作試驗場;高頻回饋雖多但情境混雜,難以歸因,風險亦不可控。 - (C):僅在夜班或離峰時段啟用,樣本量少且情境偏頗,無法收集具代表性的回饋,後續擴展的決策依據薄弱。 - (D):全院同步體驗即使僅是提示模式,本質仍是一次性全面上線,違背漸進式部署的風險隔離原則;一旦系統有誤,影響範圍及於全院。 提示:漸進式部署的判斷要點:試點範圍小、回饋可歸因、風險可隔離,驗證後再逐步擴大。
115年第一次中級AI應用規劃師第一科人工智慧技術應用與規劃 第20題

某電商公司計畫導入即時推薦系統,希望使用者進入網站後能在 100毫秒內取得推薦結果,且推薦結果需依據最新使用者行為進行調整。系統需支援每日約 50萬活躍使用者,尖峰時段每秒約 3,000筆請求(QPS)。目前公司已累積歷史購買紀錄與瀏覽行為資料,並持續接收即時點擊流(Streaming Data)。IT基礎架構採用雲端環境,團隊配置為 2名資料工程師與 1名機器學習工程師。某工程師提出以下導入規劃:(1)使用批次訓練(Batch Training)建立協同過濾模型(2)將模型部署為 REST API 提供即時推論服務(3)使用 Kafka串流處理即時使用者行為特徵(4)將所有即時資料先寫入資料倉儲(Data Warehouse)再進行特徵計算(5)使用 Redis 或Feature Store快取即時特徵請問以下哪一項最合理的技術導入規劃組合與調整建議?

  1. A保留(1)(2)(3),移除(4),並加入(5)以降低延遲
  2. B保留(1)(4),移除(3),以確保資料一致性與系統穩定
  3. C保留(2)(4)(5),移除(1),改用即時線上學習(Online Learning)
  4. D全部保留(1)~(5),可同時兼顧即時性與資料完整性
看正解與逐選項詳解

正解:A

正確答案:(A) 【正解解析】 需求拆解:100 毫秒內回應、尖峰 3,000 QPS、推薦需反映最新使用者行為、團隊僅 2 名資料工程師與 1 名機器學習工程師。合理架構為:(1) 批次訓練協同過濾模型,模型不必即時重訓;(2) 以 REST API 提供即時推論;(3) 以 Kafka 串流處理即時行為特徵;(5) 以 Redis 或 Feature Store 快取即時特徵,使推論時能以毫秒級取得特徵。而 (4) 要求所有即時資料先寫入資料倉儲再計算特徵,等於把資料倉儲放進即時路徑:資料倉儲是為分析查詢設計,寫入再讀出的延遲遠超過 100 毫秒的預算,必須移除,改走 Kafka 經特徵計算到快取的即時路徑;資料倉儲保留給離線訓練與分析。故 (A) 正確。 【為何其他選項錯了?】 - (B):移除 Kafka 即失去即時行為特徵來源,「依據最新使用者行為調整」的需求無法達成,推薦只能依賴批次更新的舊資料。 - (C):線上學習(Online Learning)在模型穩定性、回滾與監控上的維運複雜度高,3 人團隊難以負擔;批次訓練搭配即時特徵已能滿足題幹需求,不必引入更高風險的方案。 - (D):全部保留代表 (4) 的高延遲路徑仍在服務鏈上,100 毫秒的回應要求無法達成;(4) 與 (3)(5) 的即時設計互相衝突,並非兼顧。 提示:即時路徑走串流與快取,資料倉儲留在離線層;把資料倉儲放進即時服務路徑是常見的架構錯誤。
115年第一次中級AI應用規劃師第一科人工智慧技術應用與規劃 第45題

某AI平台整合多個外部 AI微服務(語音辨識 API、NLP 分析API、知識圖譜查詢服務),在高峰期間某外部服務偶發延遲或逾時(Timeout),導致請求鏈路壅塞,最終造成平台級服務中斷(Cascading Failure)。為從架構層面預防此類連鎖故障,最有效的設計模式為何?

  1. A將所有外部 API 呼叫改為同步串行處理,並取消逾時限制,確保每個請求皆完成後再繼續
  2. B為外部服務導入斷路器模式(Circuit Breaker),在異常時暫停呼叫並提供替代回應
  3. C擴充各微服務的執行緒池(Thread Pool)上限,以提升併發處理能力
  4. D停用服務健康檢查,減少不必要的額外負載
看正解與逐選項詳解

正解:B

正確答案:(B) 【正解解析】 連鎖故障(Cascading Failure)的機轉:某外部服務逾時,呼叫端的執行緒與連線被長時間佔用,請求持續堆積導致資源耗盡,故障沿呼叫鏈向上蔓延,最終造成平台級中斷。斷路器模式(Circuit Breaker)正是對應的架構解方:持續監測外部呼叫的失敗率與逾時率,超過門檻即進入斷開(Open)狀態,後續請求快速失敗並改走降級方案(如回傳快取結果或預設回應),不再等待故障服務;經過冷卻期進入半開(Half-Open)狀態試探,確認服務恢復後才閉合放行。故障因此被隔離在單一依賴,不會拖垮整個平台,故 (B) 正確。 【為何其他選項錯了?】 - (A):改為同步串行並取消逾時限制,代表每個請求都必須等待故障服務回應,壅塞會從局部升級為全面凍結,與預防連鎖故障的目標完全相反。 - (C):擴充執行緒池只是讓更多執行緒卡在同一個故障服務上,僅延後資源耗盡的時間,未解決故障隔離的根本問題。 - (D):停用健康檢查會失去故障偵測與自動摘除異常節點的能力,系統對故障的反應更慢,反而擴大連鎖故障的風險。 提示:外部依賴的防護組合:逾時控制、斷路器快速失敗、降級回應;核心觀念是故障隔離,避免沿呼叫鏈擴散。

相關節點