深度學習知識地圖 · 深度學習

深度學習

Deep Learning

在互動地圖中開啟 回深度學習知識地圖

觀念教學

深度學習(Deep Learning)不是魔法,而是「把很多層神經網路疊起來,讓機器自己學特徵」的一套方法。這張分頁的所有節點,都是它的家族成員。

核心觀念

先破除最大迷思:深度學習不是第四種學習範式。監督式、非監督式、強化學習是「學習方式」;深度學習是一類模型與表示法,三種範式都能套用 — 監督式的影像分類、非監督式的自編碼器、強化學習的 AlphaGo,底層都是深度神經網路。「深」指隱藏層多,能逐層自動學出特徵,省掉傳統機器學習的手工特徵工程。

什麼時候贏過傳統機器學習

資料量大、且非結構化(影像、語音、文字)時,深度學習表現優於傳統機器學習;資料少或表格資料,傳統模型往往又快又準。這條分界線,是選型題的靈魂。

白話理解

傳統機器學習像請專家先把食材切好調好(特徵工程)再下鍋;深度學習像全能主廚,整籃食材直接丟進去,自己拆出層層風味。代價是胃口大(要海量資料)、爐火貴(要 GPU 算力)。

這張地圖怎麼逛(指標跟著任務走)

  • 基礎架構:ANN/MLP、激活函數、損失函數、梯度下降;訓練時盯 Loss 值與驗證損失、調學習率、顧收斂速度、防梯度消失問題
  • 視覺家族:CNN、YOLO、影像分割、OCR、ViT;指標從準確率、F1-Score、Top-1 與 Top-5 Accuracy、ImageNet 準確率,到 mAP、IoU、FPS、Dice Coefficient、CER 與 WER
  • 序列與語言:RNN 到 BERT;看 Perplexity、Accuracy、BLEU、ROUGE,RAG 應用再看 Retrieval Accuracy、Context Recall、Recall@K 與 Human Eval
  • 生成式 AI:VAE、GAN、Diffusion;看重建誤差、KL 散度、ELBO、FID、IS、LPIPS、CLIP Score
  • 深度強化學習:DQN 到 Actor-Critic;看累積獎勵、成功率、Q 值收斂曲線,PPO 家族再看 Clip 比例與價值損失
🎯 口訣:深度學習是模型不是範式;資料大又非結構化,它才真正發威。

iPAS 考點

歷屆直球:「關於深度學習,下列敘述何者最為正確?」正解方向:它是機器學習的分支,可套用於監督式、非監督式與強化學習,擅長大量非結構化資料。三個必殺陷阱:「深度學習是與監督式並列的第四種學習範式」錯;「深度學習在任何情況都優於傳統機器學習」錯,小資料與表格資料未必;「深度學習不需要訓練資料」錯得離譜。抓住「模型 vs 範式」「資料量與型態」兩把刀,這題穩拿。

📝 本節掛載 1 題 iPAS 歷屆試題 — 讀完往下到「iPAS 考題練習」直接實戰。

應用場景

函數逼近模式識別簡單分類問題回歸預測非線性映射神經元觸發控制模型優化目標權重更新模型訓練影像分類人臉辨識醫學影像分析即時物件偵測自動駕駛監控系統機器人視覺醫學影像分割車道線/行人偵測去背/背景替換車牌辨識文件數位化票據辨識證件掃描物件偵測圖像分割自然語言處理機器翻譯文本生成大型語言模型序列建模語音辨識時間序列預測文本分類情感分析問答系統命名實體識別ChatGPT程式碼生成對話系統企業知識庫問答語意搜尋降維/特徵學習異常檢測圖像生成風格轉換超解析度資料增強AI 繪圖圖像編輯影片生成Atari 遊戲機器人控制推薦系統OpenAI Five遊戲 AI

評估指標

損失函數準確率驗證損失梯度消失問題Loss 值收斂速度學習率F1-ScoreTop-5 AccuracymAPIoUFPSDice CoefficientCERWERTop-1 AccuracyImageNet 準確率PerplexityLossBLEUAccuracyROUGEHuman EvalRetrieval AccuracyContext RecallRecall@K重建誤差KL 散度ELBOFIDISLPIPSCLIP Score累積獎勵成功率Q 值收斂曲線Clip 比例價值損失

iPAS 歷屆考題詳解(2 題)

先自行作答,再展開詳解。題目出處均為 iPAS AI 應用規劃師正式考題,著作權屬原主辦單位。

115年第二次初級AI應用規劃師第一科人工智慧基礎概論 第21題

關於深度學習(Deep Learning),下列敘述何者最為正確?

  1. A深度學習模型通常需要人工設計特徵,以提升模型表現;
  2. B深度學習主要應用於資料壓縮與特徵轉換,較少用於預測任務;
  3. C深度學習透過多層神經網路,能自動從大量資料中學習抽象特徵;
  4. D深度學習模型通常不需要大量資料即可達到良好效果,適合資料量有限的情境
看正解與逐選項詳解

正解:C

正確答案:(C) 【正解解析】 深度學習(Deep Learning)以多層神經網路從大量資料中逐層學習特徵表示:低層學到邊緣、紋理等低階特徵,高層逐步組合出物件、語意等抽象特徵,不必完全仰賴人工特徵設計。「多層神經網路自動學習抽象特徵」正是深度學習與傳統機器學習最主要的區別,選項 (C) 敘述正確。 【為何其他選項錯了?】 - (A):需要人工設計特徵是傳統機器學習的特點;深度學習的優勢之一正是自動特徵學習,毋須仰賴人工特徵工程。 - (B):深度學習廣泛應用於預測、分類、生成與決策等任務,並非主要用於資料壓縮與特徵轉換。 - (D):深度學習通常需要大量資料與運算資源才能發揮效果;資料量有限時容易過擬合,不一定適合。 提示:深度學習的關鍵詞:多層神經網路、大量資料、自動學習抽象特徵。
114年第二梯次中級AI應用規劃師第一科人工智慧技術應用與規劃 第21題

在多模態 AI 模型訓練或推論過程中,遇到某一模態資料缺失(例如僅有影像資料但缺少文本說明),下列哪一種策略最有效維持模型效能?

  1. A以零向量或固定向量填充缺失模態輸入
  2. B訓練具備模態缺失感知能力的模型,使其適應缺失狀況
  3. C利用生成模型(如 GAN 或自迴歸模型)預測並補全缺失模態資料
  4. D直接捨棄缺少模態的樣本,避免干擾訓練或推論
看正解與逐選項詳解

正解:B

正確答案:(B) 【正解解析】 多模態系統在實務中經常遇到某一模態缺席(例如僅有影像而缺少文本說明)。最穩健的策略是讓模型在訓練階段就具備模態缺失感知能力:例如以模態隨機丟棄(Modality Dropout)模擬缺失情境,或設計具缺失感知的融合機制,使模型學會在各種模態組合下運作。如此推論時遇到缺失仍能維持效能,泛化能力也最佳。 【為何其他選項錯了?】 - (A):以零向量或固定向量填充,模型可能將填充值視為真實訊號,引入系統性偏差,效果不穩定。 - (C):以生成模型補全缺失模態是可行方向,但補全品質難以保證,生成誤差會傳遞至下游任務,推論成本也顯著增加,不如讓模型本身具備耐缺失能力。 - (D):直接捨棄缺失樣本會浪費大量訓練資料;推論階段面對缺失輸入更無法拒絕處理,此策略不可行。 提示:與其事後填補或捨棄,不如在訓練階段納入缺失情境,建立模態缺失感知能力。

相關節點