階段 4 深度學習

進入 AI 工程師的核心戰場:親手訓練神經網路,而且看得懂它為什麼學得好、為什麼學壞,能調參也能錯誤分析。

這一階段學什麼

• PyTorch/TensorFlow 擇一:張量操作、自動微分與訓練迴圈 — 前向傳播、算損失、反向傳播、更新權重。
• CNN:卷積如何抽取影像特徵,從小網路開始理解層層堆疊的邏輯。
• Transformer 入門:注意力機制(Attention)的直覺 — 它是階段 5 所有大型語言模型的地基。
• Optimizer 與調參:SGD、Adam 與學習率排程;搭配錯誤分析,分辨欠擬合、過擬合、資料有問題三種病。

為什麼是現在學

階段 2 的梯度、階段 3 的訓練評估流程,在這裡合體成完整的深度學習實戰。沒有這一站的訓練直覺與 Transformer 概念,階段 5 用 LLM 時你只能當黑盒使用者,出了問題無從下手。

怎麼練(具體行動)

1. 用全連接網路做 MNIST 手寫辨識,先跑通訓練迴圈。
2. 換 CNN 挑戰 CIFAR-10,實驗資料增強與 Dropout 對過擬合的影響。
3. 每次實驗記錄訓練與驗證曲線,練習從曲線形狀診斷問題。
4. 讀一篇 Transformer 圖解文章,手畫一張注意力機制流程圖。

完成標準

• 完成一個影像或文字深度學習專題,附訓練曲線與錯誤分析。
• 看到「訓練損失降、驗證損失升」,能立刻說出診斷與至少兩種對策。

⚠️ 常見誤區:一開始就上大模型大資料 — 先在小資料把流程跑通,運算資源才不會燒在低級錯誤上。