階段 2 必要數學

不是要你變數學家,而是讓 AI 工程師看到公式不再跳過:這一階段建立的是「知道模型為什麼學得動」的數學直覺。

這一階段學什麼

• 線性代數:向量、矩陣乘法與維度 — 神經網路每一層本質上就是矩陣運算,Embedding 也是向量。
• 微積分:導數與梯度的方向意義,搞懂梯度下降(Gradient Descent)為什麼往「損失變小」的方向走。
• 機率統計:分布、條件機率與期望值,理解模型輸出的「信心」是什麼,以及評估時的不確定性。
• 四個關鍵概念:梯度下降、損失函數(Loss Function)、過擬合(Overfitting)、正則化(Regularization)— 之後每個訓練任務的共同語言。

為什麼是現在學

階段 3、4 的調參與除錯全靠這裡的直覺:訓練不收斂,你要想到學習率與梯度;訓練分數高、測試分數爛,你要想到過擬合與正則化。跳過這站,之後只能玄學調參。

怎麼練(具體行動)

1. 用 NumPy 手刻一次線性回歸的梯度下降,畫出損失隨迭代下降的曲線。
2. 把學習率調大、調小各跑一次,觀察發散與收斂,寫下觀察筆記。
3. 用自己的話向朋友解釋梯度下降、損失函數、過擬合、正則化,對方能複述才算過。

完成標準

• 能白話解釋梯度下降、過擬合、損失函數、正則化,各舉一個例子。
• 手刻的梯度下降能收斂,且說得出每行程式對應公式的哪一步。

⚠️ 常見誤區:想把整本微積分讀完才前進 — AI 用到的是特定子集,夠用就先上路。