基礎架構

不管後面的 CNN、RNN、Transformer 長得多花俏,拆開來都是同一套地基:神經元、層、激活、損失、梯度。這一區,就是深度學習的「基礎架構」。

核心觀念

主角是人工神經網路(ANN, Artificial Neural Network)與多層感知器(MLP, Multi-Layer Perceptron) — 所有深度學習模型的共同祖先。一個練得起來的神經網路,必備四個零件:網路結構(輸入層、隱藏層、輸出層)、激活函數(引入非線性)、損失函數(量化預測與答案的差距)、梯度下降與反向傳播(把誤差往回傳,逐步修正權重)。

白話理解

把訓練想成學開車:網路結構是車體,激活函數是引擎(沒有它只是台推車),損失函數是教練的評分表,梯度下降是「照評分修正動作」的練習方法。四者缺一,車就發不動。

這一區的節點怎麼逛

• ANN / MLP:看懂層與神經元怎麼疊出一張網路
• 激活函數:ReLU、Sigmoid、Softmax 各司其職
• 損失函數:回歸用 MSE,分類用 Cross-Entropy
• 梯度下降:學習率與收斂速度的拿捏
• 訓練全程盯兩個儀表:損失函數(Loss)要一路下降,準確率(Accuracy)要一路上升

🎯 口訣:結構是骨,激活是肉,損失是尺,梯度是路。

iPAS 考點

這一區是科目一的送分題倉庫:考「神經網路由哪些層組成」「激活函數的作用是什麼」「訓練時用什麼衡量誤差」。答題心法:先認出題目在問四零件的哪一件,再對號入座;陷阱選項最愛把「損失函數」與「激活函數」的功能互換描述,看清楚再選。