評估指標

Autoencoder 的工作是「壓縮再還原」,成績單就看兩件事:還原得像不像、壓出來的潛在空間乖不乖。

核心觀念

重建誤差(Reconstruction Error)衡量輸入與輸出的差異,常用 MSE,也就是輸入與重建結果逐點誤差平方的平均 — 越低,代表壓縮過程沒丟掉重要資訊。KL 散度(KL Divergence)則是 VAE 特有:衡量潛在空間分布與標準常態分布的差異,把分布拉「正」,之後取樣生成才不會亂來。

白話理解

想像託運行李。重建誤差是到站開箱,東西有沒有壓壞變形;KL 散度是內部收納有沒有照規定格式擺 — 亂塞也許還原得了,但想「隨機抽一件出來用」(生成新樣本)就會抽到怪東西。台灣製造業還有一招:用正常品訓練 Autoencoder,瑕疵品的重建誤差會飆高,這就是異常偵測。

關鍵細節

• 重建誤差(MSE):一般 Autoencoder 的唯一訓練目標
• KL 散度:VAE 才有,負責把潛在空間正則化
• ELBO(證據下界):VAE 的訓練目標,等於重建項減去 KL 項,訓練就是把 ELBO 推高
• 兩項會拉鋸:只顧重建,潛在空間會亂;KL 壓太重,重建會模糊
• 應用:重建誤差飆高 = 異常訊號,製造瑕疵檢測、金融詐欺偵測都用這招

🎯 口訣:重建看像不像、KL 看乖不乖;VAE 兩個都要,合起來叫 ELBO。

iPAS 考點

易混淆對:一般 AE 對 VAE — 只有 VAE 有 KL 散度項;題目出現「潛在空間服從常態分布」「可取樣生成新資料」就是 VAE。陷阱:把 KL 散度當成重建品質指標 — 它管分布形狀,不管還原好壞。異常偵測情境裡「重建誤差高」是抓到異常的好訊號,別誤選成模型故障。