機器學習知識地圖 · 監督式學習
LDA / QDA
分類 + 監督式降維
觀念教學
LDA 既可作分類器,也可作監督式降維(利用類別資訊找最佳投影方向)。QDA 允許各類別有不同協方差矩陣。
白話說明
LDA:想像你有紅球和藍球混在一起,LDA 找一個角度把它們投影到一條線上,讓紅藍分得最開。既能分類,又能降維(100 維→2 維但保留分類資訊)。
QDA:LDA 假設紅藍球的「散佈形狀」一樣,QDA 允許不一樣(紅球圓形、藍球橢圓形),更靈活但需要更多資料。
使用場景
人臉辨識(降維+分類)、生物特徵分類、醫學診斷。
優點
LDA 一石二鳥(分類+降維)、計算快、可解釋。
缺點
LDA 假設各類別同協方差(現實常不成立);QDA 需要更多資料估計參數。