AI 幻覺與評測

LLM 最危險的不是「不會」,而是「不會還講得跟真的一樣」— 這就是幻覺,生成式 AI 落地的頭號風險。

核心觀念

幻覺(Hallucination)= LLM 自信地產生看似合理、實則錯誤或虛構的內容。根源在訓練目標:模型學的是「預測最可能、最流暢的下一個字」,不是說真話;它也沒有「我不知道」的機制,遇到知識缺口就順著語感編下去。

白話理解

金融客服機器人被問「這檔基金去年配息幾次」,資料庫裡沒有,它卻流暢答出「四次,分別在…」— 語氣越自然越危險。法律場景更經典:引用根本不存在的判決字號,不查證完全看不出破綻。

緩解手段

• RAG 接地:先檢索文件再回答,把答案綁在真實資料上 — 最有效的一招
• 允許棄答(可以說不知道)、要求附上引用來源
• RLHF 對齊誠實(3H 的 Honest)
• 降低溫度只能減少隨機亂跳,補不上知識缺口 — 治標不治本
• 評估指標:幻覺率、事實一致性

延伸:LLM-as-Judge

用強模型當評審,自動評分其他模型的輸出 — 便宜、快、可規模化。但評審自帶三種偏誤:位置偏誤(偏袒先出現的答案)、長度偏誤(偏愛長回答)、自我偏好(偏愛自家文風)。去偏作法:雙向評測(交換順序再評一次)、訂明確評分準則、多評審並以人工校準(用人工一致度驗證評審可信)。

🎯 口訣:流暢不等於真實 — 根治靠 RAG,省錢評測靠 Judge,但 Judge 自己也要被審。

iPAS 考點

考成因 → 「訓練目標是預測下一個字,不是事實查核」。考最有效緩解 → RAG;陷阱選項:「溫度調到零就能消除幻覺」— 只能降隨機性,補不了知識。LLM-as-Judge 考三大偏誤的辨認;「交換答案順序重評」對應的是位置偏誤。