AI 幻覺（Hallucination）是指 AI 模型生成了一些聽起來很合理、很有信心，但實際上不正確或者根本不存在的資訊。
AI 不是故意說謊——它的運作方式是「預測下一個最可能出現的字」，而不是「查詢資料庫找出正確答案」。所以當它不知道答案時，有機會「創作」出一個聽起來很合理但錯誤的回答，而且說得很肯定。
這是目前所有大型語言模型（LLM）的共同弱點，包括 ChatGPT、Claude、Gemini 都不例外。
AI 模型的核心機制是「根據前文，預測下一個最可能的字」。它不會像 Google 那樣去搜尋一個真實資料庫，而是根據訓練時學到的語言模式去「接龍」。當答案不在訓練數據裡，它仍然會接出一個「語法正確、語氣肯定」的句子——但內容可能是錯的。
模型在訓練時吸收了網上大量文字，當中本身就有錯誤資訊、過期資料、或者偏見。模型會將這些都當成「知識」學進去，回答時就可能輸出錯誤內容。
大部分 AI 模型被訓練成「盡力回答每一條問題」，而不是「不會就說不會」。所以當遇到超出知識範圍的問題時，模型傾向於「猜」一個答案，而不是承認自己不知道。
| 類型 | 描述 | 例子 |
|---|---|---|
| 事實錯誤 | 日期、數字、人名、地名等基本事實搞錯 | 「香港回歸是 1998 年」（實際是 1997） |
| 虛構來源 | 編造引用、研究報告、書名、網址 | 「根據 2024 年香港大學研究報告...」（報告根本不存在） |
| 邏輯錯誤 | 推理過程有漏洞，結論不成立 | 數學題計算步驟正確但最後答案錯 |
| 編造數據 | 生成不存在的統計數字、價格、規格 | 「這款手機電池容量 5000mAh」（實際是 4500mAh） |
2023 年，美國一位律師用 ChatGPT 撰寫法律備忘錄，結果 AI 引用了 6 個根本不存在的法庭案例。法官發現後對該律師處以罰款。這個案例廣為流傳，成為 AI 幻覺最經典的警示。
來源：Mata v. Avianca, 2023（紐約南區聯邦法院）
多位研究人員跟記者發現，當要求 AI 提供學術引用時，模型會生成格式完美但完全虛構的論文標題、作者跟期刊。如果不核實直接引用，會嚴重影響學術誠信。
問 AI：「哪間餐廳有維也納炸豬排？」
AI 答：「中環的『奧地利廚房』餐廳有，地址是...」
但實際上這間餐廳可能根本不存在，或者已經停業——AI 只是「合理地」創作了一個答案。
RAG 是目前最有效的方法——將真實資料餵給 AI，要求它只可以基於這些資料回答，不可以自己「創作」。企業級 AI 應用幾乎全部用 RAG。
如果你不確定答案，請直接說「我不知道」，不要猜測。所有事實請盡量列明資料來源。
叫 AI 回答時一併給出引用來源。雖然來源都可能是假，但至少有得核實——而且要求列明來源本身就會讓模型更謹慎。
Temperature 是控制 AI 創意度的參數。設定越低（如 0.1-0.3），AI 越保守、越少「創作」，幻覺機會越低。缺點是回答會比較死板。
任何 AI 輸出的關鍵資訊（法律、醫療、財務、學術引用），一定要人手核實。不要因為 AI 說得很肯定就相信。目前沒有任何 AI 可以做到 100% 不幻覺。
| 模型 | TruthfulQA 表現 | 特點 |
|---|---|---|
| Claude Opus/Sonnet | 較高 | 誠實度較好，不知道時更願意承認 |
| GPT-4o / GPT-4.1 | 高 | 不斷改善，有內建事實檢查機制 |
| Gemini 1.5/2.0 Pro | 高 | Google 搜尋整合可以減少幻覺 |
| 開源模型（Llama 等） | 參差 | 視乎微調方式，一般商用模型表現更好 |
數據來源：TruthfulQA 基準測試、各模型官方公佈（2026 年核實）。實際表現因任務而異。
✅ 正確：不是。幻覺是 LLM 「預測下一個字」運作方式的固有特性，不是 bug。只要用這種架構，就不可能完全消除幻覺。
✅ 正確：不是。付費版（ChatGPT Plus、Claude Pro 等）的模型可能更準，但一樣會有幻覺。付費買的是更高限額跟更快速度，不是「零幻覺」保證。
✅ 正確：連網可以減少幻覺，但不可以完全消除。AI 可能誤讀搜尋結果、或者將不相關的資料硬套入答案。仍然要核實。
A：AI 幻覺（Hallucination）是指 AI 模型生成了一些聽起來很合理、但實際上不正確或者不存在的資訊。AI 不是故意說謊，而是它的運作方式（預測下一個最可能的字）有機會產生看似可信但錯誤的內容。
A：3 個主要原因：1) AI 是預測下一個字，不是查資料庫，所以可能「創作」出合理但錯誤的答案；2) 訓練數據有錯或者不完整；3) 問題超出模型知識範圍時，模型寧願「猜」也不說「不知道」。
A：常見 4 種：1) 事實錯誤（日期、數字、人名搞錯）；2) 虛構來源（編造引用、連結、研究報告）；3) 邏輯錯誤（推理過程有漏洞）；4) 編造數據（生成不存在的統計數字）。
A：5 個方法：1) 用 RAG（檢索增強生成），讓 AI 基於真實資料回答；2) Prompt 叫 AI「不知道就說不知道，不要猜」；3) 要求 AI 列明資料來源；4) 用低溫度（Temperature）設定；5) 關鍵資訊一定要人手核實。
A：根據 TruthfulQA 等基準測試，Claude 系列在誠實度方面表現較好，GPT-4o 跟 Gemini 也不斷改善。但沒有任何模型可以完全避免幻覺，所有 AI 輸出都應該核實。
A：目前技術下不可以。只要 AI 是用「預測下一個字」的方式運作，就有機會產生幻覺。最佳做法是不要完全依賴 AI，重要資訊一定要交叉核實，或者用 RAG 系統將 AI 回答限制在已知資料範圍內。