AI 幻覺（Hallucination）係指 AI 模型生成咗一啲聽落好合理、好有信心，但實際上唔正確或者根本唔存在嘅資訊。
AI 唔係故意講大話——佢嘅運作方式係「預測下一個最可能出現嘅字」，而唔係「查詢資料庫搵出正確答案」。所以當佢唔知答案時，有機會「創作」出一個聽落好合理但錯誤嘅回答，而且講得好肯定。
呢個係目前所有大型語言模型（LLM）嘅共同弱點，包括 ChatGPT、Claude、Gemini 都唔例外。
AI 模型嘅核心機制係「根據前文，預測下一個最可能嘅字」。佢唔會好似 Google 咁去搜尋一個真實資料庫，而係根據訓練時學到嘅語言模式去「接龍」。當答案唔喺訓練數據入面，佢仍然會接出一個「語法正確、語氣肯定」嘅句子——但內容可能係錯嘅。
模型喺訓練時吸收咗網上大量文字，當中本身就有錯誤資訊、過期資料、或者偏見。模型會將呢啲都當成「知識」學落去，回答時就可能輸出錯誤內容。
大部分 AI 模型被訓練成「盡力回答每一條問題」，而唔係「唔識就話唔識」。所以當遇到超出知識範圍嘅問題時，模型傾向於「估」一個答案，而唔係承認自己唔知。
| 類型 | 描述 | 例子 |
|---|---|---|
| 事實錯誤 | 日期、數字、人名、地名等基本事實搞錯 | 「香港回歸係 1998 年」（實際係 1997） |
| 虛構來源 | 編造引用、研究報告、書名、網址 | 「根據 2024 年香港大學研究報告...」（報告根本唔存在） |
| 邏輯錯誤 | 推理過程有漏洞，結論唔成立 | 數學題計算步驟正確但最後答案錯 |
| 編造數據 | 生成唔存在嘅統計數字、價格、規格 | 「呢款手機電池容量 5000mAh」（實際係 4500mAh） |
2023 年，美國一位律師用 ChatGPT 撰寫法律備忘錄，結果 AI 引用咗 6 個根本唔存在嘅法庭案例。法官發現後對該律師處以罰款。呢個案例廣為流傳，成為 AI 幻覺最經典嘅警示。
來源：Mata v. Avianca, 2023（紐約南區聯邦法院）
多位研究人員同記者發現，當要求 AI 提供學術引用時，模型會生成格式完美但完全虛構嘅論文標題、作者同期刊。如果唔核實直接引用，會嚴重影響學術誠信。
問 AI：「邊間餐廳有維也納炸豬排？」
AI 答：「中環嘅『奧地利廚房』餐廳有，地址係...」
但實際上呢間餐廳可能根本唔存在，或者已經結業——AI 只係「合理地」創作咗一個答案。
RAG 係目前最有效嘅方法——將真實資料餵俾 AI，要求佢只可以基於呢啲資料回答，唔可以自己「創作」。企業級 AI 應用幾乎全部用 RAG。
如果你唔確定答案，請直接話「我唔知道」，唔好猜測。所有事實請盡量列明資料來源。
叫 AI 回答時一齊俾出引用來源。雖然來源都可能係假，但至少有得核實——而且要求列明來源本身就會令模型更謹慎。
Temperature 係控制 AI 創意度嘅參數。設定越低（如 0.1-0.3），AI 越保守、越少「創作」，幻覺機會越低。缺點係回答會比較死板。
任何 AI 輸出嘅關鍵資訊（法律、醫療、財務、學術引用），一定要人手核實。唔好因為 AI 講得好肯定就信。目前冇任何 AI 可以做到 100% 唔幻覺。
| 模型 | TruthfulQA 表現 | 特點 |
|---|---|---|
| Claude Opus/Sonnet | 較高 | 誠實度較好，唔知時更願意承認 |
| GPT-4o / GPT-4.1 | 高 | 不斷改善，有內建事實檢查機制 |
| Gemini 1.5/2.0 Pro | 高 | Google 搜尋整合可以減少幻覺 |
| 開源模型（Llama 等） | 參差 | 視乎微調方式，一般商用模型表現更好 |
數據來源：TruthfulQA 基準測試、各模型官方公佈（2026 年核實）。實際表現因任務而異。
✅ 正確：唔係。幻覺係 LLM 「預測下一個字」運作方式嘅固有特性，唔係 bug。只要用呢種架構，就唔可能完全消除幻覺。
✅ 正確：唔係。付費版（ChatGPT Plus、Claude Pro 等）嘅模型可能更準，但一樣會有幻覺。付費買嘅係更高限額同更快速度，唔係「零幻覺」保證。
✅ 正確：連網可以減少幻覺，但唔可以完全消除。AI 可能誤讀搜尋結果、或者將唔相關嘅資料硬套入答案。仍然要核實。
A：AI 幻覺（Hallucination）係指 AI 模型生成咗一啲聽落好合理、但實際上唔正確或者唔存在嘅資訊。AI 唔係故意講大話，而係佢嘅運作方式（預測下一個最可能嘅字）有機會產生看似可信但錯誤嘅內容。
A：3 個主要原因：1) AI 係預測下一個字，唔係查資料庫，所以可能「創作」出合理但錯誤嘅答案；2) 訓練數據有錯或者唔完整；3) 問題超出模型知識範圍時，模型寧願「估」都唔話「唔知」。
A：常見 4 種：1) 事實錯誤（日期、數字、人名搞錯）；2) 虛構來源（編造引用、連結、研究報告）；3) 邏輯錯誤（推理過程有漏洞）；4) 編造數據（生成唔存在嘅統計數字）。
A：5 個方法：1) 用 RAG（檢索增強生成），等 AI 基於真實資料回答；2) Prompt 叫 AI「唔知就話唔知，唔好估」；3) 要求 AI 列明資料來源；4) 用低溫度（Temperature）設定；5) 關鍵資訊一定要人手核實。
A：根據 TruthfulQA 等基準測試，Claude 系列喺誠實度方面表現較好，GPT-4o 同 Gemini 亦不斷改善。但冇任何模型可以完全避免幻覺，所有 AI 輸出都應該核實。
A：目前技術下唔可以。只要 AI 係用「預測下一個字」嘅方式運作，就有機會產生幻覺。最佳做法係唔好完全依賴 AI，重要資訊一定要交叉核實，或者用 RAG 系統將 AI 回答限制喺已知資料範圍內。