AI 幻觉（Hallucination）是指 AI 模型生成了一些听上去很合理、很有信心，但实际上不正确或者根本不存在的资讯。
AI 不是故意说谎——它的运作方式是「预测下一个最可能出现的字」，而不是「查询资料库找出正确答案」。所以当它不知道答案时，有机会「创作」出一个听上去很合理但错误的回答，而且讲得很肯定。
这是目前所有大型语言模型（LLM）的共同弱点，包括 ChatGPT、Claude、Gemini 都不例外。
AI 模型的核心机制是「根据前文，预测下一个最可能的字」。它不会好像 Google 那样去搜索一个真实资料库，而是根据训练时学到的语言模式去「接龙」。当答案不在训练数据里面，它仍然会接出一个「语法正确、语气肯定」的句子——但内容可能是错的。
模型在训练时吸收了网上大量文字，当中本身就有错误资讯、过期资料、或者偏见。模型会将这些都当成「知识」学下去，回答时就可能输出错误内容。
大部分 AI 模型被训练成「尽力回答每一条问题」，而不是「不懂就说不懂」。所以当遇到超出知识范围的问题时，模型倾向于「估」一个答案，而不是承认自己不知。
| 类型 | 描述 | 例子 |
|---|---|---|
| 事实错误 | 日期、数字、人名、地名等基本事实搞错 | 「香港回归是 1998 年」（实际是 1997） |
| 虚构来源 | 编造引用、研究报告、书名、网址 | 「根据 2024 年香港大学研究报告...」（报告根本不存在） |
| 逻辑错误 | 推理过程有漏洞，结论不成立 | 数学题计算步骤正确但最后答案错 |
| 编造数据 | 生成不存在的统计数字、价格、规格 | 「这款手机电池容量 5000mAh」（实际是 4500mAh） |
2023 年，美国一位律师用 ChatGPT 撰写法律备忘录，结果 AI 引用了 6 个根本不存在的法庭案例。法官发现后对该律师处以罚款。这个案例广为流传，成为 AI 幻觉最经典的警示。
来源：Mata v. Avianca, 2023（纽约南区联邦法院）
多位研究人员与记者发现，当要求 AI 提供学术引用时，模型会生成格式完美但完全虚构的论文标题、作者与期刊。如果不核实直接引用，会严重影响学术诚信。
问 AI：「哪间餐厅有维也纳炸猪排？」
AI 答：「中环的『奥地利厨房』餐厅有，地址是...」
但实际上这间餐厅可能根本不存在，或者已经结业——AI 只是「合理地」创作了一个答案。
RAG 是目前最有效的方法——将真实资料喂给 AI，要求它只可以基于这些资料回答，不可以自己「创作」。企业级 AI 应用几乎全部用 RAG。
如果你不确定答案，请直接说「我不知道」，不要猜测。所有事实请尽量列明资料来源。
叫 AI 回答时一起给出引用来源。虽然来源都可能是假的，但至少有得核实——而且要求列明来源本身就会令模型更谨慎。
Temperature 是控制 AI 创意度的参数。设定越低（如 0.1-0.3），AI 越保守、越少「创作」，幻觉机会越低。缺点是回答会比较死板。
任何 AI 输出的关键资讯（法律、医疗、财务、学术引用），一定要人手核实。不要因为 AI 讲得很肯定就信。目前没有任何 AI 可以做到 100% 不幻觉。
| 模型 | TruthfulQA 表现 | 特点 |
|---|---|---|
| Claude Opus/Sonnet | 较高 | 诚实度较好，不知时更愿意承认 |
| GPT-4o / GPT-4.1 | 高 | 不断改善，有内建事实检查机制 |
| Gemini 1.5/2.0 Pro | 高 | Google 搜索整合可以减少幻觉 |
| 开源模型（Llama 等） | 参差 | 视乎微调方式，一般商用模型表现更好 |
数据来源：TruthfulQA 基准测试、各模型官方公布（2026 年核实）。实际表现因任务而异。
✅ 正确：不是。幻觉是 LLM 「预测下一个字」运作方式的固有特性，不是 bug。只要用这种架构，就不可能完全消除幻觉。
✅ 正确：不是。付费版（ChatGPT Plus、Claude Pro 等）的模型可能更准，但一样会有幻觉。付费买的是更高限额与更快速度，不是「零幻觉」保证。
✅ 正确：联网可以减少幻觉，但不可以完全消除。AI 可能误读搜索结果、或者将不相关的资料硬套入答案。仍然要核实。
A：AI 幻觉（Hallucination）是指 AI 模型生成了一些听上去很合理、但实际上不正确或者不存在的资讯。AI 不是故意说谎，而是它的运作方式（预测下一个最可能的字）有机会产生看似可信但错误的内容。
A：3 个主要原因：1) AI 是预测下一个字，不是查资料库，所以可能「创作」出合理但错误的答案；2) 训练数据有错或者不完整；3) 问题超出模型知识范围时，模型宁愿「估」都不说「不知」。
A：常见 4 种：1) 事实错误（日期、数字、人名搞错）；2) 虚构来源（编造引用、连结、研究报告）；3) 逻辑错误（推理过程有漏洞）；4) 编造数据（生成不存在的统计数字）。
A：5 个方法：1) 用 RAG（检索增强生成），让 AI 基于真实资料回答；2) Prompt 叫 AI「不知就说不知，不要估」；3) 要求 AI 列明资料来源；4) 用低温度（Temperature）设定；5) 关键资讯一定要人手核实。
A：根据 TruthfulQA 等基准测试，Claude 系列在诚实度方面表现较好，GPT-4o 与 Gemini 亦不断改善。但没有任何模型可以完全避免幻觉，所有 AI 输出都应该核实。
A：目前技术下不可以。只要 AI 是用「预测下一个字」的方式运作，就有机会产生幻觉。最佳做法是不要完全依赖 AI，重要资讯一定要交叉核实，或者用 RAG 系统将 AI 回答限制在已知资料范围内。