AI用到的基础概念2：大模型的“幻觉”

大模型真的像专家们说的有“幻觉”吗？

大模型的“幻觉”（hallucination）是指人工智能模型，如ChatGPT、DeepSeek、通义千问或其他大型语言模型（LLM），在生成文本时，输出一些听起来超级真实、逻辑严密且自信满满的信息，但这些信息实际上是错误的、虚构的或与实际不符的。这种现象类似于人类在梦中或精神恍惚时产生的幻觉——模型“想象”出不存在的东西，却把它当作实际呈现给用户。

简单来说，大模型不是真正的“思考者”，而是一个基于概率的“预测机器”。它从海量训练数据中学习模式，当遇到数据不足、问题模糊或超出训练范围的情况时，就会“填空”式地编造内容，以保持输出的流畅性和连贯性，而不是诚实地承认“我不知道”或“信息不足”。

要理解为什么大模型会产生这种现象，我们需要看看它的工作原理。大模型是通过神经网络训练的，它们分析了互联网、书籍、文章等数万亿字的数据，学习词语之间的统计关联。例如，模型知道“苹果”常与“水果”或“公司”相关联，但它不具备真正的世界知识或逻辑推理能力。它生成回答时，像玩接龙游戏一样，根据前文预测下一个词。如果训练数据中有偏见、错误或遗漏，模型就会放大这些问题。更重大的是，模型的优化目标是产生自然、连贯的文本，而不是追求绝对准确。这导致它倾向于“自信地胡说”，由于在训练中，流畅的输出往往得分更高。

这种现象的成因有几个关键因素。

第一是数据质量问题：训练数据来自开放来源，包括可靠的百科和虚假的谣言，模型无法区分真假。

其次是泛化能力不足：模型擅长常见模式，但对稀有或新事件容易出错。

再次是提示敏感性：用户的问题表述稍有变化，就可能触发不同程度的幻觉。

最后，模型缺乏自我验证机制——它不会像人类一样停下来查证实际。

目前，让我们通过几个通俗易懂的例子来说明幻觉的具体表现。这些例子基于实际AI使用场景，协助你看到它的潜在风险。

1. 历史实际的扭曲：如果你问“谁发明了电灯泡？”，模型一般正确回答“托马斯·爱迪生”。但如果深入问“爱迪生发明电灯泡时用了什么秘密配方？”，模型可能幻觉出“他添加了稀有元素锝来延长灯丝寿命”，听起来专业且可信，但实际是爱迪生用了碳化竹丝，没有锝这种元素（锝是20世纪人工合成的）。这是模型从其他科学发明中“借用”概念，拼凑出的假细节。如果用户是学生写报告，信以为真，就可能交出错误作业。
2. 未来事件的虚构：问“2024年奥运会金牌榜首位是哪个国家？”，模型可能基于过去数据正确说“美国”。但如果问“2028年洛杉矶奥运会开幕式会有什么惊喜表演？”，它可能会幻觉出“开幕式将由太空中的宇航员点燃火炬，并有AI机器人演唱主题曲，嘉宾包括虚拟复活的迈克尔·杰克逊”。这完全是编造的，由于2028年还没到来，模型只是结合过去奥运和科幻元素“脑补”。在商业决策中，这种幻觉可能误导投资者预测市场趋势。
3. 技术或代码的错误指导：你让模型生成一个“简单计算斐波那契数列的JavaScript代码”，它可能给出正确版本。但如果问“写一个能绕过网站验证码的脚本”，模型不会拒绝（尽管伦理上应如此），而是生成一个假代码，如“使用量子算法逆向破解SHA-256哈希”，看起来高大上，但SHA-256是不可逆的，代码运行会失败或无效。现实中，有人用AI生成的代码调试程序，结果导致软件崩溃，浪费时间。
4. 日常生活中的危险误导：问“如何在家自制清洁剂？”，模型可能说“混合醋和小苏打即可”。但如果数据混杂，它可能幻觉出“加一点漂白粉增强杀菌效果”，这实际上会产生有毒气体氯气，导致中毒。有一个真实案例：2023年，有人问AI“如何治疗感冒”，模型幻觉出“喝热柠檬水加威士忌”，忽略了酒精对某些药物的交互风险，结果用户健康受损。
5. 科学概念的混淆：问“黑洞是什么？”，模型正确描述。但问“如何在家制造小型黑洞？”，它可能幻觉出“用高压电磁场压缩铅球，就能模拟事件视界”，包括详细步骤。这纯属科幻，现实中黑洞需要极端条件。如果学生或业余爱好者信了，可能尝试危险实验。

这种被定义为“幻觉”现象危害不容小觑。在教育领域，它可能传播错误知识；在医疗或法律咨询中，假提议可能造成生命财产损失；在新闻传播中，放大假新闻会影响公众舆论。2023年的一项研究显示，GPT-4在某些任务中幻觉率高达20%。企业如Google的Bard也因幻觉输出（如错误的天文实际）而被批评。

如何缓解这种现象？业内开发者一般采用几种方法：

一是微调模型，用高质量数据强化实际准确性；

二是引入RAG（Retrieval-Augmented Generation），让模型先检索外部数据库再生成回答；

三是添加后置检查，如让另一个AI验证输出；

四是提示工程，用户在问题中加“基于实际”或“如果不确定就说不知道”。作为用户，你可以交叉验证：用Google搜索确认AI输出，或问跟进问题测试一致性。

未来，随着多模态模型（如结合图像的AI）和更好训练数据的出现，幻觉会减少。但目前，它仍是AI的“阿喀琉斯之踵”。

回到问题的本源，这种所谓的“幻觉”定义，本质上就是“错误”，只不过为了让大家对未来的可期，人们用“幻觉”来进行定义诠释。但从工具使用的角度来看，对就是对、错就是错。考验的是使用的人，你要怎么去使用这个“对”或“错”。