字数 1379，阅读大约需 7 分钟

为什么大模型必然出现幻觉

【摘要】从哥德尔不完备定理，说明了大模型的幻觉不可避免，本质根源于形式系统的逻辑不自洽，无法通过增强模型能力彻底消除。既然幻觉不可避免，何不适度保留幻觉以激发创造性，在特定语境中加以利用，提升AI智能表现，并开启新的AI范式？

随着 ChatGPT 和 Deepseek 的普及，人们越来越多地依赖大模型来帮助获取知识。但有时候，AI 会一本正经地“胡说八道”，貌似肯定地输出杜撰的错误内容，比如引用虚假的“参考文献”、捏造专业术语（如“量子引力生态学”）、虚构名人名言（如“爱因斯坦曾说：想象力比知识更重要……”其实他只说了前半句）。

任何优点，同时也是最大的缺点。我们在为大模型的“创造力”欢呼的同时，也不得不忍受其“幻觉”和创造性的谎言。它不是故意欺骗，而像一个想象力过于丰富的孩子，在“拼凑故事”时忍不住加入自己编造的细节。

问题是，随着 AI 技术的发展，如何解决和避免大模型的幻觉问题？

加强大模型能力并不能消除幻觉

我们能否通过改进大模型来减少或阻止幻觉的产生？

大模型的核心机制是基于概率的序列生成技术。这种机制决定了，大模型 AI 无法像人类一样基于逻辑验证或事实核查来生成内容，而是通过最大化可能性路径进行选择。

arXiv 上的一篇论文（https://arxiv.org/abs/2409.05746）从数学上证明，幻觉是不可避免的，也是无法消除的。幻觉源自大模型的数学和逻辑结构，无法通过改进架构、增强数据集或加入事实核查机制来彻底消除。

下面这篇公众号文章也用更抽象的数学范畴论，做了分析。 降低大模型幻觉的必由之路

幻觉的本质是逻辑不自洽

我想从逻辑和知识的基本理论出发，可以较容易地理解大模型幻觉的本质。

大模型作为一个系统，遵循形式系统的不完备性与知识表征的不可判定性。其幻觉来自大模型作为形式系统的结构性矛盾。

根据哥德尔不完备定理，完备的系统必然无法逻辑自洽。大模型学习了几乎所有人类知识，似乎无所不知。然而，追求通用性的大模型，其内部必然存在一些逻辑不自洽的知识结构。如果用户的问题恰好涉及这些矛盾内容，模型在生拼硬凑时便会牵强附会，“一本正经地胡说八道”，让人感觉荒谬可笑。幻觉的本质，是逻辑上的矛盾。

如果用户提出的是较常见的问题，AI 往往能给出符合常理的回答。但若问题较为偏门，AI 无法兼顾各方面时，幻觉便显现出来。其根本原因在于，人类的知识本身就存在矛盾。

如何消除大模型的幻觉？

要在现有技术框架下完全消除大模型的幻觉几乎不可能。解决幻觉问题的思路，是缩小模型的边界和使用范围。只有缩小 AI 的适用范围，才能保证其在特定领域内逻辑自洽，从而消除幻觉。AI 可以成为特定领域的专家型模型，确保其在特定边界内输出可信、可靠的内容。

工业场景往往需要严谨的推理，垂直领域的小模型在这方面更具优势。即便使用大模型，也应以小模型为基础，由其保障执行层的稳定性。这样即使上层的大模型偶尔出现不稳定输出，也不会对整体系统造成致命影响。

当前的最佳实践是：高风险领域采用“RAG + 知识图谱 + 人工复核”的三重约束机制，通用场景中保留适度幻觉以维持智能体的创造性。

何不利用幻觉，重构AI新范式？

我们为什么非要消除幻觉呢？既然幻觉无法彻底避免，何不善加利用？

在非严肃场景中，轻微的幻觉并无大碍。甚至在某些情况下，略显荒诞的不合逻辑反而能产生戏剧性效果。AI 的随机性算法带来了创新的可能，生成了意想不到的创新选项。

事实上，人类之间的沟通，语言只占据很小的比重。人与人之间真正的智慧启迪与心灵碰撞，并非源于语言的字面意义。如果 AI 能够对自身幻觉加以控制，并能根据沟通目的灵活切换角色，这样的 AI 是否会更接近“智慧”？

• • 在严肃场合更谨慎，注重言语的逻辑性，善于层层追问；
• • 在轻松场合更用心，注重语气的亲和力，善于妙语连珠；
• • 在艰难场景更智慧，看似无厘头的开场，也许藏着深刻的禅意。

随着今年 Deepseek 引发 AI 的全面应用，人们还会逐步发现 AI 更多的“毛病”。有些人可能会对 AI 感到失望。 我认为，与其在狂热与失望之间反复摇摆，不如踏踏实实地从认知底层反思人工智能的方法论，探索未来的新范式。

新书出版预告

• • 我的第一本书《工业数字化转型：敏捷方法与敏捷实践》周末将正式出版，敬请各位朋友期待。

内容简介

本书是工业数字化转型的实践著作，作者结合自己在三一重工、远景能源、GE、宁德新能源等企业近20年的实践经验，总结出了一套基于控制论的工业数字化转型方法论和一套基于敏捷思想的工业数字化转型实践路径，方法论与实践并重。

本书一共10章，分为三个部分，从方法论、实践和底层逻辑三个维度对工业数字化转型进行了全方位讲解。

第一篇 系统方法（第1~4章）

首先对数字化进行了追本溯源，探讨了广义数字化和狭义数字化的本质；然后介绍了工业数字化转型的各种常规路径，以及数字化如何与工业化融合；最后，提出了基于复杂系统控制论的工业数字化转型方法论，是本书的核心。

第二篇 敏捷实践（第5-8章）

将系统方法应用到具体的业务实践，讨论了典型工业场景中敏捷迭代的数字化转型实践。对于数字化的业务架构和设计，要透过现象从业务本质出发，并通过数字化技术赋能业务变革与创新，同时借鉴最小作用量原理，沿着“最速降线”进行迭代，找到推动变革最省力的路径，逐渐推进数字化、智能化的广度和深度。通过低成本试错和快速反馈迭代，找到适合自身战略的数字化转型路径。

第三篇 探讨与展望（第9和10章）

从哲学底层探讨了驱动数字化和智能化的底层动力，确信了未来智能化趋势的笃定趋势，并在此基础上展望了智能社会，个人应该如何准备好自己，在智能时代安身立命。

王晓钰的个人微信公众号

面对越来越复杂的未来，做个有人文情怀、有独立思考的技术领导者。

经验丰富的实战型专家：从风力发电、人工智能，到智能制造、数字化转型。

童心不泯的终身学习者：融通科学技术与哲学社会，探寻复杂生命的科学规律。

希望以文会友，寻找一批志同道合者，通过入世的企业实战与出世的终极追问，共同探讨后工业时代的数字化转型之路。进一步了解我：http://xywang.org