核查 AI 回答：如何识别和避免幻觉

什么是 AI 幻觉？它为什么会出现？

当 AI 信心十足地断言某件错误的事情时，就称为幻觉。它可能是一个错误的年份、一段捏造的引文，或者一本从未出版过的书。AI 并不是故意撒谎，它只是根本没有意识到自己错了。

原因在于它的工作原理。大语言模型从海量文本中学到的是：哪个词最有可能接在后面。它并不会去事实数据库里查证。像语法这样反复出现的模式，它能可靠地学会；而罕见的单个事实，比如一位不太知名的人物的生日，它就学不准了。这时它就会用听起来合理的内容来填补空白。

此外，根据 OpenAI 的一项研究，常见的训练和测试方法对猜测的奖励，多于对诚实地说一句“我不知道”的奖励。这就像一场选择题考试：猜一个答案可能得分，留空却永远不会得分。另外，没有网页搜索功能的模型只了解其训练数据截止时的情况，所以最新发生的事件它并不知道。

如何发现 AI 的回答可能有错？

幻觉乍一看和其他回答没什么两样。但下面这些警示信号应该引起你的警惕：

• 非常精确的数字、百分比或日期，却没有注明来源。
• 逐字引用的话，尤其是知名人士说的话。
• 用搜索引擎找不到的来源、研究、链接或法院判决。
• 同一个问题再问一遍，回答却变了。
• 回答内部前后矛盾，或者与你确知的事实相矛盾。
• 涉及非常新的事件、小众话题，或者不太知名的人物和公司的问题。

后果可能有多严重，美国的一个案例就说明了：那里有律师被处以罚款，因为他们在法庭上引用了 ChatGPT 凭空捏造的判决。所以，自信的语气并不能证明内容正确。

如何一步步核查 AI 的回答？

并不是每个回答都需要事实核查。为了收集创意而进行的头脑风暴，你可以轻松对待。但一旦你要转发、发布某些内容，或者要据此做决定，这套流程就很值得：

1. 标出核心说法：哪些事实、数字或名字一旦出错，会让你难堪或付出代价？
2. 要求给出来源：追问信息来自哪里，最好附上链接。
3. 亲自打开来源：检查这个网页是否存在，以及上面是否真的写着 AI 所说的内容。
4. 交叉核对：再找一个独立的来源，比如政府机构或制造商的官方网站，或者专业门户网站。
5. 重新计算数字并留意时效：总数和百分比对不对？数据是什么时候的？

哪些工具能帮你为 AI 回答找到来源依据？

如果 AI 直接附上来源，核查回答就最简单了。在我们的检索工具中，你可以找到合适的帮手，其中很多是免费的：

• Perplexity：一个用来源支撑回答的 AI 搜索引擎。免费版每天可用 3 次 Pro 搜索。
• ChatGPT Search：直接在对话中进行带来源的网页搜索，免费但有限额。
• Google Gemini（Deep Research）：生成多页带来源的报告，不订阅也能用，但有限额。Deep Research 是如何运作的，我们的 AI 词典里有解释。
• Gemini Notebook：你上传自己的资料，然后就这些资料提问。回答依据的是你的资料，而不是模型的通用知识。
• Elicit 和 Consensus：专门用于科学研究文献，各自都有功能受限的免费版。

如果你经常需要这样做，可以把它自动化：调研代理能针对一个主题提供带来源的简报，而基于你自己文档的知识库则会从你的文件中回答问题并注明出处。重要的是：来源标注也可能出错。有时 AI 会把一个真实的来源总结错，所以流程中的第三步永远适用。

用哪些提示词可以避免幻觉？

你无法完全杜绝错误，但借助清晰的指令，可以让错误更少出现，也更容易被发现。下面这些说法已经被证明很有效：

• “如果你对某件事不确定，请明确说出来，而不要去猜。”
• “为每个数字和每条事实注明来源，并附上链接。”
• “只根据下面这段文字回答。如果文字中没有答案，就写：文中没有提到这一点。”
• “在回答中把确定的事实与评估和推测区分开来。”
• “你的回答中哪些部分是我一定要自己核实的？”

第三个提示词特别有用：如果你把文字本身交给 AI，比如一篇文章或一个 PDF，它就不需要凭记忆去补充任何内容。更多基础知识请看指南新手写提示词指南。

哪些话题需要格外小心？

在某些话题上，一个错误就可能造成实际的损害。在这些领域，AI 只能用来做准备，绝不能作为最终依据：

• 健康：症状、药物和剂量，务必向医生或药房确认。
• 法律：各国法律不同，而且会变化。涉及合同、期限和纠纷时，可以求助律师事务所或咨询机构。
• 财务与税务：免税额、税收规定和各种条件经常变化。请向官方机构或税务顾问核实。
• 数字与统计：AI 会算错，有时也会使用过时的数据。请从原始来源获取统计数据，比如统计局。
• 引文：逐字引用是典型的出错来源。只采用你在原始来源中找到的内容。

尽管如此，AI 在这些领域也能提供有益的帮助：它能把专业术语解释得通俗易懂，还能帮你为看病或咨询准备好要问的问题。同时要注意你输入了哪些个人数据。相关建议请看 AI 工具的数据保护。