AI 幻觉，是指 AI 生成看起来合理、实际错误或缺乏依据的内容。 它可能表现为不存在的论文、错误的产品功能，也可能只是把“尚未确定”写成“已经决定”。

因此，核查 AI 回答时，不只要找明显的常识错误，还要检查它有没有越过材料本身。语气肯定、排版整齐、附着链接，都不能单独证明答案可靠。对机制不熟悉，可以先读AI 是什么。

先看一个能自己判断的例子

下面是一段虚构的手工课通知，专门用于练习核查：

本次活动最多接收 12 人。请在下周二 18 点前回复群消息报名。活动安排在周三，遇雨改到室内。材料需要参加者自备，具体清单稍后发布。

假设你看到的 AI 摘要写成：

周三举办免费手工课，可接收 20 人，现场提供材料。周二报名截止，遇雨取消。

不要先评价它“概括得不错”。把摘要拆开，与原文逐项核对：

摘要说法 原文支持吗？ 应怎样处理
周三举办 支持 可以保留
免费 原文没有费用信息 标记未说明
接收 20 人 与最多 12 人冲突 改回 12 人
现场提供材料 与自备冲突 改回自备，保留清单待发
周二截止 部分支持，但漏了 18 点 补回具体时间
遇雨取消 与改到室内冲突 改回室内安排

这不是某个模型的实测记录，而是一组人为构造的错误示例。它展示了三个常见问题：凭空添加、改变事实、遗漏影响行动的条件。

为什么 AI 会一本正经地说错？

生成文字的系统会根据输入和已学到的模式组织回答，但这种生成过程并不自动等于查证事实。缺少材料、问题含糊或来源本身错误，都可能影响结果。

外部搜索和文档读取可以增加可用依据，也仍然需要检查它引用的内容是否正确、是否真的支持结论。AWS 对 AI 幻觉的介绍解释了这类看似可信但不准确的输出。

实际使用时，与其判断“AI 是不是故意骗我”，不如问：“这一句话依据哪一处材料？”后一个问题更容易得到可核查的答案。

核实 AI 回答，可以按四步做

第一步：把回答拆成能够判断的具体说法

“这个方案效果很好”太笼统。把它拆成“适用谁”“达到什么结果”“需要什么条件”。如果涉及数字、时间、名词或操作步骤，分别列出来。

比如“全部新用户都能免费使用”至少包含对象、收费规则和适用范围。任何一项没有依据，都不能当作已确认事实。

第二步：分开事实、推断和建议

事实需要材料支持；推断应该标明它基于什么，以及哪些条件还不确定；建议则需要说明适用目标。

在通知示例里，“准备一份材料清单”是建议；“材料已经免费提供”是事实断言。两者不能混写。

第三步：回到独立的原始来源

检查引用时，打开原页面，确认发布者、日期、适用范围和原文段落。书名或文章名存在，不代表引述内容存在；链接能打开，也不代表它支持旁边的那句话。

如果是在整理你提供的文档，就对照文档，而不是让同一个回答自己证明自己。数字重新算一遍，产品功能查当前官方说明，具体安排找负责人的原始通知。

第四步：确认不了的，明确留下空白

可以写“原文未说明费用”“这个型号是否支持仍需确认”，不要为了让表格完整而补一个看似合理的答案。

重要用途需要与其后果相称的核查。AI 草稿可以帮助整理问题，最终采用的信息必须由你确认。

减少 AI 幻觉的提示词怎么写？

可以把要求写成下面这样：

请只根据我提供的材料回答。把结果分为“材料明确说明”“基于材料的推断”“材料未说明”三部分。每条事实附上对应的章节或短句，供我核对。不要补充未提供的费用、日期、人数和功能。如果找不到依据，直接写“无法从材料确认”。材料如下：[粘贴原文]

Anthropic 的减少幻觉说明建议允许模型表达不确定、让回答关联原文，并用引用辅助核查。这些做法有助于检查，不能保证把错误清零。

你还要亲自查看它摘出的句子是否真实存在。AI 也可能给出错误的段落编号或不准确的引述。

哪些做法看似核实，其实还不够？

再问一次“你确定吗？” 它可能改口，也可能更肯定，都不构成证据。

换几个 AI，发现大家都这么说。 一致的回答可以作为继续调查的线索，但可能共享错误来源，不能代替独立依据。

要求给一个信心百分比。 一个看似精确的数字，不一定经过校准或统计验证，不适合直接当成真实性概率。

只检查链接有没有失效。 还要看原文是否支持主张，适用地区和版本有没有变化。

对写作、总结和学习分别怎么用？

  • 写通知：逐项核对时间、地点、报名方式和未确定信息。
  • 总结文档：保留原文的限制条件和不确定程度，参考AI 文档总结流程。
  • 学习概念：先让它举例，再用可靠教材或官方资料核对；不要把流畅解释当成理解的全部证据。

如果任务本身说不清楚，先用提示词入门方法补齐材料和限制。清楚地提问，再逐项核查，才能知道哪些部分可以采用，哪些还需要找证据。