消除 AI 幻觉,普通人能做的五件事

AI 幻觉消除不了,这不是技术不够好而是原理决定的:大模型是概率预测机器,每一步都在猜「下一个词最可能是什么」,不知道时不会停下来,只会猜一个听起来最合理的。所以别想着消灭幻觉,要想的是怎么把它关进笼子里。这篇给出普通人上手就能用的五件事——给它材料、温度调低、让它写出推理过程、先查再答、接受它不知道——配一张五件事速览表、一段可直接抄的「只按材料回答」提示词,以及一个能把待核对句子排队输出的事实体检脚本。

文章目录

原文:消除AI幻觉,普通人能做的五件事

跟 AI 聊久了你会发现一件很怪的事:它几乎从不沉默。你问它一件它根本不知道的事,它不会老老实实说「我不知道」,而是甩给你一段结构完整、语气笃定、细节丰富的回答——引了文献、给了链接、下了结论,像模像样。

这不是模型偷懒,也不是技术还不够成熟。AI 幻觉没法彻底消除,这不是技术不够好,而是原理决定的:大模型本质上是个概率预测机器,每一步都在猜「下一个词最可能是什么」;它不知道的时候不会停下来,会猜一个听起来最合理的。所以真正该问的不是「怎么消灭幻觉」,而是「怎么把幻觉关进笼子,让它在你能看见、能验证的范围内活动」。下面五件事,都是普通人上手就能用的。

1、先认命:幻觉消不掉,但可以关进笼子

1、先认命:幻觉消不掉,但可以关进笼子(AI 生成示意图)

1、先认命:幻觉消不掉,但可以关进笼子 · AI 生成示意图

要理解为什么必须接受这件事,得先把幻觉的来源说清楚。大模型生成一段话的过程,就是反复做同一个动作:看已有的上文,预测下一个词最可能是什么,再接上去,接着预测下一个。整条文本,就是这么一格一格猜出来的。

这意味着两件事。第一,它不是在检索知识库里现成的事实——它没有"查不到就停下"这个环节。第二,它被训练成了**「必须给出答案」的样子:训练语料里几乎每段文字都是完整的、笃定的,模型学到的不是「不知道也可以」,而是「答不上来很难看」。所以它不会停下来,它会猜一个听起来最合理的**。

看清楚这一点,后面的策略就顺理成章了:你没法通过"换个更聪明的模型"来消灭幻觉,只能通过改提问方式、改验证方式,把它约束在一个你能核对的范围里。下面是五件事的速览表:

做法 对付的是哪类幻觉 你要做的具体动作 常见误区
给它材料 凭记忆编造:论文细节、产品参数、内部制度 把文档正文、网页内容、数据贴给它,并要求只依据材料回答 只贴一个标题或一句摘要,等于没给
温度调低 求稳任务里的"创作欲" 做事实类问答时把 temperature 调到 0 附近 以为温度调到 0 就不会幻觉
写出推理过程 一步跳到答案,中间环节看不见 加一句"先列推理步骤,再给结论" 只看最终结论,不看中间步骤
先查再答 用几个月前的训练数据冒充最新事实 确认联网搜索或知识库已开,引用链接亲自点开 把"给了引用"当成"引用支持得了结论"
接受它不知道 把流畅自信当成已经核实 把输出当初稿,数字、引用、人名、日期自己核一遍 复制粘贴直接发出去

2、第一件事:给它材料,别让它凭记忆答

你问它某家公司的内部制度、某篇论文的具体结论、某个产品的参数,它不知道就会编。不是它坏,是它被训练成了必须给出答案的样子,而闭卷考试里不会做的题,它只能靠语感蒙一个。

原文用了一个特别贴切的比喻:这就像开卷考试。你把相关文档、网页正文、数据一起丢给它,让它照着你给的材料答,它能犯的错就少了一大截——因为答案不用它自己现编。

做法很简单,关键是把"材料"和"边界"一起给它。下面这段可以直接抄:

请只根据下面我提供的材料回答,不要使用材料之外的知识。
如果材料里没有相关信息,就直接回答"材料中没有提到",不要推测、不要补充。

【材料】
(在这里粘贴文档正文、网页内容或数据)

【问题】
(在这里写你要问的具体问题)

材料必须给到正文级。只贴一个标题、一段摘要,模型手上其实还是空的,它只能继续猜——而且会猜得更像样,因为它看到了一句像样的话可以顺着往下编。

3、第二件事:温度调低,别让它乱发挥

你用的 AI 工具设置里如果有 Temperature(温度),它管的是模型选词时的随机程度:温度高,模型爱冒险、挑不常见的词,看着有创意,也更容易胡编;温度低,它挑最稳妥、最常见的说法。

做事实类任务,就把温度调低,具体参数用原文的建议区间(0 到 0.3 一带)。原文还点出一个反直觉的地方:温度调到 0 也消灭不了幻觉,只是让幻觉稳定复现——错也每次都错得一模一样。

我觉得这一点比"能不能调参"更值得记:稳定不等于正确。同一个问题反复问、答案一模一样,看上去像"验过了",其实只是同一个猜测被复制了 N 遍。反过来,答案每次都飘,说明它自己也没底,这种情况下该做的是换材料、换问法、换检索,而不是继续重问。

温度还有一个副作用值得留意:它会一并压掉多样性。要创意、要多个不同角度的方案时,别顺手把温度也压到底,那是两回事。

4、第三件事:让它把推理过程写出来

你直接问「这个数据对吗」,它可能甩个答案给你就完事。换一个说法:「一步一步说,你是怎么得出这个结论的」,效果完全不一样。

道理不复杂:推理过程摊在纸面上,哪一步跳了、哪一步编了,你自己看得见。而且模型也没法从问题直接滑到一个编好的答案上,它得先走过中间那些步骤,走一步就多一个可被你抓住的地方。

原文还提到一个可以叠加的做法:换几种方式分别推一遍,看结果是否收敛。收敛说明结论相对稳,不收敛说明这一步本来就虚——两种结果你都能拿来判断。

不过这里有一条边界得说清楚:把推理写出来,不等于它把真实思考过程摊给你看。它给你的是一段像推理的文字,同样可能是编得很顺。所以这套方法的用法是——拿它当排查线索,不要拿它当正确性证明。看得顺眼的那段话,恰恰最需要你另找材料去对。

5、第四件事:先查再答,别先答再编

这一招要多做一个动作:确认你用的 AI 开没开联网搜索,或者接没接知识库。

区别在哪?不联网的 AI 是从训练数据里回忆事实,回忆不起来就编。而训练数据是几个月甚至几年前的东西,它不知道的事比你想的多。联网或接了知识库的 AI 会先去查,查到什么说什么,查不到就承认。

所以,问有明确事实答案的问题——某公司最新财报、某篇论文的结论、某条法规的条款——先看联网或检索开没开。没开,或者你不确定,就别信它给的数字和引用。

还有一个更隐蔽的坑,原文专门点了出来:AI 给了引用来源,也要点开看一眼。它经常是"引用确实存在,但支持不了那句话"——链接是真的,内容跟它说的却不是一回事。引用不是护身符,引用里的原文才是。 这条对做研究、写分析的人尤其致命,因为一个看起来权威的链接,往往比一句明显可疑的话更容易被直接采信。

6、第五件事:接受它不知道,把输出当初稿

大多数人被幻觉坑,不是因为 AI 太笨,是因为人太懒。AI 用流畅、自信、结构清晰的语气给一个答案,人的大脑自动就把它当成核实过的信息了——但它没有。流畅度不是可信度,这两件事在人脑里是长在一起的,所以才容易被骗过去。

真正管用的东西不在技术里,在习惯里:把 AI 的输出当初稿,不是终稿。事实性的内容自己核一遍,数字、引用、人名、日期、法条,这些是幻觉重灾区,一个都别跳过。

习惯要落地,可以靠一段很朴素的脚本做兜底——把 AI 回答里那些"必须人工过一眼"的句子挑出来:

'''AI 回答的『事实体检』:把需要人工核对的句子挑出来。

运行环境:Python 3.9+,仅用标准库,无需第三方包
用法:python3 fact_check.py answer.txt
'''

import re
import sys

# 幻觉高发区的特征:数字、比例、日期、链接、篇名、型号版本
PATTERNS = [
    ("数字", r"\d"),
    ("比例", r"\d+(\.\d+)?\s*%"),
    ("日期", r"\d{4}\s*年|\d{1,2}\s*月|\d{1,2}\s*日|去年|今年|前年"),
    ("链接", r"https?://\S+"),
    ("篇名", r"《[^》]{2,40}》"),
    ("型号版本", r"[vV]\d+(\.\d+)*|\b\d{2,}\s*[A-Za-z]{2,}\b"),
]


def split_sentences(text: str):
    '''按中英文标点切句,保留原文顺序。'''
    parts = re.split(r"(?<=[。!?;!?;])\s*", text)
    return [p.strip() for p in parts if p.strip()]


def tags_of(sentence: str):
    '''返回这句命中的风险类型。'''
    return [name for name, pattern in PATTERNS if re.search(pattern, sentence)]


def main() -> None:
    path = sys.argv[1] if len(sys.argv) > 1 else "answer.txt"
    with open(path, encoding="utf-8") as fh:
        text = fh.read()

    sentences = split_sentences(text)
    flagged = [(i, s, tags_of(s)) for i, s in enumerate(sentences, 1) if tags_of(s)]

    print(f"共 {len(sentences)} 句,{len(flagged)} 句需要人工核对:")
    for idx, sentence, hits in flagged:
        print(f"[{idx:>3}] ({'/'.join(hits)}) {sentence}")

    if not flagged:
        print("未命中关键词,但事实类内容仍需通读一遍。")


if __name__ == "__main__":
    main()

这段脚本不判断真假,只做一件事:把需要你亲手核的句子挑出来排好队。跑完之后你会发现,一份看起来密实的 AI 回答里,真正需要人过目的往往只有十几句——核起来并没有想象中那么累。

写在最后

AI 幻觉没法彻底消除,这是原理决定的,不是技术不够好。 大模型每一步都在猜下一个词最可能是什么,它不知道时不会停下来,只会猜一个听起来最合理的。所以与其盼着模型哪天不再编,不如承认这件事,然后把力气花在让它在你看得见、能验证的范围里活动。

五件事按上手难度排下来是这样的:先给它材料(成本最低,收益最直接),再把温度调低(一个参数的事),然后让它把推理写出来(多一句话的指令),接着确认它到底查没查(一个开关的事),最后把输出当草稿(这才是真正长期的那道坎)。

我的判断是:往后拼 AI 使用能力的差距,不在谁更敢信模型,而在谁更会把核验当成流程里的固定一环。模型会越来越强,但生成得越流畅,落进你手里时就越需要一道人工的闸。你没法让 AI 不犯错,但可以让它犯的错在你这里过不去。

相关阅读

文中链接

整理自本文的外部链接,请以来源页面说明为准。

消除 AI 幻觉,普通人能做的五件事 · 阿凡达博客