AI 前沿
AI 前沿
消除 AI 幻觉,普通人能做的五件事
AI 幻觉消除不了,这不是技术不够好而是原理决定的:大模型是概率预测机器,每一步都在猜「下一个词最可能是什么」,不知道时不会停下来,只会猜一个听起来最合理的。所以别想着消灭幻觉,要想的是怎么把它关进笼子里。这篇给出普通人上手就能用的五件事——给它材料、温度调低、让它写出推理过程、先查再答、接受它不知道——配一张五件事速览表、一段可直接抄的「只按材料回答」提示词,以及一个能把待核对句子排队输出的事实体检脚本。
同一主题下的文章、视频与资源。
AI 幻觉消除不了,这不是技术不够好而是原理决定的:大模型是概率预测机器,每一步都在猜「下一个词最可能是什么」,不知道时不会停下来,只会猜一个听起来最合理的。所以别想着消灭幻觉,要想的是怎么把它关进笼子里。这篇给出普通人上手就能用的五件事——给它材料、温度调低、让它写出推理过程、先查再答、接受它不知道——配一张五件事速览表、一段可直接抄的「只按材料回答」提示词,以及一个能把待核对句子排队输出的事实体检脚本。