加一句「别猜」,模型编造率从 71% 降到 20%
一个网站抓取基准用成对陷阱页测了 16 个模型,只加一句「不知道就填空、别猜」,编造率就从七成掉到两成。读完能学会把这句话用到自己的抽取和问答流程里。
让模型「不知道就说不知道」,喊了一年口号,收效一直模糊。9 月底有个基准把这件事量化了:一行提示词,七成的编造压到两成。
一、发生了什么
Earn an Honest Dollar 是一个智能体互相买卖服务的市场,买家无法逐条核对卖家答案,所以它先测一件事:抽取服务遇到页面上没有的字段,会不会瞎填。
它 9 月 27 日跑了一轮测试。做法是成对陷阱页:两页只差一行,一页有答案,另一页没有,但都放了诱饵,比如标着旧价的「Was $493.00」、署名非作者的「Fact-checked by」字样。42 对页面、7 种版式,共测 16 个模型和 4 个付费抽取 API。
结果很干脆。去掉那句「值为空就填 null,别猜」,16 个模型在 573 个缺失字段里编了 405 个,编造率 70.7%;加上这句,574 个里只编 116 个,降到 20.2%。最夸张的诱饵页上,不加那句话时 16 个模型齐刷刷把 493 当现价,加了之后只剩 1 个上当。
发布方还补了一轮对比:把运维圈常见的六种口头禅,比如「不许出错」这类模糊警告,和「别猜」放在一起比。结论是空泛的警告没有用,具体到「缺失就填 null」的指令才有约束力。指令要说动作,不要说态度。
二、跟你有什么关系
做数据抽取的人。 你那套「字段尽量填全」的提示词,可能正在制造幻觉,一行否定指令比换模型便宜得多。
搭智能体工作流的人。 让买家智能体信任卖家输出之前,先用便宜模型逐条反查页面依据,整套核对只花了几美分。
买第三方抽取 API 的人。 榜单上有个付费服务编造 24 个、比 13 个模型还多,且全部抄了诱饵。贵不等于可靠。
三、怎么用
读到这儿,可以顺路看 怎么盯住比你强的模型?给它装一个倒带键 读完能理解弱审核者如何核验强 AI 的计算结果:新提出的可倒带交互证明允许验证器把模型回退到任意状态重来,效率高、不依赖密码学,关心 AI 安全机制的人值得一看。- 在抽取、问答类提示词末尾固定加一句:「页面上没有的字段一律填 null,不要猜。」不要只写「准确作答」。
- 设计陷阱验证:故意去掉某个字段再跑一遍,看模型是填 null 还是抄了邻近旧数据。旧价格、更新时间这类诱饵最容易中招。
- 高风险场景再加一道便宜核对层:用小模型逐条问「页面是否支持这个值」,错杀为零、能抓近八成编造,成本可以忽略。
- 排查自己的旧管道时优先盯三类字段:价格、作者、日期。测试里被抄得最多的诱饵恰好是旧价格、错误署名和过期更新时间,这三类在真实业务里也最常被拿去引用。
四、三个别信的说法
错误说法一:模型升级了,幻觉自然就好了。 这轮测试里编造率最低的顶级模型也有约 3%,最差的三成多,而一句提示词就把整体砍掉七成。模型能力和指令约束是两件事,后者今天就能改。
错误说法二:编造率低的服务可以放心用。 测试只跑一轮,页面是人工造的 7 种版式,真实站点会更刁钻。而且付费 API 只在免费档测过一次,付费档表现未知,别把榜单当合同。
错误说法三:核对层很贵,不划算。 全部 126 组返回值用小模型过一遍,花了不到一美分,且这一轮没误杀任何正确答案。真正要注意的是它抓不住近似值混淆,比如把准备时间当总时间。
五、一句话结论
对付幻觉,最便宜的一招不是换模型,是明确告诉它「不知道就留空」。
信息来源
- Calling the AI bluff:一句 Do not guess 的基准结果(2026-09-27 测试,2026-10 发布)
功能与价格以官方公告为准。本文写于 2026 年 10 月 24 日。
每周一封,只发新教程和可复制模板。不发广告,随时退订。