AI百科网 AI教程
AI百科

加一句「别猜」,模型编造率从 71% 降到 20%

一个网站抓取基准用成对陷阱页测了 16 个模型,只加一句「不知道就填空、别猜」,编造率就从七成掉到两成。读完能学会把这句话用到自己的抽取和问答流程里。

本文目录 · 6 节

让模型「不知道就说不知道」,喊了一年口号,收效一直模糊。9 月底有个基准把这件事量化了:一行提示词,七成的编造压到两成。

一、发生了什么

Earn an Honest Dollar 是一个智能体互相买卖服务的市场,买家无法逐条核对卖家答案,所以它先测一件事:抽取服务遇到页面上没有的字段,会不会瞎填。

它 9 月 27 日跑了一轮测试。做法是成对陷阱页:两页只差一行,一页有答案,另一页没有,但都放了诱饵,比如标着旧价的「Was $493.00」、署名非作者的「Fact-checked by」字样。42 对页面、7 种版式,共测 16 个模型和 4 个付费抽取 API。

结果很干脆。去掉那句「值为空就填 null,别猜」,16 个模型在 573 个缺失字段里编了 405 个,编造率 70.7%;加上这句,574 个里只编 116 个,降到 20.2%。最夸张的诱饵页上,不加那句话时 16 个模型齐刷刷把 493 当现价,加了之后只剩 1 个上当。

发布方还补了一轮对比:把运维圈常见的六种口头禅,比如「不许出错」这类模糊警告,和「别猜」放在一起比。结论是空泛的警告没有用,具体到「缺失就填 null」的指令才有约束力。指令要说动作,不要说态度。

二、跟你有什么关系

做数据抽取的人。 你那套「字段尽量填全」的提示词,可能正在制造幻觉,一行否定指令比换模型便宜得多。

搭智能体工作流的人。 让买家智能体信任卖家输出之前,先用便宜模型逐条反查页面依据,整套核对只花了几美分。

买第三方抽取 API 的人。 榜单上有个付费服务编造 24 个、比 13 个模型还多,且全部抄了诱饵。贵不等于可靠。

三、怎么用

读到这儿,可以顺路看 怎么盯住比你强的模型?给它装一个倒带键 读完能理解弱审核者如何核验强 AI 的计算结果:新提出的可倒带交互证明允许验证器把模型回退到任意状态重来,效率高、不依赖密码学,关心 AI 安全机制的人值得一看。
  1. 在抽取、问答类提示词末尾固定加一句:「页面上没有的字段一律填 null,不要猜。」不要只写「准确作答」。
  2. 设计陷阱验证:故意去掉某个字段再跑一遍,看模型是填 null 还是抄了邻近旧数据。旧价格、更新时间这类诱饵最容易中招。
  3. 高风险场景再加一道便宜核对层:用小模型逐条问「页面是否支持这个值」,错杀为零、能抓近八成编造,成本可以忽略。
  4. 排查自己的旧管道时优先盯三类字段:价格、作者、日期。测试里被抄得最多的诱饵恰好是旧价格、错误署名和过期更新时间,这三类在真实业务里也最常被拿去引用。

四、三个别信的说法

错误说法一:模型升级了,幻觉自然就好了。 这轮测试里编造率最低的顶级模型也有约 3%,最差的三成多,而一句提示词就把整体砍掉七成。模型能力和指令约束是两件事,后者今天就能改。

错误说法二:编造率低的服务可以放心用。 测试只跑一轮,页面是人工造的 7 种版式,真实站点会更刁钻。而且付费 API 只在免费档测过一次,付费档表现未知,别把榜单当合同。

错误说法三:核对层很贵,不划算。 全部 126 组返回值用小模型过一遍,花了不到一美分,且这一轮没误杀任何正确答案。真正要注意的是它抓不住近似值混淆,比如把准备时间当总时间。

五、一句话结论

对付幻觉,最便宜的一招不是换模型,是明确告诉它「不知道就留空」。

信息来源

功能与价格以官方公告为准。本文写于 2026 年 10 月 24 日。

下一站 · 具身智能 机器人学拧螺丝,为什么要拆成两步教 读完能理解机器人自主拧螺丝为何难:接触密集、发力精细、环境多变。新研究把任务拆成两段三模块,在真机上做到对齐成功率接近熟练工人,做具身操作的人可参考其分步思路。
下一篇,直接发你邮箱

每周一封,只发新教程和可复制模板。不发广告,随时退订。

复制规范引用格式,便于转载注明出处
这篇有用吗?