别让模型给自己的答案打信心分

工单系统里有一条规则：模型自评置信度低于 0.8 就转人工。上线两个月，转人工的比例一直稳在 12% 左右，但被投诉的答案里，一半以上自评都在 0.9。这条规则其实一直在按措辞工作，不是按证据。

一、发生了什么

10 月 20 日，Amrut Joshi 在自己的博客里写了这件事，文章在 Hacker News 首页挂了几小时，22 日又补了修订。

他的论证从天气预报讲起。一个报了"明天降雨概率 30%"的预报员，可信不可信，不看他说得多笃定，看两件事：这个数字有没有用上当天的大气压、湿度、云图；以及同类预报在实际结果上对不对得上。他给了一张一年的对照表：报 10% 的那 120 天里实际下了 13 天，报 30% 的 90 天里下了 26 天，报 70% 的 80 天里对了 57 天，报 90% 的 75 天里对了 67 天。四档都基本吻合，这叫校准。

然后他指出一个容易漏掉的反例：一个全年一律报 30% 的预报员，也是校准的——这个季节本来约三成日子下雨。但他一天的气象信息都没用。好预报员的特征不是准，是敢把大多数预测压在接近 0 或接近 1 的位置。

语言模型做不到这两条里的任何一条。它逐 token 生成，"0.85"是对"你有多确定"这句话的一个合理续写，不是内部仪表的读数。作者给了三个可以自己验证的现象：同一个问题问两次，数字会变；换个措辞问"你确定吗"，数字会变；如果前文已经写了"这显然是正确答案"，后面的高分就是顺理成章的续写。

二、跟你有什么关系

搭审核流水线的人：你设的那个阈值，实际上是在给措辞打分。同一批难问题，被写成肯定句的会通过，写成疑问句的会被拦下。

做 agent 的人：让模型在每一步自评置信度来决定要不要继续，等于让它在没有新信息的情况下改主意。

用模型做数据标注的：置信度不能用来决定哪条需要复核，只能用来排序给人看。

三、怎么判断

作者给了一套不用模型的做法，可以直接搬。

1. 先选可观测的信号，别问模型。检索有没有命中相关文档、命中几篇、这个问题以前有没有被处理过、同样的问题问两次答案是否一致。
2. 从一个历史比例起步。翻出过去人工复核过的 200 条回复，其中 150 条正确，那么每条新回复的初始分就是 75%。
3. 逐条记录。存下信号特征、规则给出的分数、以及最终是否正确（审核通过，或客户没再追问）。
4. 用记录反过来改规则。按信号分组统计正确率：命中文档且两次回答一致的，正确率 95% 就给 95 分；一篇都没命中的，正确率 40% 就给 40 分。样本越多，分组可以越细。
5. 每周做一张校准表。如果 90 分那一档实际只有 70 分正确，说明整套规则过度自信，按新记录修正。

这套办法的好处很实在：同样的信息一定得到同样的分数，分数不随措辞漂移；坏处也很实在——它依赖记录，如果没人真的去复核，那你又回到了一个没人测量过的数字。

四、三个别信的说法

多问几次取平均就稳了。 平均只能抹掉随机抖动，抹不掉系统性偏移。前文措辞造成的偏移，问十次也是同一个方向。

换个更强的模型，置信度就准了。 相关性可能存在，但没有证据说明某个模型被专门训练过"写出的分数要对得上正确率"。这是训练目标的问题，不是能力大小的问题。

置信度低就转人工，成本可控。 前提是分数和错误率真的挂钩。如果分数只是措辞的函数，你等于随机把一部分简单问题也转给了人工，同时放过了一半难题。

五、一句话结论

能被写出来的信心不是测量结果，是文风。

信息来源

• Some Random Thoughts：让 LLM 打置信度是个坏主意，2026 年 10 月 20 日

功能与价格以官方公告为准。本文写于 2026 年 10 月 23 日。