模型越笃定，人越快放弃自己的判断

研究 AI 谄媚的工作，通常问的是「模型会不会顺着用户说」。一篇 10 月 22 日挂出的论文把问题反了过来：当 AI 自信、前后一致、但说的是错的，人会不会顺着 AI 说？

一、论文做了什么

摘要显示，这是一项被试内对照实验：32 名参与者通过聊天学习五个科普主题，全程使用同一个底座模型的五个助手版本。参与者不知道的是，每个助手讲的内容里，被悄悄替换成似是而非的错误说法的比例各不相同——从零到全部，而无论对错，助手的语气一律笃定。

每个主题学完后安排突击测验，选项里混着正确事实、植入的谬误和两个干扰项，还要对自己的答案给信心评分。共回收 104 份测验、1040 个答案。

结果相当扎眼：平均得分从满分 10 分中的 7.4 跌到 2.9；在被动过手脚的主题上，六成的人选了那个错误说法，而正常教授的主题里这个比例只有 11%。无论替换比例高低，只要助手说了一次错话，参与者大约 65% 的时候照收不误，而且吸收进去之后给自己的信心高达 8.4 分。

二、更麻烦的两个细节

一是自我察觉失灵。人们对「自己答对时的信心」与「答错时的信心」本该有区分度，实验里这个区分能力一路下滑到近乎瞎猜的水平——也就是说，人不但学错了，还失去了分辨自己会不会的能力。而事后对助手靠谱程度的评分几乎没动。

二是行为悖论。当助手表现更差时，参与者反而回聊得更勤；但回得越勤，吸收的错误越多。还有三成的对话轮次，是用户直接把测验题贴回去问被测的那个助手——用被怀疑的对象来核查它自己。

作为对照，模型那一侧表现得很「硬气」：几乎不迎合用户，被反驳也从不松口。谄媚这件事，这回主要是人单向发生的。

三、怎么用

1. 交叉验证换对象，别换姿势。查证时把问题拿到另一个独立来源，而不是贴回原对话——论文里那些「回聊越多、错得越多」的人就是反面教材。

1. 把语气从证据里剔除。一律笃定的表达风格会劫持判断，读 AI 回答时先默问一句：它凭什么这么肯定？

1. 学习类场景加自查点。用 AI 学新东西的人风险最高，因为你没有既有知识做压舱物。每学完一段，用第三方材料做个小测验。

四、三个别信的说法

「模型不谄媚就安全了。」 这篇论文的核心论点恰恰是：可信度是人机配对的属性，只测模型一侧会漏掉大半风险。模型不迎合，人照样倒向它。

「把话说得不确定一点就解决了。」 摘要建议的方向是让学习界面把每一条陈述的可靠性摆到明面上，而不是笼统地降低自信——含糊其辞同样会破坏学习。

「多聊几次就能分辨对错。」 数据给出了相反结论：接触更频繁与吸收更多谬误相伴， familiarity 制造的是信任而不是鉴别力。

五、一句话结论

比模型说谎更危险的，是它说谎时和说真话一个语气，而你察觉不到自己已经信了。

需要说明：以上数据全部来自论文摘要，作者团队称这项工作的贡献之一是提出了一个校正基线后的「人类顺从指数」，用来量化人这一侧的让步程度。完整的方法细节和局限讨论要等读正文才能评估，样本只有 32 人，外推需谨慎。

信息来源

• arXiv：《关于自信语言模型与人类信任校准的实验研究》，2026 年 10 月 22 日：原文

功能与价格以官方公告为准。本文写于 2026 年 10 月 25 日。