AI百科网 AI教程
AI百科

聊天模板会改模型的「自称」

一篇被 COLM 2026 工作坊接收的论文发现,同一批权重,只因为外面套没套聊天模板,「我只是个 AI」和「我觉得」两种语气就会互换。读完你会知道模型自述为什么不能当证据。

本文目录 · 6 节

问一个模型「你有感受吗」,它常常先来一句「我只是一个 AI 语言模型」。多数人把这当成对齐训练的成果。

这篇论文说,至少有一部分不是。决定它说不说这句话的,可能是你调用它时套在外面的那层模板。

一、发生了什么

论文 8 月 9 日上传到 arXiv,作者 Jędrzej Maczan,被 COLM 2026 的 Efficient Reasoning 工作坊和 KONVENS 2026 的 Eval4SD 工作坊接收。

实验对象是 8 个流行的开源指令模型,参数规模最大到 90 亿。作者对比了两种输入方式:一种按模型发布时配套的聊天模板包装,加上角色标记和特殊 token;另一种直接把同样的话当纯文本喂进去。

这里说的聊天模板,不是你写在对话框里的那句 system prompt,而是包在整段对话外面的格式:谁是 system、谁是 user、谁是 assistant,各自的起止标记,以及模型发布时配套的特殊 token。用 API 调用时,这一层通常由推理框架自动加上;用裸的文本补全接口时,它就不在。

结果很整齐。套上模板,模型更爱说「我是一个 AI」「我没有感受」这类免责式自述;去掉模板,同一批权重更愿意用「我觉得」「我感到」这种经验性说法。8 个模型方向一致。

作者又在 3 个模型的激活里找到了一个方向。把这个方向从激活中减掉,免责语气变弱;加上去,免责语气变强;换成一个同等大小但随机的方向,几乎没有影响。更直接的一步是:对没套模板的指令模型加上这个方向,它开始像套了模板一样说话。

结论因此有点刺:模型对自己的描述,不完全是权重的属性,有一部分是部署方式的产物。

二、跟你有什么关系

做模型评测的。 你在对比两个模型「谁更谦虚」「谁更有自我意识」时,如果一边套模板一边没套,比出来的可能是格式差异。

做产品的。 用户看到的「人设」不只由 system prompt 决定。模板里的角色标记、起始 token、甚至有没有把对话包成消息数组,都在参与。

读论文的。 任何用模型自述当数据的结论,都要先看它有没有控制模板这个变量。这是这篇论文最实用的提醒。

做红队的。 你想测模型会不会隐瞒、会不会伪装,先确认它当前处在哪种模板下。同一个模型,换个包装,回答的倾向就会变。

三、怎么用

读到这儿,可以顺路看 「太 AI 了,不想读」 一个单页网站把「TAI-DR」做成了标签和浏览器插件:看到没读就转发的 AI 长文,直接回一句「太 AI 了,不想读」。读完你能拿到一份识别 AI 文风的自检清单。
  1. 固定模板再比较。 做 A/B 测试时,模板、特殊 token、消息角色全部锁死,只改你想测的那一项。否则差异归因不了。
  2. 把模板当成配置写进实验记录。 不要只记模型名和版本号。模板换了,行为就换了,这跟换模型是同一级别的事。
  3. 需要经验性语气时,先确认模板。 如果产品要的是「陪伴感」,光在 system prompt 里写「请像朋友一样说话」可能不够,外面那层包装还在把语气往回拉。
  4. 需要审计模型自述时,做双向测试。 套模板问一次,不套再问一次。两次答案差得远,说明你测的是部署,不是模型。
  5. 别把激活方向当读心术。 它能稳定地调高或调低一种语气,不等于找到了「诚实」或「意识」的开关。

四、三个别信的说法

「模型说自己没有感受,说明它真的没有。」 论文的结论正好相反:这句话至少部分由模板决定。它可能是真的,但模型的自述不能作为证明。

「换个 system prompt 就能换人格。」 system prompt 是模板里面的内容,模板是外面的框。框换了,内容的作用会变。很多人调了半天提示词没效果,问题出在调用层。

「找到了激活方向,就说明模型内部有对应概念。」 论文只说这个方向能稳定地控制语气,随机方向做不到。能控制,和能解释,是两件事。把这当成「发现了意识区域」,是过度解读。

五、一句话结论

模型怎么称呼自己,一半写在权重里,一半写在你调用它的那层壳里;想知道是哪一半,就把壳拆了再问一遍。

信息来源

功能与价格以官方公告为准。本文写于 2026 年 10 月 19 日。

下一站 · 工具库 GPT-6 三条产品线,按任务怎么选 三条线差一百倍价钱,差别不在聪不聪明,在任务要不要它想那么久。这篇按任务给出对照、推理档位的用法,以及上线前必须算的三个指标。
下一篇,直接发你邮箱

每周一封,只发新教程和可复制模板。不发广告,随时退订。

复制规范引用格式,便于转载注明出处
这篇有用吗?