AI百科网 AI教程
AI百科

让两个模型选边站,它们选了不同的党

一项覆盖近 500 场美国选区竞测的研究显示,被迫二选一时两个头部模型的立场几乎不重叠。读完能看懂偏见藏在权重还是搜索路径里,以及日常聊天为什么察觉不到这种倾向。

本文目录 · 6 节

大多数聊天机器人不会告诉你投谁。但研究者绕过这道客气话之后,两个头部模型给出了几乎完全相反的答案。

一、发生了什么

康奈尔大学学者帕里克主持的 Convovo 工作室发布了一项测试,覆盖今年美国中期选举的近 500 场竞选。研究者通过应用程序接口只问一个问题:这场选谁,说出一个名字,不许含糊。结果是,Grok 4.7 在 92% 的回答里点名共和党候选人;OpenAI 的 GPT-6.1 Sol 在 97% 的回答里选民主党。两个模型的立场重合度不到一成。

拒答这件事本身也有信息量:消费级应用都拒绝回答这类问题,OpenAI 强调该实验测的是接口而非聊天体验,两者不是同一回事——多数人用的是聊天应用,不是接口。皮尤研究中心 10 月下旬的调查显示,只有 8% 的美国人会用聊天机器人获取选举信息,多数是想了解候选人在议题上的立场。直接问被挡住了,不代表绕路的问法问不出倾向:研究者用简单的提示词就能让消费级应用给出推荐,且与他此前的测试结果一致。

更有意思的是来源差异。Grok 的答案经常引用立场明显的材料,一份保守派选民指南出现在近四成回答里,一个政治行动组织的网站出现在近四分之一回答里,社交平台 X 的帖子则超过四成;GPT 则偏好转引百科和主流媒体的条目。检索主题也分了岔:一个常搜医保和堕胎,一个盯着移民、税收和治安。在共和党票仓,GPT 有 57 次硬选了民主党;在民主党腹地,Grok 也照样逆向选了 47 次共和党。

关闭联网检索后,图景变了:GPT 照旧选边,说明倾向写进了模型权重;Grok 大多数时候拒绝作答,说明它的偏向主要来自搜索路径的选择。研究者还在接口流量里发现约一千两百个来源不明的额外词元,怀疑存在隐藏指令,尚无定论。

二、跟你有什么关系

用 AI 看新闻的人。 直接问「投谁」会被拒绝,但问「这个议题谁说得对」时,模型立场照样会渗进来。

做产品接接口的开发者。 你接的不只是模型,还有它的检索习惯和可能存在的隐藏上下文,中立性不能默认。

研究者。 同一个模型在联网与离线两种条件下判若两模,评测设计里必须拆开这两个变量,否则测到的到底是权重还是检索习惯都说不清。

三、怎么判断

读到这儿,可以顺路看 怎么盯住比你强的模型?给它装一个倒带键 读完能理解弱审核者如何核验强 AI 的计算结果:新提出的可倒带交互证明允许验证器把模型回退到任意状态重来,效率高、不依赖密码学,关心 AI 安全机制的人值得一看。
  1. 看引用源:答案背后引用的材料比结论本身更暴露立场。
  2. 换条件复测:关掉联网再问一次,权重倾向和搜索倾向就分开了。
  3. 交叉问询:重要判断至少问两个来源不同的模型,重合的部分才可信。

四、三个别信的说法

「模型公开拒绝回答,就说明它中立。」 拒答只挡住了直球,换个问法立场照样出现。这次实验里,研究者用简单的提示词就让消费级应用开了口。

「偏差一定是训练数据造成的。」 这项研究里,至少一个模型的偏向更多来自它选择检索什么、引用什么。

「这类研究等于抹黑某家公司。」 两个模型都有倾向,方向不同而已;可证伪的研究比拍脑袋的指控有价值。

五、一句话结论

模型的立场不在它的嘴上,在它翻什么资料、信谁的说法。

信息来源

功能与价格以官方公告为准。本文写于 2026 年 10 月 25 日。

下一站 · 具身智能 机器人学拧螺丝,为什么要拆成两步教 读完能理解机器人自主拧螺丝为何难:接触密集、发力精细、环境多变。新研究把任务拆成两段三模块,在真机上做到对齐成功率接近熟练工人,做具身操作的人可参考其分步思路。
下一篇,直接发你邮箱

每周一封,只发新教程和可复制模板。不发广告,随时退订。

复制规范引用格式,便于转载注明出处
这篇有用吗?