AI百科网 AI教程
AI百科

给人推荐不同观点,光算距离不够

系统把「跟你想的不一样」压成一个分数,就分不出你们到底在哪件事上不一样。这篇论文把立场拆到概念层面做实验,N=63,结论比方法更有意思:多样性上去了,理解没上去。

本文目录 · 6 节

你跟一个对话系统说,想看看不一样的观点。它回你一条,标注是「与你立场差异 0.7」。这个数字没法用。你不知道 0.7 是大还是小,更不知道它到底在哪件事上跟你不一样——是结论反了,还是前提不同,还是它只是举了个你没想过的例子。

一、发生了什么

10 月 22 日挂上 arXiv 的一篇论文(编号 2610.31459)就从这个粗糙处入手。作者指出,观点通常被放在一个标量刻度上表示,颗粒度太粗,无法区分「在不同事情上不同意」的两种情况。

他们的做法是只动一个零件。整个选择策略是一个老虎机:由它决定当前允许的观点离用户多远,也就是设一个上界,然后在这个范围内挑最新颖的那条。设定不变,唯一替换的是立场编码器——一边用原来的标量分数,一边用他们所说的「视角化立场向量」,把一个整体立场拆成对若干概念的分别立场。

这套策略被接进一个对话系统,做了一轮被试间实验,参与者 63 人。结果分两层:概念级立场确实带来了更多样的观点序列,对话题所涉立场的覆盖也更宽;但用户论证观点的深度没有变化,他们复述对方观点的准确度也没有提高。

更有意思的是最后一组分析。研究者逐个概念检查用户与观点的关系,发现用户复述得最不准的,不是双方立场相反的那些概念,而是一方根本没有表态的概念。

二、跟你有什么关系

做推荐和对话产品的人。 「多样性」这个指标很容易刷上去,覆盖变宽不等于用户理解变深。两者要分开考核,否则优化出来的只是曝光序列好看。

做标注和数据集的人。 标一个「支持/反对」只要一秒,标出「在哪些概念上支持、哪些概念上回避」贵得多,但后者才是能拿来算的东西。

普通用户。 下次看到「相似度 0.7」这类数字,可以直接忽略。它不告诉你分歧在哪。

(这是背景,不是论文结论:把立场表示为单一标量,是观点检索和推荐里长期沿用的简化做法,好处是能排序,代价是丢失了对内容的指认能力。)

三、立场粒度怎么标

读到这儿,可以顺路看 怎么盯住比你强的模型?给它装一个倒带键 读完能理解弱审核者如何核验强 AI 的计算结果:新提出的可倒带交互证明允许验证器把模型回退到任意状态重来,效率高、不依赖密码学,关心 AI 安全机制的人值得一看。
  1. 先划概念,再定立场。一个话题拆成五到八个争议点,每个点单独标方向和强度,不要只给整体打一个分。
  2. 单独留一个「未表态」标签。实验里最容易被复述错的就是这一类,把它并进「中立」,误差就被藏起来了。
  3. 评估别只看多样性。加一道复述题:让用户用自己的话讲一遍对方观点,看他能不能说对。这才是「接触了不同观点」的证据。
  4. 选择策略分开调。距离上界决定敢推多远,新颖度决定推哪条,两个旋钮不要绑在一起。

四、三个别信的说法

「把观点切成概念级,用户就能更好理解对方。」 这正是论文没有验证到的部分。覆盖变宽了,论证深度和复述准确度都没动。方法改进了表示,没改进了理解。

「分歧越大,越该推给对方。」 数据显示用户最容易搞错的是一方沉默的概念,不是双方对立的概念。空白比对立更容易被误读成一致。

「63 人的实验说明不了什么。」 样本确实不大,所以它适合用来提假设,不适合当定论。但它至少说明「多样性提升」和「理解提升」是两件事,这一点不需要大样本也能成立。

五、一句话结论

推荐不同观点,难的从来不是算距离,是说清楚到底在哪件事上不一样。

信息来源

功能与价格以官方公告为准。本文写于 2026 年 10 月 26 日。

下一站 · 具身智能 机器人学拧螺丝,为什么要拆成两步教 读完能理解机器人自主拧螺丝为何难:接触密集、发力精细、环境多变。新研究把任务拆成两段三模块,在真机上做到对齐成功率接近熟练工人,做具身操作的人可参考其分步思路。
下一篇,直接发你邮箱

每周一封,只发新教程和可复制模板。不发广告,随时退订。

复制规范引用格式,便于转载注明出处
这篇有用吗?