AI百科网 AI教程
AI百科

给大模型的性格旋钮,终于可以分着拧了

激活导向想让模型「更礼貌」就会连带改变别的性格。一篇新论文先给每个导向向量找准最有效的区间,再把多个属性的向量做正交化,让几个特质互不干扰地同时调节。

本文目录 · 6 节

想让输出更幽默一点,结果模型顺便变得啰嗦了——用激活导向调模型的人都遇过这种「按下葫芦浮起瓢」。一篇新论文把这根杆拆成了两根:先把每个旋钮调准,再让多个旋钮互不牵连。

一、发生了什么

arXiv 10 月 27 日挂出的这篇论文,处理的是激活导向(一种推理阶段直接改模型内部激活值来控制行为的方法)的两个老毛病。第一个是「劲儿不匀」:同一个导向向量,强度小了没反应,大了行为畸变,中间那段才是好用的窗口。论文的做法是给每个向量找出最可导的区间,再把整个调节范围重新缩放到这个区间上,于是「拧多少」第一次有了统一的含义。在此基础上他们提出参数化导向:不再是往某个方向「推」激活值,而是把激活值直接「放到」目标特质想要的强度上,控制量因此变得可解释。第二个毛病是多属性打架:想把礼貌、简洁、专业几个特质同时调,简单把几个向量加在一起,它们会互相干扰——调礼貌会带歪简洁。论文开发了一组向量的正交化方法,把各个特质的信号解耦开,模型于是可以在一个特质上表现出变化而不牵动其他特质,多特质同时调节成为可能。

二、跟你有什么关系

做产品的。 客户要「语气正式一点但别啰嗦」这类组合需求时,以前的答案是改提示词碰运气;多特质解耦后,这类要求可以变成产品里的两个独立滑杆。

做模型对齐和安全的。 导向强度有了可解释的标定,意味着不同模型、不同层的实验结果第一次能横向比较,安全侧的调节也有了一致的量纲。

做应用的运维。 这是推理时技术,不动权重、不用微调,同一个底座能按租户偏好开不同配置,成本几乎为零。提示词只能软约束,这种独立调节是它做不到的。

三、怎么用

读到这儿,可以顺路看 怎么盯住比你强的模型?给它装一个倒带键 读完能理解弱审核者如何核验强 AI 的计算结果:新提出的可倒带交互证明允许验证器把模型回退到任意状态重来,效率高、不依赖密码学,关心 AI 安全机制的人值得一看。
  1. 单属性先用「区间法」:给你的导向向量扫一遍强度,找到信号稳定的那一段,把产品里的强度参数映射到这段上,别用原始尺度。
  2. 需要多特质时先做正交化,别直接叠加向量。验证办法是极端测试:把一个特质拉满,看其他特质的行为指标有没有漂移。有漂移就说明解耦没做干净,回头检查向量来源。
  3. 把「设定目标强度」而不是「施加推力」写进你的调节接口,用户理解的「70 分正式感」才不会每次都在变。

四、三个别信的说法

「提示词调好就够了」。 提示词是软约束,模型可以表面顺从。激活导向作用在内部表征上,控制更直接,两者是互补不是替代。

「多属性导向加个系数就行」。 论文明确指出简单组合会让向量互相干扰。没有解耦的多旋钮,拧一个是拧一排。

「这技术只对开源小模型有用」。 这是背景,不是论文结论——方法作用于任意可访问激活值的模型,而激活访问的开放程度在开源生态里逐年提高,工程可用性在变大。

五、一句话结论

好用的性格旋钮要有两样东西:统一的刻度,和互不牵连的轴。

信息来源

功能与价格以官方公告为准。本文写于 2026 年 10 月 28 日。

下一站 · 具身智能 机器人学拧螺丝,为什么要拆成两步教 读完能理解机器人自主拧螺丝为何难:接触密集、发力精细、环境多变。新研究把任务拆成两段三模块,在真机上做到对齐成功率接近熟练工人,做具身操作的人可参考其分步思路。
下一篇,直接发你邮箱

每周一封,只发新教程和可复制模板。不发广告,随时退订。

复制规范引用格式,便于转载注明出处
这篇有用吗?