多智能体调度，让路由器自己进化

一个多智能体系统接了线上流量，每一次请求都要拍板：用哪个模型、几个智能体、跑几轮、带什么技能。10 月 26 日的一篇论文把这串拍板交给了一个会自己进化的路由器，任务不掉点，账单砍半。

一、发生了什么

论文先摆出困难：上面那串配置选项组合起来是天文数字，而执行层面的奖励又稀疏，路由器做一串互相牵连的决策，却只在最后知道成没成，学不到细粒度的东西。换个说法：它不知道该把这次失败记在模型头上、智能体数量头上，还是轮数头上。

研究者的方案分三笔信号。一个专职专家模型定期翻看历史配置轨迹，把「什么任务配什么档位、加智能体回报如何」这些经验沉淀成可复用的路由洞察；一个特权教师把洞察和当下执行反馈合起来，通过在线策略蒸馏给路由器的规划过程提供逐词元的密集监督——特权是训练技巧：教师训练时能偷看执行结果，好在每一步指出配置该不该换，训练完就扔掉，线上只留轻量路由器；再加一层把任务效果和计算成本一起优化的成本感知强化学习。更新后的路由器会跑出新轨迹，供下一轮提炼洞察，形成自我改进的闭环。

成绩在十九个域内数据集和两个域外基准上验证：域内平均准确率 68.69%，比最强的路由基线高出 7.23 个百分点，推理计算成本同时下降 50.95%。摘要没有给出两个域外基准的具体数字，跨域迁移到底剩几成，是评估时必须自己跑的部分。代码已经开源，这两个数字抄自摘要原文，属于论文自报，换你的流量分布未必复现。

二、跟你有什么关系

跑多智能体服务的：模型挑贵的用是默认浪费，路由器的钱通常几周就能从账单里省回来，值得算一笔。

做 agent 平台的：调度不该写死规则，这篇的「洞察沉淀加蒸馏」是一条可抄的训练路径，且开源可对照，先在自己的流量上复现一遍再谈采购或自研。

控预算的工程负责人：成本和效果能一起优化这个结论，意味着降本不必以掉点为代价，但前提是你有真实的执行日志可喂，且愿意花一两周做灰度验证。

三、怎么用

1. 先把历史请求的配置和结果记全：用了什么模型、几个智能体、几轮、花了多少。没有日志，一切路由优化免谈。
2. 拿开源代码在你的日志上复现训练，先离线比较，再灰度放一小股流量。
3. 上线后盯两个数：单请求平均成本和任务成功率，任一恶化就回滚灰度。

四、三个别信的说法

贵模型效果一定更好。 路由基线被同时超过并省下一半成本，说明大量流量本来就该走小配置，全量上大模型是最贵的懒政。

规则引擎能替代学习式路由。 配置空间是组合爆炸的，手写规则覆盖不了互相牵连的决策，这正是论文的出发点。

论文数字等于你的收益。 自报成绩来自其测试集分布，落地前必须用自己的查询实测，别直接写进汇报。

五、一句话结论

省钱的最大头，藏在「选对模型」这一步。

信息来源

• 洞察引导的多智能体路由自进化框架（arXiv 摘要），2026 年 10 月 26 日提交

功能与价格以官方公告为准。本文写于 2026 年 10 月 28 日。