让 agent 去打宝可梦对战,测的是什么
一个把宝可梦双打包成多智能体环境的小实验,用四种沟通方式跑同一批对局。本文拆开它的胜负数据与 token 账,说明它测的是协调而不是游戏水平。
两只宝可梦同时站在场上,一个 agent 先开口:我去烧那只水系的,你开局用击掌奇袭压一下。搭档回了句好,顺带纠正了它一个属性克制的错误,然后两边同时出手。
一、发生了什么
10 月 10 日,研究者 Oliver Grabner 在自己的站点上公开了这个实验:把宝可梦对战模拟器的双打模式包成一个多智能体环境,专门测大模型会不会配合。
规则设计得很克制。每边两只宝可梦在场、一只替补,每一只由一个独立的 agent 控制。每一轮,agent 会收到一份用大白话写的战况摘要,和一份编号的合法动作清单。它可以对搭档说一句只有队友能看到的私信,也可以直接出手;一旦出手,搭档会知道它选了什么。
主角是同一个 270 亿参数的开源模型,让它同时扮演两个队友,对手则是一个写死规则的「最大伤害」脚本。对局用固定种子,每套阵容两边各打一遍,保证四种沟通方式面对的是同一批战斗。
结果按胜率排:能自由对话的 64%,一个模型同时操纵两只的 54%,每轮只能说一句的 52%,完全不沟通的 42%。代价也量了出来:自由对话每场约消耗 97.8 万输入 token,是不沟通时的 3.8 倍。作为环境有效性的检验,同一套模型打 20 亿参数队伍胜率 96%,打 90 亿参数队伍 74%。
这些数字来自作者自己的实验,没有同行评审,也没有第二个人复现。它是一份公开的实验记录,不是论文。
二、跟你有什么关系
在做多 agent 产品的人。 最实用的一条写在数字里:让两个角色真的商量,比让一个模型左右互搏更值钱,64% 对 54% 的差距来自对话本身。
要挑 benchmark 的人。 一个测试得有区分度,就得随对手变强而收紧。96%、74%、64% 这条曲线说明它做到了。
算推理账的人。 多轮对话不免费。3.8 倍 token 是明码标价,不是理论估算。
三、怎么判断你的多 agent 该不该「聊天」
读到这儿,可以顺路看 怎么盯住比你强的模型?给它装一个倒带键 读完能理解弱审核者如何核验强 AI 的计算结果:新提出的可倒带交互证明允许验证器把模型回退到任意状态重来,效率高、不依赖密码学,关心 AI 安全机制的人值得一看。- 先看任务有没有共享状态。两个 agent 各自改同一张表、同一个文件,才需要协商;纯流水线分工不需要。
- 把沟通成本换算成钱。每轮广播一次完整上下文,等于每轮多一次全量推理。先测「不沟通」的基线,再决定加几轮。
- 只在该说话的时候说话。这个实验里,从零句到一句,胜率涨了 10 个百分点;从一句到自由对话,再涨 12 个百分点,成本却高出近五成。
- 换一个强一点的对手验证。打固定脚本赢不算本事,要能区分强弱模型,才知道改进是不是真的。
四、三个别信的说法
「打游戏厉害就说明会协作。」 这个环境特意选了双打:信息不完全、对手配置隐藏、伤害带随机。单打排名高,可能只是背熟了出招表,跟配合没关系。
「既然对话有用,就让它一直说。」 收益是有的,但边际在下降。真实产品里每次发言都要重读一遍战况和历史,账单跟着轮数涨,而不是跟着效果涨。
「一个模型演两个角色等于两个 agent。」 作者专门测了这一档,54%,低于自由对话。同一份权重扮演双方,省了通信开销,也丢了「另一个人会当面反驳你」这件事。
五、一句话结论
这个实验测的不是模型多会打游戏,是它愿不愿意把「我打算这么干」说出口——而这句话,很贵。
信息来源
- Multi-agent LLM coordination in Pokémon,2026 年 10 月 10 日
- 实验代码仓库,2026 年 10 月
功能与价格以官方公告为准。本文写于 2026 年 10 月 23 日。
每周一封,只发新教程和可复制模板。不发广告,随时退订。