翻译时多搜几次，不一定翻得更好

推理成本控制有个常见做法：难的任务多搜几次，简单的少搜几次。听起来合理，但「难」怎么判定，多数系统偷懒了——给每个句子分配同样大的候选预算，一律多生成几份翻译再挑最好的。一项 10 月 23 日提交的实证研究说，这个假设站不住。

一、发生了什么

研究盯着的是质量感知解码：先给一个源句生成 N 份候选翻译，再用一个质量评估器挑出最终输出。惯例是所有句子用同一个 N。论文的实证结果显示，多加候选带来的质量收益，句与句之间差别很大，有的句子加再多候选也没用。

研究拆出三个量来刻画「搜索效用」：一个句子从超大候选池里最多能捞到多少收益；每多生成一批候选的期望边际收益；以及要把大部分收益兑现需要多大候选量。预测这些量用了两类信息：候选生成之前就能拿到的句子级信号，和搜索过程中从已积累候选池里算出的统计量。

结论有两层。句子本身的信号能预测总收益上限，但对「什么时候够用了」不敏感；候选池的统计特性反而是判断边际收益的好信号。把这些信号用起来，就能挑出那些「多搜真的划算」的句子，只对它们追加搜索。

这项研究的背景值得说一句：测试时扩展这两年被当作提分万能键，翻译、推理、摘要都在堆候选量，但算力账单也随之水涨船高。搞清楚收益在句子层面怎么分布，是把这把万能键用得省钱的前提。这是背景，不是论文结论。

二、跟你有什么关系

做推理部署的人：如果翻译或生成服务按候选数计费，均摊预算就是白花钱。按句分配能省下可观的算力，这篇给了可操作的判据。

做机器翻译产品的人：用户体验差距不在平均分，而在难句。挑出值得多搜的句子加预算，均分才涨得动。

研究解码策略的人：这篇文章把「测试时扩展」的收益做了句级分解，后续做自适应计算分配的工作绕不开它的框架。

管推理成本的人：省下来的预算可以反向再投给长尾难句，同等账单下整体质量反而更高，这笔账值得算给业务方看。

三、怎么判断

1. 先量化浪费：统计线上服务里，多少句子的第二份候选之后质量评估分数几乎不动，这个比例就是可省预算。
2. 两层信号都要用：句子级特征判断要不要重点照顾，候选池统计判断搜索到哪一步可以停，别只用一层。
3. 灰度对比：同样的总算力下，按句分配和均摊分配各跑一组，看整体质量指标和长尾句子的改善幅度。

四、三个别信的说法

多搜总不会更差。 不更差，但可能白花钱。收益高度依赖句子，均摊预算的很大一部分花在了不产生收益的句子上。

难句一定值得多搜。 论文发现句子级信号预测总收益还行，但预测「何时饱和」不行。你以为的难句，可能早就在小候选量下到顶了。

换个更大的质量评估器就能省掉这些分析。 评估器变强不改变候选之间的边际收益结构，该浪费的还是浪费。这是背景，不是论文结论。

五、一句话结论

搜索预算该按句花，不该按默认值花。

信息来源

• 搜索效用的实证研究论文摘要（arXiv），2026 年 10 月 23 日提交

功能与价格以官方公告为准。本文写于 2026 年 10 月 27 日。