给模型输出加约束，未必伤推理

让模型必须按固定格式作答，很多工程师默认这会伤推理。10 月 26 日挂出的一篇论文把这条默认假设拆开验了一遍，结论是：伤推理的往往不是约束本身，而是实验没做对。

一、发生了什么

论文作者一共四人，来自不同机构。他们先把「约束解码」分成三类讨论：管输出形状的格式约束、把无效答案挡掉的合法性约束、限制推理走向的路径约束。从理论上他们证明了，只要约束砍掉的是无效路径，模型表现可以不降反升。

这个分类不是文字游戏。格式约束只要求输出长成某个样子，合法性约束把选项之外的答案直接挡住，路径约束则深入到思维过程本身，替模型规定「该怎么想」。三者的干预深度完全不同，风险也不同，混在一起谈正是此前共识混乱的根源。

实验覆盖四个模型家族、十一个开源模型，在多个公开基准上做因果消融，用的是当下主流的约束解码实现，作者特意横跨了几种实现，确保结论不绑定某一家工具。结果很明确：那些看起来掉分的场景，多数源于提示词和输出格式没有对齐，而不是解码层的屏蔽动作。合法性约束提高了可靠性和答案抽取的稳定性；路径约束在引导的是有益走向时，还能把准确率抬起来。

补一段背景，这是背景，不是论文结论：工程圈对约束解码的坏印象，大多来自早期实现里格式和内容互相打架的教训——模板写得太死，模型被迫绕路凑格式，长输出被截断，或者为保格式牺牲内容。这类教训是真实的，但它们指向的是实现质量，不是约束这个概念。后来以讹传讹，变成了「一开结构化输出模型就变笨」。这篇论文相当于给这个印象做了次体检。

二、跟你有什么关系

做结构化输出的后端工程师：别再因为怕伤智力而不敢开 JSON 模式。先把提示词和目标格式对齐，掉分大概率自己消失。

做模型评测的：对照实验里如果两种设置的提示词不一致，你量到的可能不是解码的影响，而是提示的影响，结论直接作废。

写论文的研究者：这是一篇把「大家都这么假设」拿出来检验的范文，分类加消融的做法可以直接搬走。

三、怎么判断

1. 先分清你的约束属于哪一类：管形状、管答案合法性，还是管推理走向。三类不能一概而论，路径类要格外谨慎。
2. 做对比时只动解码这一处，提示词、输出格式全部保持一致，否则量不出真实差异。
3. 上线前同题跑两组，同时看准确率和可解析率。可解析率上去了、准确率没掉，才值得开。

四、三个别信的说法

加约束一定伤推理。 理论和实验都指向另一面：约束消除无效路径时，性能可以持平甚至更好。问题出在实现和对照，不在约束这个概念。

掉分就是屏蔽导致的。 消融结果显示，多数掉分来自提示与格式不等价，屏蔽只是背了锅。先修对齐再怪技术。

这是过时的老技术。 恰恰相反，它是可靠交付的基础件。智能体要稳定调用工具、系统要批量抽取字段，没有约束根本没法保证下游解析不炸，值得认真设计而不是绕开。

五、一句话结论

约束不是敌人，没对齐的实验才是。

信息来源

• 约束解码对大模型影响的再检验（arXiv 摘要），2026 年 10 月 26 日提交

功能与价格以官方公告为准。本文写于 2026 年 10 月 28 日。