#成本优化
共 3 篇
判幻觉，便宜的决策模型够用吗
决策模型只输出固定标签加概率，成本远低于生成式大模型。论文在五种幻觉类型的近万条样本上实测：一致性、事实类基本够用，逻辑类还差几个点，级联组合后可用一成左右的成本逼近大模型裁判。
多智能体调度，让路由器自己进化
一篇论文训练了一个会自我进化的多智能体路由器，在十九个数据集上超过最强路由基线七个百分点，推理成本还省了一半。读完你会知道路由器该怎么训、省钱空间从哪来。
模型路由只看平均分，会选错
一篇 10 月 22 日的理论加实验论文证明：为每个问题挑模型的「路由器」，只有当候选模型不够强、或路由器本身够大时才划算；模型越好，路由的增值越薄。本文讲清什么时候该上路由，什么时候不如直接用模型自报的把握度。