50 份真实报税卷宗,把 AI agent 考趴下了
Surge AI 发布税务基准 Dayjob: Tax,用 50 套真实工作场景和近 1800 份文件考察 agent 从客户委托到交付的全流程。最好的模型通过率刚过一成,短板不是算错数,而是没想到该问的问题。
客户问:卖房选十月还是明年一月更省税?agent 把两个日期都算对了,却没提醒她:再拖过明年八月底,免税资格就没了。这一单,判了不及格。
一、发生了什么
评测机构 Surge AI 在 10 月 27 日上线税务专业基准 Dayjob: Tax。卷面是 50 套完整工作环境,横跨个人、小企业、合伙、跨境、信托、税务争议等八个业务方向,一共塞进 1789 份材料——申报表、工资单、IRS 通知、分类账,还有手写收据的照片和跨国的加密货币流水,agent 得自己读出品名金额,再去和进货记录对账。任务不是答题,而是从一纸客户委托做到交付物。结果很残酷:按 95% 评分线算,Claude Sonnet 5.5 以 10.8% 的通过率排第一,Fable 5.1 和 Opus 5.5 分别是 9.6% 和 9.2%。题目由执业税务专家按真实工作流编写,每道题过三层人工审核,出题团队里有在四大会计师事务所和企业税务岗干过十年以上的人。出题方还专门把自己的考卷和现有几款税务评测做了切割:别的测试大多从一个定义好的问题出发,而这里 agent 要先自己弄明白问题是什么。
二、跟你有什么关系
用 agent 接专业活的团队,这个基准划出了一道底线:模型会算术不等于会办事,漏掉客户没问的隐患才是最大风险。买 AI 财税服务的普通人,看到「AI 查账」的宣传时多留个心眼,关键结论仍要人工复核。做评测的工程师,可以把「发现未提出的连带问题」设为自己产品的内部指标,比单看任务完成率更能暴露问题。
三、怎么判断
读到这儿,可以顺路看 电脑操作 agent 干完活,谁来验货 读完能了解电脑操作型 agent 的任务完成度为何难自动核验:老办法只看局部画面,新思路让验证器自己动手探索取证,在线离线都能用,做 agent 数据与评测的人值得看。- 看它是否主动找反证:卷宗里明明有另一个州的工作日志,agent 有没有拿去核多州纳税义务,还是只按客户说的办。
- 看它对不确定信息的处理:材料自相矛盾时,是停下来问,还是挑一个顺手的假设往下走。基准里 Opus 五次都默认一对夫妻没结婚,忽略了档案里的德州痕迹。
- 看最终交付物:有没有把推断依据写清楚,让人类复核者能顺着查。
- 把漏报单独记账:算错一个数容易发现,少提醒一个期限才是真金白银的损失,两类错误要分开统计。
四、三个别信的说法
模型分数高就靠得住。 一成的通过率说明 frontier 模型在端到端专业流程上还很稚嫩,榜单名次之间的差距远小于「全部需要人审」这个事实。
这题考的是税务知识。 出题方反复强调,考的是职业判断:什么该查、什么时候该停下来。换到法律、医疗同样成立。
现有税务评测已经够用。 同类测试大多从明确的问题出发,而真实工作里最难的一步是搞清楚问题本身,这个基准补的就是缺的那一段。
通过率低说明模型没学过税。 参评的都是前沿旗舰,知识面不是瓶颈;卡住它们的是主动性——判断什么值得查、证据冲突时先信谁,这些能力现有训练目标里几乎没有专门奖励。
五、一句话结论
agent 过得硬不硬,不看它答对了多少题,看它能不能替客户想到没人问出口的那一问。
信息来源
- Dayjob: Tax 基准发布博客:Surge AI(2026-10-27)
功能与价格以官方公告为准。本文写于 2026 年 10 月 29 日。
每周一封,只发新教程和可复制模板。不发广告,随时退订。