让模型去考住院医,它能匹配上吗
一篇 arXiv 论文按西班牙 MIR 考试真实规则给四个开源模型打分:分数能排进前列,但弃答不划算、临床理由站不住、看图与否成绩不变。本文讲考试分数之外的问题。
考试分数高不等于会看病。四个开源大模型参加西班牙住院医师考试,成绩单后面藏着三个更扎心的发现:不敢说不会、理由站不住、压根没看图。医疗 AI 的评估,靠一张考卷远远不够,这卷子本身也不够。
一、发生了什么
据 arXiv 10 月 22 日提交的一篇论文,研究者按考试本身的评分规则,测了四个 8B 到 27B 的开源模型在西班牙住院医准入考试(MIR)上的表现,题库覆盖八个年度共 1552 题。选开源模型不是随意的:医疗系统想在自己的服务器上跑模型,就要知道这些开放权重到底可不可靠。结论分几层:全部作答时,三个较大的模型排名可进入约前六百到三千名,可选的专科还有四十多个;但当模型不确定时弃答从不划算——因为它们最没把握的题,正确率也高于四分之一的盈亏线。更深的问题在理由和图像上:13% 到 38% 的答对题目,排除干扰项的理由在临床上站不住脚,而置信度对此毫无反映;把题目配的图像删掉或换成别的图,成绩纹丝不动,说明视觉输入根本没被真正使用。另外,医疗微调降低了过度自信,代价是准确率,模型「知道自己错在哪」的能力并没有变好。
二、跟你有什么关系
如果你是医疗机构的技术评估者:考试分数不能作为采购依据,理由质量和图像依赖度才是重点,这两项论文都给了现成的测法。如果你做医学教育:模型答对但理由错,是学生用 AI 复习时的隐形陷阱,值得在课堂上演示,让学生亲眼看到「答案对、解释错」长什么样。如果你是普通用户:模型给出高置信度的错误解释,比直接答错更危险,健康问题上的高置信回答尤其要警惕。
三、怎么判断
读到这儿,可以顺路看 27 岁清华助理教授开源首款自进化模型 成立五个月的超衍智能开源 35B 模型 Apex-35B,主打 AI 参与模型研发,截至 9 月累计融资近 4 亿元。文中拆解其基准成绩与用途,也提示 RSI 路线的验证难题。- 看一个医疗模型,别问它考了多少分,先问它敢不敢弃答、弃答时机对不对。这项实测里弃答从不划算,说明模型连「不确定」的感觉都不可靠。
- 做图像题的消融测试:换图、删图再测一遍,成绩不变就说明它根本没在看图,所谓多模态只是摆设。
- 抽查答对题目的解释链,理由错了的「对答案」要单独标记,不能计入可信样本。
- 微调前后各测一遍自信度。自信度下降但判别力不变,只是把过度自信换成了新的校准误差,说明微调方向要重定。
四、三个别信的说法
考分高就能上临床。 论文里模型分数能排进前几千名,但同卷暴露出理由不通、图像无关的问题。执业能力包括知道何时不答题、何时该请上级复核,这恰恰是标准化考试测不出的部分。
医疗微调让模型更可靠。 实测里微调只是把过度自信压低了一点,同时损失准确率,区分对错的能力原地踏步。微调不是保险,评估不能省。
多模态模型一定用上了图。 删图换图成绩不变,说明分数主要由文本和先验撑起,图像输入更像装饰。任何宣称读片能力的系统,都要过「换图复测」这一关,过不了的直接出局。
五、一句话结论
考试筛得出分数,筛不出临床判断;判断力的证据在理由和图像里,不在总分里。部署到医疗场景之前,先把这三关过了再谈别的。
信息来源
- arXiv:开源模型能通过住院医匹配吗 · 2026-10-22
功能与价格以官方公告为准。本文写于 2026 年 10 月 25 日。
每周一封,只发新教程和可复制模板。不发广告,随时退订。