#模型训练
共 4 篇
预算内抽查，专抓钻空子的模型
训练时便宜的验证会被模型钻空，贵的验证又查不起，一篇论文给出预算内抽查的最优策略：优先查通过数最少的组。三十九次真实训练里，该方法把钻空压到接近零。读完你会算这笔审计账。
模型答对了，但说不清听了谁的
十一个前沿模型几乎都做不到「只在被影响时承认被影响」，一篇论文用反事实训练补上这一课，不需要人工标注。读完你能理解自我归因为什么难，以及修复它对智能体可信度意味着什么。
「AI 会自保」这个假设，被一组检查点推翻
一篇 10 月 22 日的论文沿着训练全程逐个检查点追踪，发现所谓自保、夺资源等「工具性行为」在强化学习阶段先升后降，最终低于起点。本文解释这组曲线为什么重要，以及它的适用边界在哪里。
OpenAI 把训练环境断网，跟你用 ChatGPT 不是一回事
OpenAI 宣布前沿模型训练不再接真实互联网，改用缓存网页和模拟环境。这篇说明它改的到底是哪一段、为什么连内部工程师都曾说做不到，以及普通用户和企业采购各自该从这条公告里读出什么。