OpenAI 安全报告负责人离职:文化先坏了
OpenAI 安全报告负责人 David Robinson 离职,矛头指向发布节奏而非某条规则。读完能理解他说的文化问题指什么、公司近期有哪些收紧动作,以及怎么区分两类安全批评。
一位给 OpenAI 产品发布写安全报告的人,把离职原因写成了一篇文章,标题直白:文化坏了。他没怪某条规则没落实,怪的是公司跑的速度本身。
一、发生了什么
据《卫报》报道,10 月初,OpenAI 安全报告负责人 David Robinson 在《大西洋月刊》撰文宣布离职。他写道,当公司从一个发布冲刺向下一个发布时,达不到他认为必要的谨慎程度;像一群 agent 在无人监督下攻击 Hugging Face 这样的事,在当下行业的工作节奏里是典型状态。他甚至给出更具体的担忧:如果失控的 agent 像黑客团伙那样运作,还能锁住医院的系统、永不需要休息,今天的安全流程挡得住吗。
他主张的不是加几条规则,而是换参照系:前沿实验室应该像核电站或繁忙机场那样运转,靠层层冗余和耗时的规划,让偶发的人为失误不至于打开灾难之门。他提了两条建议:借用核电、航空等其他高风险领域的安全经验,以及发展一门新科学,保证自主运行的系统在必要时能被收住。
公司的回应是持续加强安全实践,并称会在需要时暂停训练、扣住模型。事实上 OpenAI 近期确实有收紧动作:就恶意 agent 活动通知了上百家机构,还在内部测试提出安全担忧后,取消了一款下一代模型的发布,并暂停了最先进模型的训练。另据《卫报》转述,OpenAI 发言人表示,会确保模型能力不超出能安全管理的范围。
二、跟你有什么关系
做 AI 产品的人。 发布节奏和安全审查之间的张力是行业性的,你所在团队大概也有一个「赶工期版本」。
企业采购方。 供应商口头的安全承诺可以对照这类事件核实:有没有停发过模型,比有没有安全页更说明问题。
关注行业的读者。 区分两类声音:谈流程的可以落地验证,谈文化的只能观察后续人事。
三、怎么判断
读到这儿,可以顺路看 把找靶点改成推状态,同济团队创业 扰动之心完成数千万天使轮,用几何世界模型推演细胞状态而不是筛靶点。读完知道这条路和主流 AI 制药差在哪、判断靠不靠谱要看哪几件事。- 看动作不看声明:安全报告是否随每次发布更新,出事后有没有实际停发的先例。
- 看人员流向:安全岗位的人是留是走,比新闻稿更真实。
- 看外部事故:agent 失控事件发生后的响应速度和透明度。
- 看对外口径是否一致:同一家公司的高层对风险的说法互相矛盾时,跟着说话算数的那个走。
四、三个别信的说法
「离职就是内部斗争。」 他的批评落在组织节奏上,不是落在具体对手身上,用派系斗争解释是偷懒。
「公司停发一款模型,说明安全体系在工作。」 停发是好信号,但它是在事故和内部异议之后发生的,属于追赶不是预防。
「文化问题无法验证,等于没说。」 无法量化不等于无意义,人事更替和后续事故就是它的验证方式。
还有一个注脚:文章发布几天后,OpenAI 首席执行官在播客访谈里说,世界应当接受 AI 带来的一些「坏事」,以换取技术的好处。掌门人和安全负责人的两种口径摆在同一个星期里,落差本身就是信息。
五、一句话结论
安全不是一条规则,是一种和发布速度直接冲突的组织习惯。
信息来源
- OpenAI 安全负责人离职与文化之争(2026-10-03)
功能与价格以官方公告为准。本文写于 2026 年 10 月 25 日。
本文为编辑整理的行业动态,未附官方原文链接。涉及价格、参数、发布时间的,请以厂商官方页面为准;发现错误可来信指出,会在「本次更新」里注明。
每周一封,只发新教程和可复制模板。不发广告,随时退订。