AI百科网 AI教程
规则与法

Altman 给 AI 安全列了三种终局

Altman 上周在内部提出的三种 AI 安全治理终局分别是什么、消息从哪来、OpenAI 打算何时选边。读完能看清头部实验室对「谁来管强 AI」的真实分歧。

本文目录 · 6 节

强 AI 谁来管?OpenAI 的 CEO 萨姆·奥尔特曼上周在公司内部给员工列了三个选项。其中最扎眼的一个,设想是单一公司靠自我改进的 AI 攒够经济实力,扣住别人的算力,极端情况下把其他人的计算能力全部关掉。

一、发生了什么

据科技媒体 The Decoder 转引 The Information 的报道,奥尔特曼上周在内部提出了三种 AI 安全的终局。报道引用知情人士的话,时机正值美国政府准备出台首个针对超智能开发者的监管框架。

第一种是仿照国际原子能机构(IAEA)建一个国际监督组织,负责检查系统、要求审计、监控算力和能耗。OpenAI 早在 2023 年 5 月就公开呼吁过这种机构,它需要各国尤其是前沿模型国家的合作。

第二种被奥尔特曼称作「Demis 计划」,源头是 DeepMind 负责人哈萨比斯大约十年前提过、仿照欧洲核子研究组织(CERN)的设想。在他的版本里,各大实验室合并成单一实体,或在该实体伞下运营,由它向合作国家供应模型。

第三种叫「Eliezer 计划」,取自 AI 安全理论家尤德科夫斯基。一家公司通过自我改进的 AI 积累到足够大的经济权力,扣留算力,最极端时关掉其他所有人的计算能力。报道称这个设想只为完整性而提,有信源读成是对竞争对手的调侃。

奥尔特曼还抱怨,关于 AI「限速」的可行提案太少。同时 OpenAI 不能落后于对手,据报道计划在一年内选定走哪条路。

二、跟你有什么关系

对从业者,这三条不是空谈,它们决定了你未来几年要在什么规则下训练、部署模型。前两种偏「多边共管」,第三种是「单点胜出」,成本结构完全不同。

对关注安全的人,值得注意的细节是第三种被当成「凑数」和「揶揄」来提。真正被认真对待的,是前两种更温和的共管方案,这能帮你校准对「失控论」的焦虑。

对投资者,OpenAI 与 Anthropic 都被传在筹备上市,选哪条路会直接影响两家公司的合规投入和市场叙事。

三、怎么判断

读到这儿,可以顺路看 规则清单换成了五条价值观 OpenAI 发布新版 Model Spec,围绕五条价值重组,新增意图忠实与人类能动性条款,删掉大部分风格细则。读完知道这次改了什么、对开发者意味着什么。
  1. 看终局的性质:IAEA 式是「政府主导」,CERN 式是「实验室合流」,第三种是「公司垄断」。先分清谁在掏钱、谁在定规则。
  2. 看时间线:OpenAI 说一年内定方向。未来一年它每一次安全公告和游说动作,都可以对照这三条归类。
  3. 看「限速」这个词。奥尔特曼说可行提案太少,说明他并不反对限制,只是反对「落后的限制」。别把他归类成「完全不想要监管」。

四、三个别信的说法

奥尔特曼要一家公司垄断 AI。 第三种只是他列举的选项之一,报道明确说「仅为完整性而提」,还被解读为对竞争对手的调侃。说成他本人的主张,是误读。

这些是 OpenAI 的正式政策。 消息来自内部讲话、经媒体转述,属于「据报道」的传闻,不是公司公告。引用时该带上这个限定。

OpenAI 反对一切监管。 他一边抱怨限速提案太少,一边在筹备上市前表达对监管框架的态度,立场更接近「要管,但别管到落后」。一刀切说反监管,不准。

五、一句话结论

Altman 抛出的不是三个答案,是三种权力归属——政府、实验室联盟、还是某一家公司,未来一年他得选一个。

信息来源

功能与价格以官方公告为准。本文写于 2026 年 10 月 21 日。

关于这篇

本文为编辑整理的行业动态,未附官方原文链接。涉及价格、参数、发布时间的,请以厂商官方页面为准;发现错误可来信指出,会在「本次更新」里注明。

下一站 · AI百科 怎么盯住比你强的模型?给它装一个倒带键 读完能理解弱审核者如何核验强 AI 的计算结果:新提出的可倒带交互证明允许验证器把模型回退到任意状态重来,效率高、不依赖密码学,关心 AI 安全机制的人值得一看。
下一篇,直接发你邮箱

每周一封,只发新教程和可复制模板。不发广告,随时退订。

复制规范引用格式,便于转载注明出处
这篇有用吗?