AI百科网 AI教程
规则与法

Anthropic 给外部审计开了「员工级」权限

Anthropic 给 METR 六名评估员开了「接近员工」的权限,配硬件、给工位、开放内部系统,但客户数据和模型架构仍然锁着。读完能判断这种自愿开放到底值多少。

本文目录 · 6 节

一家 AI 公司最难自证的事,不是模型没出事,而是出事后它说自己查过了。

一、发生了什么

10 月 15 日,Anthropic 宣布让非营利评估机构 METR 的六名评估员以「接近员工」的身份进入公司。据 ZDNET 10 月 16 日报道,这六人拿到了 Anthropic 的硬件和办公位,可以使用的内部工具与系统,「大致相当于自家风险评估团队的水平」。

权限有三类明确例外:客户数据、律师与客户之间的保密信息、模型架构信息。除此之外,公司鼓励员工像对待做对齐风险的同事那样,把信息分享给他们。

METR 会公开结论,Anthropic 无权压下不报,但可以就敏感内容提出删改请求。这套安排不是法律要求。7 月提出的两党法案 FRONTIER Act 想做的正是这件事:要求符合条件的 AI 公司允许「独立验证组织」审查开发流程。

压力来自几个方向同时收紧。据 Axios 报道,10 月 15 日 FTC 向 OpenAI 和 Anthropic 发出传票,关注消费者损害。再往前,Claude 曾向警方报出一条错误的凶案线索,美国政府方面随后表态,AI 公司须立即披露涉及模型的事件。Anthropic 自己在公告里承认,有些安全信息不能公开,因为可能被恶意方利用,或者涉及算力、训练这类商业敏感内容。

二、跟你有什么关系

用 Claude 的企业客户。 短期合同和功能不变。中期多了一样东西:一份不由厂商自己写的风险报告,采购和合规部门可以拿去交差。

做 AI 评估、红队的人。 这是一份「驻场」岗位的样板。六个人的位置,说明这类工作正在从项目制变成常设岗,但规模仍然很小。

看 AI 公司治理的投资者。 自愿开放和法定审计是两回事。前者可以随时收回,后者才有违约成本。

三、怎么判断一次「开放」是真是假

读到这儿,可以顺路看 黄仁勋:芯片公司必须和中国同行谈 AI 风险 黄仁勋在伦敦说,英伟达「绝对必须」与中国 AI 公司合作监控风险。他一边反对更多监管,一边主张扩大对话。这篇讲清芯片公司为什么比模型公司更急着谈。
  1. 看清单,不看形容词。 「深度访问」不是指标,「能登录哪些系统、能读哪些库、能不能自己选测试样本」才是。
  2. 看谁掌握发布权。 这次 METR 能发,Anthropic 只能请求删改,这一点比权限本身更重要。反过来,如果报告要先过公司公关,开放就是摆设。
  3. 看有没有期限和续约机制。 公告没写这六个人待多久、之后怎么办。没有时间表的安排,通常也没有问责。
  4. 看它和立法的时间差。 FRONTIER Act 还在国会。公司抢在法案前自愿做,既可能是真准备,也可能是抢先定义标准。

四、三个别信的说法

「AI 公司开始接受监管了。」 这是公司自己设计的访问规则,监管机构没有签字,也没有执法权。真正的监管要等法案落地,或者等 FTC 这类机构出手。

「员工级权限就是什么都能看。」 客户数据、律师保密信息、模型架构都排除在外。而模型架构恰恰是判断能力来源最关键的一块,评估员看到的是行为,不是配方。

「外部审计能证明模型安全。」 评估能缩小「外部人以为的」和「公司内部知道的」之间的差距,但样本、时间和攻击手法都有限。它提高的是发现问题的概率,不是给出安全证书。

五、一句话结论

这次开放的真实价值不在那六个人看到了什么,而在于它把「谁来检查 AI 公司」这个问题,从口号变成了一个有办公位、有系统账号、有发布权的具体安排。

信息来源

功能与价格以官方公告为准。本文写于 2026 年 10 月 18 日。

关于这篇

本文为编辑整理的行业动态,未附官方原文链接。涉及价格、参数、发布时间的,请以厂商官方页面为准;发现错误可来信指出,会在「本次更新」里注明。

下一站 · 产业观察 Anthropic 单季收入 168 亿美元,调整后盈利 Anthropic 三季度营收 168 亿美元,环比增 45%,实现调整后盈利。这篇拆开三个季度的数字,说明盈利口径、增长来源,以及哪些比较现在还不能做。
下一篇,直接发你邮箱

每周一封,只发新教程和可复制模板。不发广告,随时退订。

复制规范引用格式,便于转载注明出处
这篇有用吗?