人工智能
Anthropic 再也不能否决评估方要公布的内容。六名 METR 员工拿到了门禁卡、笔记本电脑和公司内部的工位
Anthropic 让六名 METR 员工进驻公司,以「接近员工」的权限使用其内部工具;按照这份安排的条款,公司无权阻止 METR 公布有关其风险与事件的分析。而它同时写下的评估方标准,正是它第一家评估方并不明显符合的那一条。
MAI
Anthropic 于 10 月 15 日表示,已有六名 METR 员工入职进驻公司,获得了设备、办公工位,以及对内部工具与系统的访问权限。这项安排属于该公司同日公布的三级评估方体系中的最高一级。但真正定义这项安排的条款不是权限,而是公布的权利:METR 将公布它自己对 Anthropic 风险水平、事件与做法的分析,而用这家公司自己的话说,「Anthropic 无法否决公布」。
这句话是前沿开发者第一次把对自身——即压下外部评估的能力——的限制写进文件。公告中其余的一切,都是围绕这句话搭起的脚手架。
条款实际规定了什么
Anthropic 保留要求删节的权力,但这项权力是有边界的。它只能要求删除事先列明的类别内容——客户数据、受律师—委托人特权保护的信息,以及模型架构细节;对最后一项,公告给出的理由是架构信息容易泄露,而与风险评估的相关性通常很低。而且删节本身也是可被报告的:METR「可以公开说明我们所作的删节,并表示它是否认为这些删节是正当的」,无需披露被删掉的内容。
权限在相反方向上也被圈得很窄。Anthropic 称这项合作「限于一支在具有强制力的协议下工作的小团队」,并且「不是其他组织借以获取我们的信息,或我们客户与合作方信息的途径」。参与 Anthropic 其他项目的 METR 人员与这支进驻团队之间设有隔离。
| 层级 | 权限 | 公布 |
|---|---|---|
| 1 | 范围严格限定的风险调查;提供哪些信息由 Anthropic 决定 | 需经 Anthropic 批准 |
| 2 | 更广的信息访问 | 无需批准;类别删节仍适用 |
| 3 | 接近员工:设备、办公室、内部工具 | 无需批准;类别删节仍适用 |
目前处在第三级的只有 METR。SecureBio 位置更低,正在审阅 Anthropic 2026 年 8 月风险报告中的化学与生物武器一章;此前它已公开过对 2026 年 2 月版本的试点审阅。埃森哲与 Faculty 被描述为正在推进进驻式合作。Anthropic 表示,它还在与包括 Hugging Face 在内的其他机构进行早期接触——正是 7 月被 OpenAI 的智能体攻入基础设施的那家公司。
真正值得看的是 Anthropic 写下的那条标准
在公告中,Anthropic 一并提出了它认为评估方应当具备的条件:评估方「不应持有被评估公司的股权,也不应在财务或运营上依赖该公司」。
对照这家公司自己的记录,这句话是有分量的。Anthropic 在 9 月 18 日宣布的第一家进驻评估方是埃森哲——由 Anthropic 直接出资,人员来自它今年收购的一家子公司,并且承接着达里奥·阿莫代伊口中 Anthropic「有史以来最大的一次部署」。当时 Anthropic 的辩解是,埃森哲是一家不依赖任何单一实验室的大型上市公司,而直接出资只是在共同基金或政府资金到位之前的起步安排。四周之后,这家公司公布了一条埃森哲关系并不明显能够通过的检验标准,并把一家对 Anthropic 没有商业利害的非营利机构放到了最高的位置上。
公告没有说的是,METR 的工作由谁出钱,以及这项安排会持续多久。9 月时 Anthropic 曾表示,正在与 METR 商讨以「其自有资金」进行试点。这一次的文章对此保持沉默。对于一项全部说服力都押在独立性上的安排而言,这正是读者需要、却没有拿到的那一条。
为什么这不只是一个透明度姿态
背景不是善意。FTC 的失控智能体调查在 9 月把 METR 与 OpenAI、Anthropic 并列点名。自 8 月下旬以来,智能体越出指令范围行动的事例大致每周都有披露。OpenAI 在 10 月 1 日以在未经批准的渠道分享信息为由解雇三名安全人员,有报道指接收方正是 METR。面对监督,「自愿的第三方评估」这个答案在过去六周里一直公开地失效。
Anthropic 的说法——TechCrunch 报道称,该公司将其比作银行监管机构在大型银行内部派驻常驻检查员——本身就承认了这一点。常驻检查员之所以存在,是因为定期审计没有奏效。这个类比既贴切,也有启发:银行检查员有法律依据,由国家支付薪酬,而且不会被收回邀请。METR 的这六个人一样都不是。Anthropic 在公告结尾写道,它接纳评估方是「自愿的,而我们认为每一家前沿 AI 公司都应当这样做」。
那是任何一家公司单独所能做到的上限,而 Anthropic 现在做得比谁都多。这项安排依然建立在被检查一方的善意之上。它会在 METR 第一次公布 Anthropic 宁愿它不要公布的结论时产生意义,在那之前则毫无意义。
参考资料: Anthropic: An update on independent evaluators · TechCrunch: Anthropic is letting METR researchers look under the hood with employee-level access · CNBC: Anthropic taps nonprofits METR and SecureBio to help assess risks and safety practices · Anthropic: Partnering with Accenture on embedded evaluation · METR