人工智能
Anthropic 指定了第一家独立评估方。它同时也是 Anthropic 最大部署项目的承接方
Anthropic 将让埃森哲的人员进驻公司内部,以接近员工的权限评估其模型,双方各自承诺五年内至少投入 10 亿美元。这种权限是前沿开发者迄今做出的最实质的透明度承诺——而这家评估方,正是 Anthropic 口中"有史以来最大的一次部署"的合作方。
MAI
Anthropic 于 9 月 18 日宣布,由埃森哲(Accenture)提供第一支进驻公司内部的"嵌入式评估者"(embedded evaluators)团队:外部人员将获得接近员工的权限,对模型做红队测试、进行对齐评估、检验安全防护,并报告所发现的问题。两家公司预计各自在五年内至少投入 10 亿美元。这是达里奥·阿莫代伊(Dario Amodei)一周前在《We Must Pace the Frontier》中提出的三步计划里第一个落到实处的部分,也是其中唯一一个单独一家实验室就能自行完成的步骤。
而从同一组事实的另一面看,这也是 Anthropic 与其最大商业部署承接方之间的一纸合同。
实际承诺了什么
| 条款 | 公告内容 |
|---|---|
| 权限 | "与员工相当";阿莫代伊的文章写明为"我们办公室里的工位、门禁卡和公司笔记本电脑" |
| 工作范围 | 模型评估、红队测试、对齐评估、安全防护检验 |
| 公开 | 评估者"还可以报告事件,向公众提供一份对收益与风险更有依据的说明" |
| 金额 | 每家公司五年内至少 10 亿美元 |
| 出资方 | "Anthropic 将直接为埃森哲的工作提供资金" |
| 排他性 | 双向非排他;更多评估方"将在未来数周内公布" |
人手来自 Faculty——埃森哲今年 1 月同意以逾 6 亿英镑收购的英国应用 AI 公司,其原首席执行官马克·沃纳(Marc Warner)现任埃森哲首席技术官。Faculty 的既往业务是为政府、国防、医疗和基础设施客户做模型测试,更接近审验(assurance)工作,而非对齐研究。
真正有分量的是权限
今天对前沿模型的外部评估,大多意味着发布前的一小段窗口期:外部机构在保密协议下拿到一个成品检查点,探查几周,然后公开实验室允许公开的部分。进驻式权限是另一种工具。在训练过程中坐在楼里的评估者,看到的不只是成品,还有决策本身。阿莫代伊的文章明确表示,公开的权利应当经得起实验室的不适——"我们不能仅仅因为结论不利就把它删掉"。
如果这一条站得住,它将是任何前沿开发者做出过的最实质的透明度承诺。Anthropic 自己的公告刻意没有把话说满,指出"关于嵌入式评估者应当获得哪些信息、应当如何报告其发现,目前尚无任何标准"。这套安排的设计和人员配备是同时进行的。
独立性问题并非枝节
2025 年 12 月 9 日,埃森哲与 Anthropic 成立了 Accenture Anthropic Business Group:约 3 万名埃森哲员工接受 Claude 培训,数万名开发者获得 Claude Code,目标是把企业客户从试点推进到生产环境。阿莫代伊当时称其为"我们有史以来最大的一次部署"。九个月后,同一个交易对手成了同一批模型的独立检查方,而且由被检查的公司直接付费。据 TechCrunch,消息公布后埃森哲股价在盘后上涨约 8%。
Anthropic 没有回避这个反对意见,而是正面回应。其理由是:埃森哲是一家早在 AI 热潮之前就存在的大型上市公司,不依赖任何一家实验室;合作在两个方向上都是非排他的;公司正"与 METR 及其他非营利评估机构对话,以其自有资金试行嵌入式评估的若干要素";直接出资只是起步安排,长期而言"资金应来自共同基金或政府来源"。它的总结句是这一主张的诚实版本:
独立的嵌入式评估者不会减轻我们的责任,而是让这份责任更可被验证。
但这个人选仍然让一直主张嵌入式评估的人感到意外。此前的讨论围绕的是 METR、Redwood Research 和 Apollo Research——拥有对齐研究人员、且没有收入需要顾忌的小型机构。支持埃森哲的理由是一个非营利机构不容易回应的现实问题:让一支团队在一家前沿实验室内部常驻五年,本质上是个人力编制问题,而咨询公司正是为解决人力编制问题而存在的,研究型非营利机构则不是。
尚未进行的那场检验
一周前悬而未决的问题是:进驻评估者会带着名字、权限范围和可公开的结论出现,还是停留为一项原则。三件事中已有两件有了答案。剩下的那一件,决定这究竟是监督还是采购——而它不可能由本周签署的任何文件来决定。
它只会在这样一刻见分晓:埃森哲的进驻团队发现了 Anthropic 宁可不公开的东西,却依然把它公开——而对方是出资方,也是通过同一家公司销售其软件的客户。在那之前,存在的只是两家本就往来甚密的公司之间一项资金充裕的安排,其条款没有任何外部方参与议定。Anthropic 说未来数周还会有更多评估方。它们当中是否有谁承受得起失去这笔业务,才是值得盯住的地方。
参考资料: Anthropic: Partnering with Accenture on embedded evaluation · Accenture newsroom: Accenture and Anthropic partner to build team of embedded evaluators at Anthropic · Dario Amodei, "We Must Pace the Frontier" · TechCrunch: Anthropic's first embedded evaluator is … Accenture? · CNBC: Anthropic selects Accenture as first embedded evaluator · Accenture newsroom: Accenture and Anthropic launch multi-year partnership(2025 年 12 月 9 日)