阿莫代伊呼吁行业协同。协同从七月就开始了

周一，The Information 报道称，Anthropic、OpenAI 和 Google 的工作组最迟自七月起就定期会面，讨论建立一个由行业主导的前沿 AI 标准机构——一套在模型发布之前进行测试和审计的机制。《华盛顿邮报》也报道了同一场磋商。两篇报道都依据熟悉讨论情况的人士，没有任何一家公司公开确认过任何事。这应当被当作报道来读，而不是当作公告。

如果报道属实，周末发生的事情就要重新理解。达里奥·阿莫代伊的《We Must Pace the Frontier》、萨姆·奥尔特曼的附议、以及被搁置的 OpenAI 上市计划，都不是一项协同努力的开端。它们是一项已经存在的努力浮出水面的时刻。

报道了什么，没报道什么

所描述的机构将设定共同的安全基准，对前沿模型进行发布前评估，并让评估结果存放在生产该模型的公司之外。工作组据报最近一次会面就在上周。而没有被报道的是：任何已达成的章程、任何资金安排、任何具名的参与者，以及任何一家实验室承诺服从一个自己不喜欢的评估结论。

这个缺口很重要，因为这三家公司想要的似乎并不是同一个机构。

三套设计，对同一个问题的三种回答

哈萨比斯在 7 月 14 日公开提出 FINRA 类比，呼吁设立一个独立的标准机构来测试前沿模型。阿莫代伊的文章对同一构想更为谨慎：

"双方同意在发布前就急性风险测试各自的模型……可以通过一个全球标准机构来完成。我其实认为建立这样一个机构大概率是可行的，但要让它真正长出牙齿会是个难题。"

据 The Information 对一次内部全员会议的转述，奥尔特曼告诉员工，实验室将不得不在没有美国政府支持的情况下自己把这个机构建起来。

这不是同一个提案的三种口味。这是对唯一一个决定标准机构是否真正起作用的问题——当测试结果不好时，谁有权说"不"——的三种不同回答。阿莫代伊的答案是监管机构。哈萨比斯的答案是一个有联邦兜底的自律组织。奥尔特曼的答案，目前是没有人。

反垄断问题就写在提案里

这里的障碍不是保密。阿莫代伊自己点了名：

"出于反垄断方面的原因，由美国政府来斡旋、或至少让这些讨论成为可能，是有帮助的——政府不必参与，但确实需要就某些类型的安全对话发出一项范围狭窄的豁免。"

这是在请求获准让竞争对手之间就自身产出的速度与方式达成一致。这么做完全可能是正确的。但从结构上讲，它也正是竞争法存在所要防止的那件事——所以这个计划离不开华盛顿，而华盛顿眼下指的是相反的方向。

据报道，一份将设立 AI 自律监管组织的行政令草案正在政府内部流转，并因内部反对而停滞。总统本人的立场在周末的爱尔兰已经摆明。他淡化了对 AI 开发加装更多约束的必要性："但在 AI 上赢的人就赢了。"Cohere 的艾丹·戈麦斯 9 月 13 日撰文，称这一轮协同推动是"披着狼皮的羊，换了个名字的卡特尔"。

论坛早就有了

Frontier Model Forum 由 Anthropic、Google、Microsoft 和 OpenAI 于 2023 年 7 月成立，任务是制定安全标准并与政府共享信息。它目前列出的成员包括 Amazon、Anthropic、Google、Meta、Microsoft 和 OpenAI。

此次报道中的磋商只涉及这六家中的三家。这一缺席，是整则报道里信息量最大的细节。微软把周一花在发布自家 MAI 模型的行为准则、并启动为期六周的公开征求意见上——那是一份单方面的文件，不是共同文件。Meta 则一直抵制整个转向监管的趋势。而据 The Information 报道，OpenAI 和 Anthropic 曾分别向政府施压，要求建立一致的联邦审查标准，并适用于包括 Meta 和 xAI 在内的竞争对手。

一个比既有安全机构更窄的安全机构，主要目的并不是协调行业。它是自认处在前沿的实验室试图掌握"前沿"的定义权，并为房间之外的公司立下一道必须跨过的门槛。

接下来看什么

有四件事能把这从报道变成事实：某家公司公开确认这些磋商；行政令往前走或者死掉；成员名单长于三家；以及最终，真的有一次模型发布因为评估结论而被拦下。在那之前，诚实的描述是：美国最大的几家 AI 公司花了两个月讨论一个谁都还没同意受其约束的机构。

参考资料： The Washington Post: Anthropic, OpenAI and Google discussed creating new AI safety body · PYMNTS: Google, OpenAI and Anthropic float idea of AI standards body · Quartz: Anthropic, Google and OpenAI discussed a shared AI standards body · Dario Amodei, "We Must Pace the Frontier" · CNBC: Google DeepMind chief Demis Hassabis calls for U.S. to spearhead AI standards body · TechCrunch: DeepMind CEO calls for an independent standards body to regulate frontier AI · PBS NewsHour: Trump downplays the need to check AI development · Aidan Gomez, Cohere: Who gets to define the rules for AI · Microsoft AI: Humanist AI in practice — a public consultation on our Code of Conduct for MAI Models · Frontier Model Forum · Seoul Economic Daily: Rivals unite — Anthropic, OpenAI, Google push AI standards body