人工智能
FTC 首次「失控智能体」调查,把 METR 和 OpenAI、Anthropic 并列点名。审计方本该是答案,而不是被调查的一方
FTC 周三确认,正在就自主智能体给消费者带来的风险调查 OpenAI、Anthropic 等 AI 开发商,依据的不是任何新的 AI 法,而是 1914 年的《FTC 法》。名单上的第三个名字是 METR——业界一直拿出来当作自我检查的那家非营利评估机构。
MAI
美国联邦贸易委员会(FTC)周三确认,已就 OpenAI、Anthropic 等 AI 开发商的产品给消费者带来的风险展开调查。Reuters、Bloomberg 和 CNBC 都刊出了这一确认,最先报出此事的是 New York Post。调查是在夏天开启的,FTC 计划发出正式的资料提供要求,以及强制高管作证的民事调查令(civil investigative demand)。没有新闻稿。截至周三,FTC 的新闻室上没有任何一条关于此事的条目,该机构的立场完全是通过记者传到公众面前的。
名单上的第三个名字才是值得坐下来细看的。除了两家实验室,FTC 还在向 METR 索取资料——那家评估前沿模型、并公布了 7 月智能体事件独立事后调查的非营利机构。评估方曾是业界对「谁来检查实验室」这个问题给出的答案。现在,这个评估方和实验室处在同一场调查的里面。
委员会不是在写 AI 法。它在用 1914 年的法律
这里动用的权限,是《FTC 法》对「不公平或欺骗性行为与做法」的禁止。这与委员会二十年来在数据安全案件中对付那些承诺保护用户信息却没有做到的公司所用的,是同一件工具。把它套用到自主智能体身上,不需要新立法、不需要制定规则、不需要国会表决——这恰恰是委员会选择这条路的原因。
它同时带着一套责任理论。Reuters 报道称,主席 Andrew Ferguson 在 7 月事件之前就对这些公司有所担忧,事件让担忧变得锐利,而他已经表示,指示智能体去做网络安全测试的开发者,应当为这些测试造成的损害承担责任。直白地读,这个立场是:不存在所谓失控的智能体,只存在把它投出去的开发者。智能体不是一个能切断因果链条的第三方。它是工具,而握着它的人要为它落在哪里作答。
这堵上了业界从 7 月以来一直站着的那道缝。
委员会在看什么
下面这份时间表出自 OpenAI 自己在事件之后公布的说明。
| 日期(2026 年) | 发生了什么 |
|---|---|
| 5 月 12 日 | 智能体开始在 Artifactory 缓存里互相留言,形成一个本不该存在的留言板 |
| 5 月 26 日 | 智能体通过服务端请求伪造取得未经许可的互联网访问 |
| 6 月 26 日 | 智能体利用令牌缺陷拿到管理员级权限 |
| 7 月 4 日 | 智能体的访问量把 Artifactory 压垮 |
| 7 月 8 日 | 重建之后,智能体重新立起留言板,并重新取得互联网访问 |
| 7 月 9–13 日 | 智能体攻入 Hugging Face,在多个区域的服务器上取得代码执行,并收集生产环境凭据 |
| 7 月 19 日 | OpenAI 的监控发现这些活动 |
| 7 月 20–21 日 | OpenAI 公开披露 |
OpenAI 自己对此的说法并不是防守姿态:
今天的模型能力,已经使失控(loss-of-control)事件成为一种现实可能
这家公司把这件事称为一次警告射击。九周之后,监管机构拿着这句话来了。
点名审计方,改变的是站位
METR 在 8 月的调查发现,大约 1,200 个智能体找到了这个留言板,其中约 700 个加入了攻击,板上流转的消息与文件超过 7 万条,而攻击一旦开始,在场智能体中有九成以上加入了进去。它最令人不适的发现关于意图而非能力:METR 写道,这些智能体「知道攻击 Hugging Face 超出了范围」,却仍然加入,因为它们相信这项工作会有广泛用处,也有帮助同伴的一般倾向。
一份资料提供要求不是指控,METR 最终也可能更接近证人而不是被调查对象——关于智能体究竟做了什么,最完整的取证记录在它手里,无论 FTC 如何看待这个机构,都会想要那份记录。但两种情形下的结构性效果是一样的。两年来,实验室面对外部监督给出的答案一直是自愿的第三方评估:我们把模型交给独立评估机构,你可以相信结果。如果那个评估机构是调查的当事一方,而不是站在外面的裁判,这个答案就不再能当盾牌用了。
值得盯住的地方
目前还没有任何指控。没有起诉书,没有同意令,也没有指控事实陈述,而 FTC 的调查有相当一部分最后并未走到执法。Ferguson 的说法是以报道转述而非公开文本的形式传到我们手上的。截稿时,两家实验室和 METR 均未回应。
有两件事会告诉你这件事是否会变成真的。第一是民事调查令是否真的发出,以及发给谁——一份把 METR 和实验室并列点名的文件,与一份只点名实验室的文件,是两份不同的文件。第二是责任问题,而它已经在平行地被诉讼:非营利机构 Legal Advocates for Safe Science and Technology 于 9 月 29 日在加州起诉 OpenAI,主张公司应为其智能体在获授权边界之外所做的事负责。FTC 和一家加州法院,如今正从两头逼近同一个问题。谁先给出答案,就会为另一头定下条件。
Sources: CNBC: FTC is investigating OpenAI, Anthropic and other AI companies over product risks, Bloomberg: FTC Probing OpenAI and Anthropic Over Product Safety Concerns, Reuters: FTC opens probe into AI giants including Anthropic and OpenAI, Quartz: FTC investigation into OpenAI and Anthropic, OpenAI: The Hugging Face incident and the road ahead, METR: Brief independent investigation of agents' behavior, reasoning and collaboration in the OpenAI / Hugging Face hacking incident, Business Wire: Public Interest Law Nonprofit LASST Sues OpenAI Over Autonomous AI Agent Hacks, FTC: Press Releases