人工智能
Anthropic 的智能体用 21 小时找出一个类 CRISPR 系统。其 CEO 把这个结果带到了联合国安理会
Anthropic 称约 950 个 Claude 智能体从噬菌体基因组中翻出了一个此前未被描述的酶系统。同一天,达里奥·阿莫代伊在联合国安理会上援引这一结果,并要求禁止将 AI 用于生物武器研发。该酶的功能仍然未知,且有报道称同样的搜索未能复现。
MAI
Anthropic 于 9 月 23 日发布了一份预印本,称在基本无人看管的情况下运行的 Claude 智能体,识别出了一个埋藏在噬菌体基因组中、此前从未被描述过的酶系统。公司把它称作 ART(array-associated reverse transcriptase,阵列关联逆转录酶)。同一天,首席执行官达里奥·阿莫代伊出席联合国安理会首次专门讨论先进 AI 安全风险的会议,请求安理会从一项范围狭窄的国际协议开始:禁止将 AI 用于生物武器的研发。他点名援引了这项酶学结果,同时称其为初步发现。
这两件事并不矛盾。放在一起读,它们构成了迄今为止 Anthropic 关于自家技术用途、以及这项技术一旦落入错误之手能做什么的最清晰表述。
智能体究竟做了什么
这次搜索与其说精巧,不如说是工业化的。Anthropic 把大约 950 个 Claude 智能体放进一个大型基因组序列数据库,配好工具,然后让它们跑。
| 指标 | 公布数值 |
|---|---|
| Claude 智能体 | 约 950 个 |
| 实际搜索时长 | 约 21 小时 |
| 消耗 token | 约 2.1 亿 |
| 收集到的逆转录酶 | 20 万以上 |
| 标记出的候选系统 | 约 3,500 个 |
| 进入精细分析的候选 | 20 个 |
| 预印本中描述的新系统 | 1 个 |
最终留下来的系统由三部分组成:一个逆转录酶、一个相邻的伙伴基因,以及一段间隔均匀的 DNA 重复序列阵列——依样本不同,从 3 个到 21 个拷贝。正是这种结构让人立刻想到 CRISPR。预印本记录下的"认出来"的那一刻,来自一个直接阅读序列的智能体:"RT 旁边的 DNA 太漂亮了:我用肉眼就能看到一个串联重复阵列……这是一个类 CRISPR 的……重复阵列?!"
人类科学家的早期台架实验显示,该阵列会被转录成若干条不同的短 RNA,并在噬菌体感染宿主后不久大量出现。已经确立的内容仅止于此。
真正起作用的词是"类"
ART 在生物学上到底做什么,目前未知。Anthropic 自己说得很明白,并表示实验仍在进行。"类 CRISPR"是关于形状的主张——重复、间距、一个伴随的酶——而不是关于功能的主张。CRISPR 之所以举足轻重,是因为人们发现那些重复序列编码了靶向信息,可以把核酸酶指向任何地方。至今没有人证明 ART 的重复序列能做类似的事。一个仅仅"看起来像"可编程系统的系统,是研究线索,不是工具。
麻省理工学院与布罗德研究所的张锋(Feng Zhang)比多数人更有理由对 CRISPR 类比保持谨慎,他对这一发现给出了审慎的肯定:
这是一个令人振奋的例子,显示 AI 智能体能够为生物学发现作出贡献。识别出与逆转录酶相关联的 RNA 重复阵列确实耐人寻味,值得进一步研究。
这是对方法的赞许,不是对分子的判定。
还有一处细节,其分量应当高于它目前得到的关注。The Next Web 在阅读预印本后报道称,随后以相同条件进行的十次搜索未能再次找到同一段阵列;Anthropic 将其归因于搜索空间的规模和智能体的不可预测性。如果属实,那么这条流水线还算不上一件可重复的仪器。它更像一张中奖概率不错、票数极多的彩票,而一个无法按需重新推导出来的结果,其科学价值在有人做到这一点之前都是有限的。
能力在搜索,不在这个酶
剥掉 CRISPR 的外壳,Anthropic 实证的是一个吞吐量主张:专家做比较基因组学需要一周甚至更久的工作量,以 2.1 亿 token 的代价压缩进了一天。这确实有用,也正是让人不安的地方。
一个能扫过二十万个酶并把有意思的排在前面的系统,并不在乎"有意思"指的是什么。同一条流水线换一个目标,恰恰就是阿莫代伊向安理会索要生物武器协议时所描述的那种能力——各国能够核查彼此的遵守情况、模型测试的共同标准,以及事故通报义务。Anthropic 说明,围绕 ART 的全部湿实验工作均由人类科学家在生物安全 1 级和 2 级条件下完成,未涉及人类病原体。这一约束是政策选择,不是软件的属性。
因此,在联合国出席当天公布这项发现并非巧合,而是一次论证:看看它能为医学带来什么,再看看为什么现在就该把规则写下来。至于安理会会不会把一项初步的、未经评审的、尚未被复现的发现,当作这一论证任何一半的证据,则是另一个问题。
来源: Anthropic: Claude discovers a novel enzyme system with CRISPR-like repeats · The Next Web: Anthropic says Claude found a new enzyme system with CRISPR-like repeats · The Next Web: Dario Amodei asks UN Security Council to back a ban on AI bioweapons · Unite.AI: Anthropic says Claude discovered a new enzyme system resembling CRISPR · Malay Mail / AFP: Anthropic says its Claude AI helped uncover previously unknown enzyme system · Interesting Engineering: Claude scans 200,000 enzymes to uncover new CRISPR-like system hidden in phages