OpenAI → Hugging Face 攻击事件让人们开始追问“我们还需要担心什么”，而 Anthropic 的过滤器标记出两类风险：网络安全和生物。那么自然的问题就是：生物安全呢？
Clem Delangue 认为，网络战的防御能力需要保持开放，并跟上前沿模型的攻击能力
Radical Numerics 联合创始人 Eric Nguyen 与我们坐下来聊了聊，解释了为什么提升生物能力的那些模型，同样可以让防御不至于落后。
从零构建一种病毒
在斯坦福大学期间，Eric 在很长一段时间里都无法让基因组语言模型（Genomic Language Models，GLM）获得关注。生物学家不相信它行得通，认为无法验证输出结果，也看不到它在他们已有手段之外的重要应用。他一直坚持推进，最终帮助主导了 Evo 的开发，并参与了 Arc Institute 的 Evo 2。这些模型后来被 Arc/斯坦福的另一个团队用来生成完整的噬菌体基因组，并合成为具有功能的病毒！
长上下文释放生物智能
早期的 ChatGPT 只会吐出诗歌和邮件，而早期的 DNA 语言模型如 Evo 和 Evo-2 就能从零构建一个基因组。不过，DNA 与自然语言不同：它的字母表非常小（只有 ACTG 四个字符），而且序列非常长：
- 人类基因平均约 6 万个碱基
- 较长的可达 230 万
- 整个人类基因组约 30 亿。
长上下文模型的创新在大约 3 年前使这一切成为可能（脚注：striped hyena），远早于前沿实验室开始构建 100 万以上上下文的模型。
如今，Eric 与其他 AI x 生物领域的杰出人物1创立了 Radical Numerics，要构建并扩展 GLM，以应对范围广泛的生物学问题，远不止生成 DNA。
用 DNA 思考
他们的 GLM 在 RNA 和蛋白质上已经表现不错，因为 DNA 序列中有清晰的标记指示基因（执行多种功能的 RNA 序列）以及编码蛋白质的特定基因。这意味着，在尝试训练 3D 蛋白质结构、表观遗传学和自然语言等其他模态之前，这些模型就已经能泛化到多种“语言”。
如果一个模型用 DNA 的语言思考，也许它也能理解环境在不同基因组上留下的印记？也许模型已经学到了不同序列之间的功能关系，并能据此外推到新的序列？
所以我们想展示的是：如果我们分多个步骤，让模型看到越来越好的 RNA 及其得分，对吧？先是低分的，然后逐步往上走。模型能否自己延续这条轨迹？到最后一步，它能否自我优化到它所能得到的最高分？这就是这个实验。我们能做到吗？于是我们拿了一个数据集，一个很大的适配体（aptamer）数据集。我们留出了表现最好的那部分，只给它看较低的那些，然后按得分排序，对吧？也就是先展示得分较低的 RNA 适配体，然后逐步升高，再让模型沿着这个模式继续往下生成。结果发现，它能够重现一些我们没有给它看过的更高得分。
于是，瞧：思维链，用 DNA 思考！
军备竞赛
但正如长上下文推理、思维链和多模态感知在自然语言 LLM 中释放出复杂的推理能力，GLM 中的这些能力也在催生日益复杂的“生物智能”，随之而来的是更大的危险。
据 Eric 说，目前防御一方在这场较量中处于下风，而 Radical Numerics 主张更用力地推进前沿！
我不会剧透细节。在这期节目中，我们详细讨论了：
- 作为军备竞赛的生物安全——以及防御如何跟上
- 基因组是环境留在 DNA 上的印记
- 实现真正的多模态
- 当你用 DNA 的语言“思考”时，思维链是如何运作的
▶ https://www.youtube.com/watch?v=B7DdNj_VjcU
Eric Nguyen：联合创始人兼首席执行官，拥有斯坦福大学生物工程 & AI 博士学位。此前曾参与开发 Evo 和 Evo 2 等大规模基因组语言模型
Michael Poli：首席 AI 科学家，拥有斯坦福大学博士学位，曾是 Liquid AI 的创始科学家。
Stefano Massaroli：总裁，曾是 Yoshua Bengio 的博士后，也是 Liquid AI 的创始团队成员。
Armin W. Thomas：首席技术官，曾是斯坦福博士后，与 Chris Ré 共事，此前任职于 Liquid AI。