🔬生物安全是一场AI军备竞赛 - Eric Nguyen（Radical Numerics首席执行官）
1×
0:00
当前时间：0:00 / 总时长：-1:31:58
-1:31:58
🔬生物安全是一场AI军备竞赛 - Eric Nguyen（Radical Numerics首席执行官）
Radical Numerics正在利用生物链式思维和多模态感知来跟上生物防御军备竞赛的步伐，设计新基因组并深入理解生物学本身。
OpenAI → Hugging Face攻击事件让人们不禁发问：“我们还需要担心什么？”Anthropic的过滤器标记了两件事：网络安全和生物学。那么自然的问题是：生物安全呢？
Clem Delangue主张网络战防御能力需要开放，并跟上前沿模型的攻击能力
Radical Numerics联合创始人Eric Nguyen与我们坐下来，解释了为什么那些提升生物学能力的模型同样也能让防御不落后。
从零开始构建病毒
在斯坦福大学期间，Eric长期无法在基因组语言模型（GLMs）上取得进展。生物学家不相信这会奏效，不认为他们能验证输出，也看不到超出他们已有能力的重要应用。他坚持不懈，最终帮助领导了Evo的开发，并为Arc Institute的Evo 2做出了贡献。这些模型后来被另一个Arc/斯坦福团队用于生成完整的噬菌体基因组，并合成为功能性病毒！
长上下文解锁生物智能
早期的ChatGPT能输出诗歌和电子邮件，而像Evo和Evo-2这样的早期DNA语言模型可以从零构建基因组。然而，DNA与自然语言不同，它的字母表非常小（4个字符ACTG），而且其序列非常长：
平均人类基因60K
长的可达2.3M
整个人类基因组约3B。
长上下文模型的创新在大约3年前使这成为可能（脚注：striped hyena），远早于前沿实验室构建1M+上下文模型。
现在，Eric和其他AI x Bio的杰出人士1创立了Radical Numerics，旨在构建和扩展GLMs以解决广泛的生物学问题，远远超出生成DNA的范围。
用DNA思考
他们的GLMs在RNA和蛋白质方面已经表现相当不错，因为DNA序列中有明确的基因标记（执行多种功能的RNA序列）以及编码蛋白质的特定基因。这意味着模型已经能够泛化到多种“语言”，甚至还未尝试在其他模态（如3D蛋白质结构、表观遗传学和自然语言）中进行训练。
如果模型用DNA语言思考，也许它也能理解环境在不同基因组上留下的印记？也许模型已经学习了不同序列之间的功能关系，并能够基于此外推到新的序列？
因此，我们想要展示的是，如果我们通过一系列步骤，向模型逐步展示性能越来越好的 RNA 及其得分，对吧？也就是说，先给它看低分的，然后沿着链条逐渐向上。模型能否自行延续这一轨迹？然后在最后一步，它是否会自我优化到它能获得的最佳得分？这就是那个实验。我们能做到吗？于是我们取了一个数据集，一个大型适配体数据集。我们留出了一部分表现最好的，只给它看那些较低的，但我们对它们进行了排序，对吧？所以我们先展示得分较低的 RNA 适配体，然后逐步提高，再让模型按照这个模式继续下去。结果它能够重现一些我们尚未展示给它的较高得分。
所以，瞧：思维链，用 DNA 思考！
军备竞赛
但正如长上下文推理、思维链和多模态感知在自然语言 LLM 中解锁了复杂推理一样，GLM 中的这些能力正在催生越来越复杂的“生物智能”，随之而来的是更大的危险。
据 Eric 所说，防御目前正在输掉这场战斗，但 Radical Numerics 主张更努力地推进前沿！
我不会为你剧透细节。在这一集中，我们详细讨论了：
生物安全作为一场军备竞赛——以及防御如何跟上
基因组作为环境在 DNA 上的印记
真正走向多模态
当你用 DNA 的语言“思考”时，思维链如何运作
Eric Nguyen：联合创始人兼 CEO，拥有斯坦福大学生物工程与人工智能博士学位。他此前曾帮助开发 Evo 和 Evo 2 等大规模基因组语言模型。Michael Poli：首席 AI 科学家，拥有斯坦福大学博士学位，曾是 Liquid AI 的创始科学家。Stefano Massaroli：总裁，曾是 Yoshua Bengio 的博士后，也是 Liquid AI 的创始团队成员。Armin W. Thomas：CTO，曾是斯坦福大学博士后，与 Chris Ré 共事，此前就职于 Liquid AI。
关于本集的讨论
Latent Space：AI 工程师播客
由 AI 工程师打造、为 AI 工程师服务的播客！2025 年，超过 1000 万读者和听众来到 Latent Space，收听关于 Software 3.0 的新闻、论文和访谈。
我们报道正在改变代码生成、多模态、AI 智能体、GPU 基础设施等各个领域的基础模型，直接来自参与推动前沿的创始人、构建者和思想者。我们力求为你提供关于当下热点的权威解读，直到对你未来 3 个月将使用的技术的首次介绍！我们发布来自 OpenAI、Anthropic、Gemini、Meta（Soumith Chintala）、Sierra（Bret Taylor）、tiny（George Hotz）、Databricks/MosaicML（Jon Frankle）、Modular（Chris Lattner）、Answer.ai（Jeremy Howard）等的新闻和独家访谈。
完整节目笔记始终在 https://latent.space
赞助与商务咨询：[email protected]
由 AI 工程师打造、为 AI 工程师服务的播客！2025 年，超过 1000 万读者和听众来到 Latent Space，收听关于 Software 3.0 的新闻、论文和访谈。
我们涵盖正在改变各个领域的基础模型，包括代码生成、多模态、AI 智能体、GPU 基础设施等，直接来自推动前沿发展的创始人、构建者和思想者。我们力求为你提供关于当下热点的权威解读，也带你初步了解未来 3 个月你将用到的技术！我们发布来自 OpenAI、Anthropic、Gemini、Meta（Soumith Chintala）、Sierra（Bret Taylor）、tiny（George Hotz）、Databricks/MosaicML（Jon Frankle）、Modular（Chris Lattner）、Answer.ai（Jeremy Howard）等的新闻和独家采访。
完整节目笔记始终发布在 https://latent.space
赞助与商务咨询：[email protected]