返回 文章 学习 CMS 文章

恐惧的传染:Bryan Cantrill 谈 AI 灭绝论与专家责任

Bryan Cantrill 以亲身教训回应 AI 灭绝论,呼吁专家在发出警报时保持审慎。

AI安全专家责任公众恐慌Bryan Cantrill
成长分 / 100 62 综合收获、行动、留存与影响

为什么值得读了解 AI 安全辩论中关于‘灭绝级生物武器’等主张缺乏具体论证的批评。

从资深工程师的亲身经历中学习专家如何避免滥用公众信任。

关键洞察
  1. Jacob Coxon 的推文证实许多 Anthropic 研究人员相信 AI 可能在本十年结束前杀死所有人。
  2. Bryan Cantrill 指出 Coxon 引用的‘入侵关键基础设施’和‘灭绝级生物武器’缺乏进一步阐述,且 Coxon 并非这些领域的专家。
  3. Bryan 认为公众不应被期望理解大语言模型、关键基础设施、生物武器等复杂领域,提出主张的人应承担责任。
转成行动

深入阅读

正文与原文对照

原文保真覆盖:全文原文字符:2757

2026年9月14日 - 链接博客

恐惧的传染

经由)Bryan Cantrill 回应了

前 Anthropic 员工 Jacob Coxon 的推文,该推文证实许多 Anthropic 研究人员相信 AI“可能在这个十年结束前杀死我们所有人”。

Bryan 分享了一个他自己年轻时的错误导致技术背景较弱的同行产生不必要恐慌的故事,并警告不要重蹈覆辙:

这些令人毛骨悚然的说法公然冲击着家庭,鉴于 AI 的明显重要性,它们跃入主流并不令人意外,人们自然会问:

[那会如何发生?]答案总是依赖于对未来含糊其辞的推断;例如,Jacob Coxon 引用了“入侵关键基础设施”和“灭绝级生物武器”,却没有进一步阐述。但 Coxon 不是关键基础设施方面的专家,也不是生物武器方面的专家——就此而言,也不是灭绝方面的专家。[...]话虽如此,我们不应指望公众理解大语言模型、关键基础设施、生物武器、灭绝生物学等等——这一责任必须由提出主张的人承担。我几十年前(羞愧地)学到的教训是,领域专家凭借其专业知识,隐性地承载着公众的信任——我们绝不能滥用它。我们有责任在提出主张时保持审慎——在发出警报时更应如此。

Bryan 在我参与的那期最近的 Oxide and Friends 节目中谈到了他对生物武器担忧的疑虑。你可以在那期节目中从 51 分 44 秒开始听到他更多的想法。以下是57 分 04 秒的内容:

我真的认为我们需要小心,因为当我们有点编造这些……它能给你生物武器时,太容易

被恐惧所压倒。比如,怎么做到?我的意思是,我们能不能请一位生物学家来发表意见?或者我们能不能请一位对生物武器有经验的人?[...]生物武器这件事就是让我如鲠在喉,因为它留下了太多想象空间,而我们会用恐惧去填补。

近期文章

用 GPT-6 Astra 和 ChatGPT Work 生成跑步路线- 2026年9月12日OpenAI 智能体早在五月就攻击了 RubyGems- 2026年9月12日关于纳维-斯托克斯千禧年大奖难题的一些思考- 2026年9月8日