我们正在更新 Claude Fable 5 的生物学安全防护,这次更新大幅减少了误报。Fable 5 用户遇到的“回退”将大大减少,所谓回退,就是用户提出与生物学相关的查询后,系统切换到能力较弱的模型。在我们的测试中,这次更新使各产品界面上与生物学相关的回退减少了约 85%。1
因此,Fable 5 将能够协助完成范围更广的生物学任务。
实际使用中,用户在日常健康和教育类问题上遇到的回退应该会少得多,例如解读化验结果、了解症状,以及在教育场景下学习生物学。医疗专业人员在临床任务上也将能从 Fable 5 获得更多支持。
我们认为,AI 对世界产生积极影响的最大机遇在生物学和医学领域,因此我们正投入大量资源,构建一种让生物学家获得前沿能力的负责任方式。目前,对于我们认为具有两用性的请求,包括病毒学、毒理学和分子设计,Fable 仍会回退到 Opus 5,所以它还不能用于专业的生物学研究和药物开发。我们致力于通过前沿生物学能力的可信访问途径,弥合这一差距。
我们为什么构建了严格的生物学安全防护
我们的目标是尽可能快地让尽可能多的用户用上 Fable 5 的前沿能力。然而,要做到这一点,我们需要管控能力如此强大的模型所带来的日益增长的风险。生物学领域就存在这样一种风险:Fable 5 如今在某些高度复杂的生物学任务上可以超过专家,在另一些任务上还能提供操作层面的支持。这意味着它可以为开发新疗法的研究人员提供真正的帮助(这也是我们如此希望通过改进分类器和可信访问计划来扩大该模型使用范围的原因)。但如果落入不法之徒手中,同样的能力可能被恶意行为者利用,例如用于开发生物武器。我们的能力评估表明,Fable 5 可能为这类行为者提供显著的能力提升(uplift),也就是说,它能给他们提供在别处无法获得的能力。
在生物学领域,往往很难区分 AI 的有益用途和有害用途。例如,在某些情况下,研究一种疾病的疗法需要科学家制造出最初导致该疾病的危险化合物。这一点在活疫苗上最为明显,科学家必须培养他们想要预防的那种病原体。某些药物也是如此。为了开发治疗高血压的药物卡托普利(captopril),科学家分离出了会让人类血压骤降的蛇毒有毒成分。随着 AI 前沿出现新的生物学能力,我们需要保持谨慎,确保它们带来的新风险不会先于其潜在的科学益处成为现实。
想利用我们的模型作恶的老练行为者,懂得如何利用这种模糊性来掩饰意图,让危险的任务看起来像普通的研究活动。美国情报界的 2026 年度威胁评估明确指出,这类行为者确实存在,并指出包括合成生物学和基因组编辑在内的生物技术进步“可能导致新型生物威胁”。该报告还提到,几个国家行为体很可能维持着活跃的进攻性生物和化学武器计划,而获取前沿 AI 模型的原始能力可能会加速这些计划。
由于我们对这些“两用”能力(既可能用于有益目的,也可能用于有害目的,而且两者之间的界线并不总是容易划分)有所顾虑,我们有意在发布 Fable 5 时拦截了几乎所有的生物学查询。这使我们得以向其他领域的用户开放该模型。我们知道,这会让正当的生物学用户感到沮丧:短期内会出现大量误报,提出生物学相关问题的用户,请求会被拦截并转给能力较弱的模型。尽管如此,我们还是选择了这种取舍,因为 Fable 在生物学这类两用领域被滥用的代价,可能是灾难性的。
我们的生物学安全防护如何工作
我们防范生物学领域滥用的核心手段之一是安全分类器:这是一些规模较小的自动化 AI 系统,用于检测 Fable 5 何时被要求执行受防护的生物学任务,或何时产生有害输出(我们此前介绍过在网络安全领域使用的类似分类器)。
就 Fable 5 而言,分类器触发时,模型会把用户的请求重新路由到 Opus 5。Opus 5 是一个能力强大的模型,但其生物学能力不及 Fable 5,能为恶意用户提供的帮助也更少。这就是用户的请求被拦截时看到的回退。
开发精确而稳健的分类器并非易事。要让分类器快速而稳定地工作,它必须学会区分,对于我们认为有潜在危害的主题和查询,什么属于“范围之内”,什么属于“范围之外”。调优分类器需要时间和反复迭代,既要避免误报(分类器对范围之外的内容触发),也要避免漏报(范围之内的内容被漏掉)。我们还要求分类器能抵御绕过它们的企图(即越狱),这需要更多的研究和测试。
从一个范围很广的生物学分类器起步,意味着我们可以在继续研究如何改进它的同时,让用户用上 Fable 5。另一种做法是推迟发布模型,直到安全防护取得更大进展,那样会使模型的普遍可用,以及它给用户带来的潜在益处推迟数周甚至数月。
过去几周,我们仔细重写了分类器的“宪章”(constitution,一组帮助模型区分受防护内容与允许内容的规则),并特别注意详尽地划出无害用途的范围。我们就这些改动向内外部各领域的专家征求了反馈,然后基于这份宪章制作了更新的分类器训练数据,对其重新训练,并验证了新分类器对有害的和两用的生物学研究内容整体上仍会触发,但现在能放行范围更广的无害且有益的用途。
如下图所示,这些更新意味着,与 Fable 5 发布时相比,分类器对许多无害的生物学相关请求将不再触发。

结论
我们的安全防护还有很多需要改进的地方。误报将不可避免地继续存在,也就是落在分类器安全边际内的请求,风险很低,但分类器仍然触发。如上所述,由于潜在的两用风险,Fable 将继续拦截两用的专业生物学和药物开发查询。我们将全力开发一条安全、可扩展的路径,让研究人员通过可信访问途径使用我们能力最强的模型。
我们希望你继续向我们提供反馈,帮助我们进一步改进安全防护。
