ChatGPT 是全球使用最广泛的人工智能产品之一，我们已投入建设业内最先进的系统，用于检测潜在危害、审查可疑活动并升级可信威胁。我们在此宣布两项举措以推进该领域的工作：一份新的《社区安全报告》，以及对未成年人枪支相关内容的更多限制。
保障社区安全 始终是 OpenAI 的首要任务。我们的工作包括将迫在眉睫的暴力威胁提请执法部门注意，2026 年第三季度我们向执法部门转介了 200 多次。这些转介在阻止暴力阴谋方面正在产生 积极 影响，我们继续依靠心理健康和行为专家帮助我们评估疑难案件。
我们认识到，人工智能公司与执法部门、家庭成员、心理健康专业人士和政策制定者一样，扮演着独特的角色，后者带来关键的权威、背景信息和现实世界的影响力。我们致力于充分发挥这一作用，不断强化我们的系统，分享我们所学到的经验，并直接与那些最有能力在现实世界中采取行动的人合作。
OpenAI 的社区安全报告
我们不断强化为帮助保护人们和社区所采取的措施。这意味着要建立强有力的保障措施，同时也要透明地说明这些措施的效果如何以及我们正在做什么来加强它们。我们希望让人们清楚地了解我们的方法、我们的模型如何识别和应对有害行为、我们在实践中看到的风险以及我们为应对这些风险所采取的步骤。
我们承诺发布关于暴力预防和其他社区安全问题以及我们保障措施有效性的《社区安全报告》。该报告将解释我们如何训练系统来检测、调查和应对社区安全问题。我们将分享关于暴力相关危害如何表现的匿名示例以及我们正在学习的内容，重点介绍新的缓解措施和政策变化，并包含相关数据以支持这些发现。
我们将在 2027 年初发布第一份报告，涵盖 2026 年下半年，此后每六个月更新一次。我们的承诺是分享关于我们如何识别、审查和应对潜在有害内容的有意义的发现。
为所有用户设定更强的政策边界
我们的模型经过训练，不会提供有助于他人策划或实施暴力的指令。我们现在对 ChatGPT 如何回应有关过去大规模袭击及实施者的问题施加额外限制，指示模型在这些领域提供较少细节的信息，即使这些信息可以从其他在线来源获得。人们应该能够要求 ChatGPT 帮助他们了解这些事件、受害者和社区如何受到影响，并学习识别警告信号和预防未来暴力。但我们正在收紧政策，限制对过去大规模袭击的重建，包括有关使用的武器和装备以及如何获得的细节，以及可能放大攻击者恶名的危害规模的详细比较。这些限制适用于所有用户，无论年龄或询问原因。
回应警告信号
有时，一个单独看来普通的请求，结合之前的对话就会产生不同的含义。今年 5 月，我们分享了 ChatGPT 如何利用简短的事实摘要 来记录早期警告信号，以便在后续聊天中更谨慎地回应。我们正在此基础上继续努力，当最近的聊天显示可能存在暴力的警告信号时，ChatGPT 在分享可能被滥用的信息时将更加保守地回应。我们还致力于在我们预测某人未满 18 岁时应用这些更严格的限制，即使他们的聊天没有显示暴力意图的迹象。
我们禁止我们认定违反 暴力活动政策 的账户。我们还与心理健康和暴力预防专家合作，研究额外的自动化方式以更早地进行干预。当对话显示某人正专注于暴力或严重伤害他人的想法时，ChatGPT 将能够自动结束聊天，以当场打断这种模式。如果 ChatGPT 因此原因结束多个聊天，我们可能会暂时暂停该账户。这是一项持续的努力，我们继续加强和投资于技术和实践保护，包括如何可靠地识别警告信号以及确定何时以及如何干预。
为青少年提供更多保护
ChatGPT for Teens 为 18 岁以下用户应用适合年龄的保障措施，提供更强的保护和额外限制以减少接触敏感内容。我们现在对青少年可以接收的武器相关信息施加进一步限制，即使问题看似无害。
我们的政策已经禁止帮助任何人策划或实施暴力，并限制帮助青少年寻找或获取武器。我们正在扩展这些保护措施，限制可能被滥用以助长暴力的武器和安全系统的实用信息，即使没有暴力意图的迹象。青少年仍然可以使用 ChatGPT 帮助预防和缓和暴力、寻求支持并与可信赖的成年人联系。
我们去年推出了 年龄预测，它分析行为模式等多种信号来估计用户可能未满或超过 18 岁。我们加强了年龄预测系统，以便在人们使用 ChatGPT 时持续评估新信号，并在适当的时候将青少年转入 18 岁以下体验。被错误置于 18 岁以下体验的用户始终可以通过我们的年龄验证合作伙伴 Persona 以快速、保护隐私的方式确认他们是成年人，并移除额外的青少年保护。
我们的家长控制功能让家长可以关联自己的 ChatGPT 账户与青少年的账户，并共同管理安全设置。关联账户包含安全提醒，当经过专门培训的审核人员发现严重的自残担忧以及与饮食失调可能相关的行为时，可能会发送这些提醒。今年 7 月，我们扩展了这些提醒，以便在青少年的账户因违反我们关于暴力的使用政策而被停用时通知家长。我们正在努力推出通知功能，以便在我们因青少年反复讨论暴力而暂停其账户时通知家长，具体如上所述。
展望未来
现实世界中的暴力行为令人心碎且复杂，有许多促成因素。它们也严酷地提醒我们，必须继续设计和迭代我们的系统，以应对人类行为固有的复杂现实。在 AI 系统中开发有效的暴力防护措施，需要解决识别风险和适当应对方面的新问题，我们将继续投入、迭代并分享关于如何最好地实施我们所追求的保护措施的经验。此处详述的保障措施将在未来几周内开始推出，我们将继续完善它们。我们仍然致力于减轻 ChatGPT 中的伤害风险、加强我们的分层保护、监控滥用行为、执行我们的规则，并在情况需要时引入现实世界的支持与干预。