返回 文章 学习 CMS 文章

Paul Christiano 加入 OpenAI 基金会董事会

AI 对齐先驱 Paul Christiano 加入 OpenAI 基金会董事会,强化安全与治理监督。

OpenAIAI治理AI安全AI对齐
成长分 / 100 63 综合收获、行动、留存与影响

Paul Christiano 加入 OpenAI 基金会董事会
为什么值得读了解 OpenAI 在资本重组后治理结构的关键人事任命,把握其安全与安保监督机制的演变。

Paul Christiano 兼具前沿 AI 对齐研究、政府 AI 安全标准制定经验,其加入反映了行业对技术型治理的重视。

关键洞察
  1. Paul Christiano 被任命为 OpenAI 基金会董事会成员,并将加入安全与安保委员会(SSC),担任 OpenAI Group PBC 董事会的无投票权观察员。
  2. SSC 负责治理整个 OpenAI(包括 OpenAI Group PBC)的安全与安保实践,主席为 Zico Kolter。
  3. Christiano 曾在美国 NIST 的人工智能标准与创新中心(CAISI)担任高级技术顾问,致力于评估前沿 AI 模型及缓解安全风险。
转成行动

深入阅读

正文与原文对照

原文保真覆盖:全文原文字符:4811

我们宣布任命 Paul Christiano 为 OpenAI 基金会(OpenAI Foundation)董事会成员。他还将作为无表决权的观察员,列席 OpenAI Group PBC 董事会。

Paul 还将加入基金会董事会的安全与保障委员会(Safety and Security Committee,SSC),与委员会主席 Zico Kolter 共事。SSC 对 OpenAI 全公司(包括 OpenAI Group PBC)的安全与保障实践进行治理监督。

Paul 在美国商务部下属国家标准与技术研究院(NIST)的人工智能标准与创新中心⁠(CAISI)工作,积累了横跨两届政府的政府经验,他在那里担任高级技术顾问1。在 CAISI 及其前身美国人工智能安全研究所任职期间,Paul 致力于评估前沿 AI 模型(包括具有国家安全影响的能力),并研究缓解相关安全与保障风险的方法。

Paul 同时是对齐研究中心(Alignment Research Center)⁠(ARC)的创始人,这是一家非营利研究机构,专注于让先进 AI 系统与人类利益保持一致。2017 年至 2021 年,Paul 在 OpenAI 领导对齐研究,并为基于人类反馈的强化学习(RLHF)做出了奠基性贡献。在这一新的身份下,Paul 将为 OpenAI 的治理决策带来独特且有扎实技术基础的视角。我们的使命是确保通用人工智能造福全人类。

“Paul 通过严谨、聚焦于能力日益强大的系统所带来的最棘手问题的工作,帮助定义了 AI 对齐这一领域。他在政府中从事前沿 AI 安全与标准工作的经验,加上他的技术判断力,将在 OpenAI 继续开发和部署前沿 AI 之际,增强董事会的监督以及安全与保障委员会的工作。”

Bret Taylor,OpenAI 基金会与 OpenAI Group PBC 董事会主席

“过去一年里 AI 能力进步得非常快,而对齐仍然是一个困难的技术问题,这使得安全与保障委员会的职责比以往任何时候都更重要、更具挑战。我很高兴加入团队,贡献一份力量。”

Paul Christiano

第 1 项,共 2 项

“Paul 通过严谨、聚焦于能力日益强大的系统所带来的最棘手问题的工作,帮助定义了 AI 对齐这一领域。他在政府中从事前沿 AI 安全与标准工作的经验,加上他的技术判断力,将在 OpenAI 继续开发和部署前沿 AI 之际,增强董事会的监督以及安全与保障委员会的工作。”

Bret Taylor,OpenAI 基金会与 OpenAI Group PBC 董事会主席

AI 正在进入能力的新时代,因此这些系统的进步必须伴随强有力的安全、保障、对齐与治理,这一点变得越来越重要。在 Paul 研究 AI 对齐的整个职业生涯中,他始终认真看待先进 AI 可能带来灾难性风险的可能性,也认为开发者必须在系统达到更危险的能力水平之前做好准备。对于业界的防护措施是否足够,他一直是一个独立的声音。我们相信,有人愿意挑战主流假设,帮助强化关键决策背后的证据、防护措施和问责机制,会让基金会的治理更加稳健。

Paul 的任命建立在 2025 年 10 月 OpenAI 资本重组所确立的治理结构之上,其中包括与加利福尼亚州总检察长⁠和特拉华州总检察长⁠历时一年的审查相关的承诺。他们的参与帮助强化了治理框架。

关于 OpenAI 基金会

OpenAI 基金会是一个慈善组织,致力于确保 AI 造福全人类。作为一个独立的非营利组织,基金会开展自己的慈善运营,同时保持对 OpenAI Group PBC 的控制权,并持有其重要股权。基金会支持推进科学发现、强化公民社会、通过负责任的 AI 增强社会韧性的各项举措。通过资助、合作和其他慈善项目,基金会帮助加快创造持久公共利益、扩大人们获取 AI 变革性潜力的工作。

基金会控制 OpenAI Group PBC,安全与保障委员会是基金会董事会下设的委员会。详情请访问 www.openaifoundation.org⁠。