“游戏一直是那些被低估的教育工具。它们非常平易近人。它们非常人性化。”
这些话出自 Good Start Labs 联合创始人兼 CEO Alex Duffy 之口,他在接受 Latent Space 采访时谈到了他的公司为何要将游戏转化为 AI 模型的训练材料。该公司于去年十月从 AI 媒体与工具公司 Every 分拆出来,获得了来自 General Catalyst、Inovia、Every 以及天使投资人的 360 万美元融资。
这个想法源于 2025 年的一场 Twitch 直播,当时前沿模型正在玩《外交》这款游戏,Duffy 说这款游戏通常需要“几天或几周才能玩完”。那时他还在 Every 担任 AI 训练负责人。
2025 年 Twitch 直播中展示 OpenAI 的 o3 模型在《外交》中背叛的一幕。
观看 AI 智能体在《外交》中激烈对战,让 Alex Duffy 看到了每个前沿模型在面对游戏场景时表现各不相同。他特别注意到,OpenAI 模型(o3)通过策划未来的背叛赢得了所有对局,而 Claude 模型(Opus 4)拒绝撒谎,因此“被彻底击溃”。
由此,Duffy 得出结论:用《外交》这类游戏训练 AI 模型,可以教会它们战略思维等技能。尤其是因为这类游戏的结果可以被验证。在后来发表于 Every 的一篇文章中,Duffy 写道:“在策略游戏《外交》上微调模型,提升了它在客户支持和工业运营基准测试中的表现。”
根据 Good Start Labs 这些 2026 年 9 月的排名,Grok 4 Fast 在《外交》中最不可能背叛你。
另一方面,在《外交》中别相信 Gemini 2.5 Pro!
Duffy 和他的联合创始人 Tyler Marques 创办 Good Start Labs,意在探索其他能够教会 AI 模型有用技能的游戏。
“很明显,强化学习环境是教会模型任何可验证内容的最可靠方式之一,”他说。
更大的理念是,游戏呈现给 AI 的方式可以决定它学到哪些技能,以及这些技能能否迁移到游戏之外的工作中。而迄今为止最好的证据来自一款十九世纪的铁路游戏。
当游戏训练迁移到金融研究
Good Start Labs 最近在游戏《1830:铁路与强盗大亨的游戏》中训练了一个 30B 模型,维基百科将其描述为“一款策略游戏,其中唯一的运气成分在于决定初始行动顺序”。
随后,他们在金融研究任务上测试了同一个模型。该实验旨在检验在游戏中学到的习惯能否迁移到游戏之外。
“那款游戏内置了股票市场机制,”Duffy 解释道。“你竞标这些铁路公司的股票,试图建立这个物流网络。我们设置了一些任务,让模型遍历数据库查找关于游戏如何进行的相关信息,将其放入 Excel 文件,对其进行推理,在其中创建一些函数,然后以这种方式计算出答案。所以它模拟了你在金融工作流中通常会做的事情,只不过你是在这个游戏中做。”
已发布的结果比较了单轮问答——即向模型呈现一个游戏状态并要求它做出下一步行动——与“一个多轮终端智能体,它使用工具探索环境、规划策略并实时适应”。
两种训练设计都改善了各自在游戏内的目标表现,但只有终端智能体设计提升了在 Finance-Agent 基准测试上的性能。
设计学习环境以教授能力
1830 的结果表明,训练设计是关键。但更普遍地说,Duffy 表示 Good Start Labs 还可以加入一个专家模型,提供更密集、逐步的奖励。
该测试框架还允许环境以不同方式处理同一款游戏。
“你如何设计那个[测试框架]完全改变了模型能学到什么,”Duffy 说。“你可以想象,一个看图片的模型学到的东西,会不同于一个阅读自然文本的模型[或]一个把所有内容都框定为 Python 的模型。”
Duffy 将 Good Start Labs 的总体目标描述为弄清楚“你如何设计一个学习环境来教授特定能力?”
在论文中,该系统让一个决策智能体能够访问作者所称的“一个可学习的技能库,以指导采取行动”。一个独立的技能库智能体研究轨迹并对技能库进行修改,然后将其循环回下一次运行。
那最新的前沿模型呢?
我问 Good Start Labs 是否在相同的游戏环境中比较过更新的模型,例如 Claude Fable 5.1 和 GPT-6 Astra?进而,能力越来越强的基座模型是否会让测试框架和训练环境变得不那么重要?
“我们比较每一个新模型,”Duffy 回答说,并补充说更新、能力更强的模型往往更擅长这些游戏。然而,与最初 Twitch 直播中 2025 年模型所展示的类似,新模型“在人格轴上出现分化:背叛、协作、心理理论等。”
至于测试框架,他说“能力更强的模型完成同一任务所需的辅助肯定更少。”
但对于 Good Start Labs 正在做的事情——将“环境视为课程”——测试框架“更重要,而不是更不重要。”
“GPT-6 Astra 报告称其减少了思维链并直接跳到答案,”Duffy 说。“如果你想让模型在解决问题时以某种方式工作,测试框架就是强制它这样做的因素。Astra 可能可以在脑子里做数学,但你更希望它使用代码,这样你才能信任结果。”
Good Start Labs 卖什么?
在最近的一篇博客文章中,该公司描述了其在“改进循环”方面的工作,其中包括训练系统、测试框架和可观测性。但这如何转化为 Good Start Labs 向其他公司提供的产品?
“就 AI 改进而言,我们卖的主要是数据和学习环境,”Duffy 回答说。其主要客户是前沿实验室——他们为其提供强化学习数据,以帮助进一步训练其模型。
他将其产品中的数据部分描述为两件事之一。第一是“智能体玩游戏的轨迹”——智能体观察到了什么、决定了什么、采取了哪些行动以及之后发生了什么。
第二是为特定游戏发行商提供的定制数据,其中“智能体在其游戏中实时运行”。智能体可以在这些游戏内游玩,生成可能对训练和评估有用的交互。Duffy 表示,出售给模型开发者的任何数据都经过匿名化处理,并去除了个人身份信息。
他指出,Good Start Labs 出售的学习环境是“模型可以端到端游玩的完整游戏”。不过,这并不是关于赢得游戏。它更多是关于教 AI 模型解决问题。
“我们还会设计大量任务,让模型将游戏引擎作为可验证的奖励来源,但以你可能意想不到的方式解决问题。”
那么,游戏技能能否迁移到现实世界的工作中?
除了为客户定制的工作外,Good Start Labs 还在利用其为特定游戏构建的专家模型来训练一个通用模型。Duffy 表示,其思路是将这些专家模型“统一为这种可适用于任何地方的通用游戏智能”。
但是,尽管 1830 实验表明智能体游戏训练可以迁移到结构相似的金融研究任务上,目前尚不清楚是否会有更广泛的现实世界迁移。我问 Duffy,今天的证据究竟说明了什么?
“今天的证据相当清楚地表明,目标导向的执行很重要,而且推理能力可以迁移,”他回答道。他引用了 Surge AI 最近的一篇文章,该文章表明办公工作后训练提升了编码能力,并补充说“DeepSeek R1 更广泛地展示了这一点”。
“我们自己已经见证了两次:1830 金融任务,以及《外交》训练产生了一个更好的客户支持智能体。我们构建的每一个环境也都能改善下游的工具使用能力。”
因此,对我们这个大问题的答案是有限度的肯定:某些游戏技能可以迁移到现实世界的工作中。但 Duffy 表示,这些技能迁移的广度和可靠性仍然是一个未解的问题。
