无论是 OpenAI 或 Anthropic 开发的,还是基于开源替代方案构建的,当前的人工智能模型都有一个关键局限:如果不进行进一步训练,它们无法从错误中学习。
将这些模型适配到法律、金融等专业领域的企业,通常通过对通用模型进行微调来绕过这一局限。然而,这往往需要组建内部研究团队或依赖昂贵的顾问,这类顾问通常被称为前向部署工程师(FDE)。
Trajectory 是一家约一年前由三位斯坦福同学创立的初创公司,他们曾在 Google DeepMind 和 Apple 工作过。该公司希望将这一过程自动化,让人工智能模型能够从反馈中学习,并在专业任务上持续改进。
这家拥有 18 名员工的公司刚刚宣布,它在由 Sequoia 领投的 A 轮融资中筹集了 4500 万美元,估值达 3 亿美元,Nvidia、Bessemer Venture Partners 和 Bain Capital Ventures 参投。
Trajectory 联合创始人 Ronak Malde 将基础模型比作一个非常聪明的博士生,总是刚开始一份新工作。“但经济所看重的是在一个岗位上工作了 30 年的人,”他告诉 TechCrunch。
这家初创公司旨在通过一种称为持续学习的方法解决这个问题。使用 Trajectory 的企业可以从一个开源人工智能模型开始,将平台与其应用程序连接,使其能够收集有关模型表现的反馈。Trajectory 随后利用这些信息重新训练模型,帮助其随着时间推移在专业任务上不断改进。
Malde 表示,借助 Trajectory,律师、医生和其他专家几乎可以自行近乎自动地改进模型。这种能力可以使部署专业人工智能变得更快、更便宜。
Harvey 和 Rogo 等公司已经在使用 Trajectory 的平台对开源模型进行后训练,通过从以往任务中学习(例如审阅某一类特定法律合同,或使用特定方法对一家公司进行估值),帮助它们表现得更像经验丰富的律师或金融分析师。Trajectory 的其他客户包括 Decagon、Mercor 和 Nvidia。这家初创公司现在正将其后训练平台公开提供。
Malde 表示,使用 Trajectory 的人决定“对他们组织而言什么算是好的表现,并能将其转化为模型的改进”。
Trajectory 的持续学习方法与递归自我改进(RSI)有一些相似之处,后者是指人工智能系统能够改进自身能力。但联合创始人 Michael Elabd 认为,让人类参与训练过程使 Trajectory 的方法更安全,因为自主的自我改进可能导致意外甚至危险的结果。
Trajectory 并不是唯一一家试图将后训练自动化的初创公司。它将由前 OpenAI CTO Mira Murati 创立、也是微调平台 Tinker 背后公司的 Thinking Machines Lab 视为直接竞争对手,同时还将上月估值达 32.5 亿美元的 Applied Compute,以及帮助企业构建和训练自己的人工智能代理的 Prime Intellect 视为竞争对手。
Malde 认为这家初创公司最大的优势是其团队。他是 Google DeepMind 从 Windsurf 收购聘用(acqui-hire)的少数研究人员之一。Elabd 也曾在 DeepMind 工作,而 Trajectory 的第三位联合创始人 Arjun Karanam 此前在 Apple 从事生成式基础模型工作。这家初创公司还从 OpenAI、Stripe 和 Netflix 招募了研究人员和产品设计师。
为什么设计对一家专注于人工智能训练的公司如此重要?Karanam 表示,这家初创公司开发了一种界面,使其非技术客户更容易使用后训练。
