世界各地的 AI 公司都在竞相打造更大、更好的模型,但问题在于它们都需要海量的处理能力。另一方面,一些研究人员和初创公司正在创建可以在边缘设备(如你的手机或电脑)上运行的更小模型。
其中一家名为 Underdog 的初创公司发布了一款游戏,该游戏由其名为 Woof 的新语音模型构建,该模型仅有 32MB 大小。
游戏设有一个复古科技主题的房间,里面有一台打字机和一台 CRT 显示器。还有一盏台灯,点击其开关时会发出声音。开场介绍警告用户小镇上有“侵入性”的云服务提供商——这显然是对基于云的模型的讽刺。
你可以与打字机和音乐调谐器互动。
你可以用键盘在打字机上输入任何内容,游戏会将其朗读出来。你还可以旋转调谐器来生成不同种类的音乐。
所有这些都通过 Underdog 的语音生成模型在浏览器内运行,该公司表示,该模型可以在大多数设备上运行,无需任何互联网连接。该模型有 3100 万个参数,并开放给所有人下载。
虽然如此小的模型可能无法取代更大的模型,但它可能仍然足以驱动本地助手体验或创建个性化播客。
这个演示发布几周前,Underdog 推出了Bark,这是一个 167MB 的语音转文本模型,同样设计用于在边缘设备上运行,用于转录和听写。
Underdog 创始人 Sigil Wen 告诉 TechCrunch,他开始构建这个应用是因为,他不想使用像 Granola 这样的笔记工具,而是想用能在用户设备上运行的 AI 模型构建自己的系统,让用户拥有自己的数据。
“我认为我们将在几个月内能够在你们已经拥有的设备上运行当今大多数能力最强的模型。我们只是想训练最好的开源模型,这些模型是美国制造的、开源的、能力强的,并让人们拥有私密的 AI,”他说,并提到了他的宣言。
除了上述两个语音模型外,Underdog 还发布了一个270 亿参数的模型,该模型可以在笔记本电脑上运行,以及一个需要排队等候的应用,该公司将其定位为 Muse 和 Instinct 的本地托管替代品。
