当被问及供应链短缺问题,例如持续存在的 RAM 短缺时,OpenAI CEO Sam Altman 在一次采访中表示,把 RAM 放在个人 PC 而不是数据中心里是“糟糕的”。在参加 Cheeky Pint 播客节目时(他还在节目中评论了 AI 对数学的影响),Altman 说:
“很多人想要本地推理。不知怎的,他们以为问题现在已经解决了,因为我们将会有开源模型,我们将能够在自己的电脑上运行它们,所以我们就不需要数据中心里的所有东西了。
但从全球分配的角度来看,实际上,让每个人都把世界上有限的 DRAM 供应中的一部分放在自己的电脑里、而且只用到 5% 的时间,是相当糟糕的。
如果你要应对这种供应非常受限的环境,你希望云端实现最大利用率。而不知怎的,每个人的——很多人的直觉恰恰相反。”
无论 Altman 指的是你的游戏 PC,还是使用 Surface RTX Spark Dev Box 或新款触屏 MacBook Pro 之类设备的开发者,结果都是一样的。目前,内存公司 Samsung 和 SK Hynix 与云服务运营商以及 OpenAI 的 Stargate 等项目签有长期协议,这些协议已经预定了未来几年世界上大部分的 RAM 产量。而他们愿意为芯片投入的数十亿美元,正是你使用的笔记本电脑、手机和其他科技产品现在变得越来越贵的原因。
