AI能力的快速加速正在推动一波AI原生应用的浪潮,这些应用正在改变从软件工程到医疗保健等各个领域的体验。其中许多应用呈指数级增长,随着采用速度的加快,我们将看到对基础设施和高效token工厂的巨大需求,以支持它们的增长。我相信,在未来十年内,我们将看到人类历史上为这些新兴AI工作负载而进行的最大的基础设施建设。
Together AI,作为AI原生云,支持超过100万AI工程师和研究人员构建AI应用——包括增长最快的AI原生公司,如Cursor、Decagon和ElevenLabs。我们从零开始构建AI工厂,帮助这些应用快速扩展,并为其指数级增长的用户群提供一致的体验。除了对高效电力分配、冷却和网络进行细致规划外,这些AI工厂还整合了AI堆栈的每一层:GPU集群、实现最大GPU性能的内核、优化推理堆栈以实现大规模最佳性价比,以及用于构建、塑造和服务AI原生应用的开发者服务。所有这些都基于深入的系统研究,以在堆栈的每一层实现峰值性能。交付这些高度优化的AI工厂使我们能够提供一流的结果,例如顶级开源模型的最快推理。
展望未来,为了在客户扩展时为他们提供服务,我们将在多个地点从零开始构建具有吉瓦级容量的AI工厂。
为了展望未来并支持客户的增长,我们正在多个地点从零开始构建具有吉瓦级容量的AI工厂。为了实现这一愿景,今天我很高兴欢迎Alon Gavrielov加入,担任基础设施战略副总裁。Alon在高速增长的云和领先的数据中心公司中,在容量规划、供应链管理、业务运营和数据中心战略等关键领域积累了丰富的全球基础设施扩展经验。最近,他在Cloudflare担任基础设施副总裁,帮助将Cloudflare的网络扩展到全球数百个地点。在他任职期间,Cloudflare的网络经历了大规模增长,峰值时处理超过一亿个请求,并演变为支持安全、应用性能、存储和AI等新产品。
在Together AI,Alon将领导我们的基础设施战略和AI工厂的扩展。他的团队在基础设施各个方面的努力对于提供支持AI采用空前速度所需的性能、规模和可靠性至关重要。
“我们正处于一个决定性的时刻,基础设施将决定AI原生公司的成败。我很高兴加入Together AI,为每个AI团队提供无缝扩展、更快创新并专注于为用户提供变革性体验的基础。”——Alon Gavrielov,Together AI基础设施战略副总裁
让我们一起欢迎Alon加入团队。
