Modal CEO Erik:推理市场谁将胜出,算力成本走向何方
点播放,字幕跟着声音走
Subtitles follow the audio
逐句文字稿
点任意一句,从那里开始听
正在加载字幕…
-
我觉得在推理这块,有很多专用模型,有机会做出一家千亿美元的公司。但中间肯定会有回落。
-
这个我能接受,因为我觉得长期的機會实在是太他妈大了。真的太大了。
-
今天,我非常高兴地欢迎 Modal 的联合创始人兼 CEO Erik。
-
Modal 刚刚 ARR 突破了十亿。
-
他们刚完成了由 Accel 领投的 7.5 亿美元融资,现在估值是 157.5 亿美元。
-
但今天,我们深入聊推理市场、未来会怎样、哪些大家都该看到却没人看到的东西,还有更多。
-
我们眼看着应届毕业生去了那些实验室,你知道,年薪两千万以上。
-
我是说,这些人都是极其优秀的人。极其优秀。
-
我不想卖掉这家公司,因为那样我干脆就去再创办一个 Modal 2 了。准备好了吗?
-
Erik,听着,兄弟,能请到你上节目真是太棒了。
-
你知道,我刚才在楼下跟你聊天,我就觉得,你能感觉到这期节目会很好看,因为大家都很真实。
-
那是一次很棒的对话,我们会聊得很开心的。所以谢谢你来做客。能来这里太激动了。
-
我是说,我听过好多期节目了。
-
现在自己坐在里面,感觉有点不真实。真的太棒了。
-
我跟你说过,你创业的时候要是给我发个短信,说不定我现在能稍微富一点。
-
是啊,但那时候你大概还不知道我吧。
-
对,我不知道,但我会很乐意投资另一个 Suite 的。
-
我想从这儿开始聊,昨晚我跟 Zach Frankel 聊天,他提到了你的童年,还有那些早期成功的迹象、那种非凡的能力。
-
你是怎么爱上技术的?
-
对我来说,作为一个投资人,看到你的童年,什么会让我兴奋?
-
我大概是1992年开始写代码的。
-
那时候我八岁,就是特别喜欢。
-
你知道,就是那种感觉,我意识到你可以控制计算机。
-
我有一台Mac Plus,你知道,一兆内存还是多少来着。
-
然后我就开始做游戏,我是说,那些游戏很糟糕,但你知道,现在回想起来,我其实挺感激的。
-
我回头看我的童年。
-
我的朋友们在收集冰球卡什么的,那是他们的爱好。
-
我的爱好是编程。
-
现在靠这个赚了很多钱。是不是挺疯狂的?你知道我怎么想吗?
-
我能靠着我八岁起的爱好赚很多钱?有点离谱。
-
所以我特别感激自己爱上了技术和编程,然后我16、17岁的时候开始参加编程比赛,太好玩了。
-
Modal是你的第一家公司,或者说就是你的第一家公司。
-
为什么你等了这么久?
-
我觉得我人生中一贯的模式就是,我从来没有对自己有足够的信心。
-
缺的很大一部分就是信心,也有一点钱的因素,但直到我大概36、37岁,我才创办了Modal。
-
而且我觉得,我其实从来都不是非要创业。
-
就是那种情况,我只是看到了市场上这个巨大的机会。
-
我几乎在心里想,为什么没有别人在做这个?
-
这么明显的想法。
-
这就让我想,也许我应该创办一家公司。
-
然后你知道,五年之后,我们走到了这里,发展得还挺不错的。
-
我觉得事后看,也许我应该更早就开始。你希望自己当初更早开始吗?
-
我看着那些什么斯坦福少年班之类的,他们才21岁。
-
而且我感觉他们可能有点太自信了。你懂我意思吧?
-
就是,他们觉得自己要征服世界了,可他们才21岁。
-
我觉得理想的年龄大概是,我也不知道,32岁左右吧。
-
你多了一点经验。
-
你知道怎么跟人打交道。你知道怎么招人。
-
你知道怎么开人,就是所有这些事。
-
我不确定我二十多岁的时候会是个好的创始人。
-
在我们聊市场和下面那些东西之前,我们在楼下聊了聊。
-
我们经常听到说,创办公司就像吃玻璃。
-
很难,很痛苦。
-
你怎么看这种说法?我讨厌那套东西。
-
就是,我不理解。
-
就像你每天都在吃玻璃一样。
-
那你为什么还要做呢?
-
我不知道,你指望最后有什么神奇的回报,像一块大饼干一样。
-
我一直不理解那种心态。
-
我觉得这是很多人都有的一种心态。
-
我会先受苦,然后最后会有一个巨大的回报。
-
我不知道,我不会那样想。
-
我每天去上班都很享受。
-
当然也会有艰难的时候。
-
比如你得进行一些艰难的对话,可能要解雇人,可能要做一些难做的事。
-
但总的来说,我是说,生活就是这样,而我享受生活。
-
我享受创办一家公司。
-
我不会想着有一天我们要把这家公司卖掉,我希望在这上面干20、30、40、50年。我太开心了。
-
我不想卖掉这家公司,因为那样我只会再去创办一个Modal 2。你真的不会吗?不,我不会。
-
说来有趣,我曾经有机会卖掉20 VC。这个节目一直很成功。
-
我们之前说过,我本来可以以大约8000万美元卖掉一切,而我拥有100%的股份。那对我来说是很大一笔钱。
-
我妈妈和我一起散步时问我,你明天会做什么?
-
我说,我会创办19分钟VC。
-
她说,别卖。对,你会做什么?
-
我不认为钱一定能让你幸福。
-
我是说,有一点吧,有点钱是好的,但你知道,说到底,你知道。我喜欢做东西。你真是太可爱了。
-
我热爱技术,我热爱编程。太有意思了。你真是太可爱了。这是瑞典人的心态吗?也许是吧。
-
从来没有美国人上节目说过这不是为了钱。
-
我是说,我确实有点在意钱,但也许你说得对。
-
因为我确实觉得瑞典人的心态就是自我实现,做自己喜欢的事在某种意义上是最高形式的声望,可以是音乐,可以是诗歌,什么都行,几乎无所谓。
-
你为什么要那样做?
-
你不享受吗?是啊,我其实挺讨厌融资的。
-
说实话,我觉得还好吧。
-
我不知道,遇到好人我还是挺享受的,但这事挺有挑战性的,你得拒绝很多人。我猜这算是个好问题吧,但总的来说就是……哦,你得拒绝很多人。哦,Erik,我知道。那五千万太糟糕了。哦。
-
你从来没做过路演PPT吧?
-
我从来没做过融资PPT,对。
-
到目前为止我们每一轮融资,我都喜欢在融资之前很早就跟人熟络起来。
-
所以我们做的每一轮,我是说,最近我们昨天刚宣布了Accel领投的D轮。
-
我跟Accel的Rich和Gonzalo聊了我觉得至少有一年了。
-
然后到了某个时候,我们就想,其实你知道吗?
-
我们可以拿点钱了。条款怎么样?来谈谈条款吧。
-
然后事情就进展得很快,因为我们已经有那层关系了。
-
你怎么看待价格优化?
-
是要争取最高价格吗?不,我不这么认为。
-
我觉得也许到了后期,钱本身会变得更像一种商品。
-
但我觉得在早期,我是说,有好几个原因。
-
其中一个就是激励机制不一致。
-
风投总是想投远超公司需要的钱。
-
那样的话,你就会承受大量稀释,作为股东这可不划算。
-
但另一件事是,我觉得你其实应该克制一点,通常以更低的估值少融很多钱,然后让风投对下一轮保持饥渴,这样往往更好。
-
我能问你一下吗,现在这个时代难道不就是资本才是护城河、你需要比想象中多得多的钱吗?
-
你说过风投想给你的钱比公司需要的还多。
-
我还以为AI终于成了风投资金需要的那个出口呢。
-
我觉得市场上确实有些时候你会受资本约束。
-
但在公司大部分时间里,我们并没有受到资本约束。
-
我们的资本效率一直非常高。
-
我们每个月只烧几百万。
-
我是说,只是,你知道,这已经是很多钱了。我对钱是尊重的。一个月几百万。
-
不,我是说,直到去年为止吧。
-
现在我们得在算力容量上花很多钱。
-
你们现在一个月烧多少?很多。
-
我是说,我们按损益表算其实是盈利的,但现金流是相当负的,因为我们得花很多钱买GPU、扩建算力容量。
-
所以那是公司的一个不同阶段,也是我们思考资本的方式不同的阶段。
-
资本嘛,我不想把它叫做护城河,因为你知道,我觉得人们,你知道,随便用这个词,好像指的就是那些东西,你知道,护城河对我来说有非常严格的定义。
-
但是,但是你知道,它肯定是有帮助的。
-
在现阶段资本是有帮助的。
-
对你来说护城河的定义是什么?
-
我是说,护城河对我来说就像,你去读读《七种力量》或者类似的东西。我很喜欢《七种力量》。
-
那是本好书,但我觉得,你知道,人们读了之后就会产生错觉。
-
就像,你知道,他们会说,是啊,我们正在创办这家公司,它有所有这些护城河。
-
早期你根本没有什么护城河。就像,你知道,就像。
-
谷歌想做什么就能做什么。
-
谷歌确实能,但这也像是,你知道,那七种到底是什么,我都不记得了。
-
就像是垄断资源、市场支配力之类的,这些东西在你干了十年之前根本都不会出现,你知道吗?
-
有一篇老博客文章,我总回去看,是Ben Thompson写的,讲的是Snap和那个姜饼人策略。你知道这个吗?
-
它的核心意思是,Snap没有护城河,他们只是跑得更快。
-
他们就是那个姜饼人,我其实总是回到这个点上。
-
我觉得这对现在几乎每一家创业公司来说都太对了。
-
就像你只需要比别人跑得更快。
-
我其实觉得我投资时看重的三件事是:第一,团队,他们是不是顶尖百分之一的团队?对。
-
第二,产品决策的速度,非常具体地说。
-
你看看今天的Instinct。
-
功能上线的速度真的非常惊人,然后第三,是品牌。
-
我觉得这三样对我来说就是可防御性、护城河的决定因素,但它是……对,对。
-
我是说,再说一次,我不知道我会不会这么说,但我有点同意你的观点。
-
就像我觉得品牌,我不想把它叫做护城河,但它其实,我觉得品牌的价值涨了很多。我能说句冒犯的话吗?可以,请说。
-
你觉得Modal在品牌方面做得怎么样?我觉得挺好的。
-
我觉得我们做得不错,它是和开发者体验、产品、网站、视觉识别这些东西结合在一起的。
-
我们刚在旧金山办了一场活动,我在这方面想了很多,比如我们怎么包装它,活动本身、视觉观感和氛围。
-
你觉得你的品牌比Base 10和Fireways更大吗?我觉得我们更大。
-
我觉得我们的氛围真的特别好。
-
我自己是那种整天泡在网上的人。
-
大家发推提到Modal的次数多得多。
-
我觉得我们这边更有社区的感觉。
-
我觉得围绕我们的氛围要好得多。
-
不过我对那些公司一直很警惕。
-
我对竞争一直很警惕,当然会盯着。
-
当然,竞争对手相关的推文我全都看。
-
你知道,这很重要。
-
大家都想成为社区的一部分。
-
你知道我觉得大家最大的误解是什么吗?我特别喜欢Jeff那种类型安全的风格,对,
-
因为大家都想复制Jeff,但没人愿意站上台,穿一件粉色的毛皮大衣,用那种疯疯癫癫的方式讲什么“Jeff进化论”。对我来说品牌就是这个样子,那家伙完全是在另一个层次上玩这个游戏。我觉得这对现在的公司来说太真实了,
-
就是这样。
-
你必须得考虑这些。你能说说为什么吗?因为他真实、与众不同。
-
我觉得是这样,你必须塑造出一种个性。
-
你得想清楚你公司的个性是什么,然后保持一致,几乎要营造出一种运动感、一种社区感。这是个很酷的东西。
-
大家想用你,是因为你是市面上很酷的产品之一。他们会说,你试过Modal吗?挺酷的。
-
那Modal做了什么Base 10和Fireworks没做的事,才建立起这些?
-
我觉得我们是从开发者体验做起的。
-
我们有一条很清晰的产品驱动增长路径,产品市场契合也是自下而上的,人们自己注册来用产品。
-
我觉得从Spotify带来的那种面向消费者的背景,对我怎么去打造现在这家B2B公司、有效地卖技术,非常重要。
-
你知道,这本来是个挺无聊的品类,但我觉得,有个性、有点锋芒,是打造那种声势、那种兴奋感、那种“你与众不同”的感觉的重要部分。
-
我想让你一打开网站、一试用产品,就立刻感觉到它不一样,就是那个神奇的时刻。
-
我能问你吗,我们刚才聊了三个不同的供应商。
-
推理这个市场,有很多不同的评论者在发表看法。
-
你看未来五年,推理市场会怎么演变?
-
首先,我觉得推理会是一个极其巨大的市场。
-
基本上就是新的云。
-
但我不觉得推理本身也许就是你唯一需要的东西。
-
有一点我感受特别强烈,就是它必须配上一整套不同的东西,很多其他的产品。
-
它必须配上后训练、沙箱、智能体相关的东西,各种其他类型的推理,比如低延迟推理、批量推理。
-
所以打造那个平台,顺便说一句,我们已经在这上面做了五年了。
-
我觉得对我来说那不是护城河,但那是一个非常强、非常难做的产品,那套基础设施。
-
为什么你需要有产品线那么宽的覆盖面?
-
否则你就只是处在一个压缩层里。
-
对,因为否则你卖的只是大宗商品化的产品,我觉得。
-
而且如果你只是按美元卖token,就没有转换成本,你知道,人们随时可以换一个供应商,对吧?
-
那就只是一场价格战,看谁跌到底。
-
但如果你把它和周围所有这些别的东西结合起来,沙箱、后训练、强化学习,所有这些,你其实能打造出一整套工具。
-
就像没人想买一个只会一招的独角戏。
-
人们想买的是一整套不同的东西。
-
他们想买的是一整套工具,基本上能让他们在上面打造出很棒的AI应用,对吧?
-
而对我来说,底下的基础设施就是很大的差异化,在市场里有很强的持久力。
-
要复制构建所有这些产品所需的基础设施,是非常难的。
-
关于推理市场,有什么是别人没看到的,或者很少被提及、但对你来说却非常明显的?
-
关于推理市场,人们没看到的一点是,我其实认为从长远来看,这个领域有巨大的毛利空间,因为你可以在它周围构建所有这些配套的东西。
-
所有的沙箱、所有智能体相关的东西、工作流、后训练强化学习。
-
如果你把这些都做了,其实有非常多赚钱的机会。
-
这个市场有软件那样的利润率吗?
-
因为我们现在看到的利润率大概在25%到40%这个区间。
-
那算是传统玩家的水平。
-
我不知道你们是不是也这样,但推理提供商总体上大概就是这个水平。
-
随着你们掌控越来越多的环节,利润率会涨到70%吗?
-
我觉得基本上今天几乎没有哪家公司还能有软件那样的利润率了。
-
就像你十年前在硅谷常看到的那种90%以上的利润率,我觉得基本上已经没有了。
-
原因其实几乎是拓扑结构上的。
-
就像你有这么一摞供应商,对吧?
-
今天你有应用层、模型层、基础设施层、云层,还有英伟达。
-
所以当客户在整摞的最顶端付出一美元时,它得流经很多不同的层,而每一层都会有,你知道,
-
20%、30%的毛利,所以我觉得这里有很大的利润空间,也有很多赚大钱的机会,我是说这个领域太大了,但你同时也在把它分摊到整摞的很多层里,所以,我是说,
-
你知道,那种90%毛利率的业务已经没了。我觉得Modal长期来看有机会做到40%、50%、60%的利润率,但我们永远到不了那种高毛利。你对推理市场的未来有什么大胆的预测,是你觉得很多人会不同意的?
-
我觉得关于推理市场的一个预测是,它会分裂成很多不同的东西,因为这个市场在过去变得太大了,我不觉得有任何人预料到,包括我自己,我不觉得有任何人预料到它会这么大。
-
它大概是我原本想象的10倍甚至100倍那么大。
-
对我来说,这意味着会有巨大的专业化空间,低延迟、高延迟,各种类型的微调和后训练。
-
我觉得会出现一些古怪的新技术,让你能用少得多的资源来做这件事,还有新硬件,各种各样的东西。
-
不好意思,这是不是跟你刚才说的要全都自己拥有、要有那么广的产品线相矛盾?
-
如果它大到你需要真正的专业化,按产品来专业化。
-
我觉得它会碎片化成很多不同的产品。
-
现在我们可以做出其中很多产品,全都托管在Modal下面。
-
对我来说这非常令人兴奋,因为公司会需要很多不同的产品。
-
某个产品,他们需要低延迟推理。
-
某个产品,他们需要批量推理。
-
某个产品,他们需要沙盒,我们有这个。
-
某个产品,他们要预训练自己的模型。
-
也许是某些专门的音频模型之类的。
-
除了语言模型推理,我们还做很多别的东西。
-
所以对我来说,这就创造了很多机会,基本上就是重新思考在AI时代云该是什么样子,把云拆解开来,为这个新的软件时代重建它。
-
我能问你吗,你之前提到用GPU建设算力,现在做这件事是什么感觉?
-
是不是像报道说的那么疯狂?确实挺疯狂的。
-
我三月份在圣何塞花了一些时间参加GTC和英伟达的会议。
-
我会把那个形容成露天毒品市场,只不过卖的是GPU而不是毒品。
-
你到处跑,跟500家不同的云厂商谈,问他们,你有GPU吗?
-
到最后,你出来,做成了很多交易,而这是我们不得不练出来的本事。
-
我觉得Modal价值主张的一部分就是,我们的客户不用去想这些。
-
我们在幕后干那些脏活累活,把所有GPU交易都搞定。
-
我们跟25家不同的新兴云厂商合作。
-
现在我们控制着全球算力的0.1%还是多少,我连具体数字都不知道。
-
但我对长期目标的疯狂想法是,随着我们掌控越来越多的算力,你可以把那些容量聚合起来,另一头再聚合需求,然后极其高效地管理这些容量和需求。
-
所以对我来说,这就是我们真的觉得能做到的事,我们能填补一个大缺口。
-
作为那个聚合层,这让你能做什么?
-
嗯,我们很多基础设施都是自己搭的。
-
比如我们不用Kubernetes和Docker那些东西。我们做了自己的容器文件,自己的文件系统,自己的容器运行时,自己的调度器。
-
基本上我们管理容量的方式都是自己做的。
-
而这让我们基本上能把全世界所有算力当成一个大容量池来对待。
-
你想想,我们已经有好几千付费客户了,随着时间推移只会越来越多。
-
每个客户的需求都挺多变的,或者说他们的工作负载一天里会变,可能还有突发。
-
单独看每一个,都非常难以预测。
-
但如果你把所有客户聚在一起,整体需求就变得非常平滑,而这是我们可以极其高效地管理的。所以Modal的价值主张之一,除了我们能跟你一起扩展之外,还有你根本不用做容量规划,直接来找我们就行,我们给你
-
100块GPU。我觉得这太厉害了,比如回到TypeSafe,我们其实很久以前他们还没上线的时候就聊过,但他们一夜之间就在Modal上上线了,我们甚至都不知道,就直接扩展起来了,我们给了他们一大堆GPU,就这么自动发生了。
-
自动地。
-
所以那种魔力,我觉得就是人们真正会去评估模型的东西。
-
比如我们能在很短时间内给他们大量GPU。
-
而且我们能应对那种波动。
-
比如你来找我们,你不用锁定,你知道,不用锁定一个矩形块的GPU锁定三年,还得知道确切的数字。就像按需付费一样。
-
你随时扩缩容,按GPU秒付费。按CPU秒付费。
-
那你们在预测方面是怎么做GPU采购的?
-
因为你不想让一大堆过剩的供应就压在自己账上。完全对。是的。
-
现在GPU的交货周期大概是三到四个月。
-
所以我们基本上做直线或者指数线的外推,然后看所有客户加总的情况。
-
我们的客户群非常多元化。
-
你其实可以把总需求看得挺准,然后根据月度增长率来预测,过去12个月环比增长大概是30%、40%。
-
你就把这个往未来推三到四个月,最后大概会得到两到三倍的量,然后你就去买那些容量,确保能跟上扩产。那有时候你能不能就直接买到那些容量?可以啊,我是说,我觉得有个小误解,好像我们没
-
容量了。我是说,英伟达每个月出货的GPU量简直疯狂,我不知道每个月装多少十万块Blackwell,价格肯定涨了,你要拿到同样数量的GPU就得多付钱,我不想说这是个有效市场,但如果你愿意比别人多付
-
钱,你就能拿到很多GPU。
-
有没有一个价格,对你来说就不划算了?
-
当然有,但到什么点呢?我不这么认为。
-
我觉得实际上我们GPU是多头而不是空头,因为我们可以向客户收更高的价格。
-
实际上存在一个市场价格,而且动态不太一样,因为我们锁定更长期的预留,然后以稍短的期限租出去。
-
但如果底层价格上涨,人们也愿意付更多。完全明白。
-
价格随时间会怎么变化?
-
H100本来是该贬值的,价格该往下走的。我完全没想到。我是说,其实挺有意思的。
-
哎,哥们,你要是都没头绪,那我还能知道啥?
-
你昨天看到Jensen了吗?他其实就在伦敦。有人问了他这个问题。
-
他说,嗯,显然,需求最终会追上供给。
-
或者说,抱歉,供给最终会追上需求,然后咱们就看价格会怎么走。可能一年内发生,也可能五年内发生。
-
他说的跟我一直跟大家讲的完全一样。
-
硬件价格,就像重力一样。
-
长期来看,硬件价格总是往下走的。
-
而现在我们处在一个,供给严重短缺的局面,这就意味着价格涨上去了。
-
可能还会再涨一年、两年、五年,我不知道,但最终它们会降下来。
-
我们现在处在多早的阶段?
-
因为我所有事情都用Instinct来跑。
-
我在Instinct上有一百多个自动化,干的事儿都特别离谱,从买演唱会门票到策划演出,再到帮我妈管理用药。
-
但我用的算力是杰文斯悖论的100倍。
-
如果这对社会上很多人来说也是一样的,因为它能在WhatsApp里直接用,还有……
-
我们现在离那个阶段有多早?我觉得我们还非常早期。
-
我觉得你说的是一回事。
-
我是说,对,杰文斯悖论,随便吧。
-
我觉得这些东西的潜在需求就是太大了,而且我觉得最终我们会开始撞上资本约束,对吧?
-
比如利率在涨,比如我们建数据中心就是不够快。也许这是好事,我也不知道。
-
我觉得某种程度上,你知道,这算是防止过度建设的一种保障,但我也不确定我们能不能把这些东西建过头,因为需求实在太大了。
-
对,我觉得未来五年内不可能建过头。
-
大概不会,不会,不会。我觉得可能发生的情况是,人们会意识到,你知道,Instinct就是个好例子,据说他们现在还不收费,或者说还没开始赚钱。
-
所以,我觉得这是个好例子,但很明显Instinct未来能赚大钱。这就是市场的动态。
-
有很多公司现在还没开始赚钱,但他们在用大量的GPU。
-
他们最终总得开始赚钱,但这段空档期可能会持续一阵子,对吧?
-
我们可能会撞上这个问题。
-
你提到了推理市场里出现的专业化趋势,我们也聊到了NVIDIA。
-
我们看到芯片市场越来越专业化。对。
-
在你看来,随着市场分裂成非常专业化的玩家,从Cerebras到Etched到Olex到Fractile这些以前没有的公司,NVIDIA今天的业务是比以往更强了,还是其实比以前更弱了?
-
我觉得你是想把它说成非此即彼的对立关系。
-
我的看法是,我觉得Eric Viscio其实,说起来挺有意思,是一回事,所有这些都会增长。
-
我觉得NVIDIA会继续增长,他们会继续出货很棒的芯片。
-
我觉得Cerebras和所有这些Etched以及其他公司也会出货专业化芯片,他们也会增长。
-
所以我觉得所有这些都会有市场。
-
那为什么Cerebras跌了30%?我不知道。
-
我不怎么关注股市。你不关注股市?
-
不关注。我是那种非常被动的,你知道,买指数。
-
主要是因为我自己时间有限。
-
比如,我觉得我没那个精力去盯股市。
-
对英伟达来说,CUDA在多大程度上是大家所说的那种护城河?
-
其实我觉得这有点被夸大了。
-
我不认为CUDA本身就是护城河。
-
CUDA用起来其实挺烦人的。
-
它算是个比较低端的编程模型。
-
但我确实认为,整个英伟达的生态是护城河。
-
我觉得所有的内核优化,还有那些东西,比如Torch对英伟达的支持总是比其他任何平台好得多。
-
还有像VLM和SGLang这样的开源引擎,正因为如此,它们对英伟达的支持也总是好得多。
-
所以今天一切都是英伟达优先。而且这大概还会继续下去。挺有意思的。
-
过去15年我一直说,明年就是非英伟达加速器的元年,可这事从来没发生过,我总是说错。
-
英伟达就是展现出了惊人的持久力,一直在主导市场。
-
走着瞧吧,我是说,现在有Tranium,有TPU,有AMD,还有很多其他东西看起来相当不错,它们也在追赶,但我还是觉得它们落后挺多的。
-
这些Neo云在多大程度上是朋友——因为很多情况下它们都跟你们合作,我确定,就像你提到的,我记得你说是25家——还是说它们是敌人?你知道,我请过Nabeus的创始人来做节目,他就说,我们要来抢推理市场了。
-
比如我们得掌控全栈。
-
我不是针对他这么说,我完全理解。
-
但它们到底是朋友还是敌人?
-
我觉得创业圈里每个人都是既是朋友又是敌人。
-
他们跟每个人都有这种,你知道,挺微妙的关系。
-
我觉得一些顶尖的Neo云,包括Nabeus,它们都在试图往产业链上游走。我个人有点怀疑。
-
我觉得这挺难的,既要做好自己的核心业务,又要同时往不同的市场扩张。
-
为什么对他们来说会很难?
-
他们想高效地切入推理层,最根本的问题是什么?
-
我是有偏见的,但我们花了五年时间搭建了一套极其复杂的基础设施栈。
-
我觉得要复制我们做出来的东西是非常非常难的。最难的是什么?
-
就是所有的代码,还有文件系统、容器运行时、调度器周围的一切,要构建一个每分钟能调度数百万个沙箱的系统,你知道,能扩缩成千上万个GPU,支撑数十万个任务并发运行。
-
这些都是非常难的工程问题。
-
我是个基础设施极客,我就爱搞这些玩意儿。
-
做这些特别有意思,但这些确实是难题。
-
Nebius是比CoreWeave更好的生意吗?
-
我真不知道,就是不知道。
-
我觉得两家都执行得极其出色。
-
我对我们做成的事非常敬佩。
-
我觉得说到底,我最佩服的其实更多是在金融工程那一块,他们特别擅长这类事情。
-
你为什么这么说?
-
因为我觉得快速搭建一个Neo云,很多限制其实在资金这一侧。
-
你得非常擅长这个流程:先锁定一个长期客户合同,然后拿它去融一大笔钱,接着去买芯片,交付芯片,然后在接下来几年里把债还掉。
-
跟财务数字玩这种舞蹈,是挺有意思的一种游戏,CoreWeave做得特别好。这是资本的游戏,是金融的游戏。
-
再往下一层看,我们聊过Jev,他显然跟Modal合作过。
-
我们看到开源社区有惊人的进展,这很令人兴奋。
-
但你也看到Haiku和Anthropic最新的模型性能极强,价格又极便宜。
-
如果前沿模型几乎一样便宜、一样高效,那开源模型还有什么优势?
-
我觉得开源永远都会是这样,永远都会有很棒的模型出来。
-
咱们也别忘了,开源模型现在都在往授权模式转。
-
所以它们越来越擅长把模型的价值变现。
-
我觉得这意味着它们会有更多资金去训练更好的模型。
-
我真心希望会有欧洲和美国的模型,因为我觉得现在有这么多中国模型,这局面不太好。
-
我的意思是,显然我对所有中国实验室都怀有极大的敬意,他们做的事非常出色。
-
但我觉得,如果力量能更分散一些,对世界是好事。
-
不过话说回来,回到那个问题,我确实认为开源永远会有一批人想要微调、想要对自己的模型有更多控制、想调调参数,比如要低延迟、高吞吐,不管是什么需求。
-
而开源在这方面会扮演很重要的角色。
-
这算是Windows对Linux吗?
-
恕我直言,你觉得欧洲能做出有竞争力的开源模型吗?能。
-
我的意思是,我很爱欧洲,我是在欧洲长大的。
-
我在瑞典长大,但我确实觉得欧洲在积累大量资本这方面比较吃力。
-
我觉得这两件事都是欧洲比较吃力的地方。
-
而这一点中国做得非常好。
-
他们积累了大量的人力资本。
-
人力资本,而美国
-
显然非常擅长筹集巨额资金、训练非常大的模型。
-
我不确定欧洲这两样有没有。
-
英伟达拥有美国的开源模型层,这重要吗?
-
先是Poolside,现在又是Reflation?
-
我觉得英伟达非常聪明,专注于生态,建立生态,还有开源模型,我觉得他们大概是看到了一个机会,可以拿下一些开源模型。
-
这些公司非常资源密集、资本开支密集,我觉得英伟达买下其中一些、实际上给它们做赞助,来打造美国制造的模型,这很聪明。
-
顺便说一句,我想收回我刚才说的一点。
-
欧洲确实有数量惊人的顶尖人才。
-
我确实认为欧洲很不擅长的是把这些人才聚集起来,全都放到同一家公司里。
-
这一点我觉得美国非常擅长。
-
还有激发一种有野心、追求巨大规模的心态。
-
我觉得就像你刚才说的,哦,我对自己没信心,我冒昧地说,如果你在美国,你可能一直被周围的影响包围着,让你更早去创业。对对对。
-
我是说,说到这一点,几乎都有点走到另一个极端了。
-
哦,你四岁的时候,就有人鼓励你开新学校,退学吧,幼儿园不值得上。没错,对。我完全同意你。
-
我确实想聊聊,我们说过模型,特别是JAV,我们是不是正在看到模型按功能拆分解绑,JAV显然在某些特定任务上非常擅长?
-
我觉得是这样,我觉得这跟我之前说的有关,推理市场太大了,你知道,当一个市场只有十亿美元的时候,你不会有很多细分市场,但当市场开始到一百亿、一千亿,
-
不管多少,你就会有很多不同的细分市场,而JAV做分类之类的事情、回归类的事情非常非常擅长,而且这个市场足够大。
-
好,欢迎。
-
这是你作为20 VC基金合伙人的第一天,我们在投资委员会,很荣幸,我们有机会全押Jeff,我们全押Jeff的新项目,全押,全押,Jeff值一千亿的看多理由是什么?
-
我之前跟你说过,我觉得品牌、社区和围绕它的这场运动,你知道,他们做的一切都太不可思议了,对我来说,在这个新时代,这是一笔巨大巨大的资产,一家千亿美元的公司,我觉得有机会打造一家千亿美元的公司,
-
靠很多专门的推理模型。
-
不过你会在85亿美元的时候投吗?
-
85亿美元的时候我就会投。
-
我觉得这里能出个相当大的结果。
-
可能是被收购退出,也可能是上市公司,谁知道呢?
-
但我确实觉得这里上升空间很大。
-
哥们,我真想看到他在纽约证券交易所敲钟。你懂我意思吧?是啊。特别棒的人。我太喜欢那家伙了。他是不是很厉害?
-
我是说,你知道,他的个人魅力,那种,你得围绕你的品牌打造出一种人格。
-
你得打造出这种视觉标识。
-
这显然不是我会选的那种视觉标识。
-
但我觉得,我懂你的意思,不过说实话,Eric,我觉得那你应该更高调一点。Moodle?
-
不,嗯,是啊,不过你。
-
是啊,我是说,那是有可能的,对吧?
-
就像,从你的角度看,我不觉得Modal有什么以个人魅力为主导的狂热追随。
-
我觉得这个批评挺有道理的。
-
我觉得我可以更抛头露面一些。
-
我在发推,我尽量发推,我尽量写博客。
-
我最近这方面做得不太好。没人关心博客。是啊,也许吧,对吧。
-
也许我就是需要在Twitter上更放飞一点。
-
基本上就是跟基金相关的营销。
-
在Modal早期,那是我们增长的重要部分,对吧?
-
就像我一直发推讲我们在做什么。我觉得那真的很重要。
-
每家公司都得找到适合自己的市场推广策略,但在早期,我们花了很多时间就是在Twitter上跟人聊,主动去联系别人,试试产品,你觉得怎么样?
-
其中一半人后来成了天使投资人。
-
他们现在是Modal的支持者。
-
而且你知道,你得发挥自己擅长的东西。
-
早期的时候,我发了不少垃圾帖。
-
你知道吗,在我粉丝到五万之前,每一个关注我的人,我都会发一条私人的感谢消息。太厉害了。是你自己打出来的?
-
每天晚上从一点到两点半。太厉害了。
-
我会说,比如,我看到你是瑞典来的。
-
我很喜欢Grand Hotel。你来伦敦的时候告诉我一声。
-
我一晚上会发五十到一百条。真是够投入的。太厉害了。
-
不是,但这其实就是获客的飞轮。对。
-
他们会去办公室,然后说,哇,你知道吗,这个人给我发了消息,你应该听听这个节目。对,很聪明。
-
我很喜欢你打造这个媒体品牌的做法。太棒了。
-
Neil Mator有个很好的理念,就是,我怎么把客户体验提升十倍?
-
那干脆,来吧,管他呢,咱们玩个游戏。
-
我怎么把现在Modal的客户体验提升十倍?
-
我觉得我们最需要的是,我们需要Modal里有多得多的产品。
-
我们希望打造一个基础的、全面的体验,你要构建一个AI应用所需要做的任何事情,都应该成为Modal里的一个产品。
-
另一件我们能做的事,就是招多得多的FD和销售代表。
-
我得说我们这方面一直落后了,但我们应该招更多人去主动联系你,说,嘿,我看到你开始用Modal了。
-
我看到你在生物领域工作。我们能怎么帮到你?
-
这里有一些生物方面的例子,蛋白质折叠之类的。
-
我们跟一堆类似的公司都有合作。你好像有点怀疑。不,我完全没有。
-
其实我只是在想,我挺喜欢这个产品的野心,但作为一个欧洲人,我会说,哇。
-
我们是在B2B领域,所以我觉得就是,你知道的。
-
但你不担心摊得太薄吗?担心。
-
说到你那个点,就是,你知道的,为什么Nebius不能像你们这样高效地做你们做的事?
-
因为你们太强了,而且花了那么多时间。
-
当你扩展到所有这些细分领域时,每个领域里都有做了很多年的玩家,我就会想,哦,Eric。我不觉得那是真的。
-
我不觉得他们很厉害,很多都不行。
-
但我是说,我某种程度上同意你更高层面的前提。
-
如果有什么东西是超级关键、永远消失不了的,那就是优先级排序和资源分配,对吧?
-
你不可能把水烧开,同时什么都想做。
-
你得极其果断无情。
-
而且搞多产品战略,我觉得,是非常难平衡的。
-
你什么时候拓展到第二个产品或第三个产品,对吧?
-
我们的第二个产品,也就是沙箱,花了四年才看到成功。
-
第二个产品花了四年才看到成功?我们推出了沙箱。
-
五年做到十亿营收。
-
对,所以我们2023年推出了沙箱。
-
早期没看到太多成功。我是说,确实有一些成功。
-
不算糟糕,但直到2025年夏天之前,它在我们营收里占的比例都相对很小。我记得是在4.5版本左右,那些模型在生成代码和构建完整应用方面变得非常出色,然后就爆发了。
-
我是说,沙箱现在是一个3亿美元年化收入的业务。
-
大约占我们营收的三分之一。
-
所以那真是一段疯狂的旅程。
-
现在我们正在思考,你知道,第三个和第四个产品是什么?我们刚推出了一个训练产品。
-
我对此超级兴奋。
-
我们正在做批处理产品,正在做强化学习,正在做各种其他东西。
-
所以那种向平台演进的转变,其实已经在那里了。
-
如果你回头看Modal最早的那些演示文稿,你知道,我整理了一些只是为了我自己思考用的,其实全都在那里了。
-
就像我们有这样一张市场地图,所有这些,你知道,最终做出来的产品和我想的很不一样,但对我来说非常重要的是去创造一个,你知道,专注于一个品类、专注于一套解决方案,而不只是做一个单一的小部件供应商。
-
关于今天的沙箱市场,你知道了哪些你希望当初刚起步、发布第一个产品时就知道的事情?
-
它其实就是这样一种产品。
-
我觉得身处基础设施领域的一个好处,但奇怪地说也是一个缺点,就是你必须凭直觉判断什么是重要的基础构件,然后只管去打造出色的积木块。
-
我觉得我们处在提供积木块的领域。
-
我们试着去看工程师需要什么,但不会听得太仔细,因为他们会要各种乱七八糟的东西,而是把它提炼成一些基础构件。
-
我们在2021年推出了一个无服务器函数产品。
-
它在2023年随着生成式AI推理取得了成功。
-
我们在2023年推出了沙箱产品,因为我们看到很多人用LLM来生成代码。
-
然后就像我说的,它在2025年取得了成功。
-
所以我们做产品的一贯思路,基本上就是先拿出好的基础模块,然后它就爆发了。
-
不过回答你的问题,是强化学习、氛围编程、后台智能体,也许未来还会有别的东西。
-
这些其实是我们没预料到的。
-
所以我觉得基础设施往往就是这样。
-
比如我们开始做无服务器函数产品的时候,根本没预料到Stable Diffusion。
-
它恰好就成了那个杀手级应用。
-
你从中得到的启示是什么?
-
唯一重要的是,你得在这个牌桌上待得足够久,等到时机成熟。有时候我觉得这话是对的。
-
我是说,在时机上我们确实在某些方面极其幸运。
-
我们在2021年公司成立之前就推出了产品。
-
然后2022年Stable Diffusion和ChatGPT出来了。
-
我们在那上面的时机真的非常好。
-
它一下子创造了巨大的需求,而我们的位置非常有利。
-
但其中一部分也跟基础设施本身有关。
-
我觉得关键在于打造那些你预判未来会有用的产品。
-
从你自己的经验来看,是不是那些你一直想看到的东西?
-
我觉得在这一点上你得相信自己的直觉。
-
老兄,你说过资源分配这件事,在你考虑这么广的产品线时非常非常重要。
-
你有哪些地方分配了资源,事后回看希望自己当初没那么做?你怎么反思这件事?
-
我觉得我们应该更早地把更多资源投向大语言模型推理。
-
我觉得我们有一阵子有点置身事外。
-
我们没意识到开源推理会这么大。
-
我们当时以为这会是一场价格战,就是个拼价格的商品市场。
-
然后Deepsea出来了,我们一看,靠,得赶紧动起来。
-
于是我们马上组建了团队,你知道,从原来一两个人做这块,到12个月后变成30个人,现在我们已经是前三的提供商之一了。
-
Jason Lamkin是我一个很好的朋友,我每周四和他一起做节目,他总说现在开源大语言模型推理的使用量其实已经到了顶峰。
-
说白了,前沿厂商会推出便宜得离谱的产品,他们现在就是这样。
-
美国企业不想用中国的模型,这个情况会持续下去,所以有了这两个主要趋势,前沿厂商其实会重新崛起,我们会看到美国大语言模型推理模型减少或者趋于平稳。
-
我觉得这有点固定蛋糕大小的思维。
-
恕我直言,我觉得这两个领域在未来12个月乃至更长时间里都会增长5倍、10倍、20倍。
-
所以很难说哪个会更大,但我觉得未来几年这两个都会成数量级地增长。
-
未来12个月增长5倍、10倍、20倍,那是肯定的。
-
你刚做到十亿美元营收,干得漂亮。
-
感觉挺爽的吧?
-
感觉是挺爽的,对。
-
我是说,我,你知道,就,我也不知道,我就是个,你知道,在随便什么地方长大的瑞典人,对我来说,这些数字太离谱了,但,对,感觉特别好。这么多钱。
-
Eric,你真是,你知道吗,我没想到你这么讨人喜欢、这么酷。
-
我也不知道,就,好多零啊,十亿里面有多少个零?挺多的。
-
你的理财顾问会告诉你的。
-
你看看这个,12个月后你会在哪儿?我不知道。
-
我能说的是,我们一直在增长,过去12个月增长了15倍。所以你可以据此推算。我是说,我也不知道。
-
你知道,到了某个时候,市场就是会变得非常大,然后开始稍微放缓一点。
-
但以现在的增长速度来看,增长率并没有在放缓。
-
我们现在每个月增长30%、40%。
-
我是说,我绝对认为我们应该,我希望远远超过那个数字。
-
恕我直言,那150亿的估值就显得相当便宜了。
-
我是投资人,所以这现在是我的地盘了。
-
如果你觉得你会做到40亿,比如说,我不知道,落到利润上12亿,对,那他们实际上只付了,多少,明年年底利润的14倍,收入的3倍。对,这挺便宜的。感觉挺便宜的。我觉得便宜。
-
我是说,如果我不认为我们能增长、能成为一家时代级的公司,我就不会做这件事。
-
我觉得上升空间太大了。
-
我觉得这是有史以来最大的市场机会之一。
-
我觉得对算力的需求、对AI应用的需求,只会变得无比巨大。
-
而它们都需要一个地方来运行。
-
我希望其中很多都会跑在Modal上。
-
你们今天哪条收入线还没有,或者很小,但你觉得三年后、五年后会非常可观?这是个好问题。
-
我觉得训练是我们刚推出的东西。我觉得那可能会非常大。
-
我希望它能在未来6到12个月做到1亿的年化收入,后训练也类似,我在批处理任务上也是。
-
我也非常兴奋于很多那种传统的数据仓库的东西,数据库、工作流编排、特征存储,比如向量数据库。
-
这里面有太多部分了,而且它们都能很好地契合在一起。
-
对我来说,这就是我特别兴奋的地方。
-
一旦你开始在这个领域里做东西,就会发现有很多天然的相邻方向,这对我来说也是个问题,因为我很容易兴奋,所以我不缺想法,比如模型这块,我们有很多想做的事,CI我就很想做,我很想进入持续集成。
-
那是个很有意思的领域,agent harnesses,也许我们应该训练模型,你知道,这是五千个方向,
-
你知道,我那个ADHD的大脑就想往所有这些方向跑,但你显然必须在优先级上狠一点,只在合适的时候接一两个事情,但我们可以走的方向太多了,你老婆还找你做决定,这真有意思。
-
她得到的答案肯定特别不连贯。我知道,我知道。这是什么?这是?
-
我就是想要点窗帘。对。
-
你知道,窗帘这事,你就随便挑一个就行。
-
我看过《辛普森一家》,就是Raina Wolf Castle当上总统那段,他们问,你想选哪个?你知道,一到七十。
-
他说,我生来就是领导的,不是来读的,四号。对。
-
我完全理解。
-
我能问一下吗,我们看到重心上有一个真正的转变,我觉得,不只是重心,还有资源分配,从预训练转向后训练。
-
你怎么看这件事?
-
你觉得这是新常态吗?
-
我不知道。
-
我觉得后训练能行,是因为人们在现实生活里做的很多任务,反馈机制其实相当有限。
-
所以编程就是个很好的例子,对吧?
-
比如用强化学习做编程可以做得很好,因为你可以在沙箱里跑代码。
-
很多实验室就是为此在用Modal的沙箱。
-
你再看网络安全和其他领域,数学显然会偏向那边,我是说,我们见过一些非常棒的项目。
-
我觉得挺不可思议的,就像前几天那些OpenAI的证明。
-
所以法律,也许在某种程度上,你可以做评估。
-
所以我觉得现在后训练这块,大家关注得特别多,因为有很多任务传统上只有人能做,但实际上智能体和大语言模型已经够得着了。
-
但我不知道这能不能延伸到更远的地方。我不确定。
-
外面有很多任务的反馈周期长得多,我不确定后训练现在能不能覆盖到。
-
很多人问我,长远来看软件工程师会怎么样。
-
我觉得我们大概会把智能体能在24小时或者一周之内完成的事情全都自动化掉。
-
但我总觉得工程师的工作时间尺度更长,他们的反馈周期也更长。
-
所以我感觉强化学习在这方面会开始碰到一些限制。
-
但我错了这么久,也许这次我还是会错,然后它就一路走下去,最终我们能在人类要花六个月的事情上做强化学习,我也不知道。
-
三年后,工程师的一天是什么样的?
-
我是说,我对软件工程极其看好。
-
我写了30年代码,见过太多变化了,编程语言、云计算、各种各样的框架,每一次我们让程序员更高效,结果都只是增加了对软件的需求。
-
世界上有太多地方急需软件,所以我对软件和软件工程的需求非常非常看好。
-
而且我觉得外界最大的误解之一,就是以为开发就是把英语翻译成代码。
-
这从来就不是软件工程师的工作。
-
首先要理解需求本身,还要充当人与人之间的接口,你最终是为人类做东西,得搞清楚这在流程和工作流上到底意味着什么,而这件事会不断往技术栈的上层走。
-
你知道,60年代我们写汇编、打孔卡,然后转到COBOL,再到C++,再到Python,现在我们用智能体。
-
这绝对是,绝对是我过去30年见过的最大的变化,但我确实觉得在软件和计算机的历史上,有很多很多类似的东西、很多平行之处。
-
对我来说,这让我觉得软件工程师未来10年、20年都没问题。
-
Modal每个月在编程智能体上花多少钱?
-
我觉得大概五十万左右吧。你们有多少工程师?150个。
-
兄弟,这太让人担心了,你知道吧。
-
你是不是该多烧点token?
-
应该得是那个的10倍吧。是啊,也许吧。我也不知道。
-
Brandon说,McCaw说他们在推理上的花费是员工工资的3倍。是啊,是啊。是啊,我们还没到那个程度。
-
但我要说,我们的软件工程师都特别爱用智能体,包括我自己。
-
我是说,我一直都在用智能体写代码。
-
但我觉得,大问题是,如果你看Anthropic的IPO,还有为什么我没像Bloomberg那样把你拉进来问,你怎么看Anthropic的IPO?我讨厌这个话题。我觉得挺好的。是啊。挺好的。
-
AI圈里没人会说,哦,我不看好。是啊。是啊。是啊。大家都反对它。我反对它。说吧。
-
但我确实觉得,最大的一块,可以说是Claw Code。
-
它有600亿美元的收入。
-
它很大程度上决定了那2万亿美元的估值。
-
你看Mark Benioff,他说他们现在在Claw Code上花的钱是工程师工资的5%,也就是3亿美元。
-
现在如果随着效率提升等等,这个数字大幅下降,那就是个挑战。
-
还是会随着它越来越多地吃掉工程师的工作流程而上涨?是啊,只会吃得更多。
-
我是说,再说一次,这种事我们见过太多次了。
-
你把东西做得更高效,你把东西做得更强大。
-
它只是解锁了五个新的使用场景,然后需求最终就上去了。
-
这就是过去50年计算机和软件的历史。
-
但我要不是这么乐观,就不会坐在这里了。这就是我创业的原因。
-
在软件和计算机这件事上,我就是世界上最大的乐观主义者,我就是爱这玩意儿。我觉得它只会继续增长。
-
数据市场挺有意思的。
-
有那么多玩家扩张得那么快。是啊,太不可思议了。
-
如果我20岁,只想赚大钱,我就会出去开一家环境公司,直接卖数据给前沿实验室。
-
那个领域能赚的钱太多了,简直不可思议。咱们再往深一层聊。你接下来会怎么做?
-
你会专攻某个特定市场吗?
-
我是说,编程领域现在是需求最大的地方。
-
比如你要是能卖一个代码环境给那些实验室,那就能赚很多钱。这里面还有很大的空间。还是有的,对。
-
是啊,我经常遇到这样的创业公司。
-
我天使投资了好几家。我是说,它们都是很了不起的生意。
-
我不觉得,我想说的是,我的一条建议是,你今天能赚很多钱,但这是一家风投基金吗?
-
你想不想被卷进风投那套节奏里?我不确定。
-
我觉得这些公司今天能赚很多钱。
-
我不知道它们长期能不能赚很多钱,但谁在乎呢?把钱赚了再说。这是很可观的钱。
-
今天这是一门极好的生意,这就够了。
-
我觉得有数据交易市场,也有数据和服务。
-
你看那些领先的供应商,他们一开始是数据采集方,然后就卖数据给你,差不多就这样。
-
我觉得他们现在真的做全了生命周期,一直到部署、实施、评估、监控,有真正的企业级贴身服务能力,类似那些FD,他们会真正成为那个合作伙伴,确保完整落地。
-
这样才能扩大利润率,并在长期拥有某种形式的业务。肯定的。对。
-
我觉得从长远来看,这会是一门艰难的生意。
-
但就像今天,卖这些数据集能带来极好的现金流。
-
我想问一下,当我们谈到这种实施、和合作伙伴这么紧密地合作时,你说过,Lin 也从 Fireworks 那边说过,拥有自己的智能很重要。
-
你能展开讲讲这具体是什么样子吗?
-
因为用这种方式为公司做专用模型,这事其实还没有定论。
-
你知道,我们有 Harvey,他们说这非常棒,效果惊人。
-
然后又有 Lagora 说这很荒谬,底层模型迭代太快了,这是错误的策略。
-
对,对某些东西来说,拥有自己的智能是好事。
-
对另一些东西来说,我倒不觉得这有多重要。
-
比如我们有很多客户在 Modal 上跑专有模型。
-
他们的客户,你知道,用的就是专有模型。
-
我不觉得每个人都应该拥有自己的智能。
-
那在什么情况下对你来说有意义,什么情况下没有?
-
我觉得对某些用例,你可以拿一个开源模型来微调,能得到非常好的效果。
-
好处是你知道这个微调模型是基于什么,它不会变。
-
他们不会把模型从你手里拿走。
-
拥有这种价值挺好的,那种一致性,还有能继续调整它的能力,而不用,你知道,底层模型发生变化,这在一些前沿实验室身上确实发生过。
-
这挺好的,你知道,我支持这个,但你知道,我觉得还有很多其他事情对人们很重要。
-
你知道,拥有自己的智能只是众多事情中的一件。
-
比如我觉得延迟很重要,成本很重要,性能,我觉得可改造性,有一个包含很多周边服务的平台,这些也很重要。
-
所以拥有自己的智能,对,我支持,但还有很多其他事情。
-
对,完全同意。
-
这难道不是跟你的生意有点冲突吗?不,我不这么觉得。
-
我是说,我很欣赏你的坦诚,但哥们儿,说“是”对你更有利啊,每家公司都会需要它,而我们是能帮你的合作伙伴。
-
我这都他妈把话给你递到嘴边了,嗯,其实也不算吧。
-
我是说,你想想TypeSafe和JAV,对吧?
-
你知道,那是个高度专有的模型。
-
我是希望人们用JAV的。我是说,它就跑在Modal上。
-
所以我们有很多客户,他们自己就是专有模型,托管在Modal上,服务他们自己的客户。
-
我也非常非常支持这一点。
-
我觉得Modal的美妙之处一直在于它是个通用平台,我们支持各种各样的东西。
-
对我来说这就是美妙之处,你知道,如果你想用开源模型,那很好,我们会帮你。
-
有很多客户在开源模型之上构建了了不起的AI应用,微调、强化学习,还有一堆相关的沙盒用例或者训练什么的。
-
但也有很多公司建立了非常成功的业务,Suno、Runway、TypeSafe,还有很多其他公司,在Modal上跑他们自己的专有模型,而他们的客户根本不在乎。
-
我觉得这让我们处于一个非常好的位置。
-
在快速问答之前,我还想问两个问题。
-
模型路由,就像亲爱的美国人说的那样,这是一门有护城河的生意吗?你们在英国怎么说?Routing?Routing。Routing。我喜欢这个。
-
嗯,我是说,其实美式英语最初就是从我们这儿拿走的,然后给糟蹋了,不过没错。
-
我的问题是,在这个价值链里,那是一个有护城河的细分领域,还是一个大家都会自己做的商品化产品?
-
我觉得在模型路由领域建立一门成功的生意是可能的。
-
我觉得今天你就可以把它作为一个独立产品来做。
-
我好奇的是,长期来看它是不是必须成为更综合平台的一部分。
-
说到底,我觉得这些公司想要的是评估,是微调的办法,是对性能更强的掌控,比如延迟、吞吐量,所有这些。
-
我觉得这属于那种今天看起来就挺合理的东西。这些都是非常好的生意。
-
我个人投资了OpenRouter,他们取得了很好的成果。
-
我其实觉得他们如果独立发展,本来可以做得更好。
-
但我觉得从非常长远来看,它感觉像是那种品类,不过这是我对AI里所有东西的看法,它真的应该成为更大、更全面的工具集合的一部分。恭喜。
-
你在Open Router的董事会上,然后收购要约来了。
-
请说说为什么他们会这么做。对。请说说为什么。
-
我觉得Open Router,增长率和收入,还有品牌,说实话,他们的品牌非常强。
-
我的意思是,有很多,有500个其他竞争对手,但这个领域增长太快了,收入也太多了,我会告诉他们继续做下去。最后一个问题。
-
我觉得一个很能说明问题的问题是,你相信什么是不利于你生意的?
-
所以,举个例子,我觉得今天做种子投资基本上已经死了,是扯淡。
-
就是那种2加10,然后花18个月慢慢打磨的想法。
-
嗯,如果你想赚钱的话,这其实挺糟糕的,对吧?
-
但如果你想和工程师建立关系,或者说和创始人建立关系,那就很棒。
-
当然,但这和我的做法是相悖的。
-
我传统上是——你是反对和创始人建立关系?
-
不不不不,我是说我认为种子投资已死,2加10、花18个月打磨的那套已经死了。
-
对,我明白你的意思。那你的会是什么?
-
我不知道,我的意思是,我有个想法,显然在某个时候,AI这东西发展得太快了,我们现在在这儿,然后会到那儿,然后就会有回调,股市跌个20%、30%,所有人都会吓坏,人们会说这是世界末日。
-
我几乎可以肯定这会发生,但我非常看多,因为之后我们会继续往前走。
-
所以这就是我会说的一点,我觉得会有一次回调。
-
这个我能接受。
-
因为我觉得长期的机会实在是太他妈大了。太大了。完全同意。你们做老股转让吗?
-
很少,为什么这么说呢,我个人其实不需要很多钱,你知道,我对生活挺满意的,钱也够用,所以从个人角度来说,我其实挺支持员工做这个的,我觉得这其实挺重要的。
-
作为创始人,你要让股权的价值尽可能高,而做到这一点、并且告诉未来的候选人“这不是空头支票,这是真金白银”的办法之一,就是有一套做员工老股转让的机制。
-
你可以说,你看,上一轮我们让员工卖了这么多之类的,你知道,最多到10%,我觉得必须得有护栏,你不想让员工卖太多。
-
你希望他们仍然非常投入,利益深度绑定,非常有动力把公司做成功。
-
但我觉得这是一种方式,你知道,就是把股权变成一种流动性很强、很硬的货币。我完全同意。
-
而且你想想,现在人才市场的竞争越来越激烈,外面的竞争极其激烈。是啊。是不是很疯狂?太疯狂了。太疯狂了。
-
我的意思是,你知道,我们看到的那些offer,我们流失的应届生去了,你知道,一些实验室,比如,据说能拿到,你知道,两千万以上。
-
我是说,这些人都是非常出色的人,出色的,什么算出色的应届生呢,你知道,就是特别特别聪明的人,你知道,
-
这种人我一看就知道,他们就是,你知道,极其渴望成功、非常努力,至于他们去哪儿,技术方面,我是说他们去了几家大实验室。是这样吗,他们去OpenAI吗?
-
是啊,大实验室,他们给的钱很多。但就这样吗,人才都往那儿去吗?
-
还有几家别的,但主要就是那几家,大家都知道他们给钱多。
-
那你们不会给那么多吗?我们给得很多。
-
我们可以非常激进。
-
我们想做到市场上给到95分位的水平。
-
我知道有几家公司,他们可能给的会稍微多一点。
-
我觉得我们在股权上的上升空间大得多。
-
回到我刚才说的老股转让,我觉得这一点很重要,也是因为这个原因,要创造出实实在在的价值,让股权成为一种货币,让我们能够,
-
你知道,我们给出的offer看起来非常非常有竞争力,再加上我们有很大的上升空间,我是说,你说得对,我们的股票看起来挺便宜的,我也有点同意,我们股票有很大的上升空间,所以这让我们不一定非得跟那些实验室拼价格,但我觉得,你知道,可以打造一个有说服力的销售话术,
-
说明为什么我们的薪酬方案基本上比那些实验室更好,而且我们愿意为了招到最优秀的人才付出很大代价。好,我们来做一轮快问快答,不然我能跟你聊一整天。
-
你有一个很棒的天使投资组合,OpenRouter,你之前提到过Lovable,你可以把所有的钱只投到一个里面。
-
我很喜欢TurboPuffer。
-
我跟Simon很熟,他是个丹麦人。
-
所以你们有斯堪的纳维亚的渊源。
-
真是个了不起的创业者。我就是喜欢这个生意。
-
这个生意能做多大?这是个好问题。
-
我是说,它有点偏专业化。他们在做向量数据库。
-
我觉得这可以成为一个非常大的品类。
-
如果我来经营那家公司,我会有500个不同的想法,去拓展到很多相邻的领域,数据库、数据仓库、其他类型的查询、查询系统。
-
就是,这可以成为一个很大的品类。
-
过去12个月里,你改变想法最多的是什么?
-
大概是沙盒这个领域的规模吧。我觉得这有点疯狂。
-
我是说,我看着收入,它就是一直往上涨。
-
我就想,好吧,这肯定马上就得停下来了。
-
我觉得我好像在对着收入搞某种反向心理,因为它就是一直往上涨。
-
我就想,这是怎么回事?
-
它就是不停地增长、增长。
-
而且,我已经错了太多次了。
-
我是说,你知道,是往好的方向说,你知道,所以那个领域变得这么大真是不可思议。
-
你觉得今天AI里最过热的类别是什么?哦天哪,我不知道。
-
我不觉得有什么是过热的。
-
我得说,我有点担心的一件事,是那些依赖持续注入股权资本的公司。
-
我觉得我不会投资它们。
-
而且有很多这样的公司,任何一旦风投收缩就会难以再融资的公司,我都会担心。
-
我觉得重要的是,你要把每一轮融资都当作最后一轮来拼,而且要有真正通往商业化和收入的路径。你有两个孩子。两个孩子。
-
做个好爸爸和做个好CEO,最大的心得是什么?
-
我是说,有时候我觉得这两者挺像的。
-
你是指怎么平衡,还是就是指怎么当个好爸爸?
-
当个好爸爸需要什么?
-
为他们的人生成功打好基础。
-
我一直琢磨该给孩子多大程度的推动。
-
我不是虎爸,但我觉得稍微一点,你得推孩子一把,让他们多接触些东西。
-
我不想将来出现这种情况,孩子回来跟我说,爸,我希望你当初逼我去做某件事,或者希望你逼我去做另一件事。但我也不想出现这种情况,孩子二十岁时回来跟我说,爸,你当初为什么逼我们去做某件事,或者为什么逼我们去做另一件事?
-
所以稍微推一点,我让他们弹钢琴。
-
我不知道为什么,但我觉得这是学东西的好方式,我希望等他们二十岁、三十岁时会真正感激。
-
他们没那么喜欢。
-
但我觉得像这样的事,你得稍微推他们一把,但别太过。
-
我父母很宽松,我自己发现了数学和编程,他们就说,Erik,你怎么做这么多数学?
-
你应该像别的孩子一样出去玩。
-
所以某种程度上,我其实希望他们能更用力地推我一把,但反正我自己已经把自己推得够狠了,所以也无所谓。
-
所以就是那种恰到好处的推力。
-
你为什么把自己逼得那么狠?
-
抱歉,你其实来自一个从小就被教育说“出头不好”的国家。
-
我忘了那个词怎么说,但我以前交过一个瑞典女朋友。
-
扬特法则。
-
对,就是那种“出头不好”的氛围。对,别以为自己有多特别。对,为什么呢?但我不知道这是不是真的。
-
我觉得人们对斯堪的纳维亚文化有很多误解。
-
我确实觉得那里的人很尊重那些追随自己梦想、去做事情的人。
-
不管是像我说的,音乐、写书,还是做家具、搞艺术,或者当创业者。
-
我其实觉得那里的人很尊重这些,我觉得这种自我实现、追随梦想,是相当受推崇的。
-
而且我觉得,这就是那种非常宽松的文化的另一面——它会鼓励人们去追随自己的梦想。我也说不好。
-
我的梦想就是搞数学和编程。我太爱那玩意儿了。所以我就去做了。
-
而且你来自挪威,那里有一种科技结构,基本上让你没法创业。对。
-
我是说,挪威确实有些问题。
-
他们也几乎不怎么工作。
-
对,这倒是真的,但我们有主权财富基金。对,他们很有钱。谢天谢地。
-
也许这算是第一个后经济时代的社会吧,我也不知道,这个词有好几层意思。最后一个问题。
-
你最期待什么?什么都可以。
-
我关注的是慢性病的药物研发。
-
其实药物研发是我觉得特别酷的应用之一。
-
我迫不及待想用上AI研发的药物。
-
你知道,我年纪大了,皮肤也变差了,还有,怎么说呢,每次喝完啤酒,第二天就难受得不行,反正吧,能吃的AI研发的药都给我来点。我想活得长,我想活得健康。
-
你知道,我觉得——你觉得那真的是一个现实的未来吗?我觉得是。
-
但我觉得有FDA和其他方面的因素,这还得等一段时间。
-
但我觉得现在在药物、在AI辅助药物设计方面有太多惊人的进展了。我觉得有太多很酷的东西,太多太多了。
-
老兄,我真的很享受这期节目,说实话我没想到你这么有趣、这么开放、这么有魅力。你太棒了。非常感谢。非常感谢你邀请我。这真的很有意思。