哪些 GPU 云值得用？ClusterMAX 3.0 评级与 NeoCloud 实测解析
点播放，字幕跟着声音走
Subtitles follow the audio
逐句文字稿
点任意一句，从那里开始听
正在加载字幕…
-
嗨，Jordan。
-
恭喜你发布了Cluster Max。
-
先简单介绍一下你自己的经历，还有你是怎么一路做到创建Cluster Max的？好的。
-
我是去年夏天、去年六月加入Semianalysis的，一直在技术团队工作。
-
过去一年我们发展得很快。
-
说到个人背景，我在惠普企业（HPE）工作了十年。
-
我当时设计了很多硬件系统，就是那些Neo Clouds在ChatGift发布之前买的，后来22、23年那波大热潮，很多这类公司涌进了市场。
-
所以我是Semianalysis的忠实读者，每篇都看，还私下在一些群聊里认识了不少人，看到Dan和团队推出Cluster Max 1的时候，里面很多观点跟我想的一样。
-
其实进Semianalysis最好的办法，就是找一件他们在做的事去批评它。
-
然后Dylan就会雇你来把它修好，我就是这么进来的。
-
你得跟我们说说，当时对Cluster Max 1和2的批评是什么？
-
嗯，1和2都是我一个人做的，所以批评我可以自己讲。
-
哦，那没什么可批评的。
-
从1到2改了什么？
-
然后咱们再聊聊有什么新东西。
-
大家看屏幕，现在这样就挺完美的。
-
我真不知道你能批评什么。
-
好吧，Cluster Max 1嘛，就是漏掉了很多供应商，总共才24家，而且很多大厂都没在里面。
-
本来该测的却没测。
-
团队小，没时间。
-
然后还有一个重点就是Slurm。
-
对我来说，Kubernetes真的很重要。
-
这个也得测。
-
在标准和这些东西方面，我们没怎么变。
-
但没错，从Cluster Max 1一路到现在，排行榜页面看起来差别很大，或者说名字少了很多。
-
还有发布市场全景图，我记得当时总共大概有120家供应商。
-
对，中间那块有111家新兴的Neo Cloud。
-
这次我们没有发布完整的市场全景图，因为我们把它放在Neo Cloud模型的付费墙后面了，或者说我们追踪了所有这些供应商。很多都是上市公司。
-
很多马上就要IPO了。
-
所以我们现在有了整个行业的财务模型。
-
但没错，3.0版本，我们追踪的供应商总数已经到了323家。
-
今天早上我收件箱里还有人联系我，说他们有大概3000块GPU，想让我们去测。
-
我们就得，你知道的。
-
反正，这是一个很大的演进。
-
我觉得在测试方面，最大的变化是Cluster Max 1的时候，所有测试都是人工手动做的。
-
那时候还没有Claude code，还没有Codex，但已经在认真搞了。
-
所以，我们很多测试都是手动跑基准脚本，纯手工做的。
-
现在我们过去一年半开发出了这整套代码库，里面有行业标准基准、自定义基准，还有可靠性和烤机测试的东西。
-
现在非常自动化了，我们可以用编程智能体把这些跑起来，让它们自主运行、自主修一堆问题，完全不用我们插手。
-
而且，我是说，覆盖的广度和深度，我觉得都随着时间提升了。我是说，我想，介绍一下吧。
-
什么是Cluster Max？
-
什么是NeoCloud评级和排名？
-
你们在这儿实际测试的主要是哪些东西？
-
对，网站上描述了10个标准。
-
基本上，我们把NeoCloud定义为任何出租算力访问权、出售算力访问权的人。
-
所以，NeoCloud这个说法，意味着在Chowchee BT之前就已经存在超大规模厂商和传统云了。
-
这就是AWS、Google、Oracle、Azure，还有一些老牌云，比如Rackspace或者Digital Ocean，甚至像CloudFlare或者Akamai。
-
任何运营着大规模数据中心基础设施并对外出租访问权的人，那都算云，而NeoCloud就是后来出现的新一批。
-
我们说现在所有人都在变成NeoCloud，因为NeoCloud的不同之处在于，它们专门聚焦AI。
-
所以它们部署GPU和其他加速器来跑AI工作负载。
-
这包括训练、推理，越来越多还有强化学习。
-
而这就是我们试图测试的东西：谁会给你最好的性能、安全性、可靠性，还有易用性、价格、可用性。
-
我们尽量做全面的评估，而不是单个基准测试。
-
当年ChatGPT刚出来的时候，一堆人联系SemiAnalysis说，嘿，我在五个供应商之间做选择。
-
我该怎么考虑这件事？我们该怎么做？
-
他们一遍又一遍地拿同样的问题去烦Dylan，因为，嘿，我刚融了两千万美元。
-
我马上要拿其中一千万到一千五百万给一个供应商。
-
这是我整个种子轮的钱。
-
这对我来说是个极其关键的决定。
-
我需要听听所有人的反馈。
-
所以与其让Dylan和团队每次都单独回答这个问题、每次都要付出代价。
-
我就想，不如我们写篇文章，先把我们那种粗颗粒度的初步想法给出来。
-
这是我们的快速分级列表、排名、领奖台。
-
然后你可以找我们做更细的东西，你知道，咨询、尽调，或者针对你具体需求的任何东西，我们可以从那儿再深入。这里面内容很多。
-
我想到的一个是那套标准，十个标准里，我想到的就是你们引用的那个，Ilya Slutsky说的，他们所有人的网络安全都糟透了。
-
Neocloud的网络安全现在是什么状况？
-
我是说，你自己都说了，糟透了，对。
-
这得看说的是谁。
-
另外，我先跟Dylan打个招呼，他刚加入我们。行了，Dylan。
-
抱歉来晚了。
-
Dylan，NeoCloud的网络安全现在是什么状况？
-
我是说，我觉得安全这块真的很糟。
-
其实从第一版Cluster Max开始，就有相当严重的安全问题，人们没有正确地实施网络安全控制。
-
所以在第一代Cluster Max里，我们能看到别人的任务、别人的数据、别人的存储等等。
-
我们向那家公司以及Nvidia都做了上报，把那家公司评为Under Perform，当然，还强烈建议人们不要用他们。
-
在第二代Cluster Max里，我们看到了类似的东西。
-
我觉得很多人变好了，因为我们把这些东西点出来了。
-
但在第三代Cluster Max里，我们也测了，我记得是Jordan和他的团队测的，看到了相当严重的安全问题。
-
所以我们发了一篇通讯，标题是《大多数Neocloud在安全方面很烂》。
-
然后几个小时后，Ilya就发推说大多数Neocloud的安全很烂。
-
他们显然是一家非常注重安全的公司。
-
他们有很多人都是从原来的网络安全领域出来的。
-
所以我想他们自己在很多云上都做过功课，去查看和测试。
-
而且很明显，对吧？情况太糟了。
-
有一个案例里，我们居然能直接看到某个国家的国家情报内容，对吧？
-
那个neocloud上跑着好几个国家安全机构和军事级别的情报系统。
-
这就让人想，天哪，我们只是来测集群的，结果就能看到这些东西。
-
想象一下如果我们是有恶意的。
-
我敢肯定那个集群上也有过有恶意的人，或者本来可以搞恶意的人。
-
所以谢天谢地，我想他们后来修好了。
-
但你知道，不该由我们来发现某个人在安全方面到底做得好不好。
-
不过你知道，我觉得整个行业普遍需要这种服务。
-
所以这是我们评判标准里很大的一块。对。
-
而且我觉得在技术层面，我们的检查其实非常简单。
-
你的软件版本是最新的吗？
-
你的驱动是最新的吗？配置正确吗？
-
我是说，这些都是相对简单的检查，但当人们跑着两三年前的老版本软件，而这些漏洞在网上都有详细记录的CVE时，就……
-
你根本不需要前沿模型来做出这个漏洞的POC利用。
-
你只需要知道该去哪儿找。
-
所以作为文章的一部分，我们还发布了一个免费的CLI。
-
大家可以安装Cluster Max，也就是CMAX，然后用它来检查自己集群上的软件版本，还能快速发现问题，终端输出里会直接给你一个链接，告诉你该去哪儿升级，就是想帮大家把软件保持在最新状态。
-
这就是新的云安全基本要求。
-
另一个就是网络密钥，对吧？
-
InfiniBand和以太网各有各的，至少在InfiniBand这边，有M keys、P keys这些，它们有没有被正确配置和部署？
-
不过大多数Neocloud在这方面差得令人震惊。
-
确实很差。你们说呢。
-
有什么有意思的，有没有什么大的跃升，从1.0、2.0到3.0有什么改进？有什么你们想特别提一下的？
-
我们Cluster Max第一代的标准定得特别低。
-
每一代我们都在把门槛越抬越高。
-
所以趋势就是很多人被降级了。
-
当然也有少数人被升级了。
-
谷歌在ClusterMax各代评级里表现很好，一直在升级。
-
我记得他们一开始是铜级，然后升到银级，现在是金级。
-
我们只是银级，不好意思。哦不对，是金级。对对对。
-
所以谷歌是一路在升级，而有不少云厂商在几代评级里被降级了，因为他们基本停滞了，进步了一点点，但没有大幅提升。
-
而我们一直在努力抬高门槛，告诉大家，嘿，这些都是你们应该做的事，才能变得更好。
-
对，这次的门槛就是最新最强。
-
那你们2026年有没有部署GB300和VL72？
-
这款芯片火得不得了，所有前沿实验室都想买，所有新实验室也都想买，来找我们的典型客户就是说，我融了一亿美元，想花在算力上，他们要的就是GB300-NVL72集群，
-
所以有些原本在金级的供应商并不提供GB300-NVL72。为什么没有呢？
-
嗯，你得应付一大堆不一样的东西。
-
有全新的网络，NVL72意味着它是机架内的scale-up域。
-
你得换成ARM CPU。这是Blackwell GPU。
-
你用的是800G网络。
-
必须用直接液冷。
-
所以从物理数据中心到怎么部署操作系统，再到怎么管理网络里的驱动，几乎每一样东西都不一样。
-
当人们说，哦，我们就是做了个战略性的商业决定，不做GB，那明年Vera Rubin出来的时候怎么办？你还能信谁？
-
所以趋势就是，如果人家出去部署了一万个GB300，我们测了这个集群，它能跑，我们跟支持团队沟通，反馈了一些我们觉得有问题的地方，他们一个小时就修好了，而不是两个星期，那他们的排名就往上升。
-
其他人要么不部署这些最新最强的GPU，要么部署了但完全跑不起来，修起来要花很长时间，要么我们发现了安全问题，要么我们从客户那里听到巨大的可靠性问题，而这可能就是这些顶级客户最看重的一条标准，
-
那他们的排名就往下降。
-
所以大概就是这样的动态。
-
那假设这些铜级、银级、荣誉提名的供应商大部分都还值得租，那现在可用性、成本、算力是个什么状况？比如说你在实验室里，刚融了几千万美元，想开始租，嗯，这个市场跟一两三年前比现在是什么样？是在变好
-
还是变差？祝你好运吧，真的很难，租算力从来没这么难过。当然，Anthropic和OpenAI一直在买越来越小的集群规模，
-
但所有做推理的供应商利润也越来越高了。
-
以前Base 10做推理毛利率只有10%，我记得那大概是六个月前，或者九个月前的事。
-
但现在不一样了，Base 10、Fireworks，还有好多其他公司，甚至像Morph这样的小公司，用开源模型跑VLM或者SGL，稍微做一点优化，毛利率就能到60%，而且做得非常出色。
-
还有像Infra-Act和Radix Arc这样的公司。
-
所以只要能拿到GPU，马上就能赚钱。
-
所以归根结底就是，太好了。
-
我是个NeoLab，想训练一个有意思、很酷的新模型。
-
嗯，我现在还得跟那些已经在赚钱的人竞争。
-
而以前我主要竞争的对象是亏钱的OpenAI、亏钱的Anthropic、亏钱的实验室。
-
以前很少有人靠GPU赚钱。
-
现在谁都能靠GPU赚钱了，所以想搞到任何算力都变得非常非常难。
-
这些实验室现在都降到什么级别了？
-
跟那些大客户比起来，你知道的。
-
以前他们只从供应商那里租8000块GPU，现在这个数字一直在往下降。
-
我们甚至看到现在实验室会租低到1000块GPU。
-
而1000块GPU这个量级，反而更接近一个NeoLab想要的规模。
-
所以整个市场被挤压得很厉害。
-
然后你再看那些VASE 10s、Fireworks、Together，还有所有这些其他的推理服务商，他们连四个节点都能接受。就像Modal那样，对吧？
-
这些人连四个节点的云都能接受。
-
所以归根结底就是，你知道，显然他们的编排很难做。
-
Modal其实聊过很多这方面的事，对吧？
-
他们要跨20个不同的云做编排。
-
嗯，对，所以归根结底就是，如果Modal光靠一家公司的四个节点就能赚得盆满钵满，那任何人想搞到任何算力都非常有挑战性。是啊，这很糟糕。
-
我的意思是，连单个节点你都spot租不到了，整条链路都完蛋了。
-
那这些实验室现在是什么状况？
-
你怎么给这些大玩家分类，OpenAI、Anthropic、Google，谁的算力最多，分界线在哪？
-
他们的路线图上有什么有意思的东西吗，你觉得谁投入最多？
-
我的意思是，很明显是OpenAI和Anthropic在领跑，不管是租用大规模裸金属还是超大规模云厂商。
-
换句话说，OpenAI是CoreWeave业务的驱动力，还有微软，他们也在跟超大规模云厂商探索合作，他们也在自己搞，比如跟Oracle搞了大规模的东西，然后Anthropic显然跟AWS有那个跟Rainier的大合作，他们也在Google Cloud上搞了很多TPU，
-
他们跟CoreWeave签了协议，跟其他一些公司也签了，所以他们是主要的驱动力，你就看ARR，总得有什么东西在推动它，所以这就落到算力这一侧了。
-
另一个方面是，你知道很多这些供应商，比如Crusoe，他们的裸金属非常棒，对吧？
-
但那不是我们在ClusterMAX里测试的东西。
-
我们不测裸金属。
-
我的意思是它确实是评判标准的一部分，但很多标准是关于托管集群的，托管学习、托管Kubernetes之类的，所以这是另一个层级的
-
服务，人们想在GPU之上得到的东西。最早的ClusterMAX标题里很大一部分也叫“如何租一块GPU”，我们也是在教人们租GPU应该怎么做。嗯，在我们看来，大多数这些小玩家，你知道，如果你规模特别小，你根本不在乎，你知道，
-
你的节点是不是裸金属。
-
嗯，如果你规模超级超级大，你就想要裸金属，因为你要部署你自己的，你知道，呃，你自己fork的Slurm或者Kubernetes，嗯，然后在托管服务之类的东西上搞自己的东西。
-
嗯，但大多数客户想要的是托管的Slurm、托管的Kubernetes，嗯，还有云能在节点挂掉的时候帮他们热切换节点，呃，你知道，最大的客户会自己管这些东西，但中型和小型客户希望这些东西有人帮他们管。
-
所以ClusterMAX就是围绕这个来的。
-
所以像Crusoe这样的公司会租裸金属，对吧？
-
他们跟一些公司有巨额合同，或者他们在数据中心里做得很好，或者他们开始在推理API上做得不错，但在托管服务上，他们做得不好。
-
而这恰恰就是ClusterMAX瞄准的，就是托管服务这一层，因为不然的话，太复杂了……
-
人们想租的东西分很多不同的领域。
-
有些人想要裸金属，有些人想要托管服务，有些人想要直接出token。
-
所以归根结底，这是一系列选项。
-
就连Google都在从别人那里租一些算力，他们跟CoreWeave签了协议，跟SpaceX签了协议。
-
所以他们签下的算力规模相当大，我觉得他们从各个客户那里签了超过1000亿美元的算力。
-
Nebius也跟那些实验室有合作之类的，但这些人只做裸金属。
-
OpenAI和Anthropic肯定是买得最多的，占了绝大部分。
-
谷歌肯定是落后了。
-
到现在这个阶段，OpenAI和Anthropic的算力已经跟谷歌差不多了，甚至可能还多一点。
-
到今年年底，这两家投入到研发上的算力都会超过DeepMind。
-
所以，是的，目前谷歌的算力总体上还是比OpenAI和Anthropic多，但其中很大一部分已经卖给别人了，或者专门用于其他业务了。
-
但就DeepMind的研发算力跟OpenAI、Anthropic的研发算力相比，这两家实验室现在的算力更多，因为他们已经到了那个规模。
-
所以那种“哦，谷歌算力最多，他们肯定会赢”的说法，其实现在已经不太成立了，对吧？
-
他们仍然有成本优势，因为他们自己造TPU，成本低得多。
-
但归根结底，DeepMind的算力是比OpenAI和Anthropic少的。是的。
-
这是一个非常非常大的转变，对我来说，在AIE上最大的收获之一就是碰到了一些DeepMind的研究员，他们非常沮丧，因为他们在说，你看，我们的领导层一直在把我们想要的算力卖给别人。
-
我是说，想象一下你是xAI，对吧？就像，嗯，好吧。
-
你知道，我还以为SpaceX是一家新的云服务商呢。
-
搞什么鬼，为什么我们没法用？他们就在这名单上啊，Hart。
-
是啊，等我们能测试他们的时候，他们的排名就会往上走了，你懂的？他们会成为一个竞争者。
-
我觉得SpaceX和谷歌的那笔交易就特别有意思，还有Anthropic那笔也是，因为这正好印证了Dylan说的，这些实验室正在考虑以这种机会主义的方式变成neocloud。
-
Meta也在考虑同样的事情。
-
我们看到Mistral和Poolside也在里面。
-
这些公司有建数据中心、管理数据中心的这套能力。
-
然后当有机会把算力变现的时候，不管是租给别人还是做推理服务，他们都想去抓住这个机会。
-
但只是到一定程度。
-
而且他们总是想保留选择权。
-
一旦负担得起，就把算力收回来，用于那些研究或者英雄级训练。
-
他们现在就想把负担得起的最大算力都用在研究上。
-
而所有那些额外的业务，你知道，就是机会主义地赚钱，来资助所有这些研究。
-
所以SpaceX跟Google的合同，比如说，有双方90天的解约权。
-
所以SpaceX的研究一旦开始见效，他们就能把算力收回来。
-
Google要是没法再靠那些算力在某个推理端点上赚钱了，他们也会把算力收回来。
-
这个结构真的很有意思，两边有点像在对峙，说谁先眨眼，谁更相信AGI，从rovers变成spokers。
-
我觉得另一个方面，至少对SpaceX来说，对吧？
-
如果你是xAI的员工，然后被SpaceX收购了，接着SpaceX把算力全卖了，至少你不会抑郁，因为你会想，行吧，你看，Elon在建一大堆新的。
-
我还能用得上这些。
-
他这么做是因为这能帮我们在财务上更好地解决问题，为了IPO。
-
但Google这边就不一样了，就像，我到底为什么要卖算力？
-
你知道，我已经是一家非常赚钱的公司了。
-
我们为什么不能直接用这些算力来训练模型，然后以高得多的利润率卖这些模型，而不是把它给Anthropic或者OpenAI或者其他公司？
-
你知道，SSI也是Google的客户。
-
Dylan，你怎么看Google资助那些离职去搞新实验室的人来买GCP这种动态？
-
换句话说，像Dave Silver、Jeff Dean，他们独立出来，从Google Ventures拿到投资，然后去花在GCP上。
-
我觉得，如果你把GCP当成一家独立的公司来看，这步棋简直太妙了，对吧？
-
Thomas Kurian一直在推高他的收入、营业利润率和营业收入，但对Google整体来说，这其实很蠢，对吧？
-
你不应该激励你最好的研究员离职。
-
你不应该激励这种事。
-
所以Jeff Dean有了突破。
-
如果你把它卖了，一枚币能赚3000万美元一兆瓦，而你本可以用它跑模型赚5000万美元一兆瓦。
-
所以如果Discovery Loop有了重大突破，你觉得Google能把它留在自己的轨道里吗？
-
还是你觉得Jeff Dean会带着那个突破去做点什么，而Google完全沾不到任何好处？比如，他们本来会是投资人。
-
他们显然还是云服务提供商。
-
我的意思是，去看看Anthropic，对吧？
-
是啊，没错，Google确实投资了Anthropic。
-
但如果Google没投资Anthropic，Anthropic今天还会存在吗？
-
因为Google是很早期的信徒。
-
像Opus 3、Sonnet 3和3.5，我觉得那些肯定就是用Google的信息训练的。
-
后来他们又引入了Amazon，Amazon也很棒，你知道的。
-
但至少Amazon就是那种，他们没有一边训练模型一边卖模型的业务。
-
他们有一些人做这个，但没什么大不了的。可Google有。
-
所以这就像是，Google最终是不是扶起了自己最大的竞争对手和死对头？
-
现在Anthropic不仅从Amazon和Google租算力，还从很多其他云租。
-
他们现在跟10多家云都有合作。
-
然后Anthropic也在建自己的数据中心，租自己的数据中心，开始把它们填满，跟FluteStack合作在自己的数据中心里部署TPU。
-
所以没错，Google还是有收入，但问题是，我以前是从你这儿租，现在变成从你这儿买TPU，这对你来说利润更薄了。
-
而将来呢，我现在自己造芯片了，我什么都自己干，根本不需要你。
-
所以Anthropic这边发生了什么，其实挺清楚的。
-
Jeff Dean要是在Discovery Loop里搞出什么惊人的东西，那他们干嘛还非得绑在Google身上，对吧？他们可以用任何一家云。
-
换云说到底也不是不可能的事。
-
以前AI时代之前大家老爱说的什么数据引力之类的，在AI时代已经没那么重要了，因为AI可以直接帮你把一切都迁移过去。
-
而且GPU虽然不只是一个GPU，但只要你够强，GPU在很大程度上就是个可以在各家云之间通用的资产。所以Rex，你怎么看？你觉得Google做得对吗，兄弟？
-
我是说，我觉得你们比我专业多了。
-
而且，是啊，Google就是一堆不同业务拼起来的大集团，对吧？
-
所以我觉得数据优势这块，我是说，Neo Cloud确实有数据引力，但Google的数据优势才是大家老是绕回来提的那点，对吧？
-
而且还有组织上的各种挑战。
-
现在又换了新领导层。
-
上帝保佑Decore，他接的是全世界最难干的活儿，得把这摊子修好。
-
但我是说，他是个非常非常能干的人。
-
嗯，而且他们，我觉得，我觉得他们，他们心里清楚，就是，你知道，这也不是什么秘密，他们确实需要一次重置。
-
然后，嗯，对我来说，Demis基本上从领导位置上退下来，这完全就是个黑天鹅事件。
-
就是，我，我从来没想过这有可能发生。
-
可能我只是跟他本人不熟吧，说不定他其实是那种，是啊，其实我就是特别在乎isomorphic，但，嗯，我是说，你知道，这公司是他创立的。
-
他，嗯，你知道，他算是DeepMind的精神领袖，所以这，这，这大概是第一次有前沿实验室完全完成领导层的重大交接。
-
嗯，我们能说那两天Sam走了，对吧？
-
但是，嗯，是啊，我是说，他在大家心里从来没离开过。
-
嗯，但是啊，这算是库克那种角色吗，嗨，是啊，离开OpenAI？
-
不，那更像是，对对对，我是说，是的，好吧，所以那，显然大家会分裂，对吧，反正这就是我大概的看法，我觉得我不会有什么比你们更劲爆的观点，不过我确实想接着聊一件事，这正好是个机会，可以补一补过去六个月那些
-
疯狂的消息，你们提到了Poolside，他们其实从来没真正写过Poolside，因为他们没那么大，但他们确实有Necroco。
-
他们被自己的员工收购了，被英伟达以120亿收购了。这是怎么回事？好，是啊。这真的很酷，对吧？
-
因为英伟达是在为所有这些研究员付钱，好让他们把Nemotron做得更好。哦，这是防御。
-
Poolside，从一开始，他们就觉得，所有那些云，Neo Clouds之类的，都挺烂的。
-
于是他们开始自己搭很多基础设施，而且他们自己搭基础设施的能力越来越强。
-
然后他们想部署自己的集群，还跟CoreWeave在这方面有合作之类的。
-
但他们一直在慢慢往技术栈下层走。
-
也许是第一个变成，你知道，自己运营基础设施的AI实验室。
-
甚至在OpenAI和Anthropic试图自建基础设施之前，Poolside就已经在尝试了。
-
而这居然只是个副项目，太疯狂了。
-
这就好像，别人得靠做这个来干一份全职工作。
-
这对他们来说却是个副项目。
-
嗯，现在这成了他们的全职工作了，对吧？
-
因为他们把所有研究员都卖给英伟达去搞Nemotron了，因为英伟达显然想让Nemotron好得多。
-
我觉得他们对很多开源的人已经失去希望了。
-
我是说，当然，Reflection还在努力，Thinking Machines也开源了一些东西。
-
但归根结底，我觉得英伟达对美国开源正在失去希望，所以他们觉得只能自己来做了。
-
所以他们买了一大堆员工。
-
对，我记得是70亿，不是120亿。
-
不过不管怎样，我记得好像是70亿，然后是在120亿估值下投了10亿。我们有细节。对对对，120亿。我取了大的那个数。
-
授权加员工，他们太狠了。数字是六。永远取大的那个数。
-
但你知道，我觉得归根结底，英伟达可以说，其实我们只花了四分之一的钱，因为所有这些钱最后都拿回去买GPU了。
-
所以他们到底付了多少，你知道，70亿，六个亿给员工，一个亿是投资，他们实际付了多少，你知道，是不是只付了一个半亿，因为那七个亿全都拿去买GPU了。
-
而且事实上，他们这么做会激励其他人往他们身上投一大笔钱。
-
所以实际上，雇这些人可能还是件好事，就像他们其实一分钱没花，因为现在他们创造了一个新客户，一个新云，要建一个超大规模的集群，对吧？
-
就像想象一下，你知道，他们现在有70亿现金，再融个几十亿。
-
就说他们资产负债表上有100亿现金吧，然后他们能拿到贷款价值比大概75%的贷款，首付25%，贷款75%。
-
那现在他们就有400亿了，能建一个吉瓦。太牛了。
-
这又是一个吉瓦级别的NeoCloud了。
-
所以他们刚刚造出了一个新竞争对手。
-
我们在文章靠后的部分有讲这个。
-
我不知道那是不是，我是说，这就是套路。
-
如果这就是套路，说实话，靠后的部分，把它跟领头的那个人对上。
-
Robert Bonar。
-
而且，如果这就是套路，那应该有更多人这么干。
-
应该干什么？
-
应该去建，应该去跟英伟达做这样的交易，因为英伟达会把你捧成王，就因为他们想要更多neocloud。对。
-
我的意思是，不是每个人都能发布美国第二好的开源模型，还花好几年去打造它。
-
我的意思是，我们有点忽略了一个事实，就是Poolside确实做出了点有意思的东西。
-
而在我看来，这次收购和Hugging Face那笔一样，都是英伟达的防御性收购，他们不想让竞争对手抢走一个真正有东西、有势头的实验室，因为这种实验室能积累起构建真正的训练和推理集群所必需的真实经验。
-
换句话说，对于打造一家基础设施公司来说，你真正理解工作负载是怎么运作的，这一点太重要了。
-
而且你的判断得有训练模型、跑模型的经验作为依据，这些努力都会体现出来。
-
而不是那些加密货币矿工，他们只会说，嘿，我找到个场地，我有点电，我有点钱。
-
他们没有能力像那些已经证明自己能训练出全世界美国第二好开源模型的人那样去执行，而Poolside做到了，对吧？对。
-
再多说说，我刚想说你在里面提到了Hugging Face。
-
你们怎么看收购Hugging Face这件事？
-
有什么想评论的吗？我觉得挺类似的。我觉得这是防御性的。
-
我不觉得英伟达希望生态系统里的其他公司进来，把某个关键角色收入囊中，从而获得那种影响力。
-
这里有个脑洞大开的看法，对吧？
-
就是现在Hugging Face可以往死里告OpenAI黑他们。
-
而现在英伟达手里有了这把锤子。
-
我不这么认为，我不这么认为。
-
但我觉得，我觉得，我觉得Hugging Face显然就是，你知道，遥遥领先于其他所有东西。
-
我团队里有些人已经开始给ModelScope提交一堆PR，让它能在整个生态里通用。
-
遥遥领先是指哪方面？
-
就是作为开源仓库这块，就像Hugging Face做的那样。
-
嗯，但说到底，它们很多都是，呃，你知道，就是，就是，就是，你知道，问题在于，Hugging Face是不是，你知道，你其实可以直接把Hugging Face上的模型部署到亚马逊上，想的话还能在上面训练，对吧？
-
你只要点一下按钮，就能把它们部署上去。
-
嗯，那这种情况会不会消失，以后是不是就只剩GPU了？
-
嗯，还是说会有什么收尾的动作？
-
嗯，咱们走着瞧吧，但说到底，就是，就是，呃，我也不知道。
-
我也特别喜欢那个价格就是emoji代码这个梗。那个emoji。太酷了。而且这个团队也超厉害。
-
你看，我觉得我们有点忽略了一个事实，就是Hugging Face和Poolside这两家公司里都有非常厉害的人才。
-
而且很多人会觉得这就是英伟达收购它们的动机。
-
我说这是防御性的，因为你看英伟达的业务，他们一个季度差不多产生500亿美元的自由现金流。一年就是2000亿。
-
英伟达有个企业战略团队，能拿到其中一部分钱，然后决定该怎么花，对吧？
-
他们可以做投资，可以做收购，拿自由现金流的10%去收购Hugging Face和Poolside。
-
我的意思是，对我来说这根本不用想，这些资产放在你团队里，至少不会落到竞争对手手里，这肯定是好事。
-
假设Hugging Face保持独立，他们严格按规矩来，收购之后也继续支持其他这些芯片什么的。
-
但如果他们被别家收购了，那他们就会主动跟英伟达的利益对着干。
-
我觉得那不是他们想要的。
-
所以我觉得这种事你以后会看到更多。
-
如果公司成长起来一点，他们建起这样一个团队，100个或者200个特别厉害的人。
-
他们想把这些人都拉进来，确保他们留在英伟达的生态里，而不是跑去跟别人一起跟英伟达竞争。
-
对，这说得通，也不能抹杀Poolside做的一切。
-
我们其实挺喜欢他们的。
-
他们被收购前一个月，我们还请他们上过播客。
-
感兴趣的人可以看看，模型工厂在训练基础模型的方法上做了很多探索。
-
他们把这整套东西搭出来的方式真的非常非常好。对。
-
对我来说，这也许能把我们带回Cluster Max这个话题。
-
所有新的云厂商都应该这样来证明自己，比如说，Cluster Max 4就是，请你们自己去训练一个前沿模型，然后证明一切都能跑通。
-
我不确定是不是每个人都该具备训练前沿模型的能力。
-
那只是某种——不，但如果——有很多开源的配方之类的东西，对吧？我们需要一个拼图。
-
我们来聊聊要达到那一步需要什么，对吧？
-
如果你要训练的话，我觉得Poolside和Hugging Face过去可能都考虑过被收购的选项，金额也差不多，而且这——对，具体来说英伟达试图收购Poolside，抱歉，英伟达今年年初试图收购Hugging Face，对吧？对。
-
以防有人不知道。
-
嗯，我觉得英伟达现在也有点收购狂潮的意思。
-
有传言说Thinking Machines，还有一大堆英伟达的收购。
-
对，当然，他们想套现的时候随时可以选择套现。
-
对很多做出这些东西的人来说，对吧？
-
所以当你决定套现的时候，我觉得Poolside大概会看看外面的情况然后想，好吧，我已经搭好了我需要的那个一万块GPU的集群，把Laguna做出来了。
-
但如果我想竞争，我需要一个十万块GPU、四十万块GPU的研究集群，我明年怎么跟上开放前沿的节奏？
-
我觉得这挺难一直撑下去的，然后钱来了，他们就说，好吧，行。
-
那就套现，跟其他人一起把它建起来。看起来没问题。
-
但另一件值得指出的事是，在技术层面，Poolside在基础设施方面的论文真的很好。我跟他们的团队聊过。
-
如果你要训练一个前沿模型，你需要对你的集群做健康检查。
-
你需要有高可靠性。
-
你不能在训练的时候让这个模型一直不进步、还老是失败。Poolside就做到了这一点。
-
他们有一整套非常厉害的东西，他们的基础设施就是非常厉害。
-
所以，有那种人才的人能够把它作为一项服务提供给其他人，我觉得这显然是真的。
-
而且就像我们说的，有那种经验的人本来就有限。
-
就算我们说到银级和铜级，大部分银级和所有铜级上的人，都不是在训练前沿模型的，这么说吧。
-
很多推理，一点强化学习，大量的研究。
-
但说实话，那些人里我一个都不信他们能建起来，除了Azure，对吧？
-
但要建10万块GPU的集群，有谁已经证明自己能做这件事了？对。没有，五家公司。对。
-
好。
-
我确实想深入聊一两个可能你们其实没覆盖到的点。也许在我们剩下的时间里，最好的方式就是直接回应那些批评。你知道，
-
很明显这是一份非常有价值的榜单，人们确实会依据它来做采购决策，它定期发布出来，大家也确实会说，对，我确实喜欢，你知道，这能帮我们决定该把钱花在什么上。对，我是说，大多数人最主要的批评是什么？
-
我觉得很多东西都有不少批评。
-
首先，这是在测试托管集群。
-
所以这并不意味着一家公司在其他方面就不行，对吧？
-
Crusoe在托管集群上被降级了，但他们是世界上最好的数据中心建设者之一，甚至可能就是最好的。
-
他们管道里几乎有最多、或者说就是最多的已签约吉瓦，还有一大堆正在快速建设的站点。
-
但这不是在批评他们建数据中心的能力，只是在批评他们的托管集群产品，他们仍然是其中比较好的之一，对吧，但他们被降级了，对吧？
-
同样，其他公司，比如Together，有很棒的推理端点，那跟托管服务没关系。
-
所以我觉得大家对这东西到底在测什么有很多困惑，对吧？
-
这是针对托管集群的，不是针对数据中心建设、裸金属集群或者推理端点的，而这些之间的界限可能会变得越来越模糊，因为大家都在做这些事，对吧？
-
另一个问题，另一个我们受到的比较大的批评就是，哦，人们会说，哦，他们是不是收钱办事啊？
-
其实不是的，我们不会为了任何排名收钱。
-
那是违法的。
-
我自己个人在Crusoe有投资。
-
我在Fluidstack也有个人投资，而这两家公司，你知道，我在这两家都做了SPV，这两家公司都不在前五名的云厂商里，因为那不是，你知道，我不是来搞偏袒的，对吧？
-
Jordan会说，他在技术上有完全的自由，想怎么做就怎么做。
-
他甚至不知道我们所有签了合同的公司有哪些。
-
如果看全球前20大公司，里面有Lili、沙特阿美之类的。
-
但归根结底，这些客户比Core、Weave或Nebius可能成为的客户要大得多，对吧？
-
因为它们是规模大得多的公司，预算也大得多。
-
所以比如说，AWS就是比Core、Weave或Nebius更大的客户，对吧？
-
但这跟排名完全没关系，对吧？
-
基础设施供应链上的每个人都在买我们的东西。
-
事实就是这样，对吧？
-
如果你在追踪数据中心，你就想知道别人在他们的数据中心里做什么。
-
如果你在追踪加速器供应链，如果你想了解各种冷水机组的成本，如果你想了解网络和光学的供应链，你就会买我们的研究和数据服务。
-
这并不意味着，而且你经常会委托我们做超出这些范围的工作。
-
但这并不意味着我们会去偏袒我们的排名。
-
所以，我觉得围绕这个有很多批评，但归根结底，首先，如果我们真的收钱来排名还不披露，那是违法的。
-
但其次，这根本说不通，对吧？
-
我们对这个行业的价值就在于，我们说的是真话，是我们真正相信的东西。
-
嗯，如果我们不这么做，那就没人会在乎我们说什么，我们就等于对着空气喊话。
-
嗯，所以我们的声誉才是最重要的，对吧？比赚快钱重要多了。
-
是啊，也许可以这么说，呃，你，你是一个买方服务，而人们在指责你收了卖方的钱，可你根本不想说买方那边的收入大概比卖方那边大一千倍，呃，对你来说是这样。
-
我是说，我觉得人们想挑刺说这是个付费榜单，你知道，那只是随口一说。
-
更关键的一点是，好吧，人们误解了你到底想排名的是什么。
-
而且很多说法就是，哎呀，这太离谱了，说这个比那个好，X云比Y云好，对吧？
-
但那根本不是你们实际在测试的东西。
-
我听到两种关于这篇报告的明确批评，这些批评我会认真听，因为我尊重他们的工作，而且他们不是匿名的，不是对着空气瞎喊。
-
这两种批评是，你们写得太少了。
-
你们应该放出更多数据。你们应该写更多。
-
或者说，这有三万字。
-
我根本读不完。
-
所以我们要在这两者之间平衡真的很难。但这是个新……
-
是啊，你们在评估新的云厂商，那当然啦，就像……
-
所以对于前一种批评，我很感兴趣，我们想做得更好。
-
所以我们有一个研究产品叫云TCO模型，任何人都可以来授权使用。
-
是按年收费的。
-
我们每周都会写关于行业趋势的笔记。
-
我们有一个仪表盘，下面放了一张打码的截图，你可以在那里拿到我们所有的数据。
-
我们所有的性能数据都在上面。
-
嗯，对，就，就有点像，你知道，你，你能让我们全年每周都在为你做研究，而不只是，呃，为了这个单独的、你知道，一年一次或者每半年一次的那种发布，这就是我们做的事。
-
所以那是给想要更多细节的人看的。
-
嗯，还有另一群批评的声音，就是那种，嗯，你知道，往往是某个持有某只股票的人，而我们给那家公司的排名很差或者很好，对吧？
-
就像，我记得上次有人说，顺便说一句，我们对一家公司在股市上表现更好还是更差的看法，跟Jordan和他的团队没有任何关系，对吧？
-
你知道，我们确实会对所有这些公司做前瞻性的营收预估。
-
然后你可以授权我们的数据，自己去看你觉得那意味着什么。
-
你应该怎么交易，我们从来不建议我们去做交易。
-
但确实有些时候，比如说，我们认为Nebius比CoreWeave更好。
-
我们认为Nebius比CoreWeave更好的原因，尽管我们认为CoreWeave仍然是比Nebius更好的云，是因为Nebius的合同期限更短，所以随着GPU价格飙升，Nebius能更好地吃到上涨的好处。
-
那是我们在研究里发布的，由另一组人做的，不是Jordan和那些在做Cluster Max的技术人员，或者说，嘿，Iris Energy有这么一个巨大的数据中心要上线了。
-
我们认为它会租出去。
-
我们会就此发一份报告，同时又说你绝对不该用Iris Energy的托管服务。
-
所以这完全是两码事，对吧？
-
他们把那个数据中心作为裸金属卖给了微软。
-
所以我们在机构研究那边、给可能买股票的人做的研究，跟，嘿，ClusterMax其实是给像Periodic Labs或者Applied Compute这类公司做的，完全不是一回事，这些公司公开出来说过他们喜欢ClusterMax和我们在那上面做的事。
-
你知道，甚至开场白里我就说了他们喜欢cluster max，我们还有他们关于这一点的一句引语，我们有各种各样的买家，他们说他们真的很欣赏这套方法论，说我们在为所有云抬高门槛，所以我觉得这，这，这，你知道，
-
如果你想根据cluster max去买股票，那完全是搞错了。
-
它跟股票表现没有任何关系。对，百分之百是这样。
-
这纯粹是给买家看的。
-
这是为了帮人们买算力，不是让人挑哪只股票把全部积蓄都梭哈进去。
-
我的意思是，在某种程度上它会有相关性。
-
我觉得吧，我觉得人们有一种倾向，就是拿它去直接对应我的模型。你们这些人真是，好吧。行吧。行吧。天哪。我的天。对。
-
就好比有人，有人运营云服务烂得不行，手里却有个吉瓦级的数据中心在建。
-
而且还真挺可信的，比如一个吉字节的数据中心，嗯，他们可能在cluster max上排名垫底，照样能赚得盆满钵满。
-
嗯，这就像，这就像，在现在的股价下根本无所谓，按现在的股价，很多公司便宜，很多公司贵，我懂，我懂，我确实懂。
-
基本面对比，呃，你知道，某一个产品，呃，它贡献了整体基本面，贡献了整体，呃，估值和方向。这是数据。我以前是做对冲基金的。我懂。
-
你知道，我只是说，这就像，你们才是这个领域的专家，人们确实看重这些要素上的评级。
-
呃，但显然这更多是买方，呃，偏向，呃，你知道，那个，那个，那个Neolab。
-
对，我开始就一直强调这一点，但我们确实有一个核心研究项目，里面有人写股票报告、对这些公司发表看法，做那个研究的很多人，你看，他们会来问我们问题，
-
但接着他们出去就说，那些处在表现不佳或不可用层级里的公司，他们却看好。
-
这跟我们公开发布、说你应该从哪家租集群，是两回事。
-
也许我需要在以后那期里再加一个免责声明，就是说这不是他们股票当前估值的余弦值。
-
做个二乘二或者二维图表可能会非常有意思，这边是cluster max排名，那边是semi-analysis的股票排名。
-
而其中的差异会很有意思。对，靠研究。
-
不过也许值得说的是，后面还有很多内容，因为Dylan提到，这里面的单个名字和标志，它们背后的业务远比我们这里排名的托管集群大得多。
-
所以我们会在newsletter里讲这个，讲推理端点、裸金属、我们的基础设施、沙箱，你知道，属于我们L基础设施的一部分，但又有点不一样。
-
我们会把这些都写出来，敬请期待，因为我觉得人们会开始对这些业务有更全面的认识，它们在推理、托管集群和裸金属这些不同细分市场里竞争。
-
我们这里重点讲的是托管集群。
-
但说实话，有很多人来找我们，帮他们决定该选哪家端点提供商，或者该选哪家托管RL训练提供商，或者该选哪家沙箱提供商。
-
这跟该选哪家托管集群是不同的问题。
-
对，那解决办法就是搞更多max、更多benchmark吗？对，就是这么想的。好。你们现在有多少个了？
-
你饿着肚子去逛街、去超市的时候，也是同样的道理，对吧？我们什么都想做。走着瞧吧。走着瞧。
-
希望这些我们都能做出来。对。
-
不过说清楚一点，现在InferenceX这个名字是因为它针对的是推理性能，但它讲的是芯片。
-
它是在比较芯片和系统。
-
我们接下来还会发布一个叫EndpointX的东西，专门测试无服务器推理端点提供商，深入挖掘那些细节。
-
因为我觉得方法论是非常相似的。
-
我们知道应该套用一套类似的方法论，不只停留在性能上。
-
我们看成本，看可靠性，看安全性，看监控基础设施。
-
一个推理端点涉及的东西太多了，不能因为某家在batch one那种刻意设计的测试里跑出了更高的分数，就说明它是帮你扩展推理需求时该选的合作伙伴，尤其是当你需要那些额外能力的时候。
-
对，有些提供商性能更好，就是那种原始性能更强，优化工程师也更厉害。
-
但它们的API就没那么稳定，更容易出问题。
-
各种原因都可能导致它对端点、对终端客户来说没那么好，哪怕它每用户每秒的token更多、成本更低。
-
对，太棒了。
-
你们会怎么覆盖那个，我们姑且叫它非NVIDIA阵营吧，这个阵营正在崛起。
-
这里面你们也收录了一些，对吧？
-
比如TensorWave就是AMD云。
-
对，顺便说一句，各位，这个也是我明确有投资的一家。
-
但我们照样把它排得很低。
-
Prime Intellect在第一版ClusterMAX里也有投资，但我们还是把它评为表现不佳，对吧？
-
我觉得这种偏见很大程度上是，是的，我可能投了钱，我会跟他们聊、试着帮他们，但归根结底，排名就是排名。
-
所以我们确实想拓展到更多家，但说到底，你知道，Fluidstack不会租TPU给我们，对吧，因为他们把所有东西都租给Anthropic了，对吧？也许吧。走着瞧。也许吧。我希望如此。
-
是啊，他们没货可用，这有点说不过去。拜托，兄弟们。
-
不，我是说，这同时也说得通，对吧？
-
就是说，你看，我们拿不到货，所以我们租不了。
-
我们也租不到，除非你特别特别牛，因为他们把所有东西都卖光了。
-
就像SpaceX不会租给我们。他们不会租给我们的。
-
他们不会租给，你知道，随便什么公司。
-
他们会租给超大客户。
-
Dylan，我觉得你得练练你的，我觉得你得，这是我第一次给你这种反馈，但我觉得你得练练自信，兄弟。
-
我们能挤进去的。
-
我觉得我们能跟这些人搭上线。对。
-
嗯，我觉得随着时间推移，很多这些供应商，甚至Fluidstack，还有我们认识的那些现在在SpaceX AI的人，都看到了读这篇文章的价值，也看到了听取外部意见的价值。
-
就算他们不一定会在公开场合提供他们给过我们的那种服务，他们也喜欢来自公司外部、诚实、能给他们真实反馈的技术意见，而我们在所有这些事情上都是来帮忙的。
-
回答关于多芯片的问题，明年这会是个大事。
-
随着NVIDIA的Vera Rubin这一代，我们会看到这一点，因为他们会把Croc的LPU引进来，就是LPX系统。
-
就算我们只测NVIDIA，我们也会有多种芯片可测。
-
AMD显然有他们自己的一套。
-
Cerebus正在成为OpenAI的Neo-cloud，或者在建自己的数据中心。
-
从单纯的推理端点这些东西，转向真正为其他人管理他们的芯片集群。
-
我们看到Samanova要进入市场了。
-
很多芯片初创公司，像Positron、Edge、MatX，很多人都在推出这类东西。
-
有传言说，而且显然Fluidstack在GCP之外也有TPU。
-
那边还有更多东西要来。
-
Tranium，AWS能生产很多芯片。
-
也许他们未来不会全部自建。
-
他们已经宣布了和Cerebris等的异构Tranium之类的东西。
-
所以我觉得明年这方面会有多得多的事情，我们将不得不把多种芯片作为领先Neo-cloud综合方案的一部分来应对。
-
他们未来需要能够支持异构计算。
-
而且这些主要都集中在推理上，对吧？
-
就像，因为它是，你知道，它就像是。
-
我是说，大多数，比如Anthropic，主要用TPU来做训练。
-
所以那种情况下，就有点反过来，对吧？
-
他们其实不是，他们大部分推理是在Tranium和GPU上，他们大部分训练其实，尤其是，你知道，比如Fable 5就是用TPU训练的，预训练部分。
-
然后后训练和推理主要是Tranium和GPU。
-
所以这是多种芯片。
-
我想说，大多数情况下，其他芯片方案是用于推理的，但也有一些情况人们用它来训练。
-
对，但我觉得关键点是，现在推理和训练已经没那么难区分了。
-
在RL过程中，当你做研究、当你实际对模型做后训练时，有很多前向路径。
-
其实大部分工作负载都是前向传播，对吧？
-
所以你可能会把那叫做经典的推理，尽管它是用于强化学习的前向传播。
-
对，推理是循环的一部分，没错。
-
用更便宜的、能高吞吐的芯片来做RL里的前向传播，有一大堆好处，但如果你用两种不同的芯片，哪怕只是两代不同的英伟达GPU，B200和B300，在数值正确性上就有一堆挑战。
-
内存大小不一样，批大小不一样，有各种各样这样的影响。
-
所以我绝对预期训练和推理会用到异构芯片。
-
预训练，可能还是同构集群。
-
在40万GPU这个规模上，人们大概不会冒这个险，不过我们走着瞧。
-
对，但现在RL的工作量和预训练一样大，有时候甚至更大，对吧？
-
所以这实际上意味着你可能需要一种新的解耦方式，在同一个数据中心里放不同种类的算力，来回调度。
-
甚至都不一定要在同一个数据中心，对吧？
-
人们正在很多很多个站点之间做RL，对吧？
-
这个数据中心在做token生成。
-
那个数据中心在做token生成。
-
用不同类型的芯片其实没问题。
-
只是有一个非常复杂的信息问题，因为你会用不同的方式给模型计费，而且权重更新发生在不同的时间。
-
还有光速的限制。
-
现在正在听的人可能会想，天哪，不要，求你了，不要，多芯片的RL实时更新。
-
天哪，求你了，不要。你是在跟光速较劲。
-
你要怎么传输所有这些数据？
-
我是说，在解耦的、去中心化的强化学习方面，有一些很有意思的架构工作在推进。
-
刚出来的那个MIMO 2.6，是一篇很好的公开论文，讲了他们怎么把强化学习这块做到超大规模。
-
不过说到这个，你提到了很多定制芯片，华为的中国芯片有什么情况吗？
-
你们会关注它们吗？
-
是的，我们一直在跟踪。
-
华为的芯片进步速度真的越来越快。
-
有一段时间，你知道，基本上就是他们被美国政府禁令卡住之后，花了大概几年时间才缓过来，就是昇腾910、B和C那几代。但现在他们推出了940、950和960，节奏相当快。
-
我们正在想办法拿到它们，全方位地测试。
-
不管是租来测性能，还是研究规格和产能之类的。
-
也在想办法拿到它们，这样我们就能在俄勒冈的反向工程实验室里做逆向工程分析。
-
我们正试图在这些维度上全面开展工作。
-
可用性怎么样？有集群吗？
-
那些实验室没有英伟达也还行吗？有什么早期迹象吗？总体来说，是的。
-
我是说，那些实验室在用……
-
Anthropic用了四种不同的……
-
不不，我是说，中国的实验室在用他们自己的芯片，从X1开始。对。
-
我记得GLM好像明确说过，他们有5万块非英伟达的芯片。
-
是中国制造的AI加速器，用来做他们最新模型的推理。
-
再看其他公司，CameraCon、Ilvatar、Enflame，还有很多其他家，有那么几家不同的公司。
-
它们都在往上追赶。
-
显然，他们跟英伟达比还是差得远。
-
华为绝对是他们里面最强的。
-
然后百度正在把他们的芯片业务分拆成一家完全独立的公司。
-
所以中国芯片生态里有很多进展，尤其是在推理这块，我觉得，你知道，随着中国的前沿模型，甚至现在开源模型在写内核方面越来越强，移植东西也越来越容易了。
-
所以最终你会看到更多的多样性和异构性，这也是为什么英伟达已经进入了这种超快的节奏，想每年都发新芯片、每年都发新系统，因为他们知道自己必须以光速拼命跑，否则就会被追上。
-
因为差距在逐渐缩小。但这其实就是产能问题，对吧Dylan？
-
这些芯片现在确实能用，但他们造不出足够多的量来真正满足国内所有需求。
-
所以。
-
对，我是说，如果你按H100等效来算，或者按GV200等效来算，英伟达是在造几百万几百万的芯片。
-
谷歌在造几百万几百万的芯片。
-
亚马逊在造几百万几百万的芯片。
-
AMD在造几百万的芯片，对吧？
-
但你要是看中国公司，真正算下来华为是唯一一家连芯片总量都能做到一百万片以上的，而且华为的芯片本身还落后，所以你还得因此再打个折扣。
-
其他所有家都还停留在几十万片的量级，而且扩大生产非常困难，尤其是考虑到出口管制这些东西。
-
我觉得中国明年和后年会快速提升产量，到2028年他们甚至能达到生产几千万片芯片，但这确实需要时间。
-
对，我是说，别忘了他们是最早围绕这一整套东西制定国家计划的国家。
-
你知道，他们一旦动起来，那种规模是人类历史上从没见过的。好，这里有很多可以聊的。
-
恭喜你们搞出Cluster Max，也恭喜你们做的所有这些事。
-
我觉得我们算是把今年到目前为止很多主要话题都聊到了。
-
能了解一下你们在俄勒冈建的那个硬件实验室真是太好了。我其实特别想去看看。我觉得我们应该搞个什么行程去一趟。
-
对，飞过来，飞过来，我们带你参观。
-
行，你来之前提前跟我说一声，然后我们就安排参观。
-
Dylan会开他那辆橙色Jeep载你。
-
我想去阿比林，咱们干脆把这些地方都跑一遍。
-
你知道，我的意思是，你们显然也去过那儿了。
-
总之，你们得走了。能叙叙旧真好。恭喜你们的一切。
-
而且，我觉得还有很多工作要做。
-
Jordan给我们透露了一点你们正在做的事情。
-
EndpointX听起来挺有意思的，而且市场确实在明显细分，对吧？
-
对我来说，这就是你们早早看准了方向，并且在为所有人提高标准。
-
所以我觉得，代表所有人，谢谢你们做这些。谢谢你，兄弟。谢谢。好，跟你们聊得很开心。拜拜。