本节目录制于 AIE NYC 新计算交易专场 的场边。下次请关注 AIE CODE，这是我们为全球顶尖智能体工程师举办的最后一场旗舰活动。
在云计算的早期，前嘉宾 Martin Casado 做出了极具颠覆性的东西，以至于 Cisco 受到足够威胁，花 6 亿美元收购了它，而 VMware 出价 13 亿美元竞购：
那个概念就是软件定义网络，它通过将控制平面与数据平面分离，实现了路由网络的虚拟化。这场革命现在正降临到 GPU 上——以前运行自己的超级计算集群需要预先投入 5000 万到 1 亿美元来获得承诺，并完成从硬件到固件再到内核的整个技术栈，而 SF Compute 现在让你不仅能买卖当前和未来的 GPU 小时，还能以编程方式控制从网络到内存的一切。
我们上次与 Evan 讨论了计算商品化。在 AI Engineer New York，我们深入探讨：物理交付一份 GPU 合同需要什么，以及计算市场要变得具有流动性之前，哪些条件必须成立？
▶ https://www.youtube.com/watch?v=EAtLq9_vrE0
从卖房间到经营酒店
Evan 用酒店类比来描述 SF Compute 的扩张。客户想要一个房间，然后要求清洁、客房服务和安全保障。最终你会发现，交付房间意味着经营酒店。SF Compute 最初试图转租一个集群；此后，该公司构建了云的大部分运营能力，以交付在其市场上交易的计算资源。
这项工作就是物理结算：买方获得可用的计算资源，而不仅仅是针对某个指数的现金支付。它将集群的物理约束带入市场本身。工作负载可以被中断吗？它从存储中恢复的速度有多快？它需要哪一代 GPU、网络和软件配置？这些细节同时影响合同和价格。
让计算可交易
SF Compute 不是等待每个 GPU 集群变得可互换，而是匹配具有不同约束的订单。Evan 认为，这使得在技术变化期间进行交易成为可能，代价是将流动性分散到更多变体上。我们还讨论了现货和远期定价、批处理与实时推理，以及为什么指数可能与实际购买计算资源的成本脱节。
独立性是 Evan 主张市场运营商的核心。他认为，拥有大型硬件或推理业务的公司，其激励结构使得它们更难运营一个中立的交易所。我们还探讨了那些不光鲜的工程工作：访问站点、设计集群、运行背板，以及让基础设施可编程。接近尾声时，他描述了动态细分 InfiniBand 网络结构的能力作为一个例子。
嘉宾：Evan Conrad，SF Compute 首席执行官。
节目笔记
- Evan 在 AI Engineer NYC 的演讲：计算市场如何运作
- 我们之前与 SF Compute 的对话
- 为什么石油期货在 2020 年跌至负值——EIA
- SF Compute 客户如何转售未使用的 GPU 容量
- SF Compute 的 2.45 亿美元计算资源销售
- Abel：SF Compute 的结算账本
- CFTC：巴克莱与 LIBOR 操纵
- 弹性 InfiniBand 分区
时间戳
- 0:00 — 为什么 NVIDIA 不能构建这个？
- 0:25 — 欢迎回到 Latent Space
- 2:23 — 从卖房间到经营酒店
- 3:47 — 物理结算：实际交付计算资源
- 6:00 — 流动性与 GPU 订单簿
- 8:42 — 交易非标准计算资源
- 10:00 — 中断和迁移工作负载
- 12:20 — 为什么硬件批次很重要
- 14:32 — 计算合同能延伸到多远？
- 16:19 — 批处理与实时推理租赁
- 17:58 — 计算价格的形态
- 20:33 — GPU 代际、规格和 SKU
- 23:30 — 物理结算与现金结算
- 27:00 — 新兴的计算市场生态系统
- 29:03 — 交付一个 GPU 集群需要什么
- 32:24 — 主权计算
- 33:26 — 为什么 NVIDIA 不能构建这个市场
- 34:48 — 可编程数据中心
文字记录
自动转录，轻微格式化；说话者标签未经核实。
00:00 NVIDIA 显然是房间里那个 800 磅的大猩猩。他们为什么不做 SF Compute？我们的印象是 NVIDIA 做不了，但会从它的存在中极大受益。他们做不了的原因在于，那样的话他们就不够独立，人们无法在其上进行交易。
00:25 总之，Evan，欢迎回到 Latent Space。谢谢，欢迎回到 AIE。实际上是第一次来 AIE。我想是的，对。这次非常特别，因为我觉得你一直在研究计算交易、计算市场有一段时间了。现在感觉正是时候。是的。Jump 基本宣布他们正在进入计算市场，这就是为什么我很兴奋能把人们聚集起来。你见了 SemiAnalysis 的 Oliver，我的理解是他基本上在启动对计算市场的覆盖。所以人们会看你的演讲。
01:00 我认为这很好地解释了你公司的起源故事、你为什么需要存在以及你解决的所有难题。是的。以非常简单、引人入胜的方式完成。我非常羡慕你的写作技巧，因为你展示了你在 New Reps 上展示的传单。是的。我觉得它非常直接简单，很好。是的。总之，恭喜。谢谢。我很感激。也恭喜 AIE。看起来你们在滚动前进。我们在滚动。我刚从明年 AIE 的场地考察回来。然后你有提示吗？在 Javits Center。就是他们办 Comic Con 的同一个地方。好的。哇。
01:35 哇。哇。该死。但我认为对金融领域的关注确实打动了人们。是的。所以我们要尝试拆分出来。就像这里，我们把所有东西都归入金融。比如你的金融、他们的金融，保险也是金融，但它们都超级不同。是的。所以未来我们可能会更细致地拆分，因为人们想深入对冲基金、银行或个人财富。是的。尤其是在纽约。是的。Anthropic 就说，是的，我们现在全都在做 RIA。是的。RIA 就像注册投资顾问。是的。跟你很不一样。
02:10 不，不，不。我知道这个。是的。是的。好的。所以对于不了解的听众，我们两年前做过一期播客，你谈到了你的，你知道，SF Compute 当时的情况。嗯，今天你更多地是在做实物交割。你在谈论你的，你的背板结构还是叫什么？呃，背板。背板。是的。这显然需要大量硬核工程。是的。嗯，你能给个状态更新吗，比如，对于两年前在播客上最后一次听到你的听众来说，SF Compute 现在怎么样了？所以，呃，当我们开始时，我们是一家叫 Junark 的公司，然后我们只是试图转租我们的集群。
02:45 嗯，我们从技术栈的那个位置开始。嗯，可以这样想：就像你在一家酒店里，你试图卖掉那个酒店房间。然后有人问你，嘿，你会打扫我的房间吗？嗯，然后你说，哦，我想我可能也需要酒店房间。或者我需要，嗯，清洁间。于是你去获得清洁间的使用权，然后他们想要客房服务。于是你获得厨房的使用权，然后，你知道，他们想要，嗯，安保。于是你获得安保室的使用权，你要这个，你做那个，你做这个。在某个时刻，你就是在经营整个酒店。嗯，而当你经营整个酒店的那一刻，你说，哦，等一下。
03:21 嗯，相反，我在这个市场上的供应商，嗯，是看起来更接近基金，嗯，或者云的东西，在我们的情况下，是一个能访问数据中心的云。我们要升级了。所以我们过去几年所做的是构建云的整个运营能力，嗯，为了提供，为了实际交付，呃，可靠水平的计算。嗯，我们称之为实物交割。我们借用了期货市场、其他市场的一个术语，嗯，在，你知道，
03:57 石油或大豆之类的市场，实物交割意味着你收到石油和大豆。是的。嗯，但是，嗯，在某些市场，嗯，比如石油和电力，嗯，石油有配送网络。你必须有管道。如果你希望石油交付给你，就必须有办法送到你那里。是的。嗯，在金融领域，对于对金融历史感兴趣的人，在新冠期间石油价格变成负值，因为，呃，比如我会付钱让你从我这里拿走石油，因为它就堆在港口。呃，而且我付不起这个费用。
04:32 是的。所以我会付钱让你拿走我的石油。是的。这就是实物交割的奇怪之处。是的。其他市场也有许多类似的奇怪之处。所以在电力市场和电网中，嗯，你填写的订单、买单和卖单中有一部分，嗯，是因为锅炉需要一段时间冷却。嗯，你可以，你知道，停止锅炉，然后它会在一定时间内，你可以重新启动它。所以这必须被纳入订单簿。嗯，这种类型的事情在计算市场也会发生。所以我们共同设计了实物交割和订单簿，
05:10 同时进行。这意味着我们能够实际处理计算的真实约束，这可能包括类似，哦，我可以接受被中断，但前提是那东西上有存储，我可以很快恢复。嗯，非常相似类型的问题。是的。所以，呃，人们可以参考你的演讲，你已经做过几个其他播客了。嗯，所以我想做那种 201 级别而不是 101 级别。当然。呃，也因为我是，我曾经是衍生品交易员，所以我可以给人们更多你通常不会涉及的细节。嗯，例如，那么，计算市场今天有多成熟、多深或多流动？
05:45 呃，不是很成熟、很深或很流动。好的。所以我们一直在做的是，首先我们必须，我们必须先让大量供应上线，这需要一段时间。然后我们必须构建整个平台来实现这一点。嗯，我们刚刚让它运转起来。所以现在我们转移，嗯，容量到订单簿上，嗯，这使它具有流动性。嗯，所以我们总容量的 5% 在订单簿上，我们持续转移越来越多。然后我们引入更多容量。这些都在订单簿上。嗯，好的一面是，嗯，也许我应该说，实际订单簿上的交易量很小，但，
06:21 嗯，订单簿上的流动性很高。所以对于你拥有的那部分小容量，嗯，你有，嗯，非常集中的流动性。所以，嗯，一个标准指标，我想说对于使用这个的人来说，一个从我们这里购买容量的客户，他们花 100 美元购买那个容量。我们平均会通过把它卖回给其他人赚回 25 美元。嗯，这就是我们，或者说这是我们试图追踪的指标之一，因为，我们希望流动性对商业参与者有用，你可以用多种不同方式衡量流动性。你可以说，我只想要大量的做市商之类的。
06:56 嗯，你可以用一些高深的方式来衡量它。我们尝试用这样的方式来衡量：这是否在为客户解决问题？是的，明白了。所以，呃，我们上次谈话时，也有很多关于合同、呃，关于合同标准化的讨论。是的。和像，呃，CFTC 之类的机构谈，那些事情的进展如何？嗯，所以我认为合同标准化总体上仍然相当遥远。嗯，而且，我们当时试图做的是，嗯，或者说基本上我们在过去几年中学到的是，我们只需要
07:31 运营整个东西。否则你无法标准化这个东西。所以为了更接近可以标准化的东西，你首先需要让这个东西的所有操作都相同。对。举一个可能不同的例子，单个运营商可以提供两种不同类型的虚拟机。一种类型的虚拟机，嗯，性能可能比另一种类型的虚拟机下降 40%。而 40% 是很大的。当你说性能下降时，你是指 MFU 之类的东西，还是你经历过的燃烧量之类的，还是什么？它会影响。所以在这个特定情况下，我说的是 GPU 内核启动以及它需要多长时间。
08:07 嗯，这是当你进行训练或推理时相当频繁发生的过程。嗯，那个，嗯，呃，基本上，最终结果是你得到更差的 MFU，但是，嗯，就像中间层面。基本上是中间层面。是的。是的。所以，所以我想说的是，所以对于任何以前交易过大宗商品的人来说，商品有不同的等级。是的。对。就像，它不是石油。它是轻质低硫原油对比轻质低硫原油的反面之类的，或者就像，你知道，呃，A 级玉米或 B 级玉米之类的。呃，所以就像人们试图，嗯，你必须建立那些东西的等价物。正确。是的。我想知道它们是否已经建立。
08:42 所以我们所做的相反，嗯，是我们创建了一个订单簿，它有多个不同的约束，你可以说，我想要，嗯，你知道，介于这个和那个之间的东西。嗯，它从这个时候运行到那个时候。嗯，就像，呃，X 到 Y，你可以附加到订单上的一堆不同属性。然后我们在一个大型匹配引擎中将其与具有这些属性的卖单进行匹配。嗯，我们这样做的原因是它允许我们生成流动性，而不必在知道技术能做什么之前就标准化。嗯，而且因为技术在如此快速地变化，嗯，我们基本上希望能够做到这一点。这样做的代价是你的流动性不那么集中。
09:18 所以价格会有，买卖之间会有更多的价差。是的。嗯，这很糟糕。是的。但另一方面，这意味着有很多套利可以做，嗯，如果你能正确做到的话。所以如果你有一个可以使用许多不同类型容量的产品，嗯，那么你可能会真的很喜欢 SF Compute，因为你将能够使用许多不同类型的容量，你会赚更多钱。嗯，你可以赚取价差。好的。在这个网格中哪些维度重要？嗯，所以一堆不同的东西。嗯，一个是维度类别，我会说就像，是否有
09:53 工作负载现在在上面运行，还是未来的容量？当然。是现在的容量吗？嗯，现在的容量，为了让你卖掉它，嗯，你必须中断你当前的工作负载。所以你必须想，我是否在乎我当前的工作负载是否被中断？从现在起一个月后开始的已售容量，嗯，你可以一直买卖它。所以你很容易获得，嗯，它的流动性。嗯，有一些担忧，比如，哦不，我下个月有容量，但这与你现在中断工作负载非常不同。嗯，中断发生的方式很重要。所以一个例子是，如果你在一个集群上，而该集群没有你想要的那么好的存储。嗯，所以一个例子是，你的底层是否有 Weco 或 Vast 系统？
10:31 嗯，你们提供那个吗？还有，那个的规模是多少？嗯，这改变了你对，嗯，被抢占或从集群中移除的响应方式。同时，那个存储的位置也很重要。所以，嗯，如果你能够将数据从一个集群移动到另一个集群，嗯，快速地，那么也许你可能能够分散在多个不同的集群上。嗯，你可以在这里被中断，然后在那边重新出现。嗯，为了实现这一点，你还需要，比如，一个集群和另一个集群之间的快速传输路径。通常这是用 WAN 实现的，但大多数这些集群并不
11:06 一定拥有，嗯，比如广域网。是的。广域网。所以，基本上就是连接集群在一起的电缆。私有互联网是另一种思考方式。呃，今天正在建立的许多集群就像，它们没有连接到，嗯，传统的 CPU 集群是，出于延迟原因在客户旁边。在 GPU 中，它们在电力旁边，嗯，无论哪里，就像，你知道，你把数据中心放在电力旁边而不是客户旁边。嗯，这意味着很多东西被放在以前他们不期望有数据中心的地方。
11:41 因此你可能没有，嗯，那么，嗯，优秀的传输路径，嗯，从一个到另一个。所以这，这开始变得重要。嗯，其他例子是，嗯，奇怪的东西，我们理论上支持，但实际上并不支持，嗯，呃，比如这是我们正在考虑的事情，但基本上还没做。嗯，早期的 GB 200 坏了。早期的 H 100 坏了。嗯，所以如果你买的是 H 100 或买的是 GB 200，你可能真的想要某个时间之后部署的那些，因为你不会拿到第一批烂货。
12:16 所以如果你是一个非常精明的客户，你可能愿意多付，嗯，因为这个。哦，所以这，这关乎它们属于哪一批次，它们被生产出来，并且随着时间变得更好。所以比如，呃，第一批下线的可能有一些故障或一些问题。对。所以如果你是拿到第一批的人，嗯，或者，你第一批从，嗯，那，那第一批货中拿到的，嗯，那么是的，它们会，它们会坏掉，或者，嗯，以某种方式。我猜这个过程大概是，你看，到处都有缺陷。就像，它就是会发生。对。完全正确。所以就像你拿到，你从 TSMC 或别的什么拿到一批新货，你就跑你的测试，然后你，你找出
12:53 哪些，哪些是坏的，然后你把它们扔掉。不就是这样运作的吗？而我，我之前不知道这个批次划分的元素，比如，假设 2026 年第四季度，呃，B300 比 2027 年的 B300 差得多。是的。所以，嗯，我举个例子。嗯，你描述的是老化测试（burn-in）。是的。所以当你拿到一个集群，嗯，一个好的云，它会做什么。是它试图杀死所有 GPU，嗯，在它们到达客户手中之前。嗯，然后，嗯，坏掉的 GPU 或坏掉的节点，嗯，你会得到 RMA。你基本上就是去申请。对。你退回它，你拿到一个新的，这有一个交付周期，但
13:30 不管怎样，你会，你会拿回一些。嗯，然后客户永远不必经历这个。嗯，我，嗯，指的是，嗯，比如在早期的 H100 中，有固件 bug，可能甚至与具体的，比如它们可能不是 NVIDIA 的。它们可能是 Super Micro 在你买的，嗯，那个机器里有一个固件 bug。嗯，它适用于所有那些，而且无所谓。比如，嗯，解决方案是你需要让他们更新固件。嗯，或者他们需要发一个新东西，嗯，在每个新机器里。
14:07 是的。我们拿到的，比如，B300 就有这个。嗯，IQ 不得不让 Devin 去修它。是的。很好。所以像不同类型的问题都可能发生。有意思。好。所以我想，好，你看，与整体相比这似乎很小。就像，我只是想，比如，我想让人们理解这个市场的形态，嗯，你提到了比如抢占，你知道，还有，我们谈到了竞价实例（spot instances）以及那，那，那个类比是怎样的。是的。然后还有，你知道，提前一个月预订。这些市场能延伸到多远？还有，实时或某种抢占对你来说更有意思，还是，
14:42 更远，更远？嗯，回答你的第一个问题，三到五年。嗯，哇。我们开始看到。逐月还是逐季度，还是怎样？你是在问现金流如何运作吗？比如，那，那些合同，比如，那，那些期货合约，对吧？就像，再说一次，我是个前合约，呃，衍生品交易员。在，在市场本身，嗯，比如在更广泛的市场中。是的。集群的融资是三到五年。好。嗯，所以，那，那，那付款完全是在那个时间段内。是的。我们的订单簿中也有比如容量区块，嗯，可以延长任意时间。是的。有些东西我们必须做，嗯，为了，嗯，那方面的现金流
15:18 现在。我们所做的是我们只是要求人们为一个区块全额预付。嗯，对于长期合同的租约，我们不要求他们那样做。这涉及到一些我肯定需要白板来解释的东西。嗯，但是，嗯，你还有另一个问题我正要回答。我忘了。你是想要实时，还是想要，比如，你想要更多，呃，什么对你更有意思？实时还是长期，更长期？所以我们更关心更长期的，因为我们试图构建一条有大量流动性的远期曲线。嗯，那，嗯，这些有点是同一回事，也有点不是。嗯，所以我们做的是，我们，既然
15:54 一个，你可以买一小时后的，你可以买现在到下一个小时，或者你可以买现在到未来三年，以及介于两者之间的任何时间。这太疯狂了。我知道。嗯，所以，嗯，你知道，或者如果我，你技术上，嗯，那，有一个特定的差异会发生，这取决于每个客户。基本上就像如果我有一个工作负载，嗯，呃，基本上是批量推理，我可以在任何时间点被中断。我不太在乎。嗯，那么我被
16:29 切断的能力，嗯，大概就像，我需要一个小时的时间来知道，嗯，我将会被切断，然后我就没事了。或者我甚至可以在，你知道，一两分钟内被通知。嗯，但是如果我，嗯，有实时推理客户，他们期望我在线，嗯，那么你可以中断我，但要在一个月后，也许两个月后，也许三个月后。嗯，然后我可以在那段时间内适应那个容量。嗯，但你不能在一分钟内中断我。嗯，所以这两样东西定价不同。它们定价不同的原因是，价格是什么
17:05 你为了中断你的批处理任务愿意支付的价格？这与你为了中断你的，嗯，实时任务愿意支付的价格非常不同。如果你有一个实时任务，你，当你为你的客户中断时，你可能要支付一笔 SLA 费用。嗯，这说得通吗？是的，我明白了。所以这实际上是中断租约的市场。这些是中断租约的市场。我的天。然后还有未来租约的市场，或者像是那些，嗯，租约的市场。哦，我以为这像是转租的情况。这像是中断租约。所以一种理解方式是，嗯，在电力市场中，实际上有两个市场。嗯，有日前市场和
17:40 实时市场。算力有点类似，嗯，它有即将上线的容量，嗯，或者即将，嗯，到达你那里的容量。嗯，然后是当前正在使用的容量。这些有不同的价格动态。好。有意思。现货贴水还是期货升水？现货贴水还是期货升水？是的。那么，嗯，算力越远期的价格是高于现货还是低于现货？嗯，算力越远期的价格？它，它会这样走吗？它会那样走吗，在，嗯，你知道，在比如一年、一年后、两年后？
18:16 会。哦，这是一个，呃，在不同时间两者都有。我觉得你不知道这点很有意思。是的。我是说，两者都有。这取决于你是谁。嗯，好。所以，呃，我来论证一下。嗯，等等，所以你问的是算力现在卖？今天同一单位的算力。是的。呃，也许不是今天，也许是一个月后对比一年后对比两年后。那条曲线是上升还是下降？我们看到，像是一个驼峰。我的天。好。所以解释一下，嗯，我觉得这在直觉上说得通，基本上就像如果我有一批牛奶快要过期了，我会降低它的价格。是的。嗯，所以这基本上就是我们看到的。
18:52 这就像，这基本上是 Nvidia 的发布周期，对吧？呃，嗯，我们更多是说如果有一块算力，它临近现在，嗯，它不能在过去被卖出。所以它必须降价才能以某个价格出清。是的。所以最初你会看到这种下降，嗯，现在正在卖的东西，现在市场上任何东西，嗯，都是还没卖出去的东西。因此价格会下降。嗯，然后它上升，嗯，到它想要的位置。嗯，然后也许未来的算力价值更低，嗯，因为人们不想要，就像人们更想要现在的算力。所以他们有点在为更短的交货时间付费。嗯，而他们对远在未来的算力支付更少。
19:28 这就是我认为一条正常健康的曲线看起来的样子。是的。让我觉得，哦天哪，可不是嘛的地方。嗯，是，嗯，现在如果你拿一块 B300，你试图在上面跑推理，嗯，你大约每小时能赚 40 美元，嗯，把它作为推理卖出去。基本上任何模型都行。嗯，所以那是如果你百分之百使用它，也许如果你只有比如 50% 的利用率之类的，那就是每小时 25 美元。是的。所以每小时 25 美元。与此同时，你可以以大约每小时 5 到 6 美元买到 B300。这些数字中有一个必须改变。是的。这是巨大的套利。这是巨大的套利。你在演讲中经常提到这个。
20:04 是的。所以，嗯，一堆人基本上看着这个在想，嗯，如果我认为价格会上涨，我可能愿意在未来支付比我之前想的更多的钱。嗯，因为我可能想，好吧，我现在可以以五美元买到，但如果我再也买不到了，那么也许我愿意在未来支付更多，只是为了锁定它，如果它以后才上线的话。所以我们也看到另一面。嗯，有点取决于你是谁。酷。那么，可以吗。而且，而且我只是，我只是真的想在这点上说得非常清楚。当然。你在意不同代际的芯片吗，还是你只在意总的 flops，然后你把它分散到你想要的任何芯片上？
20:40 呃，我们在意不同代际的芯片，因为。你在意。我想就像，我只，我猜你的客户在意吗？是的。对。哦，等等。当你说不同代际的芯片，你是指像。比如 B300、B300。正是。是的。或者甚至 AMD 之类的。对。呃，是的。我想人们完全在意芯片的代际。嗯，呃，我想部分原因是像 VRAM 这样的东西。嗯，部分原因是像，嗯，更大的 NBLink 域。是的。诸如此类。所以根本没有办法把这一切抽象成某种广义的算力单位，让你可以随便搅和之类的。我想就像你说石油的时候，连石油都不是石油。石油实际上只是一堆不同类型的油。
21:16 是的。像航空燃油或汽车燃油之类的。我想这是同一回事。嗯，你会得到一堆不同的类型。是这样，但你有炼油厂。是的。可以有效地拥有黑箱。你可以把油放进去，然后得到随便什么出来。嗯，如果算力，它是如此异构，我猜这是那个词。它是如此异构，以至于你只能把底层的复杂性暴露给你的终端客户，这对你作为做市商来说是不利的。也许吧。就像你想找出那个瓶颈点，或者像，我不知道瓶颈点更好的词是什么，像是一个谢林点，所有人都同意，好吧，这算是标准，我们会，我们都会同意这个标准，而且，嗯，你知道，它会
21:53 会有些低效。是的。呃，所以我们已经能够把，嗯，把，把问题降低到某个程度，但，是的。就像你的工作就像是降维。是的。我们减少了很多维度，但尽管如此，仍然还有维度。是的。它仍然会存在。你，你知道你有多少个 SKU 吗？所以，嗯，就像五乘以一百乘以，像 5,000 等于，我不知道。就像，什么，我们实际上把 SKU 做成了一个概念，嗯，那个，目标是让其他人可以做出他们自己的 SKU。所以如果我想买 Blackwell，我可以说我愿意
22:31 以每小时 6 美元或更低的价格买 Blackwell。然后你可以把我匹配到 GB300，或者你可以把我匹配到 B300，我不在乎是哪种 Blackwell，只要低于每小时 6 美元就行。但你刚才说你在意内存和其他东西。完全对。但不是每个客户都在意。所以有些客户，嗯，就是可以在 Blackwell 上工作，不管是什么。有些客户超级具体，他们需要这个确切的东西，他们愿意为此付更多钱，因为市场会向他们收更多。好的。嗯，而这就是我们做的事。所以，人们用你的 API 以编程方式定义他们想要什么，然后你把它与卖方的任何组合匹配，呃，他们可能，他们可能，他们可能能够履约。
23:08 是的。嗯，有一个附加说明，命名查询是我们正在做的一件新事情。嗯，但查询系统作为一个概念，就是当前订单簿运作的方式。好的。有意思。嗯，好吧。所以，呃，你知道，我，我想这就像很多，我猜，细枝末节。有没有什么，我猜，你想让人们了解的，不管是金融人士还是工程师，关于算力交易市场在你所开发的状态下的情况？因为实际上你们在定义它。嗯，主要就是实物交割的要求。是的。嗯，我们认为，如果你，我们，我们花了三年时间了解为什么你需要
23:44 实物交割。嗯，而且，嗯，我们今天整个对话就是，嗯，就是，这些东西并不像你想象的那么可替代，我们会尝试让它们变得可替代。那是行业的工作。嗯，但如果没有那个，你会冒很多风险。嗯，如果你试图建立，嗯，过多的金融化，在行业有时间建立，嗯，实物交割之前。嗯，我想你得到的是，嗯，一个非常容易被操纵的市场，以及一个有很多基差风险的市场，在那里，嗯，你可能在对冲的价格实际上与
24:22 你实际能买到容量的价格，嗯，市场，毫无关系。是的。所以，对，听众们，呃，我们，我们上次简要谈过这个，但，嗯，人们常常震惊地发现，比方说信用违约互换的市场是它们所保险的债券规模的 12 倍，呃，差不多那样，或者像，呃，抵押贷款，嗯，某种再保险的市场，或者，呃，所有那些，都比标的实物交割更大。所以这就是为什么实物交割与现金交割。是的。而且，而且基本上现金交割就像正是那种，呃，你在《大空头》里看到的边注，嗯，在那里，呃，他们，
24:59 他们可能，呃，可能与标的物本身有关，也可能无关。而且它可能，可能被用作其他整体东西的代理。是的。那，而且你不想让那失控。是的。所以明确地说，我们认为，嗯，现金交割作为一个未来概念是个好主意。是的。嗯，我们只是认为它应该从实物交割衍生出来。是的。因为正如你所说，它是边注。嗯，而且那会有点像如果你，我是说，会有点像如果你在做出实物交割之前就做出了现金的未来，嗯，我想人们已经在某种程度上这么做了。是的。完全对。人们在做出实物交割之前就试图在它上面做现金。而且人们为各种各样的事情这么做，包括
25:34 创业公司股票。是的。对。就像你可以买卖 Open AI 的虚构股份，但它与实际股份毫无关系。是的。嗯，而且很多那些都进行得很糟糕。嗯，就像如果你做了一个，嗯，会有点糟糕，如果你开始卖，嗯，一个还不存在的股票的，嗯，衍生品，那会很糟糕。嗯，是的。是的。嗯，所以我是说，我们做的一件事，所以我以前是个货币交易员，对吧。是的。而且，利率也是。而且，我们做的一件事是，你有一个委员会聚在一起说，就像，这是伦敦银行同业拆借利率 LIBOR。是的。而且我们都同意，就像这是，这，这每月的定盘价，而且我们都
26:12 按那个定盘价交易。是的。呃，那在三年后的某个时间点还有意义吗？所以关键是 LIBOR 被操纵了。是的。我们目前的担忧。有 12 家银行？是的。是的。嗯，好吧，我们的担忧是有一个非常类似的问题，嗯，你可以操纵一个指数。嗯，我们的印象是，为什么你能操纵那个指数，是因为很多指数基于非常少量的数据，这些数据，嗯，呃，与购买新储备合约的实际价格没有很大相关性。嗯，那就是我们担心的。好的。
26:47 有意思。嗯，好吧。我想，我想这就是，大，大致的情况。呃，嗯，我想今天另一部分就是，呃，你，你，你，你谈到了与 Jump 的一个活动，而且你，你和 Silicon Data 是朋友。呃，你从所有这些其他参与者身上学到了什么？比如谁是你会想点名的、在做有趣事情的主要参与者？哦。嗯，所以我们是 Silicon Data 和 Compute Exchange 的忠实粉丝。嗯，我想他们也很早进入这个领域。嗯，而且我想他们正在做，像是对我们认为，嗯，我们很可能最终会成为合作伙伴的那条路径的一个合理的尝试。
27:23 嗯，你能区分一下你们的，你们的不同路径吗？所以，嗯，总体就是他们做现金结算。我们做实物结算。嗯，我们认为两者都可以存在，也应该存在。嗯，而且它们对彼此是互利的。嗯，所以完全没问题。嗯，所以我认为他们是这个领域最早的一批，而且我认为他们，非常明显地下了这个赌注，嗯，远早于其他任何人。而且我认为那非常值得尊敬。嗯，嗯，你提到了，呃，Jump。Semi-analysis，Jump。就像这些是正在涌现的参与者。就像到目前为止，就像你是我第一次接触这个。是的。然后，然后我看到所有其他这些人进来，我就想，好吧，就像这里正在发生一些事情。
27:58 我对这个格局的了解不如你清楚。是的。所以，嗯，我们见过的几类人是，有些人在试图制定更好的标准。所以我认为 Semi-analysis 正在努力尝试创造更好的标准。嗯，有些人在尝试做，嗯，残值保险等等。嗯，这个领域有很多不同的公司。我对他们没有一个了解得特别深，但是，嗯，我知道，知道这是一个概念，而且我认为那很重要。嗯，有些人在尝试做，嗯，呃，存款，嗯，借贷，就像他们会为云承担你的信用风险。有一个公司生态系统正在围绕如何解决算力的财务瓶颈而形成。
28:34 嗯，看到这些很酷。我认为在这个生态系统中，你实际上想要的是买家和卖家。你想要一个分析师。你想要，呃，我们说过保险，或者，呃，那个是什么，呃，残值。是的。是的。而且你，我们想要这种健康的生态系统存在。嗯，但显然你们拥有实物结算这个问题，这，这真的很有意思。嗯，好的。所以，我是说，我们可以进入，硬科技那一侧，因为显然你们也在招聘，呃，极其顶尖的工程师。是的。描述一下你们的技术栈。嗯，我们做云所做的一切，但不是那个
29:10 云。嗯，也就是说我们不拥有硬件。我们不拥有硬件的原因是，如果我们拥有，我们就能操纵远期市场。所以我们必须做瑞士。我们必须保持独立。嗯，这给公司带来了很多奇怪的事情。嗯，但为了做实物结算，你必须做现场考察。必须访问数据中心。嗯，你必须，嗯，你必须设计物料清单并确保，嗯，你基本上必须做像供应链咨询那样的事，嗯，你要与不同的 OEM 建立关系，嗯，确保东西按时
29:46 交付。嗯，然后你必须，嗯，做集群架构。嗯，呃，所以你在某种程度上设计集群本身。嗯，然后你，嗯，部署机架，或者你与合作伙伴合作部署机架并监督那件事。嗯，然后你在做，呃，背板管理。所以你接管了，嗯，呃，PDU 和交换机以及 DPU，还有，嗯，UFM 和 BMC，你在运营，嗯，你所销售的节点周围的整个，嗯，线束。你说的是作为 SF Compute 的员工。是的。哇。嗯，所以，呃，当你从云购买一个节点时，嗯，有裸金属，但裸金属周围还有所有这些破
30:23 东西。是的。嗯，为了让那个裸金属节点工作，你必须运营其他一切。然后我们。因为我就像传统上数据中心的工作就是把其中一些从你那里抽走。是的。我们就是做那件事的人。好的。对。嗯，但你不在，你不在数据中心业务里。你不是那种世界上的 Equinix。我们，我们不在数据中心业务里，某种程度上，嗯，我们确实合作的是，所以我们提供超级计算即服务。嗯，这意味着人们来找我们说，你知道，
30:58 我有 X，其中 X 是，我有，你知道，这里有 X 兆瓦。也许有时他们意思是说我有一个数据中心。嗯，那就像，嗯，想变成一个 GPU 集群。就像我的选择是，我可以卖 GPU 集群，或者我可以把数据中心卖给某人，或者我可以成为云。然后我们去找他们说，太好了。嗯，我们会把你变成云。我们是超级计算那部分。你是数据中心。让我们合作。然后我们会销售，我会赚钱。嗯，有时是那些拥有可以变成数据中心的东西的人，那样的话我们基本上会把那件事项目管理到那一层。
31:33 嗯，然后我们会与那些远，我们会与那些人合作，把他们的通电土地，嗯，或者他们拥有的任何东西，嗯，通过与合作伙伴合作变成数据中心。嗯，然后我们在超级计算那部分接手。好的。这要求我们在内部拥有某种数据中心专业知识，但我们不自行执行建设。嗯，所以是的。是的。所以它，呃，有点模块化，因为你有你需要应对的不同场景。是的。呃，有人曾把我们描述为，嗯，呃，像算力界的 Palantir，嗯，因为就像这些，每次都是这种新的竞技场。
32:10 嗯，呃，但是，而且我们喜欢，我们，我们与人们深度合作。在两边。是的。呃，主要在美国，主要在美国，但我们在世界各地运营。是的。到了某个时候，SF Compute 会变成一个不准确的名称吗？呃，所以当，所以我们正在世界各地部署集群。是的。当我们这样做时，我们与那些自己正试图在世界各地成为云的人合作。嗯，他们看起来像主权算力参与者。嗯，我们对主权算力的推介很棒。呃，让我们帮你在你自己的国家建立一个云。嗯，我们会带来旧金山的承购。我们会带来旧金山的专业知识。
32:45 我们会搭建集群。嗯，这就是我们的全部业务。啊，嗯，我们会把它做成的。你们的主要，呃，你们能说出名字的最大已公布合作伙伴是谁？嗯，没有我能说出名字的。真的吗？哇。呃，我们会有一批公告，嗯，在一两周内，嗯，我们预计会公布。是的。各种事情吧。当然。当然。祝你好运。是的。不，我是说，呃，我，我觉得这对每个国家来说都非常有意思，比如，谁，谁在投资主权 AI 来搞清楚这件事。嗯，有意思的是，SF 仍然算是那个品牌名，而且，呃，那，那非常具有市场吸引力。
33:20 所以我认为有趣的一点就是，仔细思考这个市场。NVIDIA 显然就像房间里那头 800 磅重的大猩猩。他们为什么不做 SF Compute？答案同样会是市场操纵。但让我们真正深入探讨一下多方参与者的动机。是的。所以我们的印象是，NVIDIA 做不了这件事，但会从它的存在中获得巨大好处。他们做不了的原因是，那样的话他们就不够独立，人们无法在其上进行交易。如果你不在其上进行交易，那么你就没有足够的流动性让贷款方以远期市场为抵押进行融资。
33:55 这也是为什么 Crusoe、CoreWeave 和 Lambda 做不到，为什么超大规模云厂商做不到，为什么 Base 10、Fireworks 和 Modal 做不到——因为他们在那一侧的需求太大了。这件事对整个行业都有利，因为它能降低融资成本。但除非放弃赚取所有大额推理收入和所有大额云交易的能力，否则没人能做到。你必须扼杀自己的业务才能做成这件事。这就是为什么没人做。从结构上讲，他们就不是为此而设的。而你基本上只是在减少摩擦，这就是你全部的营收。
34:30 你们已经公布了一些里程碑。其实，我忘了在前面说这一点。你能重复一下它们是什么，并稍微来一段胜利巡礼吗？我们已经完成了数亿美元的交易量。我们还有大量新集群正在路上。然后我认为我最兴奋的是，我们已经发布了一大堆新功能，使 SF Compute 对平台即服务公司来说非常可行。一个例子是我们允许客户细分
35:06 他们的 InfiniBand 网络结构，而无需询问我们。很多云服务商，当你去购买时，他们会给你一个 InfiniBand 网络结构。然后，如果你想重新绘制该 InfiniBand 网络结构的线路，你需要联系他们，然后他们会为你做一些事情。我们现在可以为客户即时完成这件事，我认为这真的很棒，因为它与市场接口得非常好，你希望能够重新绘制东西，以便扩展和缩减你的集群。你会把这描述为像是在虚拟化数据中心并使其可编程吗？是的，我们正在虚拟化数据中心并使其可编程。所以所有那些如果你拥有这个就会得到的东西
35:43 硬件，我们正试图将其虚拟化，我认为这对我们来说很令人兴奋。有趣的是，上一次发生这种情况是云，那真的很酷。最后，你知道，我想你对人们的行动号召是什么？你知道，是工程师吗？是像，把你的供应给我？像，是什么？如果你想拥有一个 GPU 集群，并且你想从中获得剩余价值，你想把它纳入你的投资组合，我们很乐意与你合作来构建那个 GPU 集群。我们将接管，我们将完成其中的超级计算部分，并且
36:18 确保一切顺利进行。我们承担 SLA。然后，如果事实证明那是个坏主意，你需要退出那个集群，我们可以立即把那个集群卖给其他人，这样它就不会影响你的资产负债表。非常简单的推介。好了，非常感谢你抽出时间。你为这个行业做出了巨大贡献，我很高兴能成为你的朋友。我很感激。好的。谢谢。就这些。