a16z 对话 MakerMaker.AI：递归自我改进的真与假
点播放，字幕跟着声音走
Subtitles follow the audio
逐句文字稿
点任意一句，从那里开始听
正在加载字幕…
-
这里最根本的想法，就是打造能自我改进的AI，我觉得我们正在朝这个方向走。
-
这是第一次，我们可以把优化器本身也当作优化器来替换，这就让认知上的改进重新投入到自身之中。
-
你可以从技术栈的很多不同层面来理解RSI。
-
提示词、运行框架、权重，一路可以延伸到基本上就是芯片。
-
我们的目标就是优化技术栈的所有层面。
-
我们对RSI的做法是，让一个多智能体系统协同工作，而这个系统本身已经被递归地改进了。
-
我特别佩服你这种信念，就是模型能自我改进这个想法。但这不是信念。
-
这话说得很重，我想这是我第一次听你这么讲。
-
因为我们做得非常严谨，在完全确定它正确之前，我们不会发布任何东西。
-
你有没有设想过这样一种系统，就是投入的能量相对于改进来说，会随着时间以某种方式逐渐减少？
-
我们不能透露太多，但我们尝试做的一件非常重要的事情。
-
欢迎你们两位来参加。
-
我们要聊的是大家最喜欢的话题，RSI，也就是递归自我改进。
-
也许一开始，先请你们介绍一下自己和你们的背景。
-
然后我们会稍微聊聊你们现在在做的东西，接着再深入聊内容。
-
好。
-
我把自己看成某种意义上的物理学家。
-
我学的是这个，后来在MIT媒体实验室做了强化学习方向的博士。
-
我特别喜欢动手做东西，也很兴奋能和Owen、Grace一起做一家很酷的创业公司MekaMeka。我叫Owen。
-
我一开始学的是数学，后来有一天我意识到，所有数学家都在证明定理，而我当时在上门叫形式语言与逻辑的课，他们在讲怎么构建一个定理证明器，我就想，哦，那会很酷。
-
我可以直接造一台机器来帮我证明定理。
-
我就是这么进入AI领域的。太棒了。
-
后来读博士的时候，我研究的是持续学习和元学习。
-
之后在DeepMind做了几年研究科学家。
-
现在我在做RSI。
-
我看到很多项目找上门来，其中很多都用到了RSI这个词。
-
我就会说，哦，那你们具体做什么呢？
-
他们会说，我们用AI来创造AI。听起来挺有意思的。那你们具体做什么呢？
-
我们用AI来生成GPU内核。
-
但在我看来，这跟我理解的RSI定义对不上。
-
所以也许我们可以先请你定义一下，你认为RSI是什么，或者从定义上说，你会把什么算作RSI？
-
对，我觉得RSI这个词现在确实被用得太泛了。
-
很多人说RSI的时候，指的其实是不同的东西。
-
所以我觉得区分它们的关键，是要问这个问题：优化器是什么，被优化的又是什么？
-
就是说，当你在自我改进的时候，到底是谁在改进，对吧？
-
所以有些人会说，好，我们在做RSI，我们有一个人用AI来开发更好的AI。
-
但在我们看来，这只能算是自催化，因为改进者仍然是带着工具的人，虽然这些工具越来越好，但想法和改进还是来自人脑。
-
对，我不是想打断你，但说清楚一点，大多数技术时代都有自催化效应，对吧？
-
就像你不可能不用计算机就造出计算机芯片，对吧？
-
你可以说，互联网的发展之所以加快，是因为那些地理位置不同的人可以协作，对吧？
-
我是说，蒸汽机，你能造出更好的蒸汽机，因为你能更快地得到煤，等等。
-
所以这种用某个东西来更快地造出这个东西的想法，并不是什么新鲜事。
-
所以你说的是不一样的东西。是的。
-
我觉得对我们来说，在历史中，对吧，纵观整个文明，我们一直有这种自催化，你知道，用计算机来造更好的计算机。
-
但推动这种改变、这种改进的想法来自人脑，可那个人脑从来都不是被改进的一方，也从来不是被优化的那一方，对吧，而现在，我们第一次可以把优化器换成被优化的一方，所以智能体的那个大脑
-
也就是LM，那个模型，可以成为你正在优化的东西，这就会带来一种复利，把认知上的改进再投资回它自身，但肯定有个原因让你决定去啃这个难题，而不是像别人那样，把问题一块一块地切下来解决。对。
-
我是说，我想回答，在我回答你那个更重要的问题之前，我做这件事的原因是我觉得这是个难题，而且做最难的问题很有意思。而且我觉得……
-
但你有没有一种直觉，觉得这才是真正正确的答案，而不是那种更务实的做法？
-
对，我觉得务实的做法，从控制论的角度来看，如果系统里有个缺口，你就不可能形成闭环，而自催化是没有闭环的，对吧？
-
所以你不管改进了什么，那里始终有个缺口。
-
必须有人进来，你必须投入其他资源才能让它运转。
-
但如果你有了闭环，你仍然得投入资源。
-
但边际收益理想情况下会随着时间要么保持不变，要么变得更大。
-
这就是根本的区别。
-
这里真正不同的地方其实很容易解释。对。
-
所以如果你考虑能力，我们在这里想做的，是提高能力提升的速率，对吧？
-
所以能力对时间的一阶导数，就是所有人都在努力提升的那个东西，对吧？
-
而现在你可以把它看成由两样东西驱动，分子和分母。
-
分子就是性能，也就是所有人都在努力提升的东西。
-
而分母则是某种成本。
-
比如说资本或者难度。
-
而这一项基本上是固定的，因为能力越高，下一步的难度就越大。
-
现在，分子才是有意思的部分。
-
对于蒸汽机之类的玩意儿来说，这一项是固定的。
-
所以最后你就得到一个非常简单的微分方程，基本上就是趋于平台期，对吧？
-
现在，如果你的系统里，被改进的东西同时也是做改进的那个东西，那你就有了一种全新的思考方式。
-
而最简单的情况就是，分子也和能力相关，这很合理，对吧？
-
因为你越强，你改进的能力也越强。
-
如果你这么设定，数学上就约掉了，你基本上就得到随时间恒定不变的改进。
-
这可以算是递归自我改进的一个层级，对吧？
-
然后还有另一种情况，就是分子可能和能力的高次幂相关，那你就得到指数级的起飞。
-
我们能不能再深入聊聊，递归自我改进闭环和实际的收敛性质之间的关系？
-
就不知道为什么，当人们看到一张图，上面有个圆圈，箭头指向另一个圆圈，然后又绕回来。
-
只要他们看到那种闭环控制系统，他们就会说，起飞了，对吧？
-
我的意思是，如果这是个非线性控制系统，你根本很难知道到底会发生什么。
-
顺便说一句，大多数人好像并不理解这个区别，因为我们一聊到这些东西，很快就跳到起飞啊、暴走啊之类的。
-
嗯，作为一个搞网络的人，你知道这取决于那个自引用函数的指数，而我们发现，去猜测我们觉得可能发生什么，几乎没什么用，
-
因为这实际上是个经验性的问题。
-
真正知道发生了什么的方法，就是去做测试。
-
而做测试真的真的非常难。
-
比如奖励黑客只是我们必须应对的众多问题之一。
-
但你问的这个问题非常依赖实证，而且对某些算法来说……哦，有意思。
-
所以，我是搞网络的。换作是我，我就会这么回答。
-
我本以为搞数学的人会说，我们有这个微分方程，然后我掏出铅笔把答案写下来。
-
我的意思是，确实可以把微分方程写出来，但你还是得靠实证去测量那个变量，也就是指数。
-
所以并不存在解析解。
-
说实话，我们连深度学习的完整学习理论都还没有。
-
我们从根本上就不知道它为什么有效，对吧？
-
而现在你又在深度学习之上叠了五六层。
-
所以我们并没有一个好的理论。
-
我觉得我们最接近理论的东西就是缩放定律，而这些是经验性的定律。
-
我觉得人们对我们的RSI方法有一个误解，就是他们以为整个系统必须完全自动、完全数字化。
-
但实际上，如果你看我们的数学基础，我们有一个多智能体系统，而不只是一个数字智能体。
-
而在这个多智能体系统里，人类研究员和工程师其实只是这些智能体的一种特例。
-
正是这个由多个智能体协同工作的混合系统在被递归地改进。
-
我们不想漏掉任何一个组件、不去优化它们，因为如果模型有可能被优化，我们为什么不这么做呢？
-
因为如果你把这些也纳入进来，你会获得更多收益。
-
任何你不去优化的东西，之后都会变成你的瓶颈。
-
我们在这里观察到的一点是，有人声称速度在提升，而事实确实如此。
-
你看模型发布的时间，它是在缩短的。
-
一方面，你可以说，好吧，很明显我们正处于某种快速进步的阶段。
-
但如果你除以这些公司实际筹集的资金量，情况就不是这样了，对吧？
-
所以你会想，好吧，也许他们只是筹了一大笔钱，然后AI让你能够把这些钱用起来。
-
那么你会怎么，这不是问你自己，而是你会怎么鼓励那些要么在评估这方面说法、要么甚至在做这方面工作的人，去思考不要靠往问题上砸更多钱来骗自己？
-
就像你实际上是在展示，你在这里取得了一个有意义、有分母可衡量的进步。
-
我觉得对我们来说，这很直接。
-
因为如果你取得进步，而它们只是靠投入越来越多的资源换来的，那就不是RSI。
-
你必须能够支撑你关于自己取得了多少进步的说法。
-
但你会把投入其中的所有人工时和实验都算进去吗？
-
因为我觉得在某种程度上，他们会谈实际投入的算力和投入的钱，但现实是这是第23次实验，而且实际上为了达到那个最终配置烧掉了大量的脑力资本。
-
比如，你真的把那些算进分母里了吗？
-
我们算，而且我觉得这么做是很好的公司纪律。对，对。
-
而且我们试过，再说一次，从一开始就非常刻意地建立一种追踪东西去向的文化。
-
成本、时间，所有这类东西。我分享一件好玩的事。在我们内部，我们有这么一个东西。
-
人们会谈论排行榜，你知道，就是那种分数。你知道我要说什么了吧？
-
我们有一个叫“流血榜”的东西，我们追踪每个跑实验的人做实验的成本。这太棒了。
-
你知道，而且任何人任何一天都能看到谁在流血榜上排得高。
-
我也可以举一个AI方面的例子。
-
我不知道你知不知道你在跑的这个nano GPT基准测试。
-
它基本上是要你重新训练GPT 2，而它刚出来的时候，是一个非常昂贵的模型，训练起来要花好几周，我想，还得用多块GPU。
-
而现在，人们可以在几小时内用单块GPU训练它。
-
而且这个数字一直在不断缩小。
-
是啊，但这也是完全两码事，对吧？
-
就像那只是摩尔定律之类的。不，不，是同一块GPU。是同样的硬件。
-
用同样的硬件，然后你改进预训练的技术。哦，有意思。是啊。
-
真正改进的是算法技术、数据技术、内核，诸如此类的东西。
-
你知道训练GPT-2要花多少钱吗？
-
我觉得是几百美元。是一百美元。我刚才说过了。哦，哇。
-
所以是同一块GPU。同样的GPU，同样的数据。而这纯粹是算法上的。
-
那这些是来自人类，还是来自……智能体？
-
很多都是自动研究的结果。
-
但那肯定是分母。
-
那不是分子。
-
你想看到的是，你能用GPT-5做到这一点，而我们并没有看到。
-
这些东西的成本正在急剧上升。
-
嗯，我觉得这个行业里守得最严的秘密之一恰恰就是这件事，就是你能从中榨出多少算力。
-
因为从某种意义上说，哪怕你改进的只是你的分母，你也能获得更快的训练，因为现在你能做更多的 rollout。对。是啊，当然。对吧？对，对。
-
而这意味着现在你可以更广泛地采样你刚才描述的那个东西，就像语言空间的流形。
-
然后你就能得到更好的轨迹，这意味着当你用它来训练时，你能得到更聪明的模型。
-
当然，改进分母是好事。对。
-
当然，改进分子也是好事。对。
-
我还没见过能同时改进分子和分母的情况，所以你们能看到一点苗头，这已经很了不起了。
-
我觉得这话挺有分量的，这很棒。
-
我们发现，很多声称做了RSI的论文，当我们在自己的内部基础设施上测试时，发现它们根本不管用。
-
很大程度上是因为那些想法很酷，是人类靠内省想出来的，说，哦，你知道，我觉得应该是这样。对。它们很复杂，听起来很酷，能让你发一篇好论文。
-
但等我们大规模测试的时候，你知道，在基准测试上、在真实的经济问题上测试，它们就扩展不了。而我们发现，真正能扩展的，是那个更简单的、能闭环的东西。我想说一件我们做的事，可能算是
-
比较独特的，就是我们总是从一个非常扎实的数学框架出发，这个框架基本上把整个空间的地图都画出来了。原因在于，这个空间太大了，如果你不这么做，没有这种非常讲原理的方法，你很快就会在复杂性里迷失。
-
另一个原因是，当你面对这么一个极其复杂的系统时，构建它的方式往往有两个极端。
-
你可以走一条路，基本上就是搭200个不同的系统，然后指望这个，你知道，那叫什么来着？
-
那个鲁布·戈德堡式的复杂机器能凑合着运转起来。
-
或者你走另一条路，基本上就是花时间琢磨这200个东西。
-
然后你也许会发现，你知道，它们其实只是12个抽象概念，能泛化到这200个东西上。
-
所以我们一直试图营造一种文化，就是让我们真正从第一性原理去思考。
-
让我们，你知道，看看数学，然后意识到为了实用我们做了哪些假设，因为这两件事你都得做。
-
然后我们再看什么管用。
-
当你这么做的时候，你就能看到，你知道，那些多篇论文或者多个想法，其实，你知道，都是同一个通用框架的子类。
-
如果你做得好，你就能扩展。
-
我觉得这就是我看到的一个缺失的东西，它很难做，需要一群非常不寻常的人才能真正把它做成。
-
我记得理查德·费曼说过，科学有两种，一种是集邮，另一种是物理学。
-
所以没有一个统一的数学框架，所有这些研究就都只是集邮而已。
-
就像我们正在读的这篇论文一样，很多都只是受某些人类行为启发产生的想法，然后他们试图模仿那种行为，说，哦你看，我们有RSI了。
-
但如果你不把它放进一个统一的系统里，你就不知道整个系统是不是真的在改进，还是你只是在局部应用一个变得更好的想法。
-
所以我们做的是，把所有你可能递归改进的组件都放进一个统一的框架里，从整体的视角来看，这样改进一个部分就不会对另一个部分产生负面影响，对吧？我明白了。我明白了。
-
比如说，有些人是只对harness做递归改进，还有些人是只对权重做。
-
但权重和harness不是孤立的组件。
-
它们会互相影响。
-
你可以把RSI想成在技术栈的很多不同层面上，对吧？
-
你可以想成提示词、harness、权重，然后一路可以到基本上芯片那一层，对吧？
-
而我们这里的目标是优化技术栈的所有层面，对吧？
-
我们从harness开始。
-
我们一直尽量做到非常节省资本，因为我们太在意分母了。
-
然后我们开始做权重，做权重更新。
-
我们发现这样收益更大，但你还是得做harness那些东西，对吧？
-
而且你可以继续往技术栈下面走。
-
我猜你很可能需要对系统里很多不同的部分做大量的协同优化，才能让它真正跑起来。
-
你能不能聊聊你们要攻克的问题领域，就为了证明这套东西是可行的？
-
我们非常努力地去挑AI领域里那些尽可能贴近AI本身的方向。
-
再说一次，我们尽量做到递归。
-
你想想看，其实没有那么多问题既超级贴近AI，又能在分子和分母上都给你带来改进。
-
其中一个就是推理问题。对。没错。
-
因为你在推理上能投入得越多，抱歉，你能从推理中获得的改进和效率提升越多，其他一切就越是能被解锁，对吧？
-
而且这不仅仅是技术上的原因，更重要的是，分子和分母同时被改进的可能性最大，对吧？
-
这有点让人脑子转不过来，对吧？
-
所以，就像给所有在听这期节目的人说的，这里其实有两个改进在同时发生，一个是模型让推理变得更快的能力，另一个是现在推理变快了，它就能更快地做到这一点，对吧？
-
再说一次，这并不一定意味着起飞。
-
它仍然可能，你知道，在某个点上趋于平缓，但光是想到这种复利式的影响就觉得很疯狂。对，对。我们是家创业公司。
-
我们现在是研究实验室，我们选择这个方向的原因之一就是，现在世界上每个人都想服务自己的模型。对。
-
而且每个人都想用最新的，比如说，开放权重模型，Kimi-K3或者随便什么，刚出来的。
-
而且他们希望能尽可能高效地服务它，对吧？
-
所以这现在是经济上极其重要的一个问题。
-
就为了讨论一下，如果我想让Kimi-K3的推理更快，我是会递归地用Kimi-K3本身，还是用一个单独的模型和系统来为Kimi-K3做这件事？
-
你是说改进Kimi-K3的服务栈？
-
在我们的，呃，我们的系统不只是用一个大语言模型。
-
你有很多不同的大语言模型在做很多不同的事情。
-
哦，所以你们是在，你们是在给所有这些做推理栈吗？
-
我的意思是，再说一次，我们挑哪个最有效，也因为它被用得最多。
-
但有意思的是，选哪个大语言模型来做哪件事，也不总是由我们决定的。我们让模型自己选。
-
说实话，今天，其实不是我们在决定优化什么。是我们的智能体。这挺有意思的。
-
因为它在递归地自我改进。
-
而我们想做的，是不把自己限制在仅仅一个组件上。
-
所以它自己决定要不要做。它自己决定要不要做。
-
对，我们尽量放手，让它自己去做自己的事。
-
你们有没有那种单一的、总控的提示词？
-
就是那种，"改进你自己"？
-
但就连那个总控提示词，它也一直在改进。
-
真的，它会去改进那个总控提示词。
-
而且我是说，这也不是一个单一的RSI系统，因为你可以把它想成，有一个东西负责做改进，但你还得有一个东西知道该改进什么。
-
而这两个都是动态的问题，而且它们紧密相连，对吧？
-
你觉得这东西最后会有多通用？
-
比如现在你们专注的是在某个特定领域里加速推理。
-
你觉得你们在这里想出来的这些方法能通用吗，还是说每个目标问题空间都会有一套不同的方法？
-
从数学上，我们把它定义成了一个能泛化到所有东西的单一系统。
-
我觉得是系统的那一部分。
-
而"所有东西"指的是任何你能把AI指向的问题领域。对。
-
但接下来会有物理上的限制，比如说，而其中一个很大的限制就是人的因素。
-
我觉得很多AI公司的思路是，让我们用AI来取代人类。
-
但我们发现，如果你有好的研究员和好的工程师，他们能带来的东西太多了，这些是很难被智能体取代的。
-
所以这就是为什么从一开始，我们就试着把我们整个实体公司看成一个多智能体系统，在这个系统里，人类也是一种智能体，和其他AI智能体共处在一起。我们至少能不能减少一些限制？
-
比如说，你能想象有这样一个系统吗，投入进去的能量，相对于带来的改进，会随着时间以某种方式减少？
-
这个我们不能透露太多，但我们在公司里试着做的一件非常重要的事，就是不光去搞分子，也就是我刚才说的那个，你的性能，还要去搞分母，也就是同样的物理资源、同样的钱，你能榨出多少东西来，
-
随你怎么叫吧。
-
但你觉得有没有可能，有一个系统，分子继续以同样的方式增长，而分母保持不变甚至减少？
-
这不只是可能，我觉得这正在发生。真的吗？是的。
-
所以用更少的能量就能得到更好的结果。对，对，随着时间推移。
-
你觉得存在这样一种情况吗，就是它会一直这样下去，不会趋于渐近？
-
因为如果是那样的话，那你实际上就起飞了。
-
我是说，那看起来就违背了信息论和很多物理定律。对，对。
-
我是说，我觉得到了某个点，你会碰到普朗克常数，你知道，普朗克长度、普朗克能量、普朗克时间，对吧？
-
所以它到某个点总会趋于渐近，但我觉得……哦，我明白了。
-
所以你觉得那个渐近线基本上就相当于整个宇宙的计算量？至少是这样，对。
-
我是说，你知道，一共有多少粒子？
-
10的80次方，我们知道，光速，你知道。
-
我们知道它是什么。
-
把这两个乘起来，你基本上就得到了计算量的上限。
-
所以，鉴于你每秒能做的计算量是固定的，我们就知道我们有一个极限。
-
我特别佩服你这种信念，就是这种模型自我改进的想法。但这不是信念。
-
不，你说对了，这太厉害了。
-
而且，这也取决于你用什么指标来看这个进展，对吧？
-
所以如果你用，我不知道，基准测试的准确率，它的上限就是100%。
-
你永远不会看到指数级的提升，因为最终会卡在100%这个瓶颈上。
-
所以很长一段时间以来，我们一直有个问题，就是我们怎么知道某件事是不是真的成了，对吧？
-
如果我们没有正确的指标的话。
-
这不是一种相信这件事正在发生的信念。
-
我觉得我们已经开始看到这件事发生的一些苗头了。
-
但这是个很重大的说法，我觉得这是我第一次听你这么讲。
-
等等，这是那种，是一直以来的持续结果，还是说你最近才开始看到这些苗头？
-
不是，过去这几个月我们一直看到这些结果在不断地增长、增长、再增长。
-
你怎么对这些结果有信心呢，毕竟你知道，它现在还没成功，你也不知道结果会怎样？不，这不是信念。
-
这是实证测量。
-
但作为一家公司，还有一件很有意思的事在发生，就是因为我们一直太严谨了，我们在超级确定它是对的之前，都不会发布东西，对吧？
-
然后每隔几个月，你知道，就会有某个跟RSI相关的公告出来。
-
我们一看，就觉得，我们早该把我们的结果发出来了。
-
然后我们再一看，试着去复现它，结果发现，哦，那是噪声，你知道，那是挑数据挑出来的。
-
所以在这片AI的海洋里，我不知道你想怎么称呼它，就是每个人都在搞AI RSI这些东西，要分辨什么是真的什么是假的，真的非常非常难。
-
技术上的答案是，你必须非常非常擅长测量。
-
比如说，我们有个工程师，我们给他起了个名字叫"方差总督"。
-
这是真事。
-
他的工作就是去摧毁我们得到的结果，找出哪里有问题。
-
我们甚至还有一些小Slack表情包。
-
有一个是当他发现有坏的方差之类的问题时，眼睛里会射出红色激光那种。
-
我们发现的一件事是，当你面对一个新的基准测试，或者一个你想应用这套方法的新经济价值问题时，到目前为止我们还没找到能替代我们所说的"高质量时间"的东西。
-
就是真的去跑几百个实验，盯着看，培养直觉，试着搞清楚什么是错的、什么不是错的、什么只是方差、什么不是，
-
什么是那种奇怪的、实际上表明存在某种奖励黑客的现象——你知道，往下两层，造智能体的智能体造出的那个智能体，对，确实黑了什么东西，然后你就得到了这种奇怪的结果，对吧？
-
这不容易。所以当我处理过非线性控制系统的时候，有一堆网络问题。
-
有一堆退化行为你得应对，不是那种简单的收敛和发散，还有振荡之类的，而且这是个非常多维的问题，所以你得处理所有这些情况吗，比如潜在的振荡？——绝对要。
-
意思就是它会变好，然后变坏，然后又变好，就这样。
-
然后在这之上还有噪声。对。
-
大语言模型本质上是超级随机的。
-
所以我们发现，特定智能体在特定基准测试上，存在一些有时无法预测的噪声水平，而且有些极其诡异。
-
你甚至会有一些奇怪的噪声来自这块GPU和那块GPU，它们是B200，但在物理层面行为略有不同，你能看到其中一些在高层次上被复现出来。
-
所以这就是为什么它必须是一个经验性的东西。
-
所以从这一点你已经能看出，智能不是一个单一的标量。
-
它更像是一个多维向量，会有一些领域和方向，RSI会给你带来起飞，也会有一些维度你可能停滞不前，或者提升相对缓慢。
-
而我认为决定性的因素是，这里面最慢的组件是什么？
-
所以你是做优化的人。
-
你知道有个MDOS定律，就是说，你通过优化一个组件能获得的加速是——你直接把它降到零，对。其他东西就占主导了。
-
没错，所以数字部分，我们可以优化和加速。
-
你可以让它快一千倍甚至一百万倍。
-
但如果它只占你总时间的20%，那你只能获得20%的加速，对吧？
-
所以对于那些仍然需要移动原子、与物理世界交互的领域，那真的很慢，你仍然会被那个瓶颈卡住。
-
比如说你每做一个评估，比如药物研发，你还是得做湿实验室实验，然后还要做临床试验，那得花好几个月，所以每一个新想法都得经过一个月甚至好几个月的评估。
-
所以那些领域可能不会像编程或数学那样被加速得那么快，因为编程和数学的评估非常快、非常便宜。
-
我还没看到有人给这个定出一个平衡。
-
就是说，为了把某个东西改进X倍、解决某个问题，我需要多少净新增的能量来做这件事，对吧？
-
如果你有了这个，你其实就能预测，比如说，我要解决一个药物研发问题，需要多大的仓库，或者需要多少台不同的机器人。
-
那你觉得我们现在离真正有边界更近了吗？
-
因为我觉得这对我们所有人来说都是一个太关键的问题了。
-
我们公司内部有个笑话，说RSI的秘诀就在威斯康星州某家园艺水管公司的某个地方。
-
这个笑话的意思是，如果爱因斯坦没有发现相对论，他就不会有那些告诉你速度和时间的收缩是怎么运作的定律。
-
如果某个倒霉的工程师得去设计GPS系统，他们就得找出一个时间修正。
-
他们很可能会说，不对，显然不是时空结构在收缩。
-
我不知道为什么，但这就是我推导出来的公式，我就是这么算出来的。
-
某个绝对的，你知道，就像某个滑稽角色。
-
对，没错，对吧？
-
然后后来的人就会说，我靠，这不就是时空在收缩吗，对吧？
-
我们有个理论，就是现在大家想RSI的方式是，来把所有那些超级难的、时髦的问题都解决掉。
-
但我们觉得，世界的复杂性是这样的，真正的挑战很可能存在于那些还没被应用到的领域里，对吧？
-
所以这就是那个笑话，说威斯康星州某家园艺水管公司的某个地方有个工作流程，如果我们把它解决了，就能，你知道，砰。我喜欢这个。
-
我想快速总结一下。
-
所以你们是在攻克RSI。
-
而在你们这个情况里，这不是自催化效应。
-
这是真正的RSI，是系统改进整个系统。
-
而对你们来说，它是一个实际的系统，包括harness和权重。
-
你想想这个问题，就是有一个分子和一个分母。
-
分子是系统变得有多好，分母是投入了多少能量。
-
你们相信，用这种方法，你们看到了太阳的微光，或者说两者同时改善。是这样吗？对。
-
我们什么时候能听到你们更多的消息？很快。太棒了。非常感谢你们两位的参与。谢谢。