Richard Socher 谈递归自我改进、AI 科学家与科学发现
点播放，字幕跟着声音走
Subtitles follow the audio
逐句文字稿
点任意一句，从那里开始听
正在加载字幕…
-
凡是能模拟的东西，AI 都能解决。
-
但不知不觉间，你就进入了这个递归自我改进的循环，我们相信这会带来一次巨大的突破。
-
天哪，我们离任何智能领域的真正上限都还差得远，AI 还能走的路还有太多太多。大家好，我是 Matt Turck。欢迎回到 Matt Podcast。
-
今天的嘉宾是 Richard Socher，他是 AI 领域被引用最多的研究者之一，如今正处在“递归自我改进”这个词的中心——现在 AI 圈子里所有人突然都在谈论它，也就是让 AI 造出更好的 AI。
-
Richard 刚为 Recursive 融资 6.5 亿美元，这家公司就是专门做这件事的。
-
而他的新书《The Eureka Machine》则是一份引人入胜的蓝图，讲的是 AI 和递归自我改进将如何彻底改变科学。
-
希望大家喜欢我和一向出色的 Richard Socher 的这场对话。
-
嘿 Richard，欢迎回来。
-
很高兴回来，谢谢你邀请我。
-
好，那我们有好多东西要聊。
-
我们要聊递归智能。
-
我们要聊 Recursive 这家公司，但首先，也许最重要的是，我们要聊你的新书，书名叫《The Eureka Machine》。我读得非常有兴趣，也强烈推荐大家去看，我记得大概几周后就要出版了。
-
这本书开篇就提出一个我觉得很多人会觉得意外甚至震惊的前提，就是科学进步已经放缓了这个说法。考虑到全世界有那么多研究者，投入这个领域的资金又那么多，这听起来很反直觉。那为什么会这样呢？
-
是啊，这确实是个有点出人意料的事实，你也许会说显然不是这样。
-
我们在很多不同的事情上都在取得一点点进展，但你想想，我们在抗生素上取得了多大的进展？
-
比如细菌感染，过去几乎等于判死刑，像瘟疫一样，现在却几乎不算什么大问题了。
-
我们现在几乎对所有不同的细菌都有抗生素，我们真的把这个问题解决了。
-
而很明显，我们并没有像解决细菌感染那样解决病毒或癌症。
-
你再想想那些奠基性的新东西，比如 E=mc² 和广义相对论，很明显，在物理学上，涉及这类奠基性理论时，我们也没有取得多少进展——而这些理论后来直接催生了核能、聚变和裂变，以及其他
-
在概念上本来可以做的研究。
-
所以很多领域都经历了这样一个过程：从我们理解了一些基础性的东西，到现在我们能做大量的工程工作，但它们也分裂成了成千上万个不同的子领域。
-
如今几乎不可能再出现那种能涉猎所有这些不同领域的通才型天才了，因为每个领域都需要年复一年地钻研才能真正深入。
-
所以我们发现，随着子领域和细分方向越来越多，每个子领域里其实都很难有足够多的人。
-
Stanislav Lem 和其他人都谈过这一点，并预测这会是我们发展放缓的一个重要原因。
-
是啊，你有个很好的说法。
-
你谈到我们是如何从一片知识体系演变成一个知识的迷宫。
-
三万四千种期刊，简直就像挂着“禁止入内”的牌子。没错。
-
是啊，光是搞懂那些行话都太难了。
-
我自己也经历过这个过程，最早是我开始学语言学和计算机科学的时候。
-
但现在，我过去几年算是业余在学、也已经学了一段时间生物学，就感觉，天哪，每次你跟生物学家聊天，聊了大概十句话，
-
他们就会抛出一大堆你不熟悉的缩写和术语，大多数人过一会儿就神游天外了。
-
所以，要跟一个没进过这些领域的人描述和解释非常复杂的深层领域，真的很难。
-
你还提到这里面有某种层面，有点像社会性、人性层面的因素，就是在学术界，你并不一定会被鼓励去冒险，这也跟你的亲身经历有关。对，百分之百。
-
人们常常是这样，职业发展的规律是你要有点新意，但如果你太新了，如果你太超前了，那你的论文就会被拒。
-
这在我早期，比如2010年做自然语言处理的神经网络时，确实经常发生，我最初那几篇论文大部分都被NLP会议拒了，反而在一些小的细分方向和小组里被接受了。
-
我还记得当年NIPS、也就是现在的NeurIPS，第一届深度学习研讨会，那时候基本上就三四十个人，全是现在超级有名的人物，但当时就像我们几个“叛徒”，觉得这显然才是正确的做法。
-
而且我们来自不同的方向，比如特征工程看起来就不是正确的路子。
-
特征学习是我们起步的一个重要部分。
-
有些人是从神经科学获得灵感的。
-
所以又是那种不同领域的结合，处在那个交叉点上，很有意思，但一开始也往往很难发表。好，太好了。
-
所以回过头来看，本质上就是那个想法：到处都是知识，而且太多了。
-
甚至这个领域里的人，也不被鼓励走得太远、去想一些疯狂的点子。
-
而挑战就在于把这一切重新整合起来。
-
所以那些所谓的“隐修士”，他们只有一小部分知识，因此能够产生跨学科的洞见，但这现在已经不可能了。完全正确。
-
再拿生物学举个例子，你现在不再研究整个生物学了。
-
你要么研究细胞层面的生物学，要么研究组织那种医学层面的，要么研究生物化学层面的，要么研究蛋白质层面的。
-
如果你问一个生物学博士另一个层面的深层问题，他们往往也不知道。好，太好了。
-
所以整本书的前提是，AI即将开启，或者说正在开启一个全新的科学进步范式。
-
那就给我们讲讲这个高层次的思路吧。
-
高层次的思路是，科学在理解越来越小的碎片方面已经变得非常擅长，但要把它们重新提升上来、整合到一起，我们实际上必须借助AI。
-
AI有点像微积分对物理学所做的那样，AI将对生物学做同样的事，也就是说，它会帮我们把大量非常复杂的碎片重新编织在一起，这些碎片构建出复杂的系统，而这些系统又具有某些特性。
-
具体来说，比如你的微生物组或者大脑，它们有太多不同的组成部分。
-
我们其实理解很多单个的神经元，比如这个神经元在这些突触上，它是这样放电的，等等。
-
还有其中的化学过程，而人们在很多神经模型里仍然忽略这一点，等等。
-
但当我们把越来越多的部分拼在一起时，我们就不再理解为什么整体现在能产生一个想法，或者能做某些事情。
-
而我认为AI就是那种完美的语言，是思考这些复杂系统的一种完美方式，它也有能力展现出一些我们几乎难以理解的模式。
-
但当然，理解和研究一个神经网络，总是比研究原始的生物系统要容易得多。
-
所以我认为，当你把这一切放在一起——我后面会讲《尤里卡机器》的细节，它的四根支柱等等——你去看数据，去看不同的领域，从物理学、化学、生物学、神经科学、医学、经济学、天体物理学等等，
-
你去看所有这些层面，你会看到它们当中都有那么多微小的进步，这些能帮你推断出AI将开启这个新时代。
-
现在仍然有不少人把生成式AI看作是一个下一个词预测器，一个聊天机器人，一个处理语言的东西。
-
这里的说法就完全不同了。
-
它是在预测蛋白质结构。
-
为什么一个能当世界上最好的聊天机器人的技术，也擅长科学发现呢？
-
我觉得这挺反直觉的，很高兴你问这个，因为如果你问，我们会不会有一个模型能预测像衰老、或者各种癌症这样复杂的东西，他们会说不会，
-
这得几十年以后，而且类似地，十到二十年前，自然语言处理的研究者会告诉你，不可能造出一个神经网络，能回答任何种类的问题。
-
其实你可以在网上找到，在OpenReview上，我那篇描述提示工程的论文，就是一个神经网络，你可以用任何问题去提示它，叫DecaNLP，那篇论文。
-
那篇论文被几乎所有审稿人和领域主席等等猛烈拒稿，说它完全没用、太杂乱了、毫无道理，甚至人类都没有一个系统能回答所有这些不同种类的问题。
-
所以这件事现在太显而易见了，像你这样的人甚至都没法去发明提示工程，因为它太明显了。
-
可当时对这个领域来说，这是多么不显而易见的一件事啊。
-
所以我们在不同领域里一次又一次地看到这种情况。
-
但现在我觉得，一旦你证明了我们其实不必真正理解并拥有针对翻译或问答每一个方面的完美规则，我们就会在比如蛋白质的语言里看到类似的事情，而且已经看到了。
-
所以你就是有一串串氨基酸序列。
-
没有人在进化中被训练过、学会说蛋白质的语言。
-
但就像自然语言、英语等等一样，AI其实并不在乎它是英语还是一串氨基酸。
-
所以你现在可以生成全新种类的蛋白质，就像你可以生成训练数据里从未以那种组合出现过的句子一样。
-
而且我觉得，当你现在把类似的想法应用到化学，甚至更低的层面比如分子上，
-
你会看到，这个想法就是：你有非常复杂的系统，借助大量数据，就能做出非常有用的预测，越来越好地探索整个空间，比任何人类手工能做到的都要好。
-
这就帮你得出，好吧，这要重要得多，这个下一个词预测是个如此优美又简单的想法，它融入了几乎任何领域的知识。
-
因为有个世界模型的概念，我意识到这个词有个精确含义，我在这里可能用得不够精确，但有个世界模型的概念，它内建于系统之中，让系统能够预测下一个词。
-
我觉得在书里，你有一个很妙的例子，讲从德累斯顿往南开，也许展开讲讲。
-
对，那下一个词预测，它为什么这么强大呢？
-
想象一下，你可以试着做一个模型，让它理解世界地理、每座城市在哪儿，我们现在在纽约，那也许我举个纽约的例子。往南开到新泽西。
-
比如说，对，去普林斯顿或者什么地方，或者往北去波士顿。
-
所以你就，基本上，呃，仅仅通过试着预测下一个词，你就会碰到一些句子，某人在某处写过，哦，我当时在纽约，我正往北开去，对吧。
-
那现在可能是耶鲁，但更可能是波士顿，对吧。
-
而且越有可能，大概城市就越大。
-
所以你现在就通过试着预测那一句话里的下一个词，把知识融进去了——我在纽约往北开去，下一个词是波士顿。
-
于是你就预测出了关于地理和城市位置的东西。
-
所以凭着这样做上几十亿几十亿次，事实上现在都上万亿次了，基本上就是尽可能多的数据，你实际上就把关于地理的知识融进去了。
-
而我们看到的，是非常相似的方式。
-
很多人熟悉蛋白质折叠。
-
蛋白质折叠的时候，有些蛋白质在三维空间里其实比它们在这些折叠蛋白质的序列中彼此更接近，结果发现你可以分析那个被训练来做下一个词预测的神经网络，你会看到，确实那些折叠后在物理空间里更接近的
-
那个神经网络仅仅通过做下一个词预测，也就有了那些相关性，所以我们基本上知道，在非常大的特定领域上训练的大型神经网络，仅仅通过试着预测序列里所谓的词，就会融入那个领域的知识，而词对于
-
非技术的人来说，意思可以是英语单词，可以是英语单词的一部分，就像一串字符凑成一个词，但一个词也可以是一个蛋白质，也可以是一小块像素，在一张图像里，或者
-
在一段视频里，或者在一段声音里，所以一切都可以被词元化，基本上就是离散化成一组词汇词元，然后就能被预测了。
-
顺便说一句，如果我可以的话，你知道你是在跟一位极其有成就的AI研究者说话，当你的东海岸地理感觉是纽约南边是普林斯顿、纽约西北边是耶鲁的时候。
-
这个类比有没有哪里会站不住脚，如果你有这个隐含的想法，说跨越物理、生物等等，这种语言，它真的能作为一个类比成立吗？
-
所以显然有些地方感觉怪怪的，感觉过于简化了，你完全可以说所有模型都是错的，但有些是有用的，这也是真的。
-
比如我们知道蛋白质不只是序列，它们有三维结构，但令人惊讶的是这个类比能被推得这么远。
-
比如甚至在化学里，你知道，分子里有各种环，但不知怎么，只要有某种标准方式把分子描述成一个序列、一个字符串，并用它，对化学的很多不同方面也非常有帮助。
-
所以是的，这确实过于简化了。
-
是的，所有模型都是错的，但这套特定的模型对各个不同的科学领域都相当有用。
-
然后当然，你可以去争论，但这些模型产生的想法到底能有多真正新颖？
-
而事实是，就像几乎所有的科学一样，我们是站在巨人的肩膀上，仅仅去探索重组、巧妙组合那些已经存在的各种想法，就能带来惊人的进步。
-
我们已经把很多基础性的东西在小块、小范围的子集里搞清楚了，但把它们重新编织到一起会带来惊人的进步，尤其是在生物学领域。
-
然后你还可以探索这些模型能多好地创造出新颖的想法。
-
而且我们也有真实的例子，研究人员让一个AI，ID8，然后几个月后有人发表了一篇论文，基本上就是同样的想法。
-
我们在Recursive的联合创始人之一Jeff Kloon发过推文，讲过好几件这样的事，他让新颖的进化想法或者进化算法产生了一些想法，后来也被其他人发表了。
-
所以很明显，新颖性的门槛现在已经在好几个案例里被达到了。
-
它会不会推导出一种全新的看待宇宙的方式，也许能证伪或证明现有的众多弦理论之类的？
-
还有一些研究需要做，但我要说，用现有的技术，给它更多数据和更多算力，我们已经能治愈很多疾病，我们已经能治愈衰老的很多方面，我们已经能建造更好的聚变反应堆和系统，
-
我们已经能创造新材料，我们已经能帮助解决经济问题，比如在你的经济体系里，如果你有某个想要达成的目标或奖励，该对某些人群征多少税或给多少补贴。
-
所有这些都已经在我们掌握之中了。
-
我本来打算晚点再聊这个想法，但既然我们聊到了，而且它是个如此迷人的概念，又是整个讨论的核心，那我们就深入聊聊。
-
所以确实，就像我们谈到的递归自我改进，RSI，一个大问题一直是创造力，以及跳出框框思考的能力，你也听到人们谈论第37手，那是围棋里没人
-
预料到的一手，正是它让DeepMind的模型击败了李世石。
-
这能发生或不能发生的机制是什么？
-
我们是理解它，还是恰恰因为我们不理解它，才觉得AI不可能像它本可以的那样有创造力？
-
我觉得我们基本上可以预测AI在哪些地方肯定会有超人能力。
-
而那些都是我们能拥有模拟或者验证工具的场景和领域。
-
任何我们能模拟的领域，基本上都会变成这样一个世界：AI可以在那个模拟里几乎无限次地做实验。
-
而且假设这个模拟每次运行不需要好几年才能得到有用的结果，那你就能知道，这个领域里的问题是可以被解决的。
-
所以所有的游戏，我从来都不太惊讶AI最终、而且相当快地会在游戏上比我们更强，尤其是那些完全可见的游戏。
-
它们没有隐藏变量，不像你不知道别人手里是什么牌。
-
比如国际象棋和围棋，你什么都看得见，全都在棋盘上。
-
当然，棋盘上的组合太多了，没法靠暴力穷举去赢下这些游戏。
-
但如果你有足够的训练数据，AI也能通过下很多很多盘棋，学到背后的那些直觉。
-
而在这个例子里尤其简单，因为AI可以自己跟自己下。
-
自己跟自己下这个想法，也是开放性和递归自我改进的重要部分，我们已经用上了，我也可以聊聊比如大模型的彩虹组队以及安全研究，但回到模拟这个话题，任何你能模拟的东西，我都能
-
解决。
-
那还有什么有意思的东西能模拟、又能验证、又有用呢？数学。
-
数学在两年内会有巨大的变化，Terence Tao和最著名、最前沿的那些数学家已经完全清楚这一点了，
-
整个领域都会变，就像AI领域已经变了一样，很多过去有用的技能，比如你手动做特征工程、手动做架构设计、手动做这些事，现在都没那么有用了，这对很多数学领域来说也会是一样的。
-
所以我觉得，如果你在意的是尽可能多地解决问题、尽可能多地证明数学定理，那这是个很好的局面。
-
但如果你只是出于智识上的追求、为了乐趣而热爱数学，那这就不是什么好事了。
-
而且我们实际上会看到这件事以很多不同的方式展现出来。
-
国际象棋现在反而更流行了，尽管它已经被AI碾压，如果你愿意这么说的话。
-
我觉得未来大多数运动，无论是智力还是体力上的，可能都会受益。
-
我不知道你有没有看到最近中国奥运会上那个跑得特别搞笑的机器人。
-
我的直觉是，人类会试着看能不能模仿那种古怪的跑法，然后也跑得更快。
-
因为在模拟和机器人模拟中，AI尝试了各种不同的跑步方式，找到了这种奇怪的新跑法，而人类尽管跑了一辈子，却还没想到过。
-
所以现在最好的棋手和最好的进球手都更强了，因为他们能跟几乎完美的AI对抗。
-
我觉得未来对运动员来说也会是这样。
-
所以我认为这会推动这个领域向前发展。
-
而我们能模拟、能验证、能为之构建验证器的最强大的东西，就是编程。
-
软件正在吞噬世界，这句名言我记得是Marc Andreessen说的。
-
所以现在AI正在吞噬软件。
-
所以现在基本上，举个例子，一个简单的例子，你可以给一张网站的照片。
-
然后你说，把它编程成看起来跟这个一模一样。
-
然后你可以造出无穷多个这样的例子，再让一个能力很强的AI来给网站做前端。
-
而事实是，你可以造出各种各样的验证器。
-
所以整个编程都会改变，这会对整个数字经济，也就是知识经济等等，产生重大影响。
-
那么问题就是，它会在哪里停下来？
-
嗯，现在哪些东西是很难模拟的？
-
这就是为什么看自然科学变得有意思了，因为我们现在还无法完美模拟一个复杂的细胞，更不用说组织、器官和完整的人了。
-
而且我们确实需要以各种机器人形式收集多得多的数据。
-
而这些基本上就是我在《The Eureka Machine》里讲到的四大支柱。
-
你从人类知识和语言模型开始，然后第二根支柱是我们可以采集的所有测量数据，我们已经有的越来越多，我们应该把它们纳入模型。
-
第三样是模拟，第四样，第四根支柱，本质上是机器人流程自动化，用来收集更多数据，并验证这些发明是否真的说得通，在这四样之上，你还有一个智能体集群和一个科学家社区。
-
所以我们待会儿肯定会详细展开这部分。
-
回到刚才关于直觉和创造力的问题，这是尚未探索的前沿之一，然后跟你刚才说的相关，还有一个关于泛化的大问题。
-
先从编程和数学说起，这些领域似乎正越来越多地被AI攻克。
-
你似乎在说，接下来可能就是生命科学了。
-
你觉得我们能让AI真正达到通用，能走多远？
-
要达到那一步，过程是什么样的？
-
是像蛮力强化学习那样，一个领域一个领域地攻，然后再下一个领域？
-
还是有某种更全面的泛化努力可以产生？
-
所以在Recursive，我们相当确定，必须从“AI做AI”开始，然后让它真正、
-
真正擅长做研究来创造更好的AI，让它在知识和自身能力上相当于拥有五万个博士，只有到那时才去攻克物理自然科学，比如物理、化学和生物学，尤其是生物学，我觉得会最有趣。
-
我确实相信，在未来两三年里，在我们专注于递归自我改进的同时，我们也会有越来越多的数据采集。
-
Tahoe Therapeutics是个很好的例子。Peril Bio是另一个。
-
我想我在书里都提到了它们，它们基本上帮助创造了多得多的训练数据。
-
然后，比如在生物学的情况下，你可以做这些扰动研究，比如你取一个细胞，试着敲除一个基因，看看当我敲除这一个基因或加入这一个分子时会发生什么，我看看结果如何。
-
所以如果你做很多很多扰动研究，最终也许AI会学到背后的底层模式，就像它学到了底层模式一样，比如，哦，我在纽约，我往北开车，然后预测波士顿，可能就像，哦，
-
我把这个分子加到这种细胞上，然后我得到输出，你知道，然后它就像，它最终可以开始泛化，但我们在生物学上还远远没有足够的训练数据。
-
所以我们需要类器官。
-
我们需要最终让所有这些扰动研究汇聚起来，这样我们才能尝试构建一个虚拟细胞。
-
然后在这个虚拟细胞里，AI就可以去做很多次实验。
-
书里还有一个反直觉的观点，我觉得很有意思，就是当涉及基于AI的科学时，幻觉可能是一种特性而不是缺陷。你能解释一下吗？
-
是的，所以很多人长期以来都在跟模型的幻觉作斗争，尤其是在这些模型的早期版本里。
-
这本书，你知道，我大概三年前开始思考和写下最初的一些想法，后来不得不把很多章节从“应该有人去做”改成“已经有人做了”，然后我就去跟他们聊，聊他们的创业公司什么的。
-
但我确实认为，当你希望AI去探索新型蛋白质的时候，幻觉对AI来说也可以非常有帮助。
-
是的，任何AI都能记住东西。
-
任何计算机都能轻松记住东西。
-
但真正有意思的地方在于，你能有多好地产生幻觉？
-
你的预测有多合理，或者说以某种有趣的方式偏离分布有多远？
-
我们也知道，就像对人一样，你给它们某种分子，它们的视觉皮层就会进入一个完全不同的世界。
-
你也可以调高温度，这是我们用的一个术语，一个技术术语，就是让AI、让大语言模型生成越来越不同于它以前见过的东西的token。
-
所以我认为，在某些情况下，幻觉是一种特性，而不是缺陷。
-
当然，当你在网上向搜索引擎或语言模型问一个事实性问题时，你希望它是正确的。
-
而当我们知道你在问的是这类问题时，就很容易给它们预先设定好，说，好吧，这里是搜索结果。
-
U.com就是这么做的，基本上就是把一个为智能体打造的真实搜索引擎里的事实拿过来，塞进提示词里，然后AI就会去总结这些内容。
-
所以我认为，一开始人们觉得，哦，我们需要某种神经符号推理之类的，才能做到这些。
-
我们其实只需要更多“现在别产生幻觉”的例子，比如从搜索引擎拿真实事实，然后基本上就是总结它们。
-
然后那些幻觉问题在很大程度上就解决了。
-
而如果你想给妻子写一首诗，你不希望它听起来像外面已有的那些诗，你想创作一首新的，这你也能做到。
-
书里有个很有意思的地方，你提到其实很多科学发现都是科学家在某种半幻觉状态下做出的，通过疾病或其他方式。没错。
-
是的，我是说，比如海森堡和其他一些物理学家，还有各种各样关于苦艾酒的有趣故事，有些情况下也确实是真实的精神状态，最终相当不健康，还有精神病之类的，在某些情况下推动了领域的发展。
-
好，你刚才提到了一些，那我们拿生命科学里的一些例子来展开一下那里的思路。
-
那从医学开始吧，你描述的那个更深的转变是从阅读生物学到书写生物学，而你自己的团队就做到了这一点，是最早做到的团队之一。
-
那你能不能跟我们讲讲你们做了什么，以及这对科学的发展方向意味着什么？
-
好，我觉得我最早学心理学是在高中的时候。
-
说实话，高中那会儿我一点都不喜欢，因为就是死记硬背那些过程，还有各种各样的组成部分。
-
你把它写出来，拿个A，然后大概六个月后，那个过程基本就忘光了。
-
所以那对我来说没那么有意思。
-
但过去几年变化的是，生物学正在变成一门可编程的科学。
-
它正在变成一门工程科学。
-
而且我觉得，在很多科学的转变过程中，往往都是这样。
-
一旦你搞懂了大部分基础部件，接下来你就想学会怎么用新颖的方式把它们组合起来，让它们对你有用。
-
当一个领域转变成工程科学的时候，就会有那种唾手可得的成果。
-
我觉得生物学现在正处在那个状态，我们知道，好，这个蛋白质干这个，但如果我们稍微改一下这个蛋白质，也许它就能干别的事。
-
你可以打包，有时候你可以把你知道的不同东西连接起来。
-
比如一个部件附着到细胞上。
-
但然后你可以有不同的载荷，比如连到它上面的连接件。
-
所以一旦它附着到细胞上，你其实就可以往细胞里注入东西。
-
现在你就可以重新组合这些分子了。
-
所以我觉得那个工程化的方面，真的非常令人兴奋。
-
对我们来说，最早的顿悟时刻之一是在2018年，当时我们训练了最大的蛋白质语言模型，叫Progen。
-
Ali Madani是那篇论文的第一作者。
-
那还是我担任Salesforce首席科学家的时候。
-
他后来创办了Profluent。
-
现在他的公司Profluent已经和礼来签下了数十亿美元的合同，因为他们创造出了新型蛋白质，比如说，
-
在基因编辑上甚至比CRISPR-Cas9还要好，而且更精准、更有针对性，能在活人体内改变特定的基因，并由此开发出新型疗法。
-
蛋白质是生命、疾病和健康所有这些基本构成中如此重要的一环，让它们变得可编程，显然会解锁非常非常多令人兴奋的应用场景。
-
我想你已经开始在最近那个取得很大进展的试验里看到了，他们基本上为试验中的每一位不同患者都造出了不同的药。
-
这对FDA来说也是头一回。以后还会有更多这样的事。
-
说起来挺遗憾的，在美国，当然在欧洲更是如此，开展临床试验已经变得非常困难。
-
所以现在很多人把临床试验转移到中国或者澳大利亚去做。
-
有意思的是，在中国更便宜、更快，但你也得稍微担心一下你的知识产权会不会被吸进虚空里、就这么没了。
-
而澳大利亚有个聪明的做法，他们把临床试验去中心化了，每家医院都能自己开展临床试验。
-
于是突然间就有了竞争，而不是由一个集中的机构来决定开展哪些临床试验、怎么排序之类的。
-
所以，反正，澳大利亚人不够多，要是美国也能搞起这样的体系就好了。
-
不过话说回来，临床试验会随着时间推移越来越高效。
-
我们会收集更多数据，然后AI就能把其中越来越多的环节自动化。
-
你想想药物发现和创造的整个周期，从最初的直觉到最终上市，大概要10到15年，我们这里说的加速发现，
-
现实中到底能砍掉这个过程的多少？
-
这是个好问题，也涉及到有些人所说的“硬起飞”，有些人认为一旦我们有了递归自我改进，再加上AI的普遍发展，就会出现这种真正的硬起飞，然后一切都会飞快地发生。而尽管我对AI如此看好、如此兴奋，我并不相信这种疯狂的硬
-
起飞。
-
我认为没错，事情会加速，但有些事就是需要时间，因为物理规律和现实世界的种种限制，比如长期试验，你想知道人们在停药三年后会不会出现某些问题之类的。
-
所以会有一些延迟，但最大的区别在于整个生物医药市场，这也是我们在AIX Ventures 2 somewhat contrarian的看法，很多人觉得生物医药根本就是个糟糕的投资领域，因为过去很多制药公司花了八年、十年，终于拿到，
-
你知道，他们不得不上市，因为后期阶段的生物医药投资者不够多。
-
所以他们带着一款药，或者可能两款药进入后期试验，比如三期试验，然后就上市了，结果三期试验失败了。
-
然后整个公司就完了。
-
而现在我们看到的不同之处在于，现在有些公司不再是花八年时间才拿出一款分子药物进入后期试验，而是在六到十八个月内就已经有多款不同的药物进入后期二期试验了。
-
等到它们上市的时候，会带着八款以上不同的药物，而且这些药物成功的可能性也大得多，因为我们有了更好的预测模型。
-
所以很明显，我们正处在一个AI变得相当有争议的时刻，不管是就业问题还是数据中心问题。
-
这个行业为了证明AI是件好事，最常挂在嘴边的一句话就是：AI会治愈癌症。
-
你怎么看这个说法的现实性，要达到那一步需要什么？
-
这里面可以展开的很多。
-
也许从很高的层面来说，我觉得，如果你关心一个行业或一家公司的产出，那你会喜欢AI。
-
如果你是按时薪拿钱的，那你大概会讨厌AI。
-
所以AI，在这个未来的积极版本里，是推动更多创业思维的一股巨大力量。
-
如果你是创业者，一般来说你会挺喜欢AI的，因为它让你的工作更高效，你能做成更多事。
-
你的待办清单是无穷无尽的。
-
如果你是创业公司创始人，或者只是在经营一家公司，让AI帮你做其中很多事，就意味着你能做更多。
-
但如果你基本上被告知你是在训练自己的替代者，而且你所有的数据都在被按小时收集，那你知道总有一天那些小时会结束，然后AI就会去做你刚教会它怎么做的那件事。
-
所以可以理解，如果人们抱着这种非常非创业者的心态，只是按小时拿钱，又不拥有创造那份知识产权中的任何股权，那他们不高兴是可以理解的。
-
然后你可以再深入一层，想想这对就业的影响是什么。
-
我思考这个问题很久之后的看法是，这在很大程度上取决于产品价格下降时需求的弹性。
-
具体来说，比如插画师，插画师讨厌AI。
-
世界需要一定数量的插画。
-
因为有了AI，你没法再为一张插画收200美元了。
-
所以现在随便一篇小博客文章都配上插画了。
-
如果你的目标只是想让世界上出现更多针对具体文本的插画，那你会喜欢AI。
-
如果你以前一张插画能挣200美元，现在只值两分钱，那你可能就讨厌它了，对吧？
-
问题在于，价格降了一千倍的时候，插画的需求并没有涨一千倍，因为世界上根本不需要那么多插画。而在编程领域，情况就完全不同了。
-
实际上，随着编程越来越便宜，就出现了现在大家都在谈论的那个著名的杰文斯悖论。我觉得我是最早提到它的人之一。
-
至少有一阵子我没在网上看到有人提。
-
这算是历史上一个挺有意思的事实。
-
东西越来越便宜，但我们实际上用得越来越多。
-
在编程领域，这肯定也是成立的。
-
所以我们现在其实看到对程序员的需求更大了，因为他们用上AI之后效率高太多了。
-
最终每个人都可能在手机上装几十个只属于自己、经过某种修改、非常特别的app。
-
还有很多别的想法人们没去探索，因为当时觉得市场可能不够大。
-
但现在你能很快做出一个app，那为什么不做呢？
-
所以我觉得这是就业的另一个方面。
-
那再说回癌症。
-
是的，我确实相信AI会在治愈多种癌症上发挥重要作用。
-
我们现在已经看到一些试验，用AI来配制特定的药物组合、生成特定的RNA序列等等，针对不同类型的癌症。而且每种癌症往往也不是单一同质的东西，里面还有不同的亚型等等。
-
你需要针对每个人、针对你可能患上的各种不同癌症的不同形态来定制治疗方案，而所有这些用AI来做要可行得多，而且我们已经在看到它了。
-
癌症恰恰就是极其复杂、归根结底是一个系统性问题，而AI正好有独特的能力来解决它，这不正是关键所在吗？完全正确。
-
所以是的，这需要一些时间，而且很明显，就算AI，比如说，已经有了完美的分子，好比说，针对这种癌症，这就是AI想出来的那个分子，你还是得让它经过很多临床试验。
-
还是得花好几年才能出来。
-
所以生物学里的一切就是比软件里慢。
-
在这个领域里，你还对什么感到乐观？
-
你对未来十年的预测，罕见病的治愈、为个体患者定制的器官、吃污染的细菌、合成细胞。
-
你在书里讲到了其中一些。
-
就什么可能最先到来而言，你最兴奋的是什么？
-
是的，这些我都挺兴奋的。
-
我觉得我们可以设计出吃微塑料的细菌，一旦没有塑料了，它们就自己死掉。
-
我觉得这对海洋等等会非常有帮助。
-
当然，你得非常非常小心，别让它们不知怎么变异成吃别的东西之类的。
-
所以当你在大尺度上干预环境时，这很重要，人类已经这么干过很多次了，有时候结果还挺不错。
-
但在很多其他情况下，可能就没那么好了，森林就是个很好的例子。
-
人们对森林管得太多。
-
他们不让小的森林火灾发生，结果后来的火反而更大，因为小火灾没能把灌木丛清掉之类的。一切都是一个系统。
-
一切都是一个复杂的系统。
-
我们越来越需要AI来把其中一些工程做得比我们过去更好。
-
所以我在各个层面上都很兴奋。
-
你看核聚变里怎么平衡等离子体和托卡马克，那已经是一个机器学习控制问题了。
-
我觉得在物理学最基础的层面上，我们对这类问题会掌握得更好。
-
很明显，越来越多的材料、更高效的太阳能电池和太阳能板，我们都可以用AI来设计。
-
我投资过一些公司就在做这个。
-
更好的电池、更好的材料，这样我们就不必只依赖锂。
-
我们可以尝试用更丰富的分子来造电池，这些分子更容易获取和开采，污染也更少。
-
尤其是在生物学领域，我们又看到了很多东西。
-
我觉得这听起来像科幻小说，我理解。
-
所以有那句名言，说如果你想搞清楚某件事为什么行不通，就去问专家。
-
我觉得这在自然语言处理和神经网络领域曾经是对的，而且我认为目前在长寿、癌症以及其他把神经网络应用到生物学和医学的研究中，也依然是对的。
-
我确实认为我们会取得比最怀疑的人所预想的更大的进展，但同样也不会有硬起飞，因为医学上的事情确实需要谨慎的实验。
-
我个人对所有这些事情都很兴奋。
-
我觉得如果你主要感兴趣的是让人类更有生产力、更高效、创造更多产出并实现增长，那你会爱上AI。
-
但从某些方面来说，这也变成了一个哲学问题。
-
而且我觉得我们已经看到很多亚文明或人群的亚群体，我是说，还有那些基本上已经从进步中岔出去的文化。
-
就像如果你住在希腊某个美丽的小岛上，你不太会去想AI，你不需要去想AI，你就享受生活，去钓鱼，你知道，有时候会有风暴，情况不太好，但大多数时候天气很好，鱼很多，你就那样过你的
-
日子。所以我觉得，会有不同的，就像，一群群人会想要从文明的进步中岔出去，对吧？
-
已经有人更喜欢住在很偏远的乡下，从不去大城市之类的，我觉得这种情况会越来越多。
-
从某些方面来说，我个人热爱进步。
-
我觉得尤其是科学进步，帮助人类解决了生物圈里大多数难题。
-
David Deutsch在他的书《无穷的开始》里有一整节，我也强烈推荐大家去读，他讲到有各种各样不同的物质问题，而我们 thanks to 科学、更好的解释和更好的研究，想出了解决办法。
-
我个人完全支持这一点，但有些人不会再想参与那个世界了。
-
而且我觉得AI的加速作用太强了，让这个问题对人们来说更加切中要害。这挺有意思的。
-
我是说，在回到我们对前沿科学的简短巡览之前，先顺着这条路继续聊下去，这会怎么体现出来呢？
-
我是说，最终会出现一些群体，他们会刻意选择干脆不参与进步。
-
我猜进步在人类历史上、在不同地区，本来就是参差不齐的。
-
但随着它扩散开来、世界越来越全球化，那些人会做出一个政治决定，围绕不参与AI这一原则来组织起来。
-
对，我是说——就像那种城邦之类的吗？
-
对，我一直很想去看看的一个例子就是不丹。
-
不丹决定，我们不以金钱来衡量国内生产总值，而是以幸福来衡量，而且这幸福主要是给那些想保持简单、过简单生活的人，不想去搞创业之类的。
-
我很确定那些人在不丹也没那么幸福，但总体来说，不丹就是很绿色，很在乎环境，在乎某一类宗教，人们往往更满足于让事情保持原样，而不是想方设法去进步，
-
以各种不同的方式。
-
这就是为什么从我的角度看，这本书和今天这场对话如此重要。
-
我觉得AI行业总体上在公关方面做得非常糟糕。
-
所以如果你和其他人能清楚地讲明白它为什么好，那也许有望打开这场讨论的一部分空间。
-
对，这真的很有意思，因为很明显人们是在用这项技术的。
-
就像，如果没人用ChatGPT或Cloud Code，那就不会有问题了。
-
人们显然喜欢它。
-
只是那些用得很多的人不太爱发声。
-
而且也有负面的东西。
-
还有一定程度对聊天机器人朋友的道德恐慌，跟过去小说曾被视为很糟糕的东西那种情况很像。
-
比如有各种各样的故事，说老年人讲这些小说都在毁掉年轻人，说他们现在活在梦幻世界里，把自己从现实世界中分心出去了，还有你知道，像那个《少年维特的烦恼》在德国其实非常有名，还导致了一些自杀，真的很让人难过。
-
而现在它成了每个德国孩子在高中都必须读的书，在德国它就是很高形式的文学，然后漫画书也曾被认为很糟糕，电脑游戏也曾被认为很糟糕，你知道这有各种不同的层次，目前聊天机器人被认为很糟糕，但它们
-
显然也有很多人从这些聊天机器人身上获得了巨大的价值，而现在突然间，你让获取医疗建议变便宜了，法律建议变便宜了，有时候情感建议也变便宜了，但你听不到很多人，像那些显然存在的、数以亿计的用户
-
这些技术的用户，谈论这有多帮助他们没有自杀或者什么的，或者没有变得非常悲伤和功能失调等等。
-
所以我确实觉得你说得对，在某些方面，不只是眼睛，我觉得整个未来都需要更好的营销。
-
好，回到我们的旅程，因为我想确保我们覆盖到书里一些精彩的部分。
-
我们谈到了药物发现，谈到了计算生物学。
-
你提到的另一个有趣的例子或领域是经济学，有个有趣的统计数据，你说经济学家在过去的150次经济衰退中，有148次没能预测到。
-
所以你在Salesforce的时候，你的团队构建了一个AI经济学家，基本上是在一个模拟社会上运作。
-
然后你们提出了比现有最先进水平更好的政策建议，引号结束引号，讲讲这个过程吧。
-
是的，经济学是一个非常有趣的领域，不幸的是它没有像计算机科学和许多其他科学那样明显的基准测试，就是那种你只要说，如果你在这个基准上做得更好，你显然就有更好的想法、更好的算法，我们都应该学习和研究这些。
-
当我们把这些论文和真正的强化学习系统提交给《自然》和《科学》时，他们直接就给拒了，连审都没审。
-
有一次，某个对AI一无所知的伦理学家，直接就给拒了。
-
我甚至都不打算读完整篇论文，因为用强化学习做经济学AI就是个奇怪的东西。所以就这么没了。
-
正因为如此，经济学往往就变成了一个政治领域。
-
如果你在一个经济系，它有一种特定的政治倾向和方向，希望世界朝那个方向走，你就只能写符合那种政治意识形态的论文。
-
所以不幸的是，这让做更客观的研究变得非常困难。
-
所以我们尝试创建模拟，一个非常简单的模拟，里面有一堆智能体。
-
这是2018年的。
-
那时候的智能体要简单得多得多。
-
它们只是有一个特定的效用函数。
-
它们一天里有一定的工作时间，愿意在那段时间里干活。
-
它们是从某些先验分布里采样出来的，你可以对这些先验做一些假设。
-
不是每个人都想一天工作14个小时。
-
但对有些人来说，你基本上就是做了所有这些假设。
-
然后你让这些智能体去收集资源、盖房子，它们可以阻止其他智能体获取那些资源，试图建立垄断、变得更富有。
-
然后你有一个类似元智能体的东西，它观察所有这些其他智能体，基本上决定如何对不同群体的智能体征税和补贴。
-
在那个相当简单的模拟里，你基本上可以给它一个总体奖励。
-
比如在我们的例子里，我们说，也许先从平等乘以生产力开始。
-
你希望经济增长，但你也不希望一个智能体拥有一切，而其他所有人都很穷。
-
所以很明显，你不只想要平等，也不只想要生产力。
-
所以你把这两者乘起来组合在一起，现在如果你同意这是个好的奖励，你就可以让政客说，好，我要做这个做那个来帮助，比如说中产阶级，或者做这个做那个。
-
但如果我们有一个更大规模的模拟，你就可以把他们的一项提案放进数十亿、数十亿年的税收和补贴模拟里跑一遍，看看这个提案是不是真的能带来你说的那个结果、你设定的那个目标。
-
或者也许，很可能，如果你模拟数十亿、数十亿年的不同税年，也许会有更好的办法。
-
而我们发现的是，这些智能体会试图避税，比如在税年之前抛售一堆东西，或者在税年刚过就制造一堆收益，等等。
-
有意思的是，那篇论文里，基本上这个领域用的基线，有一个很有名的公式叫经济学里的萨耶斯公式。
-
基本上，它是很漂亮的数学，它证明了这是最优的税收方案，但这是在一个单步经济里的最优税收方案，也就是你做一个经济决策，然后再也不做别的决策了。
-
所以我们展示了，这个非常复杂的强化学习系统基本上能重新发现那个东西，确实得出了同样的解。
-
但现在你实际上可以处理这样一个事实：经济是许多不同决策在时间上的序列，你可以学习，并且适应智能体对某些税收和补贴方案的反向适应，它们会试图玩花样，而你仍然可以模拟它。
-
所以我希望最终那篇论文会有一种GPT-3时刻，就是有人真的把它规模化，构建一个真正逼真的模拟，然后我们就能让AI给我们反馈。
-
显然，我们不想让AI在没有任何人类监督的情况下做出所有这些决定，但至少可以有一些经济政策建议，告诉我们怎样最客观地去努力实现我们想设定的目标。
-
当然，然后人类就得真正把我们社会的目标是什么给形式化地定义出来。
-
而且在很多方面，这些都是非常深刻的问题，哲学和政治哲学已经问过很多次了，社会主义、资本主义，比如社会市场经济，在医疗保健等领域有一些监管，但在其他领域可能没有，而你想要竞争，
-
你其实可以一次性定义好你真正的目标是什么。
-
所以我觉得，希望在未来这些年里，这类系统能帮我们把经济管理得好得多，让它成为一门客观得多的科学。
-
你觉得这现实吗？我们真的能对整个经济建模，连同它所有的细微之处？现在有一个围绕世界模拟的新兴领域，里面有几家很让人兴奋的公司。
-
但与此同时，经济里有很多理性的决策，可也有很多非理性的东西，那非常人性，有恐惧，有贪婪。
-
这些都能被AI建模吗？所有模型都是错的，但有些是有用的。
-
我觉得我们可以让这些模型越来越有用，它们也会越来越不那么错。
-
我觉得我们已经看到了一些令人惊讶的结果，你可以给语言模型一个提示，说你现在是一个43岁的人，来自这个地区，等等等等，给它们各种各样的提示，告诉它们应该表现得像什么样的人。
-
然后在用互联网上几十万亿个token训练之后，你可以说出跟那种背景下的人可能会说的类似的话。
-
所以我确实认为这些模型会越来越好，模拟的保真度会越来越高。
-
而一旦它们跨过某个阈值，那么这种由AI参与的模拟给出的建议就可能变得更有用。
-
我不认为这在美国在很长很长一段时间内会非常可行。
-
就是有太多的身份政治和特殊利益集团，还有超级政治行动委员会之类的怎么获得资金，所以它被采用的可能性非常非常低。
-
我的直觉是，像新加坡或者中国，可能更有可能去尝试这些想法，说嘿，我们都同意，或者至少我们非常明确这就是我们的目标函数，然后你知道，我们会真正尽最大努力去设置各种税收和补贴等等，以一种真正能实现那个
-
目标函数的方式。
-
好，太好了。那么，我们再次谈到了药物发现、计算生物学，那是经济方面的，你谈到了天文学，谈到了神经科学，所以我们强烈建议大家去读这本书，听听所有的故事和所有的细节。
-
我们来聊聊欧洲机器本身吧，就像你提到的四个阶段，也许在进入这个问题的时候，还有一个问题就是喂进所有这些机器的数据的质量，因为如果你用大量AI数据来训练AI，
-
难道不会继承所有的偏见、所有的假设，以及所有那些散布在整个人类历史中、根本就是错误的东西吗？
-
是的，我觉得AI往往就取决于人、数据、系统、基础设施，还有我们给它的奖励。
-
我们得非常小心地设计和过滤掉所有这些东西。
-
我觉得我们对它的控制越来越强了，但还是挺让人意外的，Frontier Labs给AI用的一些环境和沙盒，工程设计做得有多差。
-
那我们就来说说这台机器本身吧。
-
你有四个核心支柱，带我们过一下第一个。
-
好，四个支柱，我前面简单提过，第一个就是把世界的知识装进尤里卡机器，我觉得这里有意思的一点其实是，某种程度上存在一个奇怪的循环，
-
发生了，我在书里没怎么讲，但它就这么一直存在到现在，就是那几家大型闭源实验室，Anthropic和OpenAI，几乎把能拿的都从开放互联网上拿走了，训练了一个模型，
-
但接着中国的开源公司基本上把很多知识从那些闭源模型里蒸馏了出来，但然后他们又把模型开源回了开放领域，所以现在知识又回到了它最开始所在的开放互联网，所以我
-
觉得很清楚，第一个支柱就是能接触到世界上所有的信息，能对所有这些不同的概念进行推理，还有现有知识那个疯狂巨大的组合空间，这就是第一个支柱。
-
第二个支柱是现实本身的模型。那这是什么意思呢？
-
如果你想想人类的感知和当前人类知识的总量有多有限，以及我们实际上能怎么扩展它，你就得看科学测量。
-
我们没法直接观测引力波，没法直接观测伽马射线，但我们可以造工具和科学仪器替我们测量这些东西。
-
所以这明显是第二个支柱，它不同于人类知识，有些情况下还没被人类语言完整描述过，有些情况下可能很难用人类语言描述。
-
我们已经可以说，哦，一个神经网络预测了这个词，是因为这五百万个参数。
-
但问题是，好吧，你把这些参数全列出来，你也没法获得直觉，因为系统太复杂了。
-
就像没人能真的说清楚，你转方向盘的时候，为什么小指里这块肌肉纤维动了？
-
没人能在脑子里访问到那个。
-
就算能，答案也只会是，因为这个非常复杂的系统。
-
所以这基本上就是AI能接收所有这些测量数据，试着真正去消化它，从中提取出真正的知识。
-
而PILO-1听起来好像已经存在了。
-
PILO-2存在吗？
-
你怎么教一台机器宇宙的规则？
-
所以，第一，你得跟很多不同的科学领域合作，才能拼出这种物理、化学、生物的基础模型，
-
还有越来越大的系统，然后让很多大学和实验室一起合作，把所有这些都整合到一个模型里。
-
所以我觉得，你知道，我们算是把人文学科的知识投射到了互联网上，但有很多东西就是不适合放到网上去。
-
所以那些东西还藏着呢。
-
现在有很多很多公司都在做所谓的“基础模型”。
-
有些公司现在把它们重新包装成“世界模型”。
-
底下其实是类似的技术，基本上就是尽量多地吸收某个领域的信息，然后做出第一个虚拟细胞的例子，它特别擅长估算某个特定的基因变异之类的，但对虚拟细胞的其他很多方面就不行了。
-
虚拟细胞就是个很好的例子，就像一个目标标杆，需要很多不同的团队走到一起，把所有这些数据整合到一个统一的模型里。
-
没有人，完整版的那种，目前还不存在。
-
然后第三根支柱，再说一下，我们讲的是尤里卡机器的四大支柱，你称之为尤里卡机器，就是这台超强的AI科学发现机器。
-
所以第三根支柱是模拟，这就跟我们刚才聊经济学有点关系了。
-
那你会为不同领域建不同的模拟，还是一个模拟包打天下？
-
理想情况下，我们会建一个超级疯狂的模拟包打天下，但它们显然处于不同的抽象层次，而且大多数情况下，很多时候你其实不需要模拟一个非常复杂的亚原子粒子的所有量子细节，
-
你直接说，行，这些就是分子。
-
然后你知道，在化学里，这些分子会根据价电子层之类的相互作用，等等等等。
-
然后在生物学里，有时候你直接抽象掉就行了，比如，哦，我根本不在乎那个分子。
-
我就说，总体上这个蛋白和那个蛋白在那个层面上跟细胞连接。
-
所以当你试着把这一切都搭起来的时候，但你得有计算上的效率和抽象，人类一直很擅长构建这些，计算机科学这个领域尤其擅长，就像现在没人需要再用0和1来编程了。
-
他们现在可以用英语编程了，很多抽象层都可以忽略掉。
-
我觉得在这些物理模拟里也是类似的，我们可以忽略掉越来越多底层的细节，但有时候吧，比如存在某种量子生物学，可能有些效应我们没意识到，我们把它过度简化了，而这些可能会从一个模型里显现出来，就是那种你从一个大型模拟里，眼睛
-
然后可以试着做实验。
-
那第三层或者说第三根支柱，是以零散的形式存在的吗？
-
是很多零散的小块拼起来的，对吧？
-
最简单的例子就是围棋或国际象棋的模拟。
-
那个嘛，行，我们有了，挺简单的。
-
一个有意思的新方向，现在很多人都在努力做，就是虚拟细胞。
-
如果我们有了那个，我是说，虚拟细胞太复杂了，一个真正的人类细胞太复杂了，我们离那还差得远。
-
但我能看出来，只要有足够多的人聚到一起，有足够的资金，我们最终能做出一个相当有用的虚拟细胞模型。好，太好了。
-
然后第四根支柱就是真实世界。没错。
-
到了某个时候，尤其是在生物学里，但在所有其他领域也一样，你得去工程化一个系统。
-
你得真正把它搭起来，看看你在模拟里有没有漏掉什么，有没有什么混杂变量之类的。
-
你得在真实世界里真正做实验。
-
显然，在物理、化学、生物学这些更小的场景里，你可以在实验室里做，但到了某个时候，你得造出真正的机器，真正走出去，造卫星什么的，去测量宇宙，各种尺度上的测量。
-
所以，你知道，我觉得在那儿我们应该，随着AI在前三根支柱上已经变得非常非常强，把越来越多的资源投到那上面是合理的。
-
所以这里面是有个先后顺序的。
-
那未来是不是就是自动驾驶机器人实验室这个概念？如果是的话，我们离它还有多远？
-
你知道，我特别喜欢这方面已经有一些初步的尝试，比如Periodic Labs就是个很好的例子。
-
我特别喜欢我们开始思考这件事了。
-
从投资的角度来说，我个人觉得现在还有点早，但大概两三年后，我觉得时机就刚刚好。
-
到那时候，很多软件问题都已经解决了，我们在语言模型、科学数据方面会非常擅长，还能把这些数据跟语言模型连起来，甚至构建出更高保真度的模拟。
-
然后我们就可以让AI设计出真正好的、成本高昂的实验，这些实验有时候要花几个小时、几天甚至几周才能真正跑完。
-
到时候我们会有更好的类器官或者微型细胞系统，可以在里面培养人类来源的干细胞，比如Parallel Bio做的疾病模型，比如人类淋巴结、免疫细胞，然后你就能更快地在这些细胞上做实验，而且这已经用机器人实现了。
-
所以这方面的真实例子还不多。
-
我记得化学领域有个“化学计算机”，能把一小批分子组合起来。
-
Parallel Bio在类器官方面已经有了最早的例子，还在用类器官做临床试验。
-
顺便说一句，光这一家公司，就已经拿到了FDA的批准，可以跳过某些动物试验。
-
所以未来几年能省下好几百万，也省下很多动物的命，那些动物本来只是为了被测试、然后被解剖和评估才被繁殖出来的。
-
如果你喜欢动物，你也可以喜欢AI，因为AI现在已经——不是将来才会，而是通过Parallel Bio这一家公司——已经在拯救那些专门被繁殖出来做测试的动物的生命了。
-
所以我觉得有大量非常了不起的工作，都是非常有针对性的。
-
要把这些东西做得越来越通用，这大概就是让AI和智能体集群更高效地坐镇这四大支柱所必需的。是啊。
-
最后把这一圈讲完，就是有这么个智能体集群。
-
那这些智能体都做什么呢？
-
是它们决定跑哪个实验吗？
-
还是仍然由人来决定机器跑什么？
-
还有，是智能体来测量产出的结果吗？
-
还是人来测量？这到底是怎么运作的？
-
理想情况下，智能体会尽可能多地参与科学流程，就像科学共同体做研究那样。
-
而且在很多情况下，科学、文化甚至生物的演化都带有开放性的特征，这对我们Recursive来说非常鼓舞人心，我们其实也正在深入探索一些很有意思的不同思路。
-
这些平行的东西之后还能再重新组合，所以这些开放式的过程在生物学里造就了从我们的手指、眼睛到大脑的一切，在技术领域也有很多例子，而且我们在Recursive的一位联合创始人经常讲这个，就是说你没法光靠一句
-
“让这个锅更快地加热我的食物”，然后加各种压力什么的，就得到一台微波炉。
-
你得先研究雷达技术，然后意识到你工作的时候口袋里的巧克力棒在融化，最终才走到微波炉，才能更快地加热食物。
-
所以就是有这些不同的路径，不同的研究想法可以重新组合、汇聚到一起。
-
而我们可以用智能体集群把这一点建模得越来越好。
-
考虑到我们要建模的东西那么复杂，尤其还想着跨领域的交叉启发，这听起来像是一台极其吃算力、也极其吃数据的机器。
-
我们的算力够吗？
-
数据够吗？
-
我是说，Ilya说过我们已经进入大数据时代了。
-
这台机器需要自己造数据吗？制约因素都有哪些？
-
确实，算力是最大的制约。
-
我觉得未来，越来越多的人、而且现在在一些公司内部已经能看到，都得去决定：哪个问题值得解决？
-
我们给解决这个问题分配多少算力？
-
然后会出现新的一类扩展定律，就是我们给足算力，真正去解决不同类型的问题。
-
而且是的，我觉得公共互联网的大部分内容已经被很多这类实验室消化掉了，但数据总是新的。
-
新闻里总在发生新的事情。
-
所以这就是为什么，你知道，在U.com我们跟很多NeoLabs之类的实验室合作，就是当他们问起上周刚发生、还没进任何训练数据集的事情时，我们不断给他们提供新的搜索结果。
-
好，谢谢。
-
所以这些想法很多都融进了你的新创业公司Recursive里。
-
跟我们讲讲这家公司吧。
-
对，Recursive一开始的目标就是打造能递归自我改进的超级智能，用来自动化知识发现和科学发现。
-
其实八位联合创始人是走到了一起，我们每个人都是以某种方式得出了同样的认识，但来路其实非常不同。
-
比如Tim Rocktaschel和Jeff Kloon，他们更多是从开放式演化算法这类研究方向过来的。
-
而我更多是从这个思路来的：我们自动化了特征工程，才有了词向量，有了神经网络，然后我们又通过统一架构自动化了架构工程。
-
那下一个层次的自动化是什么？
-
就是整个AI研究里通用想法的构思、实现和验证本身。
-
而这显然就是下一个层次，能解锁一整套新的能力。
-
当你想到科学的自动化，再把AI研究的自动化应用到AI自身，不知不觉你就进入了这个递归自我改进的循环。
-
我们相信这会是一个巨大的突破，然后就能把这种智能应用到各种其他的科学发现上。
-
你们融了一大轮，6.5亿美元。
-
有意思的是，联系到我们刚才聊的算力，我读到你们把4.1亿美元，基本上融资的大部分，都投进了一笔跟亚马逊的算力交易，这说明算力有多根本。
-
对，我们最后融了大概6.7亿左右，而且这大概会是我们未来最小的一笔算力交易之一。
-
那这家公司我们能期待什么？
-
你们会先发布什么？什么时候？
-
会有几件有意思的东西出来。
-
我可以保证它们今年内会发生。
-
我们属于，我自己有时候也挺纠结的，NeoLab这个类别。
-
我不太喜欢这个说法，因为我觉得它们里面很多不会成功。
-
我们是一家真正的公司，不是学术实验室。
-
我们在做真正的产品，我们在跟真正的客户谈。
-
我们非常期待把这项技术拿过来，让它对真正的公司有用。
-
具体要发布什么，我现在还不能透露细节，但我觉得会很让人兴奋，而且从最初的一些交流里我们已经知道，它确实很让人兴奋。
-
那它会是一个横向的平台，还是像我们刚才聊的那样，聚焦在某个具体的垂直领域？
-
我希望会有不同的东西，这里面是有先后顺序的，有些东西会是通用的，但显然到了某个阶段，它会越来越具体。
-
我记得我们发过一篇博客文章，能让你稍微看到一点我们在想的东西，本质上都是通往完全递归自我改进的里程碑，它们说明，比如说，当很多人用AI，或者在小模型上做一些自动研究的时候，我们的系统，
-
也就是这个Eureka机器在非常窄的领域里的第一个雏形，在特定问题上已经能超过人类几个月、有时甚至几年的努力。
-
我们还展示了它们能构建新的CUDA内核，这对推理非常有用，对所有大型超大规模云厂商、以及那些提供token、运行模型的人来说都非常有用。
-
我们很兴奋能继续推进这些。
-
而且我们从现在正在用这些内核的人那里听到了非常正面的反馈。
-
在NVIDIA，人们做了这些基准测试。
-
Soliq Secbench就是其中一个具体的例子。
-
所以，这些都只是简单的例子，说明这个Eureka机器在通往完全RSI的路上，在AI研究方面能产出什么样的成果。
-
顺便问一句，我忍不住想问，为什么大多数NeoLab都不是真正的公司？
-
我是说，它们更像是一些想法，比如我们想探索这个特定的点子。
-
而那个特定的点子，你知道，它只是我们的Eureka机器也能产出的众多有用成果之一，但它并不是真正的产品。
-
就好比，如果你只是想去思考未来人类如何与AI互动，那并不算是什么很具体的东西。
-
所以你得非常小心，要看清楚创始团队等等，他们不只是做过出色的研究，还真正把产品交付出去过。
-
好，最后，我想聊聊智能和超级智能，以及这一切会走向哪里。
-
这本书最后抛出了一个巨大的问题。
-
智能能走多远？
-
你也提出了自己的定义。那也许可以聊聊这个。
-
是啊，这个话题要展开的话，比我们剩下的时间还长。
-
我感觉这几乎都能再写一本书了。
-
写那本书的时候，我只能到那儿就收尾了。
-
所以，一方面我挺惊讶的，居然没人真正把智能的复杂性定义得足够好，无论是从最基础的构成要素来说——我目前认为这些要素是预测、行动和目标，以及这三者的组合。
-
它们算是三个主要成分。
-
就像能量有一个统一的单位。
-
我们目前还不知道智能的单位是什么，这也是我现在经常在思考的问题。
-
所以我们还没有一个像物理学那样启发出来的正式定义，你知道，在物理学里我们有动能和势能。
-
但同样地，研究化学能、机械能、电能这些不同形式也很有意义，其中有些还纯粹是科学领域，另一些则非常偏工程领域。
-
我觉得AI也发生了类似的事情，我们有视觉智能、语言智能、物理智能，还有机器人技术。
-
我把智能划分成了10个不同的空间。
-
而每个空间基本上都有很多不同的维度。
-
我就拿视觉智能给你举个例子。
-
人类只能看到电磁频谱中一个特定的部分。
-
但如果你去想视觉智能的边界在哪里，你可以远远超越人类。
-
一个AI，或者宇宙中任何一种智能生命体或实体，能把视觉智能推到多远？
-
然后你就会进入非常有趣、常常是受物理学启发的思考和循环。
-
比如，你可以看到从伽马射线到引力波的一切。
-
所以非常不同，你知道，就像整个电磁频谱，你可以试着不只有两只眼睛，而是到处都有数百万、数十亿个不同的传感器。但然后它们能走多远呢？
-
嗯，到了某个点，你就会碰到通信上的极限，比如光速，每个传感器周围都有一个光速锥，决定了它能看见什么。
-
然后你很快就会想到这些关于极限的问题。
-
然后你会意识到，天哪，我们离任何智能领域的真正上限都还差得远呢。
-
而且AI在研究上还能走得更远，远得很。
-
所以当人们想，哦，你知道，这套算法或者AI这个领域，好像是个泡沫，要破了。
-
我是说，也许就像能源一样，对吧，智能的成本可能会因为一堆因素而波动。
-
但作为一个领域、作为一个文明，我们还能往前走很远很远，把这个领域推向前进。
-
好了，Richard，这又是一次非常精彩的对话，我还能再留你聊好几个小时，但我知道你其实还有几家公司要管，所以谢谢你抽时间跟我们聊。
-
再说一次，这本书叫《The Eureka Machine》。
-
9月22日出版。没错。
-
大家还能在哪里关注你的工作呢？
-
在Twitter，也就是X上，Richard Socher。
-
还有recursive.com。没错。recursive.com。太好了。非常感谢。我们很感激。
-
谢谢你邀请我，问题很棒。跟你聊天总是很愉快。
-
嗨，又是我，Matt Turk。
-
感谢收听这一期The Mad Podcast。
-
如果你喜欢，如果你还没订阅，我们会非常感激你考虑订阅，或者留个好评或评论。
-
不管你是在哪个平台上看或听这一期节目。
-
这真的能帮我们把这个播客做起来，请到很棒的嘉宾。
-
谢谢，我们下期见。