Latent Space

Ian Quigley谈DEL数据:模型学到化学家而非化学

点播放收听本期节目

0:001:39:19

99 分钟 中文配音

Leash Bio联合创始人兼CEO Ian Quigley与主持人讨论DNA编码化合物库如何产出可重复的结合数据,剖析公开数据中的捷径、模型记忆与Hermes对比Boltz的表现,并谈DEL局限和实验反馈为何关键。

中文播客全文

Podcast Script (zh)

[0.120-6.842] SPEAKER_02: 我和我的联合创始人Andrew Blevins在Recursion的时候,盯着屏幕上一个小分子看。

[7.062-12.309] SPEAKER_02: 然后一位药物化学家从我们旁边走过,这人叫Mike Cucarisi。

[12.529-16.220] SPEAKER_02: Mike就说,嘿,这看着像是Stuart Tribert做的分子。

[16.440-22.581] SPEAKER_02: 我们当时就想,不会吧,你光走过去看一眼就能看出来?你能看出这是谁做的?这也太吓人了。

[22.801-35.446] SPEAKER_02: 如果模型光看分子就能认出是哪个化学家做的,那也许模型能推断出化学家的意图,也就是说,也许它们其实什么都没学到。嗯,它们确实学到了点东西,但它们学的不是物理。

[35.666-43.003] SPEAKER_02: 我们把Chemble上所有化学家做的所有化合物都下载下来了,那是这类东西最大的数据库,还有它们的活性数据。

[43.223-48.284] SPEAKER_02: 每个发表超过——我记得是30篇论文和600个分子的化学家。

[48.504-53.995] SPEAKER_02: 所以你把所有分子和所有数据都拿到手,一共是1,815位化学家。

[54.215-59.880] SPEAKER_02: 然后我们训练了一个分类器,光看分子本身来预测是哪个化学家做的。

[60.100-63.942] SPEAKER_02: 我们达到了60%的top-5准确率。

[64.162-72.184] SPEAKER_02: 我们选择表示分子的方式完全不用任何化学结构或分子式,而只是一个“创作者概率”的向量。

[72.404-78.243] SPEAKER_02: 所以现在就是一个1800维的向量,里面是它由谁做出的概率。

[78.463-83.548] SPEAKER_02: 你可以用这种表示,然后训练一个模型来从Kempel预测活性。

[83.768-86.658] SPEAKER_02: 它的效果和你用化学式一样好。

[86.878-90.581] SPEAKER_02: 我们真的认为它学到的是很多社会学层面的东西。

[90.801-93.006] SPEAKER_02: 它学的不是真相。

[93.226-97.893] SPEAKER_02: 当你用这些“尾气”来训练模型时,你可能会遇到麻烦。

[98.193-102.140] SPEAKER_00: 欢迎来到Late in Space,AI for Science播客。我是R.J.

[102.360-108.559] SPEAKER_00: Haneki,Miraomics的CTO,和我一起主持的是我的搭档Brandon Anderson。

[108.779-111.704] SPEAKER_00: 他在Atomic AI开发RNA疗法。

[112.004-117.147] SPEAKER_01: 今天特别高兴能把Ian Quigley请到我们演播室。

[117.367-120.617] SPEAKER_01: 这期节目肯定很精彩,非常期待。

[120.837-130.496] SPEAKER_01: Ian是LeashBio的联合创始人兼CEO,在我个人看来,它是过去几年里我最喜欢的年轻生物科技公司之一。

[130.716-145.370] SPEAKER_01: 你知道,从大的层面来说,Leash把认识论上的严谨、超大规模的数据收集结合在一起,还坚定地致力于开放科学,而且有一系列非常精彩的博客文章,今天我们会聊到其中很多,

[145.590-150.651] SPEAKER_01: 我觉得这些文章真的告诉你,怎么在一个非常难的领域里用正确的方式做机器学习。

[150.871-155.259] SPEAKER_01: 我想会有一些有趣的轶事,希望能在节目里慢慢讲出来。

[155.479-163.176] SPEAKER_01: 不过,先说一句,感谢你来,还有你——在我们开始之前,你有什么关于我们想说的吗?没有,谢谢。你太客气了。好。

[163.476-172.996] SPEAKER_02: 我们当初创立LEASH,是因为遇到了一个具体的问题:想预测小分子和蛋白靶点的结合,然后发现现有的数据有点不够用。

[173.216-180.576] SPEAKER_02: 于是我们就动手,以还算合理的规模把这个东西建了起来,想试着攻克它。所以,是“合理的规模”。

[180.876-185.427] SPEAKER_01: 你们创立的基础,是做一种叫DNA编码化合物库的东西。

[185.647-190.198] SPEAKER_01: 我见过的每一个接触过DEL的人,最后都留下了严重的心理创伤。

[190.418-196.966] SPEAKER_01: 我没见过任何一个人说过,DELs,好主意,咱们来做几百上千个吧。所以为什么?怎么回事?

[197.186-201.179] SPEAKER_01: 还有,在你开始之前,请先解释一下DEL是什么。好。

[201.479-212.801] SPEAKER_02: 做小分子药物发现的时候,最终目标是让一个小分子或者一个小巧的化学物结合到你认为在疾病中造成问题的那个蛋白上,然后从那里往下走。

[213.021-217.966] SPEAKER_02: 有些蛋白很容易找到能粘上去的化学物质,有些就更难。

[218.186-222.412] SPEAKER_02: 一种做法是把很多不同的化学物放在不同的管子里。

[222.632-227.299] SPEAKER_02: 然后你一次把蛋白浸到一个管子里,这基本上要花上永远那么久。

[227.519-238.411] SPEAKER_02: 后来,几年前有人提出了另一种方案:也许你可以把很多化学物同时放在一个管子里,然后每个小分子上都物理连接着一个小小的DNA条形码。

[238.631-241.359] SPEAKER_02: 你把蛋白像鱼钩一样浸到管子里。

[241.579-247.639] SPEAKER_02: 你把结合上的那些不同的分子拉出来,然后对它们的DNA进行测序。

[247.859-257.681] SPEAKER_02: 所以思路就是,你可以把大量分子混合在一起,这样就不用承担在大量试管或单个孔板和板之间来回操作的后勤负担。

[257.901-266.805] SPEAKER_02: 所以下游发生的情况是,你有了这些化合物库,如果一次只用一个试管,世界上最大的那些也就只有几百万个分子。

[267.025-271.216] SPEAKER_02: 而用DEL的话,已经做出来的最大一个库有40万亿个分子。

[271.436-278.378] SPEAKER_02: 当它们变得那么大时会有一些问题,但这正是这项技术可以尝试达到的规模。

[278.678-289.826] SPEAKER_01: 所以制造这些东西的方式是,你用这种组合化学,你有一些构建模块,然后你一块一块地构建这个库,但是以组合的方式构建。对,没错,是的,是的。

[290.126-303.271] SPEAKER_02: 稍微展开解释一下,如果你有几百万个分子,这实际上意味着它是构建模块的组合混合物,而构建模块的数量会比所有那些组合出来的最终产物少得多。

[303.491-308.239] SPEAKER_02: 所以可能是平方或者立方的关系,对吧,在不同的例子里。

[308.459-315.401] SPEAKER_02: 所以有几千或几万个构建模块,然后生成一个包含数百万个分子的化合物库,这并不罕见。

[315.621-322.842] SPEAKER_02: 这在某些方面是有局限性的,因为你知道,你受限于较少数量的构建模块。

[323.062-332.222] SPEAKER_02: 但对机器学习来说,一个非常好的地方是,你有了所有这些不同的组合,它们彼此看起来非常相似,除了可能有一两处变化。

[332.442-347.154] SPEAKER_02: 所以,你知道,我肯定后面会讲到这个,但这确实使得比较成为可能,这样你就能识别出,哦,是这个部分的小分子在驱动结合,因为我看到另一部分有很多变化,但并没有太影响行为。

[347.374-349.963] SPEAKER_02: 而这结果证明是非常有用的。

[350.263-354.848] SPEAKER_01: 另一个方面是你怎么做读出,也就是DNA测序。

[355.068-358.434] SPEAKER_01: 这一直是这个播客的一大主题。

[358.654-366.618] SPEAKER_01: 我们有很多嘉宾都有某种变体,说我们做一些疯狂的事情,然后把读数转换成DNA测序的读出。

[366.838-370.309] SPEAKER_01: 那么这是怎么运作的,为什么这么有用?

[370.609-382.442] SPEAKER_02: 对,是的,我肯定会说,至少这是一个共识,如果你要去做生命科学的东西,并把它和机器学习方法结合起来,真正可扩展的技术只有一个,那就是拍照。

[382.662-385.552] SPEAKER_02: DNA测序是拍照的另一种方式。

[385.772-389.162] SPEAKER_02: 所以基本上就是拍照和DNA测序。

[389.382-396.882] SPEAKER_02: 如果你能把你那个有挑战性的问题,用其中一种方法作为读出,铲进这个框架里。

[397.102-402.930] SPEAKER_02: 所以,你知道,像Recursion是给细胞拍真实的照片,还有很多其他团队也这么做,比如Cedra也这么做。

[403.150-411.416] SPEAKER_02: 然后其他几乎所有做空间组学之类方法的人,都会做某种拍照和测序的混合,而测序其实也是拍照。对。

[411.636-417.742] SPEAKER_02: 肯定会有一些做蛋白质组学的人不同意我的说法,但我还是认为规模还没到那个程度。

[418.042-420.155] SPEAKER_01: 第一个大胆观点。

[420.375-421.013] SPEAKER_01: 对。

[421.233-425.238] SPEAKER_01: 测序特别酷的一点是它便宜得要命。

[425.458-431.866] SPEAKER_01: 你知道,它极度可扩展,是非常成熟的技术。我们非常擅长这个。确实如此。

[432.166-434.894] SPEAKER_02: 它真的非常非常便宜。

[435.114-437.726] SPEAKER_02: 而且一直在变便宜。

[437.946-443.774] SPEAKER_02: 有一段时间价格下降有点停滞了,但现在一堆新公司冒出来,又把价格往下压了。

[443.994-452.434] SPEAKER_02: 所以我们非常关注测序成本下降的轨迹,这对我们怎么看待数据收集和我们做的规模都有影响。对,真的很好。挺酷的。

[452.734-462.637] SPEAKER_00: 所以你有这些组件,把它们混合在一起形成不同的、这种组合式的分子混合物,而每个组件都带条形码,对吗?没错。

[462.857-471.181] SPEAKER_00: 然后它们会连在一起,因为它们是氨基酸链,会咔嗒一下接到彼此的末端,折叠到一起,然后它们要么结合你的靶标,要么不结合。

[471.401-475.603] SPEAKER_00: 那么首先,你怎么知道它们结合到你的靶标上了?对。

[475.903-479.409] SPEAKER_02: 首先,这非常像那种鱼钩的比喻,如果你把……

[479.629-485.550] SPEAKER_02: 现在,靶标是某种蛋白质或蛋白质复合物,你要试着找到能结合它的化学物质。

[485.770-501.179] SPEAKER_02: 它被固定在一个固相载体上,不同的人有各种不同的做法,但我们通常的做法是把它固定在磁珠上,然后你把这颗磁珠浸到这个包含所有这些小分子的复杂混合物里,在一个很简单的情况下,

[501.399-505.729] SPEAKER_02: 假设这个蛋白质上有一个形状非常独特的洞。

[505.949-515.329] SPEAKER_02: 你把它浸进去,然后那个池子里的化学物质中,有一小部分在形状和电子性质上刚好合适,能结合进这个形状非常独特的洞里。

[515.549-527.960] SPEAKER_02: 然后你把这个蛋白质拉出来,你只拉出了那个洞里的东西,用某种方式冲洗几次,然后对出来的、在洞里的那些东西的DNA进行测序。好。

[528.260-533.647] SPEAKER_00: 然后你说DNA测序,基本上就是扩增里面那些条形码。

[533.867-537.280] SPEAKER_00: 然后你就可以,就是做PCR或者类似的东西。

[537.580-541.910] SPEAKER_02: 你做一点PCR,然后对,就把它扔进测序仪里。

[542.130-556.540] SPEAKER_02: 然后你现在可能在想的一件事是,好吧,我们需要拿它跟什么东西比较,才能得到相对富集的可靠度量,所以你必须设计一堆好的阴性对照,来说,哦,如果我只是把珠子单独放进去,

[556.760-570.613] SPEAKER_02: 或者是不是有泛蛋白黏附信号,会把文库里的某些化学物质拉出来,所以这些事你都得仔细琢磨,并且跟你真正想找到结合物的那个东西做合理的比较。

[570.913-584.580] SPEAKER_00: 对于那些能结合的,你大概会有这些条形码的组合,大概就是,如果这个结合了,那我就有这些,一个蛋白问题、一个小分子,我们说的是多少个条形码?一个小分子。

[584.880-586.911] SPEAKER_02: 所以有几件事。

[587.131-601.878] SPEAKER_02: 一件事,如果我们想深入聊聊PCR这方面的细节,对这里的听众来说,如果你在制造大量DNA拷贝,DNA里会有一些细微的偏差,可能让某些拷贝比其他扩增得更快。所以你得控制这一点。

[602.098-604.884] SPEAKER_02: 所以你会在里面放一点独特的序列。

[605.104-614.403] SPEAKER_02: 当你有大量拷贝时,你就可以把它们归并起来,让它们都来自这一个,你知道,非常明确地就是来自这一个事件。

[614.623-625.457] SPEAKER_02: 然后还有一堆关于条形码的其他问题,我们在Leash会担心,就是当你试图把蛋白放进去时,有些蛋白会粘到DNA上,因为那就是它们的工作,对吧?

[625.677-633.757] SPEAKER_02: 有很多蛋白,它们的工作就是与细胞里的基因组相互作用,把东西打开或关掉,或者以其他方式影响它们。

[633.977-638.725] SPEAKER_02: 然后你有了这个检测,里面有一大堆DNA,你把它们扔进去。对。

[638.945-640.500] SPEAKER_02: 所以那可能有风险。

[640.720-644.052] SPEAKER_02: 那可能导致假阳性,对吧?非常有可能。

[644.272-646.524] SPEAKER_02: 很多人抱怨这个。

[646.744-650.377] SPEAKER_02: 这有点像之前说的,有人做DEL做到做噩梦。

[650.597-653.162] SPEAKER_02: 这就是那些问题之一。

[653.382-655.471] SPEAKER_02: 有各种方法可以解决它。

[655.691-664.607] SPEAKER_02: 我们做的一件事是,我们有大量的条形码,每一个都编码一种特定类型的小分子。你说,这是一个小分子。

[664.827-671.990] SPEAKER_02: 那太好了,现在我们有32或48个不同的条形码,全都编码这一个小分子。哦,我明白了。对吧?

[672.210-682.589] SPEAKER_02: 然后呢,你知道,所以就像,会有单个例子,一个分子带着这个条形码,然后它旁边的分子,化学式相同,却带着不同的条形码,以此类推。

[682.889-689.669] SPEAKER_00: 所以如果那里有差异,你就知道你是结合到了DNA上,而不是——对,没错。对,没错。

[689.969-707.316] SPEAKER_02: 所以对于观众里那些DNA蛋白的爱好者来说,这件事特别妙的一点是,因为里面有DNA,你就能看出是不是有某一个DNA编码的条形码结合得比其他所有都好,尽管它们都是同一个小分子。

[707.536-714.699] SPEAKER_02: 然后你可以看看你在那里富集到的序列,就能还原出那些蛋白已知的DNA结合偏好。

[714.999-717.727] SPEAKER_01: 就像,哦,这是一个转录因子。

[718.027-723.216] SPEAKER_02: 它结合这一串核苷酸,这个描述得非常清楚,你知道,大概六个或八个。

[723.436-724.968] SPEAKER_02: 然后你看那个……

[725.188-732.049] SPEAKER_02: 你从这个实验里把DNA序列还原回来,就像,哦,太好了,我们找到了共识结合基序。

[732.269-734.823] SPEAKER_02: 所以我觉得我们的蛋白大概做对了。

[735.123-742.309] SPEAKER_00: 你有了这个你识别出来的条形码,而且你用刚才说的那个方法,算是把假阳性给排除掉了。

[742.529-754.582] SPEAKER_00: 所以现在我知道对于某个给定的组合,对于某个给定的小分子,它结合到我的靶标上,但是,你那些DNA标签、条形码标签,不都挂在你分子上吗?

[754.802-758.331] SPEAKER_00: 那不会影响——会的,它们很笨重,很笨重。

[758.631-762.021] SPEAKER_02: 这是人们对DEL提出的另一个抱怨。

[762.241-764.888] SPEAKER_02: 这里有几个不同的答案。

[765.108-772.387] SPEAKER_02: 我想说,最最宏观、哲学层面的答案是,你想做这类实验,有不止一个、有好几个不同的理由。

[772.607-779.572] SPEAKER_02: 一个理由是,你想拿到某种行为符合预期的小分子材料,好推进到药物研发项目里去。

[779.792-787.350] SPEAKER_02: 如果那是你的主要目标,那你就得确保带着DNA条形码和不带条形码之间,有某种程度的一致性。

[787.570-794.930] SPEAKER_02: 确实如此,至少当我们想追求有意思的化学材料时,你确实得去做把化学部分从DNA上做出来的工作。

[795.150-799.294] SPEAKER_02: 你得把它们放到这些功能性测定里去跑。

[799.514-802.242] SPEAKER_02: 这中间会有一定程度的损耗。

[802.462-806.827] SPEAKER_02: 在我们手上好做的那些,大概90%能成。

[807.047-811.435] SPEAKER_02: 难做的那些,大概只有50%。所以会有一些损失。

[811.655-813.663] SPEAKER_02: 别人的经验可能不太一样。

[813.883-824.459] SPEAKER_02: 不过我还想说,如果你是想拿这个来做机器学习训练,那所有这些带DNA条形码的化学分子都在管子里。实验你已经跑过了。

[824.679-827.128] SPEAKER_02: 有些结合上了,有些没结合上。

[827.348-831.759] SPEAKER_02: 而这就是你从现实世界里实际测量到的真实信号。

[831.979-837.818] SPEAKER_02: 所以你就让模型以这个条形码的存在为条件,然后接着往下训练就行了。

[838.038-850.625] SPEAKER_02: 在我们这儿,当我们重跑实验,也就是做一批新的蛋白、做一批新的化合物库,隔了好几个月的时间,大部分情况下我们拿回来的还是同样的命中物,顺序也一样。

[850.845-854.339] SPEAKER_02: 所以它的可重复性和稳健性都极强。

[854.559-858.889] SPEAKER_02: 所以就真实信号而言,我们觉得挺有把握的。好。

[859.189-863.682] SPEAKER_00: 你的DNA可能会堵住口袋之类的,那样你就会得到一个假阴性。

[863.982-868.370] SPEAKER_02: 但实际不会,因为你知道DNA就在那儿。它没有结合。

[868.590-879.027] SPEAKER_02: 你思考的方式是,哦,我在想这个分子在没有DNA的情况下会怎么表现,但我们知道DNA就在那儿,我们不会假装它不在。哦,我明白了。

[879.327-882.113] SPEAKER_00: 那你们的命中物是包含DNA的吗?

[882.413-889.820] SPEAKER_02: 是的,我们训练模型的时候,会专门放一个占位符,标出DNA的位置。

[890.120-894.287] SPEAKER_00: 如果你要把这个合成出来做药,你会把DNA去掉吗?

[894.587-898.395] SPEAKER_02: 不会,就像我说的,损耗率就是从这儿来的,对吧?

[898.615-902.701] SPEAKER_02: 然后你就得把它做出来,有时候它们表现会不一样。

[902.921-908.946] SPEAKER_02: 不是每次都这样,但也不是偶尔才这样。明白了,明白了,明白了。抱歉。

[909.166-912.776] SPEAKER_02: 不不不,我只是需要弄明白这一点。

[913.076-916.210] SPEAKER_01: 不,其实这些问题都特别好,真的特别好。是啊。

[916.510-922.477] SPEAKER_02: 有很多反对意见,而这些正是大家想要做我们正在做的事情的很多原因。

[922.777-929.638] SPEAKER_01: 是啊,我正想说,回到我最初的说法,我还是从没遇到过哪个做过DEL的人说,我们应该多做点这个。

[929.858-939.296] SPEAKER_01: 所以,我是说,我觉得,希望我们能讲到,我觉得我真正兴奋的是这条路似乎行得通,你知道,希望在这期结束之前听众能同意我的看法。

[939.516-951.848] SPEAKER_01: 其实,也许甚至可以讲个私人轶事,我们有个共同的朋友,我记得他是Leash的天使投资人,当他告诉我他投资了一家DEL公司时,我开玩笑说,好吧,那这钱你是再也见不到了。

[952.068-957.373] SPEAKER_01: 而我现在当着所有听众的面站在这里说,我错了,我真希望当时听了他的话。

[957.593-961.099] SPEAKER_01: 我很好奇,首先,为什么DEL这么难?

[961.319-964.267] SPEAKER_01: 我觉得我们刚刚已经覆盖了很多这方面。

[964.487-969.235] SPEAKER_01: 在历史上做DEL的这群人里,是什么让这段经历如此痛苦?

[969.455-972.543] SPEAKER_01: 然后你又为什么觉得自己能克服这一点?

[972.843-978.682] SPEAKER_02: 但有一点我想说的是,DEL被发明出来的时候,肯定是在测序还比较贵的年代。

[978.902-984.683] SPEAKER_02: 那时候做测序实验感觉就像是一次很大的后勤和资金上的投入。

[984.903-994.678] SPEAKER_02: 然后当你当时把这项技术建起来,再把它对准当时所对准的问题时,那非常像是,哦,我们想针对非常具有挑战性的靶点找到新的化学物质。

[994.898-998.067] SPEAKER_02: 所以,这就引出了几个战术层面的问题。

[998.287-1003.314] SPEAKER_02: 其中之一是,传统上人们不会筛选大量的蛋白质靶点。

[1003.534-1011.614] SPEAKER_02: 他们通常是想为某个真的很难的东西找到化学物质,而且他们可能已经试过一堆其他技术,都没成功。

[1011.834-1015.467] SPEAKER_02: 所以,好吧,那我们试试DEL筛选吧,因为我们什么都没有。

[1015.687-1024.185] SPEAKER_02: 然后他们就会去做他们要筛选的那个蛋白质,而且会投入很多精力,因为做一次DEL筛选感觉就是个大工程。

[1024.405-1030.209] SPEAKER_02: 所以也许他们会花两到六个月,大量培养他们关心的那个蛋白质,做一堆纯化。

[1030.429-1036.489] SPEAKER_02: 也许他们会先跑一些功能性检测,说服自己说,哦,这东西真的得这么好,我们才值得去做这个筛选。

[1036.709-1042.769] SPEAKER_02: 然后等他们真跑筛选的时候,就会尽量把拿到不错化学物质的概率拉到最大。

[1042.989-1047.830] SPEAKER_02: 所以这样一来,动机就推着大家往“要做一个大DEL”的方向走。

[1048.050-1050.743] SPEAKER_02: 就是,我们想要很大的多样性。

[1050.963-1062.204] SPEAKER_02: 所以你要是去看那些提供CRO服务的机构,或者公司内部的DEL团队,很多时候他们都会往这种超大型DEL上推,心里就是这么想的,这动机也很合理。

[1062.424-1075.627] SPEAKER_02: 我们做的非常非常不一样的一点是,我们会筛成千上万个蛋白质,我们没那么执着于给某个可能对项目特别重要的蛋白靶点去找单个的结合物。

[1075.847-1081.431] SPEAKER_02: 我们就是想在大批大批的蛋白质上,拿到海量海量的活性化学物质。

[1081.651-1091.031] SPEAKER_02: 所以在这个层面上,我们能非常非常清楚地看出我们的DEL表现如何,因为我们每一个化合物库都会被拿去筛好几百个靶点。

[1091.251-1094.861] SPEAKER_02: 所以你们其实是在更好地表征这个化合物库。

[1095.081-1097.925] SPEAKER_02: 我们了解得非常非常清楚。

[1098.145-1106.248] SPEAKER_02: 于是我们就开始遇到很多这类基序,它们其实是我们设计的化学结构、或者生产工艺带来的怪癖。

[1106.468-1110.856] SPEAKER_02: 比如说,有个特别好的例子,我们有一个化合物库,做过好几次。

[1111.076-1119.353] SPEAKER_02: 虽然它名义上是同一个化合物库,但表现就是不一样,而我们是在拿它筛了好几百个蛋白质之后才知道这事的。

[1119.573-1124.402] SPEAKER_02: 然后你就得盯着那些结果看,说,哦,现在这些基序出现得稍微多了一点。

[1124.622-1132.180] SPEAKER_02: 而随着你对这个库的表征越来越深入,它真的能帮你评估、甚至排查你蛋白质生产流程里的问题。

[1132.400-1142.860] SPEAKER_02: 我们之所以觉得这事整体上还挺可行,一个原因是我和公司里几个人都是从真正的基因组学方法开发背景出来的,不是化学背景。

[1143.080-1148.583] SPEAKER_02: 所以我们知道要调整实验方案、从这些古怪的检测里拿到好信号,大概需要付出什么。

[1148.803-1158.822] SPEAKER_02: 我觉得就是这一点,再加上在Recursion待的那好多年,那是我和我的联合创始人Andrew Blevins,还有我们团队里另外几个人之前待的地方。

[1159.042-1173.708] SPEAKER_02: 说实话,我们在高维生物学里都犯过很多错,摸黑乱撞,搞清楚到底有哪些不同的模式、哪些失败模式,会让模型在高维成像数据上作弊——你知道,就是Recursion产出的那种数据。

[1173.928-1187.015] SPEAKER_02: 所以我们特别有意识地去想,哦,这边有这些噪声来源,我们得一个个追下去;还有,你能不能预测出这个数据是在哪台仪器上跑的?如果你能预测出来,那就非常糟糕。

[1187.235-1196.255] SPEAKER_02: 所以我们把这些思考全都用到了攻克这个特定的检测上,而且我们有种感觉,之前没人真的那么细致地盯过它。

[1196.555-1203.602] SPEAKER_01: 对,这得追溯到Ron Alpha那期Noetic的节目,我在那儿发现——Recursion帮?对,Recursion帮。

[1203.822-1220.113] SPEAKER_01: 我发现你们两家公司之间有一些真正的精神层面的相似之处,就是那种真正的认知严谨性,非常仔细地检查你做的每一件事,用不同的方式、某种程度上又相互重叠的方式去做事。

[1220.333-1224.303] SPEAKER_01: 我就是好奇,我们问过Ron这个——也很注重数据,对吧?

[1224.523-1229.027] SPEAKER_01: 对,非常注重数据,而且是规模化的。还有自动化。

[1229.247-1237.234] SPEAKER_01: 对,我好奇的是,在Recursion的时候,这是不是就是Recursion文化的核心,那种——是的,对。对。尤其是在早些年。

[1237.534-1241.864] SPEAKER_02: 我觉得有四家,我认为大概有四家出自Recursion的公司,它们都挺像的。

[1242.084-1250.419] SPEAKER_02: 有我们,有Ron Alpha的Noetic,有Vishwa Kalluru、August Allen、Hannah Gordon这些优秀的人,还有Dave Hewley所在的Invada。

[1250.639-1256.026] SPEAKER_02: 然后还有Katie Roscalio经营的Known Medicine,几年前被PATHOS收购了。

[1256.246-1262.852] SPEAKER_02: 所以这些公司基本上都是在研究不同的有趣生物学问题,面对的都是噪声极大的测量。

[1263.072-1268.075] SPEAKER_02: 然后他们从Recursion拉人过来,想着,哦,我们挺擅长处理噪声数据的。

[1268.295-1272.962] SPEAKER_02: 咱们试试能不能从这个特定的角落里挖出好信号来。

[1273.182-1277.315] SPEAKER_02: 你知道,对我们来说,这是小分子化学的问题。

[1277.535-1284.814] SPEAKER_02: 对Invada来说,是天然产物的混合物,他们做很多那种,你知道,质谱之类的东西。

[1285.034-1288.168] SPEAKER_02: 然后还有Ron,还有Katie Rizzo的团队。

[1288.388-1290.860] SPEAKER_02: 所以对,我们都很像。

[1291.160-1293.249] SPEAKER_00: 那让我,咱们先停一下。

[1293.469-1295.280] SPEAKER_00: 你们到底在做什么?

[1295.580-1296.532] SPEAKER_01: 太好了。

[1296.752-1300.316] SPEAKER_01: 抱歉,我太兴奋了,就直接插进来了,抱歉,对。

[1300.616-1304.563] SPEAKER_02: 对,我们是一家做小分子机器学习的公司。

[1304.783-1321.190] SPEAKER_02: 也就是说,我们会去收集大量小分子与蛋白质靶点结合的数据,用这些数据来推动机器学习在这方面的理解和进步,同时我们也把小分子药物推进给合作伙伴,让它一步步走向患者。

[1321.490-1331.312] SPEAKER_00: 给不太熟悉的听众解释一下,什么是小分子,我们为什么关心它,它和其他治疗手段有什么不同?这个好,这个好。

[1331.612-1340.249] SPEAKER_02: 你想给某个东西做药的时候,我之前稍微提到过,你体内有一个感兴趣的蛋白质,你要想办法去影响它的行为。

[1340.469-1343.754] SPEAKER_02: 目前市面上人们用的方法有好几种。

[1343.974-1347.201] SPEAKER_02: 常见的一种是抗体,抗体是细胞制造的。

[1347.421-1351.647] SPEAKER_02: 它们是大分子,所谓大,就是大到很难进入细胞内部。

[1351.867-1354.560] SPEAKER_02: 它们也很难做成药片。

[1354.780-1361.026] SPEAKER_02: 所以如果你用的是抗体疗法,或者像GLP-1这类蛋白质疗法,你就得打针。

[1361.246-1369.872] SPEAKER_02: 它能作用于一些比较容易接触到的蛋白质,但细胞内部还有很多驱动疾病的蛋白质,这些疗法对付起来就相当困难。

[1370.092-1377.719] SPEAKER_02: 所以在很多方面,更吸引人的做法是,与其用蛋白质这种大东西,不如用一个小小的化学分子。

[1377.939-1382.942] SPEAKER_02: 而小化学分子,也就是这里说的小分子,是可以做成药片的。

[1383.162-1386.656] SPEAKER_02: 它们能进入你的细胞,影响细胞的行为。

[1386.876-1389.964] SPEAKER_02: 大多数药物其实都是小分子。

[1390.184-1394.386] SPEAKER_02: 你家里要是有药片,那几乎肯定都是小分子。

[1394.606-1408.621] SPEAKER_02: 在那些做机器学习药物发现的团队里,从广义上讲,我们,也就是21世纪所有的生命科学家,在预测和实现蛋白质类药物的行为方面已经取得了相当不错的进展。

[1408.841-1417.757] SPEAKER_02: 所以你看有一堆抗体公司,比如Isomorphic在做这个,还有Chai、Navala,有这么多非常优秀、非常聪明的人在这些具体问题上发力。

[1417.977-1427.334] SPEAKER_02: 我觉得部分原因是,我们对蛋白质行为的理解或者数据足够多,所以这些公司做这些设计能比较有效地推进。

[1427.554-1432.000] SPEAKER_02: 我们的判断是,这些能力在小分子方法上还远远不具备。

[1432.220-1438.721] SPEAKER_02: 这也是我们创办这家公司的原因之一,我们觉得可以在这个方向上做出有意义的突破。

[1439.021-1448.320] SPEAKER_00: 小分子有个关键特点,就是它们哪儿都能去,在身体里到处跑。这既是好事也是坏事。对,既是好事也是坏事。

[1448.540-1454.565] SPEAKER_00: 它们能钻进细胞里,也更容易突破肿瘤的防线、穿过血脑屏障。

[1454.785-1459.777] SPEAKER_00: 但正因为它们什么都能干,所以也更容易产生毒性和其他副作用。确实是这样。

[1460.077-1464.326] SPEAKER_02: 所以小分子走监管这条路,可能比抗体要坎坷一些。

[1464.546-1470.629] SPEAKER_02: 抗体呢,我们现在已经比较清楚它们在体内怎么表现、哪些地方容易出问题、哪些不会。

[1470.849-1475.156] SPEAKER_02: 而小分子有一堆已经被描述得很清楚的问题,有些分子可能会碰上。

[1475.376-1477.547] SPEAKER_02: 比如可能引起肝脏问题。

[1477.767-1480.216] SPEAKER_02: 可能引起心律失常。

[1480.436-1492.896] SPEAKER_02: 作为药物化学家,你的工作就是把这些分子开发出来,从试管里看着还行的东西,变成你敢放心给人用的东西,这一路上有很多坑,得花很大功夫去避开。

[1493.116-1501.811] SPEAKER_02: 所以要确保我的分子不会引起心律失常,然后如果我改动它、让它不再有这些问题,那它还能不能干我想让它干的事?

[1502.111-1510.772] SPEAKER_00: 你们的模型怎么帮助解决这个更大的问题,也就是开发这些分子,然后再往下游的那些问题?

[1511.072-1521.126] SPEAKER_02: 可以这么想:其中一些问题,这类脱靶毒性,是由你的小分子以某种方式结合其他蛋白引起的,而这些结合你是可以预测或识别出来的。

[1521.346-1529.171] SPEAKER_02: 所以这正是我们在大力推进的方向:来,把这些蛋白也做出来,用我们的化学方法也去筛这些蛋白。

[1529.471-1536.216] SPEAKER_00: 如果你有一个针对各种蛋白的大规模筛选库,那看起来挺有用的,你可以……

[1536.516-1551.182] SPEAKER_02: 对,说我们的目标是筛遍所有蛋白,然后还扩展到人类以外的物种,这完全不夸张。一方面是为了获得蛋白的多样性,另一方面也是为了识别出——也许你不想跑小鼠模型,

[1551.402-1561.258] SPEAKER_02: 也许你该跑大鼠模型,因为你的化学物质在不同物种里表现不一样,因为那些蛋白可能略有差异。有意思。对。所以这些事你都得做。

[1561.478-1575.505] SPEAKER_02: 但没错,去攻大量这类蛋白,能让你这样想:好,现在我有了我的化学物质,我知道这一堆化合物里,哪些以及哪些变体可能会结合这些东西、引起其他毒性问题。明白了。对。对。

[1575.725-1590.913] SPEAKER_02: 再往下游,还有一大堆别人常做的检测,那些更像是涌现出来的行为,可能不是单个蛋白的事,而是它穿透细胞膜的能力有多好、它如何以更复杂的方式相互作用,这些需要细胞来评估,

[1591.133-1595.521] SPEAKER_02: 或者比如用心肌细胞来测那些棘手的心律失常问题。

[1595.741-1604.007] SPEAKER_02: 所以这些东西,目前有很多团队在推进在细胞层面测量的技术,那比我们现在关注的东西又高了一个生物学抽象层次。

[1604.227-1613.468] SPEAKER_02: 但我们愿意相信,那些对生物物理本身有良好理解的模型会很有用,也许将来还能在更小的数据集上做微调。

[1613.768-1618.411] SPEAKER_00: 再往回倒一点,也许稍微聊聊模型本身,为什么选DEL?

[1618.711-1627.046] SPEAKER_02: 至少在我们看来,DEL确实是测量小分子相互作用最具可扩展性的技术,因为你可以把好几百万个放进一根管子里。

[1627.266-1639.551] SPEAKER_02: 关于这些化合物库,有一点我们还没提到,就是当你用混合的方式构建它们时,很可能有一些反应不完全,你以为你有的那个标签翻译可能有点偏差。

[1639.771-1644.693] SPEAKER_02: 所以我们在构建化合物库时设计了很多对照来缓解这个问题。

[1644.913-1654.746] SPEAKER_02: 当你用这些的时候,你知道,那个词可能是阵列式化合物库,或者是一根管子、一个板孔里一次只有一种化合物的库。

[1654.966-1664.544] SPEAKER_02: 当人们研究这些标签到底有多准的时候,你希望它们是准的,但人们一检查,通常偏差有20%到30%。

[1664.764-1666.969] SPEAKER_02: 这是个巨大的错标问题。

[1667.189-1671.798] SPEAKER_02: 我们认为这大概和DEL里的错标差不多,也许还更糟。

[1672.018-1676.406] SPEAKER_02: 而DEL本身的可扩展性就是极其、极其强。

[1676.626-1680.271] SPEAKER_02: 也许我可以讲个小故事,我肯定我们后面总会聊到。

[1680.491-1686.911] SPEAKER_02: 几年前我们办了一场Kaggle比赛,我们决定为那场Kaggle比赛生成数据,然后把它公开了。

[1687.131-1695.757] SPEAKER_02: 当时有一个数据库,两年前那会儿叫Binding DB,是当时最大的小分子与蛋白靶点结合数据的汇总集合,跟你的细胞之类的相比。

[1695.977-1699.924] SPEAKER_02: 它大概有两百万,稍微不到三百万条物理相互作用。

[1700.144-1704.555] SPEAKER_02: 而我们发布的数据集大约有四十亿条物理相互作用。

[1704.775-1707.723] SPEAKER_02: 而且全是我家地下室里一个人测出来的。

[1708.023-1709.439] SPEAKER_01: 是啊。

[1709.659-1712.549] SPEAKER_01: 早期的博客文章真的很好笑。

[1712.769-1719.189] SPEAKER_01: 你,就像,字面意义上的照片,你有一个,不算车库创业,但就是在地下室。是啊。

[1719.489-1726.013] SPEAKER_02: 那是一间地下室公寓,天花板大概七英尺高。是啊。看着就让人幽闭恐惧。是啊。

[1726.313-1732.303] SPEAKER_01: 我从来没听说过有哪家生物科技创业公司是从地下室起步的。哦,我倒是见过。

[1732.603-1735.609] SPEAKER_02: Christopher那几家就是那样的,对吧?

[1735.909-1740.413] SPEAKER_01: 好,那这个Kaggle比赛,我觉得就是个特别有意思的故事。

[1740.633-1746.043] SPEAKER_01: 因为你们当时抱着特别高的期望去做这件事。确实是这样。

[1746.263-1756.247] SPEAKER_01: 你们当时想的是,而且我觉得这算是那种非常好的、有认识论严谨性的例子,你们不是随便给个训练测试集、随机划分一下就完事了。

[1756.467-1762.457] SPEAKER_01: 你们认真思考了怎么组织这个Kaggle比赛、怎么运行它,还有怎么公平地评估。

[1762.677-1767.460] SPEAKER_01: 你能聊聊那个过程吗,你们做了哪些决定,然后结果又怎么样?

[1767.760-1769.234] SPEAKER_02: 好啊,很乐意。

[1769.454-1778.033] SPEAKER_02: 我们远不是第一个尝试评估能不能用计算机合理预测小分子与化学物质结合、然后再去验证这些预测的团队。

[1778.253-1781.225] SPEAKER_02: 做这件事的论文有很多。

[1781.445-1788.167] SPEAKER_02: 比如,有一篇很经典的论文,出自XChem和Google,比我们Leash做这个早了好几年。

[1788.387-1794.691] SPEAKER_02: 但我们自己在公开数据上做了很多实验,我们一直怀疑其实没人真正做得很好。

[1794.911-1808.114] SPEAKER_02: 所以我们想办这个比赛,尤其是在评估设计上,要能真正在一系列不同难度上做测试,因为我们当时在想,好吧,我们希望会有很多人来参赛,很多人参与。有些人会非常强。

[1808.334-1811.108] SPEAKER_02: 有些人可能还是新手。

[1811.328-1824.310] SPEAKER_02: 我们想确保里面有一些容易上手的好拿分的题,然后中间有一堆有点难的,最后顶端再放一些我们认为是难度极限、或者我们想象中难度极限的东西。

[1824.530-1829.313] SPEAKER_02: 为了把这点讲清楚,我们前面已经稍微聊过这些库是组合式的。

[1829.533-1833.619] SPEAKER_02: 所以你的构建模块数量会少一些,但组合出来的数量非常大。

[1833.839-1842.674] SPEAKER_02: 我们从一个很棒的赞助商那里拿到了一套化合物库,这人叫Xiaojie Lu,在上海经营一家叫AlphaMod的公司。

[1842.894-1846.040] SPEAKER_02: 那个化合物库大概有1.3亿个分子。

[1846.260-1854.201] SPEAKER_02: 分子的中心部分,你可以把它想象成一个带三根辐条的轮毂,然后中心轮毂对每个分子来说都是一样的。

[1854.421-1857.695] SPEAKER_02: 这是一种特定的化学基元,叫做三嗪。

[1857.915-1864.358] SPEAKER_02: 所以我们当时做的是,我们说,好,我们有了中心轮毂,然后我们有了这三根辐条。

[1864.578-1869.326] SPEAKER_02: 对于评估数据集,我们想用几种不同的方式来划分。

[1869.546-1879.182] SPEAKER_02: 一种方式是,我们可以说,好吧,这些化合物可能有一个共享的构建模块,一根共享的辐条,然后另外两根辐条是不同的。

[1879.402-1885.009] SPEAKER_02: 好,这是我们可以做的一件事,那我们就对一部分这样做,这部分算是简单的。

[1885.229-1895.248] SPEAKER_02: 另一种方式我们可以说,好吧,也许我们不会有任何共享的构建模块,但我们知道,如果它们来自这个化合物库,那就会有共享的中心轮毂。

[1895.468-1902.573] SPEAKER_02: 所以我们可以想象,有些辐条可能相似,但不会完全相同,也不会是共享的,所以我们觉得这部分会稍微难一点。听起来不错。

[1902.793-1909.422] SPEAKER_02: 然后对于第三个最难的评估,我们用了一个完全不同的化合物库,是我们在Leash设计的。

[1909.642-1916.050] SPEAKER_02: 没有共同的轮毂,没有共同的构建模块,连接化学不同,什么都不一样。

[1916.270-1919.857] SPEAKER_02: 所以我们想,好,我们要按不同的比例来放这三个。

[1920.077-1923.525] SPEAKER_02: 我们不会告诉任何人我们是怎么做的。

[1923.745-1928.470] SPEAKER_02: 我们就直接说,这些是评估集,然后看看结果怎么样。

[1928.690-1936.027] SPEAKER_02: 于是我们发起了COD竞赛,那是两年前的事了,你们想看的话可以去查。我们写了很多关于它的东西。

[1936.247-1941.692] SPEAKER_02: 然后有2000支队伍参赛之后,冠军在有共享构建模块的那部分做得还行。

[1941.912-1949.632] SPEAKER_02: 取决于靶点,我们看到在没有共享构建模块、但核心轮毂还是一样的、三嗪还在的那部分,性能有一些提升。

[1949.852-1954.600] SPEAKER_02: 然后到了最难的那个评估,没有人比随机猜做得更好。

[1954.900-1961.726] SPEAKER_01: 对,冠军就是那个第1200名,随便一个提交了Jupyter notebook的人,对吧?对,没错。

[1962.026-1972.219] SPEAKER_02: 所以冠军是一个叫Victor Shlopov的人,他把一种稍微不同的方法组合了起来,他的方法不错,但和其他所有人一样,没有比随机猜更好。

[1972.439-1976.386] SPEAKER_02: 前五名里有三个是那个带噪声的教程notebook。

[1976.686-1988.957] SPEAKER_00: 不过,为了说清楚,通常Kaggle竞赛里,会有一个公开的评估集让你训练、测试你的算法,我猜,然后还有一个私有的留出集。对,没错。

[1989.177-1992.311] SPEAKER_00: 比赛就是跑这个,你只知道分数。

[1992.531-1995.781] SPEAKER_00: 那你们的库被放进公开评估集里了吗?

[1996.001-2004.139] SPEAKER_00: 没有。没有,它被藏起来了,就是为了增加点刺激。对。好。是啊,而且确实很刺激。非常刺激。

[2004.439-2007.771] SPEAKER_01: 那你从这当中得到了什么?教训是什么?

[2007.991-2013.552] SPEAKER_01: 我是说,首先,你本来希望从中得到什么?这个我稍微提到过一点。

[2013.772-2018.915] SPEAKER_01: 但后来这又是怎么影响你对接下来怎么走的思考的?对,对。我们有几个期望。

[2019.215-2020.910] SPEAKER_02: 也有一些担忧。

[2021.130-2027.410] SPEAKER_02: 有一点我坦白说,你知道,我们发布的这个数据集比任何人见过的都大一千倍。

[2027.630-2038.729] SPEAKER_02: 我们估计大概有5%的可能性,最近的进展、那种cold-folding的方法会让我们的公司彻底没有存在的必要。没发生。对,没发生。

[2038.949-2044.788] SPEAKER_02: 没有,但我们当时想,你知道,有那么一点可能,我们在这儿真的搞砸了。结果没发生。

[2045.008-2051.370] SPEAKER_02: 我们更倾向于怀疑大家在这方面不太擅长,而数据可能会有帮助。所以我们希望能看到这一点。

[2051.590-2061.086] SPEAKER_02: 有一点——不管怎样,你都会想知道这个。你会想知道这个。你会想知道这个。十年的心血啊。绝对。绝对。

[2061.306-2066.994] SPEAKER_02: 还有另一件我们想知道的事是,把分子表示出来喂给计算机有很多不同的方式。

[2067.214-2070.964] SPEAKER_02: 你可以用叫SMILES的东西,用某种方式来表示。

[2071.184-2072.855] SPEAKER_02: 也可以用3D图。

[2073.075-2076.825] SPEAKER_02: 还有那种奇怪的球面,球面卷积网络。

[2077.045-2082.513] SPEAKER_02: 人们试过各种古怪的办法,想用有用的方式来表示分子。

[2082.733-2087.620] SPEAKER_02: 这个领域里会有很多人争论说,哦,我觉得这种方式比那种方式好之类的。

[2087.840-2097.104] SPEAKER_02: 我们确实很鼓励参赛者,尤其是那些有化学背景的,说咱们来试试这些不同的表示方式,看看效果怎么样。

[2097.324-2105.265] SPEAKER_02: 我们很欣慰地发现,你知道,我们自己在做的,就是最基础的SMILES,基本上打败了其他所有方法。

[2105.565-2119.325] SPEAKER_00: 也不是说压倒性的大胜,但确实好到足够让我们继续用这个方法,而SMILES,如果我没记错的话,基本上就是一个序列,一串文本字符串,它不编码任何三维结构。

[2119.625-2139.097] SPEAKER_02: 全都是涌现出来的,它其实就是图的遍历,对,转换成文本字符串,所以你可以从不同的点开始遍历这个图。所以就有了所谓的规范SMILES和非规范SMILES,取决于你从哪里开始。但没错,这是一种极其简单的表示方式。所以我们当时在想,

[2139.317-2146.817] SPEAKER_02: 或者说我们好奇,这些更花哨的分子表示方法会不会至少在这个特定问题上更好,结果它们完全没有。

[2147.117-2150.507] SPEAKER_01: 所以你的结论是应该全力投入这个方向吗?

[2150.727-2157.925] SPEAKER_01: 这对你们是鼓舞还是打击,至少在那之后大家集体的情绪反应是什么?我一直挺好奇这个的。

[2158.145-2164.867] SPEAKER_01: 我是说,他好像写了些东西,你们后来也有好几次跟进,但我就是好奇想听听。

[2165.167-2166.734] SPEAKER_02: 对对,这是个好问题。

[2166.954-2170.320] SPEAKER_02: 所以,我们这边是极度信奉“苦涩的教训”的。

[2170.540-2178.121] SPEAKER_02: 所以我们的想法是,一部分是有点欣喜,就是,哇,这比我们想的难多了,这挺好的,这挺好的。对。

[2178.341-2190.441] SPEAKER_02: 因为如果这个问题跟我们知道的其它所有问题一样,如果你能从一个可扩展的测量体系里拿到相当不错的信号,那你就应该直接去争取那个信号。对,对。

[2190.661-2195.827] SPEAKER_02: 不,我是说,对我们来说,这挺能验证我们的想法的,就是,哇,这里有个机会。

[2196.127-2204.683] SPEAKER_00: 尤其是如果你的可扩展测量体系很难做,而你又恰好有专门的知识去做这件事。绝对,绝对。

[2204.983-2208.756] SPEAKER_02: 就是那种,哇,这时候就该往这上面猛加把火,这太棒了。

[2209.056-2210.901] SPEAKER_01: 哇,对,我是说,那太厉害了。

[2211.121-2214.255] SPEAKER_01: 所以你们当时就是,好,全力推进。

[2214.475-2217.841] SPEAKER_01: 我们就开始收集数据、收集数据、收集数据。没错。

[2218.061-2222.368] SPEAKER_01: 对,然后你们这么干了一段时间,接下来发生了什么?

[2222.588-2226.535] SPEAKER_01: 也许先说说,在这个过程中你们学到了什么教训?

[2226.755-2230.725] SPEAKER_01: 然后再讲到你们第一个有用的成果。对对。

[2231.025-2235.111] SPEAKER_02: 这个过程里有几件事,我们觉得非常非常有用。

[2235.331-2243.249] SPEAKER_02: 我们意识到的一件事是,COD比赛是基于三个研究得相当透彻的蛋白质靶点。

[2243.469-2252.211] SPEAKER_02: 我们越来越清楚,出于很多原因,包括这些原因,要想在新颖蛋白质上取得表现,可能意味着我们得做多得多的工作。

[2252.431-2261.753] SPEAKER_02: 所以,好吧,我们一直都有动力去做这件事,但那真的让我们更清楚地意识到,天哪,我们得去做,我们得做很多蛋白质,对吧?

[2261.973-2264.004] SPEAKER_02: 所以这是其中一部分原因。

[2264.224-2275.276] SPEAKER_02: 另一部分原因是,我们觉得我们有这么大量的小分子,比如这个一亿化合物的库,但对我们来说,它还不如把更小的库表征得更好来得有用。

[2275.576-2279.000] SPEAKER_01: 所以这也是我们做出的一个战略选择。

[2279.220-2295.116] SPEAKER_01: 这其实相当重要,因为你的预算固定,所以你可以选择,比如说测序,或者把更多钱花在测序上,为你已有的更小的集合获得更高分辨率,或者你可以拿到更多分子,然后指望噪声在某种程度上被平均掉之类的。

[2295.416-2296.414] SPEAKER_02: 没错。

[2296.634-2311.207] SPEAKER_02: 预算固定确实会影响你的战略选择,对我们来说,我们想确保在两个轴上都获得大量变化,而不是只在一个轴上变化、只做少数几个蛋白质。抱歉,是哪两个轴?

[2311.427-2315.873] SPEAKER_02: 那就是化学品的数量对蛋白质的数量。好。对。

[2316.093-2324.092] SPEAKER_02: 所以,你可以想象,比如,我要做三个蛋白质和十亿个化学品,或者也许我应该做几千个蛋白质和个位数百万的化学品。对。

[2324.312-2326.308] SPEAKER_02: 或者这些的其他某种组合。

[2326.608-2332.796] SPEAKER_01: 个位数百万大概是有史以来构建的最小的DEL之一。它相当小。

[2333.096-2336.207] SPEAKER_02: 我见过最小的一个是五万个分子。哦,好。对。

[2336.507-2341.150] SPEAKER_01: 我想如果你想做SAR之类的,你可以做一个定制的DEL。你想怎么做都行。对。

[2341.370-2347.511] SPEAKER_01: 当你有这项技术时,就去做吧。两个构建块。对,没错。你想怎么做都行。

[2347.811-2356.692] SPEAKER_02: 所以好处是,你对库的大小、特性,还有我提到的这个条形码问题,都有巨大的控制权。你可以扩展这类东西。

[2356.912-2364.911] SPEAKER_02: 我们在自己的DEL里花了很多心思做各种花哨的功能,真正提升表现、提高信噪比之类的。

[2365.131-2374.732] SPEAKER_02: 但回到Kaggle比赛的教训,我们也清楚,模型可能会去记住单个构建块,从而提升表现。这一点似乎相当明显。

[2374.952-2384.948] SPEAKER_02: 所以,很明显,它们可能能够通过记忆得到一个概念:如果你有一个非常相似的构建块,它可能表现相似,所以这也影响了其中一些性能指标。

[2385.168-2391.077] SPEAKER_02: 还有一点,当你有某个离得很远的东西时,在那个状态下,他们根本做不到。

[2391.297-2406.357] SPEAKER_02: 当我们发布这些结果,基本上就是说,嘿,没人比随机猜测做得更好,我们确实收到了一些反弹,有人说,你们那个小比赛里到底有没有厉害的人参加?也许只是参赛的人太差了吧。

[2406.577-2409.212] SPEAKER_02: 也许全是研一的学生。

[2409.432-2413.379] SPEAKER_02: 所以结果就是,我们干脆把全部数据都公开了。

[2413.599-2420.147] SPEAKER_02: 所以如果外面有谁觉得自己很厉害,那就请来给我们看看,因为我们希望这个问题被解决。

[2420.367-2425.649] SPEAKER_02: 但到目前为止,我们还没看到有人在这些东西上表现得很出色。

[2425.949-2433.274] SPEAKER_01: 你说全部数据,包括所有原始读数计数之类的,所以你可以自己去查,说,哦,这不只是处理错误。

[2433.494-2435.966] SPEAKER_01: 你可以从原始数据出发去用。

[2436.266-2442.535] SPEAKER_02: 你可以拿我们的二元标签,你可以自己做,所有的评估,所有东西。

[2442.755-2451.381] SPEAKER_02: 全都在Polaris上,那是一个由Recursion运营的非营利组织。放在那里供任何人使用。请尽管用。

[2451.601-2455.304] SPEAKER_02: 我们是有意公开的,希望社区能好好利用它。

[2455.604-2464.288] SPEAKER_01: 不过你觉得,这个数据集的结构是不是从根本上就有局限,也许没有一些外部增强的话,你根本没法比大家已经做到的更好?

[2464.588-2480.531] SPEAKER_02: 我觉得,如果你真的有完美的结构理解,或者有非常好的结构模型,那你应该能在这上面做得不错,对吧,因为如果我们都有模型,真正理解氨基酸和小分子之间相互作用的物理本质,

[2480.751-2487.809] SPEAKER_02: 那么小分子训练集的分布长什么样其实就不太重要了,只要它们真的擅长这个。

[2488.029-2502.451] SPEAKER_02: 我觉得当我们看到结构模型的预测,有人说,哦,我在PDB上做了时间切分,我们的模型从没见过这些分子或这个蛋白,然后希望我们能利用这种理解做出合理的折叠。

[2502.671-2511.796] SPEAKER_02: 这非常符合能在这类东西上做预测的精神,因为没人见过这些分子,尤其是我们内部的分子,之前没人见过。这很酷。

[2512.096-2515.544] SPEAKER_01: 所以Kaggle比赛,你继续往前走,学到了一些教训。

[2515.764-2521.011] SPEAKER_01: 你全力投入数据收集,重新整顿,决心扩大规模。

[2521.231-2537.081] SPEAKER_01: 好,那然后,我记得大概六个月后,你发布了,或者你写了一篇博客文章讲你们的模型Hermes,是的,你能跟我们讲讲那个以及那里的一些收获吗,我觉得尤其是你们怎么评估它的,还有那个模型投入的所有心血。

[2537.381-2547.841] SPEAKER_02: Hermes是一个模型,最初是至少一位叫Max Kleinsasser的数据科学家的构想,还有Sean Francis Lyon,当然还有Andrew Blevins,他是那里的CTO。

[2548.061-2562.065] SPEAKER_02: 最初的想法是,我们有一堆数据,我们在考虑怎么把它按不同的训练方式切分开,所以我们想做出一个特别特别简单的模型,这样就能做很多潜在的实验迭代。

[2562.285-2569.506] SPEAKER_02: 它的目的不是要成为最先进的模型,而是,哎,你知道,我们想快速试各种东西。

[2569.726-2574.718] SPEAKER_02: 于是我们做出了Hermes,然后Hermes的基本架构是两个不同的嵌入。

[2574.938-2589.395] SPEAKER_02: 其中一个是进化尺度建模,也就是ESM嵌入,那是一种蛋白质嵌入,来自一个当时在Metta的团队,后来他们出去自己创业了,再后来最近被Chan Zuckerberg收编了。

[2589.695-2594.362] SPEAKER_01: 所以有——我们请过Alex Reeves上播客,所以可以回溯到那一期。

[2594.582-2598.355] SPEAKER_01: 如果你想听更多,我们往回翻几周。细节很多。

[2598.655-2601.766] SPEAKER_02: 是啊,谢谢你,Alex,如果你在听的话。

[2601.986-2610.705] SPEAKER_02: 所以蛋白质那边我们用了那个,然后我们还有一个不同的嵌入叫Kenberta,基本上就是一种X-token预测的化学类嵌入,用在另一边。

[2610.925-2615.696] SPEAKER_02: 就是预测smiles之类的,或者——对,没错,就是预测smiles的token。

[2615.916-2631.522] SPEAKER_02: 所以就是这两个非常非常简单的嵌入,然后我们就把它们用交叉注意力拼在一起,就这样,然后我们用它来预测一个二分类标签,最简单的东西,极其简单,它们都很小,然后我们在自己的一些数据上训练它。

[2631.822-2638.822] SPEAKER_00: 其实,你本可以做得更简单,在那些之后接一个MLP就行,对吧,而不是用交叉注意力。

[2639.122-2646.250] SPEAKER_02: 是纯注意力。用注意力的想法跟我们之前的一些经验有关,跟蛋白质结构的图模型有关。

[2646.470-2659.928] SPEAKER_02: 我们注意到的一件事是,如果你有这类图,有几个模型是这么做的,我们之前做的其他工作里,我们把那些的位置坐标打乱了,而那些模型里有些的性能基本上没变。

[2660.148-2663.236] SPEAKER_02: 这让我们觉得注意力超级关键。

[2663.456-2673.231] SPEAKER_02: 所以我们最后就是确保这个模型至少、至少达到我们的期望,就是它会去看蛋白质的不同部分和小分子结构,这些在这里可能有用。

[2673.531-2686.420] SPEAKER_01: 所以这就是,我觉得在图像生成里常说的毕加索问题,比如CNN曾经火过一阵,你可以只把一张图的特征打乱,像毕加索那样,把鼻子翻过来或者把眼睛转一下之类的。

[2686.640-2694.000] SPEAKER_01: 而CNN还是会说,哦,这是毕加索,因为它只是抓住了个别的局部特征,而不是某种全局结构。

[2694.220-2703.658] SPEAKER_01: 这在小分子药物发现里已经是个问题有一阵了,就是它常常抓住局部基序,然后对拓扑结构没有任何全局理解。

[2703.878-2715.211] SPEAKER_01: 所以尤其是像DEL这种东西,你有各个构建块的组合结构,你可以想象模型独立地学每个构建块,然后基本上就分解成三个构建块的和之类的。

[2715.431-2718.043] SPEAKER_01: 或者,我是说,这是个简单的概念,是啊。

[2718.263-2732.650] SPEAKER_01: 所以从某种意义上说,交叉注意力会迫使某些分子与蛋白质中的某些残基发生交互,或者至少说不是迫使,而是提供了这种机会。这是一种归纳偏置。

[2732.950-2737.338] SPEAKER_02: 你想说的其实是,我们一直在琢磨怎么评估这件事。

[2737.558-2747.658] SPEAKER_02: 所以我们在COG比赛里用过一些类似的技巧,就是训练集用我们自己内部生成的数据,然后再去看那些离得更远的化合物库。

[2747.878-2753.288] SPEAKER_02: 但后来我们也想设计一些划分方式,来试探Hermes的行为。

[2753.508-2761.089] SPEAKER_02: 因为DEL有这种组合式的做法,你可以做同样的事,就是让某些构建块共享,我们就这么做了。

[2761.309-2764.617] SPEAKER_02: 当然,性能会更好,我们怀疑这就是因为记忆。

[2764.837-2779.561] SPEAKER_02: 但另一件事是,你可以想象有些构建块彼此非常相似,如果你只是按这些构建块的身份来划分,那可能有些东西足够接近,记忆或者别的什么作弊模式就能带来预测能力。

[2779.781-2784.227] SPEAKER_02: 于是我们想出了一个方案,基本上就是对这些不同的构建块做聚类。

[2784.447-2793.328] SPEAKER_02: 我们按相似度做了构建块聚类,这样一来,我们就能避免整个聚类在测试集和训练集之间重叠。

[2793.548-2796.891] SPEAKER_02: 而当你这么做的时候,性能确实会下降。

[2797.111-2803.391] SPEAKER_02: 所以你可能会提到的一点是,我们在这里用了很多合理的基线,这些是我们真正担心的。

[2803.611-2807.953] SPEAKER_02: 几乎我们做的所有事情,都会用比如XGBoost,对吧?

[2808.173-2814.140] SPEAKER_02: 你应该做点类似的事情,就看看情况怎么样。是啊。

[2814.440-2830.743] SPEAKER_01: 经典的年轻机器学习从业者,花六个月优化自己最喜欢的模型,然后有人路过,跑了个XGBoost,XGBoost,或者随机森林,他们就说,哦对,对,这就直接打败了六个月的工作。哦对。是啊。是啊。

[2831.043-2837.846] SPEAKER_02: 所以我们做了这些不同的划分方式,想评估一下各种方法相对于XGBoost性能的表现。

[2838.066-2847.284] SPEAKER_02: 有一件事看到之后特别让人欣慰,就是随着你用这些构建块聚类的方法越走越远,XGBoost的性能会稳步下降。

[2847.504-2850.371] SPEAKER_02: 就像,如果共享两个构建块,它就在某个水平。

[2850.591-2853.156] SPEAKER_02: 如果只共享一个,就更差。

[2853.376-2858.763] SPEAKER_02: 如果只共享一个,你知道,只在没有的情况下,就更差。

[2858.983-2862.535] SPEAKER_02: 而如果你做构建块聚类,那就比那还要更差。

[2862.755-2870.800] SPEAKER_02: 然后我们把它和 Hermes 的表现做了对比,Hermes 在所有这些不同的情形下都相当稳定。我明白了。是的。

[2871.020-2879.123] SPEAKER_02: 所以这让我们觉得,哦对,你得真的把数据弄得相当偏离分布,XGBoost 才会真正垮掉。

[2879.343-2886.645] SPEAKER_02: 是的,这一点我们还没有,它在几张图和我们发表的一些工作里,我们并没有太大声地宣扬它。

[2886.945-2893.934] SPEAKER_01: 等等,我以为你,你不是有一篇博客文章叫“XGBoost 就够了”吗?对对,我们写过那篇。

[2894.234-2896.962] SPEAKER_02: 对,没错,我们写过那篇,对对。

[2897.182-2905.901] SPEAKER_02: 划分数据集这件事我们花了很多心思,想搞清楚,好吧,你怎么才能让你的模型不真的去死记硬背、记住东西?

[2906.201-2913.584] SPEAKER_01: 现在也许适合稍微岔开一下话题,引用你另一篇博客文章,那篇从我自己的亲身经历来看,我觉得特别好笑。

[2913.804-2923.080] SPEAKER_01: 我见过机器学习模型捕捉到那么多奇怪的干扰因素,你写的那篇关于分子归属或作者身份的博客文章真是个有趣的故事。

[2923.380-2927.188] SPEAKER_02: 确实,一篇“聪明的汉斯”式的文章,是的。

[2927.408-2934.188] SPEAKER_02: 很多年前,我和我的联合创始人 Andrew Blevins 在 Recursion,盯着屏幕上的一个小分子看。

[2934.408-2943.904] SPEAKER_02: 然后一位药物化学家走过,这个人叫 Mike Cucarisi,搞化学的,Mike 就说,嘿,这看起来像是一个 Stuart Tribert 的分子。

[2944.124-2950.544] SPEAKER_02: 然后我们就想,不会吧,你光走过去就能看出来,你就像在说,这是谁做的?太吓人了。

[2950.764-2956.603] SPEAKER_02: 然后这件事在 Andrew 心里挥之不去,尤其是他,持续了好多年,大概有六七年。

[2956.823-2966.586] SPEAKER_02: 我们还开玩笑说,你知道,每隔几个月我们出去喝啤酒,就会说,天哪,我们真该搞清楚这个问题到底有多严重。为什么这是个问题?

[2966.806-2972.332] SPEAKER_02: 好,所以问题在于,很容易想象你会试着训练模型去理解化学。

[2972.552-2978.438] SPEAKER_02: 所以你会从很多团队那里拿数据,因为从很多团队那里拿数据非常诱人。

[2978.658-2991.826] SPEAKER_02: 而如果模型光看分子就能认出是哪个化学家做的,那也许模型就能推断出化学家的意图,这意味着也许它们什么都没学到。嗯,它们确实学到了东西。它们学到了点东西。

[2992.046-2994.576] SPEAKER_02: 对,它们没学到物理,对吧?

[2994.876-2998.927] SPEAKER_01: 它们没学到你想让它们学的东西。所以我们真的很怕这个。

[2999.147-3002.897] SPEAKER_01: 它们学到的是某些化学家比另一些更厉害。是的。

[3003.197-3008.189] SPEAKER_02: 我们学到了各种各样的东西,不过也许先给听众交代一下背景。

[3008.409-3014.051] SPEAKER_02: 于是我们就动手做了,在圣诞节期间发布了。你可以去查,我们有一个排行榜。

[3014.271-3016.999] SPEAKER_02: 我们还有一个挺逗的在线小游戏可以玩。

[3017.219-3025.705] SPEAKER_02: 但我们是从 ChEMBL 上下载了所有化学家做的所有化合物,那是这类东西及其活性最大的数据库。

[3025.925-3032.705] SPEAKER_02: 凡是发表超过——我记得是30篇论文、600个分子的化学家,都算进来。

[3032.925-3036.756] SPEAKER_02: 这样你就拿到了所有的分子和所有相关的信息。

[3036.976-3039.948] SPEAKER_02: 一共是1,815位化学家。

[3040.168-3046.193] SPEAKER_02: 然后我们训练了一个分类器,让它光看分子就预测出是哪个化学家做的。

[3046.413-3049.605] SPEAKER_02: 我们做到了前五名准确率60%。

[3049.825-3052.518] SPEAKER_02: 这问题非常非常简单。是啊。

[3052.818-3054.826] SPEAKER_01: 对模型来说这太容易了。

[3055.126-3062.126] SPEAKER_02: 它们犯糊涂的地方,是碰到两个化学家出现在同一批论文里、又在同一个机构的时候。

[3062.346-3068.789] SPEAKER_02: 所以我们认为很可能的情况是,每个人在合成分子时都有一种独特的化学签名风格。

[3069.009-3076.892] SPEAKER_02: 然后,当这些人有了学生或受训者,那些人就会继承其中一部分风格,你懂的。

[3077.112-3080.722] SPEAKER_02: 所以这一点在我们看来相当清楚,光这一点就已经够吓人了。

[3081.022-3091.958] SPEAKER_01: 而且这是一个很多很多学术项目、很多博士生都拿来训练、拿来试着预测、找规律的数据集,这真的是这个领域的一个主要数据集。

[3092.258-3096.170] SPEAKER_02: 是啊,如果你不是自己生成数据,那你用的就是这个。

[3096.390-3109.639] SPEAKER_02: 而如果你是自己生成数据,那你很可能也中招了,因为你的机构里大概也有好几位化学家,各有各的独特化学风格,而且他们用各自的风格去做不同类型的项目。

[3109.939-3113.932] SPEAKER_00: 但我觉得关键在于,这些化学家往往也在解决相似的问题。

[3114.152-3119.515] SPEAKER_00: 比如我可能在这里有一份事业,我有一种风格,但我同时也在做某一类问题。对吧。

[3119.735-3124.506] SPEAKER_00: 所以你的风格也变成了,你学到的是风格,而不是问题本身。

[3124.806-3129.531] SPEAKER_02: 你学到的是风格,你学到的是这个问题的社会学。

[3129.751-3140.049] SPEAKER_02: 还有一点你也会学到,就是当你在这些机构里做化学家的时候,你知道,下单让一个分子被合成和测试,其实是件挺麻烦的事,对吧?

[3140.269-3147.490] SPEAKER_02: 所以就会出现这种情况:你会做出很多很多选择,决定哪些东西不去做,而你不会把这些写下来。

[3147.710-3149.637] SPEAKER_02: 哦对,写下来那就太蠢了。

[3149.857-3152.829] SPEAKER_02: 所以说,对,这就是他们的动机。

[3153.129-3155.183] SPEAKER_01: 我们团队根本做不出来。

[3155.403-3164.226] SPEAKER_01: 比如,我们本来可以做这个,但那样成本太高了,或者化学团队会说,不行,我们现在做不了,或者我们手头没有这些砌块。我觉得这行不通。

[3164.526-3167.834] SPEAKER_02: 有各种各样的理由让你可能不做某个选择。

[3168.054-3173.615] SPEAKER_02: 而没做那个选择,本身就是一个指纹,会印在最终做出来的东西上。

[3173.835-3180.057] SPEAKER_02: 然后你跟这些化学家聊的时候,有些人,你知道,老天保佑他们,他们特别迷信。

[3180.277-3181.774] SPEAKER_02: 有些人会说,哦。

[3181.994-3184.524] SPEAKER_02: 对,我每次都提这个。

[3184.824-3187.691] SPEAKER_01: 药物化学家是我见过的最迷信的人之一。

[3187.991-3193.714] SPEAKER_02: 对,所以就会这样:哦,这个砌块在某个进了临床的项目里管用。我特别喜欢它。

[3193.934-3197.718] SPEAKER_02: 也许它有助于溶解度,所以我就把它加进我喜欢的东西里。

[3197.938-3205.623] SPEAKER_02: 然后你的模型就会学到,哦,这个化学家喜欢这个,因为他们把它放进去了,那就说明它大概是有效的。

[3205.843-3224.746] SPEAKER_02: 于是它就学到了所有这些奇怪的东西,所以我们对此非常警惕,于是我们就,你知道,我们跑了这个模型来识别化学家是谁,然后我们选择完全不用任何化学结构或分子式来表示分子,而是只用一个“创作者概率”的向量。

[3224.966-3238.459] SPEAKER_02: 所以现在它就是这么一个1800维的向量,里面带着“是谁做的”的概率,你可以用这个表示,然后训练一个模型从Kimball预测活性,效果跟用化学分子式一样好。

[3238.759-3242.822] SPEAKER_00: 而如果你把它们结合起来——你就是只按社会学来。对。

[3243.122-3247.545] SPEAKER_02: 如果你把它们结合起来,效果并没有明显变好。

[3247.765-3251.758] SPEAKER_02: 所以是的,我们真的认为它学到的是很多社会学的东西。

[3251.978-3254.253] SPEAKER_02: 它学的不是真相。

[3254.473-3262.019] SPEAKER_02: 它学的只是那些试图开发这些分子的人所做的选择和留下的指纹。

[3262.239-3265.129] SPEAKER_02: 这也不是在贬低他们,对吧?

[3265.349-3268.634] SPEAKER_02: 那本来就不是他们想做的事。

[3268.854-3273.126] SPEAKER_02: 他们想的是用尽可能少的化学系列做出药物。

[3273.346-3275.482] SPEAKER_02: 那他们当然会那样做。

[3275.702-3279.510] SPEAKER_02: 但当你用这些“尾气”来训练模型时,你可能就有麻烦了。

[3279.730-3285.929] SPEAKER_02: 所以这意味着这不是一个很好的机器学习训练集。我们就是这么认为的。

[3286.229-3290.257] SPEAKER_01: 说起来挺有意思,我自己生活中也经历过很多类似的教训。

[3290.477-3295.086] SPEAKER_01: 大家都知道,像分子量这种东西,你只要按分子量排个序就行了。

[3295.306-3299.508] SPEAKER_01: 这几乎是你所能拥有的最大的单一预测指标之一。

[3299.808-3305.833] SPEAKER_02: 好像就是那个cast-16吧,我记得分子量——就是cast-16,它并列第一。对对。

[3306.053-3309.025] SPEAKER_02: 或者第二名,真的很接近。真的很接近。

[3309.325-3317.510] SPEAKER_01: 是啊,所以这些人拿出他们花哨的机器学习模型,你只要按最重的分子排序就行了,更重的分子结合得更好。对。

[3317.810-3322.419] SPEAKER_00: 但这不是化学本身的内在属性,这是数据集的属性。

[3322.719-3328.883] SPEAKER_01: 是的,这是“造什么、测什么”的社会学属性,也是药物化学家工作方式的属性。

[3329.183-3332.015] SPEAKER_00: 更重的分子,更可能结合。

[3332.315-3337.121] SPEAKER_02: 很多时候是因为他们看到改进能影响其他性质。这也是一部分原因。

[3337.341-3340.429] SPEAKER_02: 而且你可能也想到了一些点,想聊聊。

[3340.729-3343.701] SPEAKER_01: 基本上,你也有一个化学家。

[3343.921-3347.763] SPEAKER_01: 他们找到一个苗头化合物,然后开始优化它。

[3347.983-3350.827] SPEAKER_01: 他们就想,哦,我有个假设,这就是结合位点。

[3351.047-3354.471] SPEAKER_01: 那我就加这个官能团,让它结合到这里。

[3354.691-3357.663] SPEAKER_01: 然后他们发现,行吧,这个结合更强了。

[3357.883-3363.049] SPEAKER_01: 于是他们又想,那如果我们再加另一个官能团,让它结合到那个东西上呢?

[3363.269-3366.763] SPEAKER_01: 实际发生的就是,他们一直在往上加东西。

[3366.983-3368.759] SPEAKER_01: 对,直到它味道特别好。

[3368.979-3371.823] SPEAKER_01: 然后,对,直到它足够好。

[3372.123-3374.491] SPEAKER_02: 然后,你知道,然后就这样。

[3374.711-3377.543] SPEAKER_02: 而不是用组合化学的方法。

[3377.843-3381.256] SPEAKER_01: 或者像Ian说的,然后你还有这些其他性质。

[3381.476-3386.003] SPEAKER_01: 你就想,行吧,现在我们有了这个特别好的结合物,但它不溶。

[3386.223-3397.264] SPEAKER_01: 那我就往分子的另一侧,不在结合口袋里的那一侧,加一些亲水的官能团,或者一些别的官能团,让它变得……然后你就一直往上贴这些东西。

[3397.484-3401.408] SPEAKER_01: 结果不知不觉,你就得到一个又大又好的结合物。

[3401.628-3408.350] SPEAKER_01: 所以你只要按分子量排序,它几乎就是大多数公开数据集里最强的单一预测指标。

[3408.650-3417.729] SPEAKER_02: 但这跟化学一点关系都没有。不,我是说,我觉得一个很好的直觉是,如果一个东西有效,他们就会对它做更多改动,因为他们喜欢它。

[3417.949-3425.913] SPEAKER_02: 对,所以你就对它做更多改动。它变得更复杂,或者你会用更复杂、更昂贵的反应,或者你知道,

[3426.213-3441.947] SPEAKER_00: 比如我们用的砌块,它们很难搞到,对。你知道,如果觉得它没效果,你就不会做这些事。所以这些都是模型会顺手抓到的信号,所以,对,这挺吓人的。对,这就像我们的那匹马。聪明的汉斯。

[3442.167-3444.860] SPEAKER_00: 聪明的汉斯那匹马。

[3445.160-3448.445] SPEAKER_01: 你能讲讲聪明的汉斯的故事吗?

[3448.745-3452.576] SPEAKER_02: 那咱们来上一点历史课,当时德国有个驯马师。

[3452.796-3457.463] SPEAKER_02: 我记得大概是十九世纪末吧。我读到过这个。我应该记得的。

[3457.683-3460.411] SPEAKER_02: 有一匹马叫聪明的汉斯。

[3460.631-3465.216] SPEAKER_02: 聪明的汉斯看起来会做的事,是复杂的数学。

[3465.436-3469.940] SPEAKER_02: 所以你会给这匹马看一块黑板,上面写着一道数学题。

[3470.160-3474.711] SPEAKER_02: 然后马就用蹄子在地上跺,跺到正确答案的时候停下来。

[3474.931-3477.717] SPEAKER_02: 大家都惊叹这匹马太聪明了。

[3477.937-3484.217] SPEAKER_02: 后来有人出了个好主意,去找一个不知道这道数学题答案的提问者来。对。

[3484.437-3486.631] SPEAKER_02: 结果马就彻底失败了。

[3486.851-3493.399] SPEAKER_02: 然后才发现,这匹马其实只是在看主人的姿态,主要是微表情。

[3493.619-3499.122] SPEAKER_02: 所以当它跺到,比如说答案是七的时候,主人到六的时候就已经特别兴奋了,对吧?

[3499.342-3501.675] SPEAKER_02: 然后马就停止跺蹄了。

[3501.895-3512.878] SPEAKER_02: 后来有位德国心理学家发表了一篇很精彩的论文,他实际评估了自己观察到的马主人那些微表情和姿态变化,内容相当详尽。好。

[3513.178-3516.951] SPEAKER_00: 所以,对,如果你特别想读点好玩的东西,可以去查一查。

[3517.171-3521.675] SPEAKER_00: 所以这个类比就是,你读的是脸,而不是数学。没错。

[3521.975-3523.983] SPEAKER_02: 对,你根本不懂数学。

[3524.203-3526.908] SPEAKER_02: 这些模型根本不懂化学。

[3527.128-3531.713] SPEAKER_02: 它们只是在记住创造者的社会学特征。明白了。

[3532.013-3539.931] SPEAKER_01: 回到Hermes,还有你们那种认识论上的严谨——想从所有训练过的数据里做出真正有用的东西。

[3540.151-3553.911] SPEAKER_01: 所以公开数据集不可信,而你们有一堆内部信任的数据,但你们其实没有很好的办法,不过现在你们需要搞清楚,怎么准确、谨慎地利用这些数据去理解、去在现实世界里做点有用的事。

[3554.131-3557.358] SPEAKER_01: 那你们是怎么跨过这道坎的?

[3557.658-3574.564] SPEAKER_02: 对我们来说,考虑这件事的时候,我们做了不少这种划分,就像我之前大概描述过的,但接下来对我们来说很明显要做的一件事就是,你看,我们在内部数据上训练了模型,而我们不太喜欢在外部数据上训练模型,

[3574.784-3578.232] SPEAKER_02: 所以也许我们应该反过来,在外部数据上做预测。

[3578.452-3582.445] SPEAKER_02: 但从来不在外部数据上训练。从来没见过它。

[3582.665-3593.299] SPEAKER_02: 这确实让我们处在一个不错的位置,因为我还没见过其他任何团队在这个任务上完全只用内部生成的数据来训练模型。

[3593.519-3604.618] SPEAKER_02: 我觉得去拿那些其他来源的数据是非常有诱惑力的,尤其是因为外面有那么多可能的蛋白质靶点,因为人们通常不会像我们这样筛那么多。

[3604.838-3616.297] SPEAKER_02: 所以我们拿了大批外部分子集合,然后对它们做预测,看看我们在许多不同蛋白质上表现如何,用了大量我们非常仔细挑选的不同正负样本。

[3616.517-3629.972] SPEAKER_02: 我想说,那大概是Hermes论文里测试的总数,我记得大概是1300万左右,分布在很多,好像是500个蛋白质靶点上,反正是个巨大的数字。

[3630.192-3642.895] SPEAKER_02: 然后我们拿它跟当时现有的、可以说是最先进的结构模型做了基准对比,那个模型是BOLTS团队做的,是个非常好的模型,而我们的模型做不到那个模型能做的很多事情,

[3643.115-3650.858] SPEAKER_02: 但我们能做到的是,在这些公开数据集上,就这个结合问题而言,我们做得跟那些人差不多好。

[3651.158-3656.626] SPEAKER_01: 跟BOLTS对比的时候,需要一些技巧才能做出一个还算公平的比较。

[3656.846-3660.712] SPEAKER_01: 我觉得BOLTS也在这个数据上训练过。是这样吗?算是吧。

[3661.012-3666.155] SPEAKER_02: 有几个大的数据集,我们不太清楚他们具体训练的是哪些子集。

[3666.375-3679.369] SPEAKER_02: 所以我特别能想到一个例子,那个非常非常清楚,我一会儿会讲,但我们用的很多评估集也是BOLTS团队用过的,只不过我们往里放了多得多的分子,去看看效果会怎样。

[3679.589-3692.780] SPEAKER_02: 所以是的,我觉得,而且如果你看Hermes和BOLTS之间的不同表现,你知道,我们在某些蛋白质和蛋白质家族上更好,而Boltz在那些上更差,反过来也一样。

[3693.000-3704.868] SPEAKER_02: 我们怀疑这是因为它们在训练集里的分布不同,所以它们对某些东西理解得更多一点,或者,说实话,也许就是多记住了一点,然后能稍微外推一下。

[3705.088-3714.584] SPEAKER_02: 有一件事对我们来说非常有验证意义,我们的一个测试集是另一个正交的化学库,我们的模型没见过它,是我们内部用过的。

[3714.804-3719.146] SPEAKER_02: 但它是文献里已经发表过的一个化学库的副本。

[3719.366-3721.537] SPEAKER_02: 所以有一个特别的目标。

[3721.757-3731.938] SPEAKER_02: 它是一种蛋白质,叫BRD4,我们筛选里有一个一模一样的分子,也出现在PDB,也就是蛋白质数据库的训练集里,Boltz几乎肯定见过它。

[3732.158-3735.652] SPEAKER_02: 我们的模型在那个分子上表现不太好。

[3735.872-3740.933] SPEAKER_02: 那是一个很远的化学库,它们不太擅长,而Boltz做得完美。

[3741.153-3752.440] SPEAKER_02: 我们怀疑是因为Boltz已经在训练集里通过晶体结构见过这个蛋白质和这个具体的分子,所以它们做得特别好。就像,哦对,这说得通。感觉挺不错的。

[3752.740-3757.128] SPEAKER_01: 那么,这是不是说,在你看来,这验证了你们的规模化假设?

[3757.348-3765.707] SPEAKER_01: 加入更多蛋白质、更多样化的化学库,现在你基本上就能更广泛地填补这个空间了?我们希望如此。是的,我们希望如此。

[3766.007-3774.087] SPEAKER_02: 我们觉得,追求大量的多样性,特别是刻意挑选那些可以称为活性悬崖的东西,就是做这件事的方法。

[3774.307-3778.974] SPEAKER_02: 稍微展开一点说,这要么在蛋白质这边,要么在小分子这边。

[3779.194-3789.190] SPEAKER_02: 你有没有两个看起来非常非常相似、只差一个微小变化的东西,而那个微小变化却带来不成比例的行为变化?

[3789.410-3798.268] SPEAKER_02: 药物化学家会谈到的一个很经典的例子就是这个概念,它有点神话色彩,并不完全真实,就是所谓的“魔法甲基”。

[3798.488-3807.926] SPEAKER_02: 意思是,你有一个分子,然后也许有这么一个像小刺一样的东西,有或者没有,而这个刺的存在与否意味着要么效果很好,要么完全没用。

[3808.146-3815.344] SPEAKER_02: 当你遇到这种情况时,也许你的模型就会开始学到,天哪,有个刺可能真的很有意义。

[3815.564-3818.896] SPEAKER_02: 所以也许我需要考虑这些非常小的变化。

[3819.116-3828.694] SPEAKER_02: 我们经常做的一件事,而且它已经融入了DEL里,因为你知道,三个构建块里可能有两个在大量样本中是相似的,但行为却有变化。

[3828.914-3836.251] SPEAKER_02: 然后在蛋白质这边,我们会非常刻意地在那些蛋白质里设计突变,来做同样的事情。

[3836.551-3842.576] SPEAKER_00: 我这儿有点糊涂,因为如果你有这些构建块,而你的变化幅度是多个原子,对吧?

[3842.796-3846.546] SPEAKER_00: 一个构建块在原子数量上大概有多大?对对。

[3846.846-3857.027] SPEAKER_02: 如果不忽略氢的话,可能是六个到三十个左右,但你可以想象,这些构建块本身非常相似,只差一个单原子替换。哦,我明白了,好。

[3857.327-3861.518] SPEAKER_00: 所以也许有两个构建块,一个有刺,一个没有刺。

[3861.738-3866.486] SPEAKER_00: 然后你就能在测序结果里看到这一点。对,没错,对,没错。

[3866.786-3869.340] SPEAKER_02: 也许那个“刺”只是换了位置。

[3869.560-3875.167] SPEAKER_02: 然后你在考虑这些的时候,就会想,好吧,我的目标之间可能会有冲突。

[3875.387-3883.711] SPEAKER_02: 我可能想要很多更粗糙、更粗粒度的多样性,因为我想在大量可能差异很大的蛋白质靶点上找到结合物。

[3883.931-3888.621] SPEAKER_02: 或者我可能想要那种超级精细、非常非常微妙的变化。

[3888.841-3893.392] SPEAKER_02: 并且试着真正教会模型这些非常非常微妙的差异。

[3893.612-3905.723] SPEAKER_02: 所以当我们考虑设计自己的化学材料时,我们得去覆盖这种张力。对,我们经常考虑这个。这两者都很重要。这两者都很重要。这两者都很重要。这两者都很重要。

[3906.023-3909.297] SPEAKER_01: 而且在蛋白质这一侧也同样重要,对吧?

[3909.597-3912.104] SPEAKER_02: 蛋白质这一侧非常重要。

[3912.324-3919.731] SPEAKER_02: 所以当你去看现在这些共折叠模型时,有几个不同的团队已经展示了这一点。

[3919.951-3926.533] SPEAKER_02: 你可以拿一个蛋白质,它有一段氨基酸序列,编码出某个带大口袋的蛋白质。

[3926.753-3930.386] SPEAKER_02: 也许那个蛋白质在训练集里出现过。

[3930.606-3936.236] SPEAKER_02: 所以模型对里面有个分子、有个小分子化学物时它长什么样,已经有相当清楚的概念了。

[3936.456-3940.264] SPEAKER_02: 所以你有了这个口袋,还有那个进到口袋里的东西。

[3940.484-3944.152] SPEAKER_02: 你可以直接改你给模型去考虑的氨基酸序列。

[3944.372-3947.924] SPEAKER_02: 然后你可以用这个来破坏口袋。

[3948.144-3951.534] SPEAKER_02: 你可以把口袋填上,就像用水泥把它填满一样。

[3951.754-3958.743] SPEAKER_02: 或者你可以把它整个去掉,让那儿什么都没有,或者它消失了,或者变得大得多。

[3958.963-3967.461] SPEAKER_02: 你做其中任何一件事,至少就我们目前看到的,如果你用当前最先进的模型去看看模型会怎么做。

[3967.681-3974.066] SPEAKER_02: 它会把小分子硬塞到原来口袋所在的位置,因为它就是记住了它在哪儿,而这很糟糕。

[3974.366-3979.973] SPEAKER_00: 所以它看的是大规模的结构性东西,或者说,至少假设是它在做这件事。

[3980.273-3992.524] SPEAKER_02: 对,假设是它并不太理解,你知道,当你有一个口袋和一个蛋白质时,会有少数几个氨基酸带有氢键位置,它们会伸出来,可能还会有一点π堆叠,还有这些其他东西,

[3992.744-3997.376] SPEAKER_02: 你知道,这些在某种程度上驱动着这种化学作用。

[3997.596-4001.009] SPEAKER_02: 而这些东西真的应该非常非常重要。

[4001.229-4005.338] SPEAKER_02: 在物理世界里,当你测量它们的时候,它们确实非常重要。

[4005.558-4012.280] SPEAKER_02: 所以如果你把它们破坏了,而模型理解物理规律,那它大概应该知道它不能把分子塞到那里去。

[4012.500-4022.194] SPEAKER_02: 问题就在于,很多这类结构训练集里并没有很好的负样本,因为能进到里面的都是带着那个东西的蛋白质,对吧?

[4022.414-4027.684] SPEAKER_02: 你知道,它们没有很多真正会破坏这些行为的变体。

[4027.904-4034.452] SPEAKER_02: 而且没人会拿一堆这样的突变体去做晶体结构,就像我们现在正在做的那样。

[4034.672-4036.866] SPEAKER_02: 但你怎么得到负样本呢?

[4037.086-4044.748] SPEAKER_02: 我们得到负样本的方式是,我们对基线条件下这些分子数量的分布有非常好的理解。

[4044.968-4052.514] SPEAKER_02: 所以当我们做筛选时,我们知道,哦,好吧,这些结合得很多,因为当我们把蛋白质拉出来的时候,我们现在在富集它们。

[4052.734-4056.739] SPEAKER_02: 现在让我们破坏这个口袋,它们就不再被富集了。

[4056.959-4062.880] SPEAKER_02: 好,它们不再——我们做的那一个氨基酸替换就让一大批这些化学系列掉出来了。

[4063.100-4066.548] SPEAKER_02: 但这是一次性的实验。这不是Adele。不,这就是Adele。

[4066.848-4072.571] SPEAKER_00: 哦不,所以你不是在说你破坏了它,你是在说我找到了它被破坏的那个案例。

[4072.871-4075.378] SPEAKER_02: 不,是我们破坏它。

[4075.598-4081.681] SPEAKER_02: 所以我们破坏那个,所以我们拿那个,比如说我们筛选一个蛋白质,口袋是完好的。

[4081.901-4085.709] SPEAKER_02: 听起来很棒,好。我们得到一堆命中物。让我们再进一步。

[4085.929-4091.629] SPEAKER_02: 假设我们知道别人已经找到了一个能进入那个口袋的化学分子。我们把它买下来。

[4091.849-4094.345] SPEAKER_02: 把它放进去,再跑一遍筛选。

[4094.565-4103.086] SPEAKER_02: 这意味着,平时能进这个口袋的那些化学分子,都会被我们手上这个高浓度的分子给挤出去。

[4103.306-4109.273] SPEAKER_02: 哦,你这是竞争性实验。哦,我们经常做这个。好,好,我们经常做这个。对,好。

[4109.493-4112.743] SPEAKER_02: 然后你说,行吧,这看起来挺靠谱的,我信了。

[4112.963-4122.459] SPEAKER_02: 然后你说,好,现在我们知道这个别人已经表征过的化学分子确实进这个口袋了,因为他们可能做了晶体结构或者别的什么。对,很好。

[4122.679-4125.488] SPEAKER_02: 我们来看看那个口袋里的氨基酸。

[4125.708-4130.793] SPEAKER_02: 然后我们会改动那个为我们制造蛋白质的DNA构建体。

[4131.013-4134.542] SPEAKER_02: 我们现在就物理上突变这一个残基。

[4134.762-4141.042] SPEAKER_02: 所以现在就像这样,你知道,这个特定的氨基酸,我们往口袋里塞一个体积大的进去。

[4141.262-4144.814] SPEAKER_02: 或者换个不同的侧链之类的。这些你都能做。

[4145.114-4150.419] SPEAKER_01: 现在这真的很简单,因为有了AlphaFold,还有Boltz或者所有这些结构模型。

[4150.639-4155.550] SPEAKER_01: 你可以用这个来设计你的蛋白质,就像你……你可以用这个,也可以用那个。

[4155.850-4165.335] SPEAKER_02: 而对于那些表征得没那么清楚的东西,你知道,我们用保守性分析,就像我们盯着看……我们团队里有一位结构生物学家。

[4165.555-4171.975] SPEAKER_02: 我们大概就是看看这些东西,哦对,你知道,这位,Edward Kraft,特别厉害。

[4172.195-4175.886] SPEAKER_02: 所以,好,那么,你知道,现在我们要做这一个突变。

[4176.106-4184.383] SPEAKER_02: 我们再做一次筛选,哦看,当我们用那个东西塞进洞里打进去的时候,所有被踢出去的化学分子,它们也都不见了。

[4184.603-4190.988] SPEAKER_02: 我们把口袋破坏了,所以现在我们有了很好的证据,证明它们全都是进那个口袋的,对吧?

[4191.208-4201.146] SPEAKER_02: 对,然后这里就是蛋白质化学家登场的地方,他们会说,你做了个突变,你怎么知道你不是把整个东西都搞坏了呢?合理的问题。

[4201.366-4207.089] SPEAKER_02: 你说,好吧,我们只是丢掉了被那个竞争分子踢出去的那个化学系列。

[4207.309-4212.939] SPEAKER_02: 所有其他结合在蛋白质别处的那些都完好无损,它们又回来了。

[4213.239-4216.826] SPEAKER_00: 对,所以你不是把整个蛋白质搞坏了。

[4217.046-4219.751] SPEAKER_00: 你不是把它整个搞坏了,对吧?

[4220.051-4228.294] SPEAKER_02: 然后你就会想,好吧,如果你一周要筛一百个蛋白质构建体,我们忙的那几周就是这个量,就像——等等,抱歉。

[4228.594-4231.519] SPEAKER_00: 所以你把口袋破坏了。哦对。哦对。

[4231.739-4238.403] SPEAKER_00: 那你有没有也发现,还有别的东西开始连上、开始结合到蛋白质上?

[4238.703-4247.538] SPEAKER_02: 所以当你改变一些东西的时候,你可能会改变形状,而那种改变确实会促使别的东西结合上来。我们确实见过这种情况。

[4247.838-4250.624] SPEAKER_00: 那这对你来说是一个信息来源吗?

[4250.924-4252.630] SPEAKER_02: 是的,是的。

[4252.850-4264.242] SPEAKER_02: 所以这件事特别好的一点,也是DEL特别好的一点是,你可以想象,如果你不往大数量上去想,就会觉得,哦,我有这一个化合物在结合,现在我把口袋破坏了,它就没了。

[4264.462-4269.454] SPEAKER_02: 但因为DEL的组合性质,也许我有五个不同的化学系列。

[4269.674-4272.019] SPEAKER_02: 那就像是几百个分子。

[4272.239-4277.939] SPEAKER_02: 而另一组是同样的几百个分子,只是构建块上有一个改动。

[4278.159-4285.984] SPEAKER_02: 所以你就有这些重复的例子,就像,哦,这一个小小的地方把整个群体的行为改变得非常大。

[4286.204-4288.618] SPEAKER_02: 而且这是一个很大的群体。

[4288.838-4291.403] SPEAKER_02: 所以就会觉得,哦,我现在真的信了。

[4291.623-4297.486] SPEAKER_02: 我可以给你们看一张图,我们,我不知道你们,你们在播客里放不放图片之类的。

[4297.706-4313.370] SPEAKER_02: 但非常明显,就是,哦,这个构建块上的这一个侧基显然在和这一个氨基酸残基相互作用,因为我们有大概五个独立的例子显示群体行为因为它而发生了改变。很漂亮。非常非常清楚。

[4313.590-4315.981] SPEAKER_02: 好,那你给我们讲讲这张图吧。

[4316.201-4324.478] SPEAKER_02: 我们把这张图调出来了,调出来的原因是我们认为,蛋白质和小分子一样,都需要有大量的变异,这一点非常重要。

[4324.698-4337.506] SPEAKER_02: 我们认为这一点的原因是,你想让一个试图学习药物化学的模型真正开始把这些东西联系起来,也就是小分子的这一部分和蛋白质的这一部分之间的氢键相互作用。

[4337.726-4351.463] SPEAKER_02: 我们之前谈到过其他一些工作,说的是如果你在数字层面把口袋破坏掉,然后用目前最先进的模型,它们很难理解其中的物理原理,还是会硬把分子塞回那个地方。

[4351.683-4354.411] SPEAKER_02: 所以这让我们觉得它们是在记忆。

[4354.631-4369.958] SPEAKER_02: 所以我们认为绕开这个问题的一个办法,是在实验上对这些蛋白质结合区域的突变进行工程改造,然后重新筛选。那具体是什么样子呢……是物理上真的去做。物理上真的去做,不是虚拟地做。

[4370.178-4384.948] SPEAKER_02: 你拿已经筛选过的野生型蛋白质的DNA,然后用微生物学技术改变那个蛋白质里的一个或多个氨基酸,这样小分子结合的那个功能部分就不再一样了。它在某些方面变得不同了。

[4385.168-4391.657] SPEAKER_02: 我们有不同的方法,来试着找出哪些氨基酸是最适合去破坏的。

[4391.877-4396.068] SPEAKER_02: 有时候你破坏的是你有把握会产生效果的那些。

[4396.288-4402.777] SPEAKER_02: 有时候你并不知道,但我们可以做到相当大的规模,所以每个位置赌上几个对我们来说不是什么大问题。

[4402.997-4409.997] SPEAKER_02: 然后你跑一遍筛选,现在当口袋被破坏之后,当分子进去的时候,分子会怎么做?它们还会进去吗?

[4410.217-4412.713] SPEAKER_02: 有一部分会进去吗?

[4412.933-4416.067] SPEAKER_02: 那些留下来的分子之间有什么共同点吗?

[4416.287-4420.431] SPEAKER_02: 那些被挤出来或者被踢出去的分子之间有什么共同点吗?

[4420.651-4429.068] SPEAKER_02: 然后你会有很多这样的不同例子,某个给定的口袋里可能有大约三到五个氨基酸在驱动结合行为。

[4429.288-4439.945] SPEAKER_02: 也许你会试着把它们各自独立地破坏掉,然后每次都重新做筛选,从而很好地感受小分子的哪一部分在和你改变的那一部分相互作用。

[4440.165-4446.295] SPEAKER_02: 然后当你用一个大型的DEL来做这件事时,你就会有很多很多相似分子的重复例子。

[4446.515-4449.765] SPEAKER_02: 它们都遵循着相同的行为轨迹。

[4449.985-4454.152] SPEAKER_02: 这样一来,你就能很好地感受到,哦,我有很多例子。

[4454.372-4459.120] SPEAKER_02: 它们都很相似,但唯一特别共同的一点就是小分子上的这一个小部分。

[4459.340-4463.484] SPEAKER_02: 所以我怀疑它正在和我刚刚破坏的那个口袋相互作用。

[4463.784-4466.314] SPEAKER_00: 我们在这张图上看到的是什么?

[4466.614-4474.694] SPEAKER_02: 我们在这张图上看到的,那些小点全都是来自我们设计并合成的一个化合物库的小分子。

[4474.914-4478.664] SPEAKER_02: 坐标轴上显示的是小分子结合得有多好。

[4478.884-4482.726] SPEAKER_02: 所以,如果它沿着轴往下走得很远,就说明结合得很好。

[4482.946-4486.696] SPEAKER_02: 如果它更靠近原点,那就基本没怎么结合。

[4486.916-4492.906] SPEAKER_02: 然后我们给几个不同的团块上了色,这些团块代表不同的化学系列。

[4493.126-4496.400] SPEAKER_02: 这些化合物彼此看起来非常相似。

[4496.620-4516.638] SPEAKER_02: 但区别在于我们把那个看起来像化学结构的东西指向了哪里——如果你眯着眼看这些,它们都很相似,但有几个细微的差别,而我们相信,整个这一群都是由这些差别与我们制造的那一个突变体的相互作用所驱动的。

[4516.938-4531.801] SPEAKER_00: 所以在这张图里,底部是野生型靶点,然后横轴或者说纵轴上,是突变型靶点,所以有这么一个红色的,这个红色的基本上是指向上的。它结合得更好了。

[4532.021-4540.403] SPEAKER_00: 它结合得更好了,所以那一个就是,突变让那一个结合得更好了,这正好回应了我几分钟前问的那个问题。对。

[4540.623-4545.626] SPEAKER_00: 然后也许有些,这些大多数似乎都在轴的上方。

[4545.846-4549.851] SPEAKER_00: 所以这个突变让大多数这些结合得更好了。没错。

[4550.151-4561.064] SPEAKER_02: 对,那个口袋里还有第二个突变,我也可以跟大家分享一下,在那里所有那些群体、所有那些团块都被完全踢出去了,它们根本不结合。

[4561.284-4567.112] SPEAKER_02: 所以那个口袋被以一种有意义的方式破坏了,而在这里结合是增强的。

[4567.332-4571.859] SPEAKER_02: 所以基本上所有东西都会沿着底部。没错。好。没错。对。

[4572.159-4575.967] SPEAKER_00: 所以你可以给我们一个后产品。对,他们俩都会有。对,太棒了。

[4576.267-4585.624] SPEAKER_01: 所以这样做,你可以把两者都摸清楚,嗯,你可以在化合物空间和蛋白质空间两个层面来处理活性悬崖的问题。没错。

[4585.844-4597.433] SPEAKER_01: 而且这特别有用,比如说,如果你在做激酶相关的工作,那里有大概100种激酶,它们之间的差别只在于,重要的结合位点可能每次只差一个残基之类的。

[4597.653-4605.454] SPEAKER_01: 所以对于这类特定的类别,这可以变得极其强大,顺便也让你自己心里踏实。对,没错。对,没错。

[4605.754-4610.502] SPEAKER_02: 对,我们做这个,你知道,就像我提到的,我们做这个,我们经常做这个。

[4610.802-4613.936] SPEAKER_01: 对,很多很多上百个这类筛选。

[4614.156-4624.895] SPEAKER_01: 你能用这个做的一件事就是,Hermes能看到这种交叉注意力,所以你实际上可以解读出Hermes认为结合口袋在哪里。

[4625.115-4629.921] SPEAKER_01: 所以它是通过这些类型的图谱来学习结合口袋的。

[4630.221-4637.628] SPEAKER_02: 是的,我们写过的一点就是,用这种注意力映射的方法来看看Hermes在氨基酸空间里到底在关注哪里。

[4637.848-4647.565] SPEAKER_02: 我们最开始做这个工作的时候,本来以为它会去看结合口袋,这是最初的直觉,然后稍微更谨慎一点的直觉是,哦,那好吧,

[4647.785-4654.414] SPEAKER_02: 也许我们希望它做的是去看那些残基,因为它可能还不太清楚到底是怎么回事。

[4654.634-4656.723] SPEAKER_02: 结果我们一看,它这两样都没看。

[4656.943-4666.300] SPEAKER_02: 它看的是非常短的氨基酸序列,而且这些序列既远离蛋白质的功能部分,也远离那些在许多蛋白质中看起来相似的部分。

[4666.520-4681.035] SPEAKER_02: 所以对在座可能不是生物背景的人来说,分子进化的很多方式是,蛋白质里有一段做得相当不错,然后它经常会在其他蛋白质之间被 shuffling,所以就有了这些保守区域,叫做结构域,或者说,

[4681.255-4683.588] SPEAKER_02: 保守蛋白结构域。

[4683.808-4688.115] SPEAKER_02: 所以那部分在很多蛋白质之间看起来都挺相似的。

[4688.335-4692.561] SPEAKER_02: 生物学家会用这个来推断蛋白质家族、亲缘关系和功能。

[4692.781-4696.972] SPEAKER_02: 所以如果它们有同样的一段,那它们大概在做类似的事情。

[4697.192-4701.835] SPEAKER_02: 所以我们本来以为模型会去看那个,但它们没有。

[4702.055-4709.392] SPEAKER_02: 它们看的是那之外的地方,看的是那些人们通常觉得没什么大用的小片段。它们有点不一样,是非保守的。

[4709.612-4712.317] SPEAKER_02: 那些地方的变异多得多。

[4712.537-4717.622] SPEAKER_02: 然后我们意识到,Hermes大概是在给这个蛋白质起个外号。

[4717.842-4720.454] SPEAKER_02: 它不是在想,哦,这是功能部分。

[4720.674-4722.949] SPEAKER_02: 它想的是,我不需要学那个。

[4723.169-4729.914] SPEAKER_02: 我可以记住这里跟其他所有都不一样的10个或12个氨基酸,我直接背下来就行了。

[4730.134-4732.641] SPEAKER_02: 我们觉得这很糟糕。

[4732.941-4746.782] SPEAKER_00: 因为也许很多,比如,如果口袋里有变异什么的,但它们都有这些其他相似的部分,那么也许口袋里的变异大多不重要,但有些是重要的,那模型可能就会学到,哦,我只要关注这些就行了。

[4747.082-4751.911] SPEAKER_02: 对,当时的担心就是,这个模型又一次并没有真正学到任何物理规律。

[4752.131-4755.265] SPEAKER_02: 就好像,哦,我直接把这些东西背下来就行了。

[4755.485-4762.323] SPEAKER_02: 这跟你想用共折叠模型去撑开那个口袋、结果它们还是硬塞进去的情况非常一致。

[4762.543-4767.349] SPEAKER_02: 就好像,哦,它根本不知道发生了什么,它只是起了个外号而已。

[4767.569-4770.413] SPEAKER_02: 就好像,天哪,那你怎么解决这个问题呢?

[4770.633-4775.439] SPEAKER_02: 然后就在那时候,我们想到了尝试大规模地做这些突变。

[4775.659-4791.404] SPEAKER_02: 所以情况是这样的:如果你有一个蛋白质,看起来几乎一模一样,但有一个微小的差异,而行为却因为这个微小差异发生了很大变化,那你其实就是在促使模型重新去看所有的氨基酸。

[4791.624-4801.922] SPEAKER_02: 它在那些保守的区域就不能这么干了,因为如果它对着这两个东西这么干,而它们的行为不同,那它就会表现得很差。

[4802.142-4815.275] SPEAKER_02: 于是我们回过头来,用这些额外的突变去训练模型,就像你们现在看到的这个锅上的那个,然后再回头看注意力图,现在Hermes会均匀得多地关注所有这些地方。

[4815.575-4826.430] SPEAKER_00: 所以你基本上就是用注意力图来找出那些它在背外号的案例,然后在口袋里增加突变,促使它转而关注口袋。

[4826.730-4835.646] SPEAKER_02: 对,对,而且这不一定只是针对某一个基因,更像是那个普遍的问题,就是,哦,我没法再有效地用这种起外号的策略了。

[4835.946-4839.370] SPEAKER_00: 你想教会模型,不行,别那么干。你不能那么干。

[4839.590-4842.179] SPEAKER_00: 不行不行,那太逊了。别那么干。

[4842.399-4852.697] SPEAKER_00: 我特别喜欢这一点,因为我们看到过,或者说我认为Mechenturp最务实的应用一直是在生物学,可能还有其他相关科学领域里,

[4852.917-4861.415] SPEAKER_00: 而我觉得它之所以性质上不一样,是因为你是反过来从模型那里学习生物学,而不是仅仅去解读它在想什么。

[4861.635-4874.060] SPEAKER_00: 在这个例子里,也许确实是第四种情况,但我看到太多机制可解释性被应用到生物学上,因为你真的是想弄明白,而这些机器学习模型里并没有语言。

[4874.280-4884.612] SPEAKER_00: 没有语言可以依靠,所以除非你去检查模型,否则你真的完全不知道它在想什么。嗯,这真的很有意思。所以,是的。

[4884.912-4890.322] SPEAKER_02: 而且我们最近发现非常有成效的一件事,其实是转向语言模型。好。

[4890.542-4898.204] SPEAKER_02: 我们目前在做的是,用可读、可解释的英语来表示小分子、蛋白质以及它们的行为。哇,好。

[4898.424-4900.061] SPEAKER_02: 结果发现效果还挺不错的。

[4900.281-4902.486] SPEAKER_02: 对,我是说,这——抱歉。

[4902.786-4919.704] SPEAKER_00: 不,所以这是——因为我想在你跟我们讲这个之前先稍微铺垫一下,因为在单细胞领域其实有一篇非常有意思的论文叫 GenePT,里面那些人,我记不清作者是谁了,他们是斯坦福的,其中一个人是个统计学家,

[4919.924-4935.588] SPEAKER_00: 甚至不算真正搞生物的,也许现在算了,但那个人,他们取了基因描述文本的嵌入,然后用那些,就像你们用 ESM 嵌入一样。所以对 Hermes 来说,是的。

[4935.808-4940.835] SPEAKER_00: 所以你们用的是 ESM,他们就是觉得,干脆就用文本嵌入吧。

[4941.055-4954.745] SPEAKER_00: 这妙就妙在,现在你把人类不知多少年投入到理解每个基因上的时间都利用起来了,而这些在某种程度上都被这些文本嵌入捕捉到了,就是嵌入里的那些知识。

[4954.965-4957.194] SPEAKER_00: 所以请跟我们讲讲你们在做什么。

[4957.494-4968.386] SPEAKER_02: 好,所以我们这个项目是前不久才开始的,因为我们意识到的一件事是,我们手上有越来越多的活性悬崖,以及同一化学物质在大量蛋白质上的活性谱。

[4968.606-4976.988] SPEAKER_02: 我们想知道能不能真的用推理智能体去探索它,并在实验室闭环的场景里用起来。

[4977.208-4983.210] SPEAKER_02: 这就要求我们开始跟推理模型和语言模型打交道,好让它们自己去玩。

[4983.430-4991.789] SPEAKER_02: 具体做法就是,我们拿了一些开源语言模型,比如我们用的那些,还有 Qwen 和 GLM,以及别人在用的那些东西。

[4992.009-5000.635] SPEAKER_02: 然后我们教它们药物化学,方式是你说,这里有个结构,用自然英语描述它,用自然英语告诉我两个分子之间的差异。

[5000.855-5007.077] SPEAKER_02: 然后我们把它推进到这一步:我们说,好,这里有些分子是结合物,有些不是结合物。

[5007.297-5011.499] SPEAKER_02: 你能告诉我们你为什么认为这些结合物会结合吗?

[5011.719-5014.284] SPEAKER_02: 然后你还可以给它一些难负样本。

[5014.504-5022.305] SPEAKER_02: 所以你有这两组东西,它会想,好,我觉得这个化学系列是这样的,然后它会把这些用可读的英语写下来,我们觉得这很棒。

[5022.525-5034.311] SPEAKER_02: 然后我们说,好,既然你大概懂这些基本概念了,我们要给你 10 个结合物和 10 个很接近的非结合物,让你判断你为什么认为这些结合物会结合。

[5034.531-5038.025] SPEAKER_02: 现在我们要给你机会,让你自己跑实验。

[5038.245-5041.797] SPEAKER_02: 这里有一个包含数百万分子的目录。

[5042.017-5047.508] SPEAKER_02: 你为什么不挑五个或十个,来验证你关于它们为什么结合的假设呢?

[5047.728-5051.861] SPEAKER_02: 然后模型就会进入我们已经收集好的数据里。

[5052.081-5061.403] SPEAKER_02: 它会挑出自己认为信息量最大的选项,然后像在代码沙盒里一样立刻拿到答案,接着更新自己关于结合的假设。

[5061.623-5070.760] SPEAKER_02: 最终目标是用尽可能少的步骤找到最好的结合物,非常像药物化学家会做的那样。然后我们就放手让它自己跑。

[5071.060-5076.505] SPEAKER_00: 但你是基于事先跑的实验来做这件事的,而它是在数据库里查。对,没错。

[5076.725-5080.776] SPEAKER_00: 所以现在,你基本上就是创建了一个强化学习的 rollout。

[5081.076-5090.735] SPEAKER_02: 这是一个规模很大的强化学习 rollout,而且还在不断变大,里面全是这些活性悬崖,覆盖各种不同的蛋白质变体。

[5090.955-5101.554] SPEAKER_02: 所以现在我们有了这些,你就可以用起来,而且既然我们知道,当你以这种小幅活性悬崖的方式改变分子时,那是一种因果性的变化。

[5101.774-5108.438] SPEAKER_02: 我们知道,当你把这个东西放上去,行为会以这种可复现、可测量的方式发生变化。

[5108.658-5113.661] SPEAKER_02: 所以你也可以用这些轨迹,以相当不错的规模生成推理轨迹。

[5113.881-5117.352] SPEAKER_02: 所以现在我们有这些智能体在数据集里跑。

[5117.572-5129.985] SPEAKER_02: 我们只给它们 10 个结合物和 10 个非结合物,给它们 100 个分子的预算,然后它们大概会走 102 轮,一路做这个很长的多步推理,最后给出它们认为最好的答案。

[5130.285-5140.002] SPEAKER_00: 那你为什么觉得这比 Hermes 之类的方法更好,或者比把 Hermes 的思路放大、去搭某种注意力机制更好呢?对,我们这么认为。

[5140.302-5144.191] SPEAKER_02: 我们认为它对记忆问题的抵抗力强得多。

[5144.411-5157.881] SPEAKER_02: 所以,虽然我们对 Hermes 的注意力落在哪里很满意,尤其是当你把所有这些突变体都扔进去的时候,但你要知道,随着你给模型加更多参数,它们也会把突变体记下来,对吧?

[5158.101-5162.930] SPEAKER_02: 我们希望这个东西真正理解这些因果性的变化。

[5163.150-5167.735] SPEAKER_02: 而使用自然语言似乎是这个问题的一个相当不错的正则化手段。

[5167.955-5176.790] SPEAKER_02: 而且,我们不知道还有别的什么问题,能有一个在物理上有依据、又这么可扩展、这么快的强化学习循环。

[5177.010-5186.332] SPEAKER_02: 你可以想象,比如你在做实验室闭环那类事情的时候,你要去造机器人、去处理这些问题,它们也必然需要有限的资源。

[5186.552-5194.632] SPEAKER_02: 它们仍然要先做一些选择,决定先造什么、不造什么,然后跑这些循环会花更长一点时间。

[5194.852-5208.438] SPEAKER_02: 而如果有一种可扩展的方式去测量那个景观,然后不断地把它做得越来越大、越来越大,让智能体在里面玩,我们认为对这个特定问题来说,大概会快得多。这很有意思。对。

[5208.738-5215.239] SPEAKER_00: 我是说,我会说 Xera 的 Excel 正在往那个方向走,但他们实际上不是用语言,而是把它编码成序列。

[5215.459-5221.263] SPEAKER_00: 所以在某些方面,这种扰动是相似的,但这个,对,这个是不一样的。

[5221.563-5229.585] SPEAKER_02: 然后 Lila 也跟这个押韵,但是——确实,这些人都特别聪明,都在推这些自动化的事情。

[5229.885-5241.903] SPEAKER_00: 对,但他们没在做这种混合筛选,然后把它当成现成的东西来用,据我所知,他们还没搞明白怎么把它变成一个数据库查询,让你能做海量的 rollout。对,对。

[5242.203-5249.703] SPEAKER_02: 所以现在,我们喜欢这样去理解:如果你是一个药物化学家,在一家制药公司工作,你会做一件叫构效关系的事情。

[5249.923-5255.391] SPEAKER_02: 它的意思是,哦,当我用这种方式改变分子时,它的行为就变了。

[5255.611-5259.279] SPEAKER_02: 所以我在试着针对这些不同的性质做优化。

[5259.499-5265.838] SPEAKER_02: 然后你会经历一个所谓的 SAR 项目。那是早期药物开发。咱们让大家心情都好一点。

[5266.058-5271.421] SPEAKER_02: 你整个职业生涯里可能也就见过几十个这样的项目,也许 50 个。

[5271.641-5277.190] SPEAKER_02: 所以现在,你知道,上周末我们提取了一万多个,而且我们还没怎么使劲。

[5277.410-5279.476] SPEAKER_02: 所以,对。所以现在就是机会。

[5279.696-5283.782] SPEAKER_02: 现在我们会限制在我们已经筛选过的那个空间里。

[5284.002-5297.739] SPEAKER_02: 然后到最后,你可以让模型从比如目录里做额外的选择,然后你就可以,你知道,将来去下单买那些,再重新测一遍,就像传统的实验室闭环方法那样。

[5297.959-5309.211] SPEAKER_02: 但现在,我们给这些智能体 10 个结合物,给它们 100 的预算,它们就能在这个预算内从六百五十万里挑出最好的结合物。所以看起来是行得通的。

[5309.511-5319.089] SPEAKER_00: 那你能不能多讲讲,你为什么觉得是这样,我理解那个关于它是更好的正则化器的论点,但你也为什么相信这是有效的,对吧?

[5319.309-5324.440] SPEAKER_00: 所以你可以想象,嗯,它不会错得那么离谱,但它也不会对得那么准。

[5324.740-5328.443] SPEAKER_02: 我觉得是因为你给了它机会去做所有这些选择。

[5328.663-5332.331] SPEAKER_02: 我是说,这就像跑那些编程沙盒一样。

[5332.551-5336.440] SPEAKER_02: 你就是有那种非常快的强化奖励信号。

[5336.660-5344.160] SPEAKER_02: 但问题是,你还得把人类不会做的那些选择也包含进去,因为我们是在所有蛋白质上测量所有分子。

[5344.460-5350.090] SPEAKER_00: 所以它必须能够做出反直觉的决定,并从中得到反馈。

[5350.310-5353.584] SPEAKER_00: 它必须得有反事实。它必须得犯错。

[5353.884-5368.132] SPEAKER_02: 而且你得确保这些错误都存在于数据里,或者说未来可能犯的错误都以某种方式存在于数据里,而且不能对它产生偏差,这样它才能学到化学家的社会学指纹。

[5368.352-5370.999] SPEAKER_02: 是啊,这真的很有意思。

[5371.299-5387.857] SPEAKER_01: 所以通过所有这些语言预训练语料,它多少对某些基础化学有一种直觉,我觉得大多数药物化学家可能都有这种概念,而现在你相当于给它接上了一个无限快的实验室在循环里。没错。也许是推理能力。

[5388.157-5400.335] SPEAKER_00: 我会说,推理能力甚至可能是这样一种能力:能说在我的强化学习过程中我学到了东西,而现在这让我能够对下一个更难的问题进行推理。

[5400.555-5402.981] SPEAKER_00: 然后就一直做选择。

[5403.281-5406.891] SPEAKER_02: 而现在,我们对早期的信号非常兴奋。

[5407.111-5410.001] SPEAKER_02: 而且,我们是个很小的团队,只有10个人。

[5410.221-5424.109] SPEAKER_02: 我非常期待我们的实验语料库以目前速度的2倍、10倍、100倍增长的那一天,因为那样一来,这些智能体可探索的空间就会急剧扩大。我们来聊聊那个空间吧。

[5424.409-5438.854] SPEAKER_00: 所以我的理解是,这是我跟Claude聊、谷歌搜索之类的得来的,但我的理解是,DELs的局限在于它们倾向于生成平面的分子或更扁平的分子。这取决于构建模块。

[5439.074-5441.570] SPEAKER_00: 这取决于构建模块。

[5441.870-5451.448] SPEAKER_02: 你可以想象,你在设计上会受到一些限制,比如,我会拿到一定数量的构建模块,通常是两到三个,然后用某种方式把它们拼接起来。

[5451.668-5457.995] SPEAKER_02: 所以当我们做化合物库设计选择时,通常——我们现在经常跑的一种是分叉设计。

[5458.215-5460.641] SPEAKER_02: 它就像一个Y形的分子。

[5460.861-5463.531] SPEAKER_02: 然后还有其他一些是线形的分子。

[5463.751-5467.779] SPEAKER_02: 还有另外一些是那种有点像环形的、大环状的东西。

[5467.999-5473.223] SPEAKER_02: 然后你得考虑DNA要放在哪里,以及这会怎么给我带来麻烦?

[5473.443-5482.382] SPEAKER_02: 然后还有构建模块的商业可获得性,以及把它们拼接起来所需的化学方法。你可以走定制路线。但那要花更长时间。

[5482.602-5485.388] SPEAKER_02: 对我们来说,走得更快更有吸引力。

[5485.608-5490.635] SPEAKER_02: 而且化学空间里肯定有一些角落是我们可能不擅长的。

[5490.855-5495.348] SPEAKER_02: 然后你就得想,哦,那以后的库应该有这种几何结构。

[5495.568-5498.633] SPEAKER_02: 然后我还得考虑不同的蛋白质会怎么应对它。

[5498.853-5507.130] SPEAKER_02: 而且分布会相当不均匀,用这种方式做出来的整个化合物库可能对这类靶点特别好,但对另外那些靶点可能就很差劲。

[5507.350-5513.990] SPEAKER_02: 所以接着你就得想,好吧,我到底在优化蛋白质空间的哪些角落,还有这些取舍之间的张力?

[5514.290-5523.612] SPEAKER_00: 对,所以听起来这个论点是,我们知道我们并没有优化整个空间,但已经比以前多很多了。所以这更好。

[5523.832-5538.857] SPEAKER_00: 然后随着我们在这方面越来越擅长、越来越理解,或者预算更大之类的,我们就会扩展到那些我们知道欠缺的角落,或者也许我们甚至不知道自己欠缺,但我们会发现的。对,完全正确,完全正确。

[5539.157-5543.545] SPEAKER_01: 我们要不要进入最后一个环节?可以,你来吧。看看会怎么样。好。

[5543.765-5550.150] SPEAKER_01: 给听众交代一下背景,Ian要求的,我想确认这是他的主意,不是我的。是我的主意。

[5550.370-5556.430] SPEAKER_01: 一个“别问我,也别冲我来,兄弟”环节,我们会问能想出来的最难的问题。

[5556.730-5560.839] SPEAKER_00: 你们大概也看得出来,这对我来说不算太难。是啊。

[5561.139-5563.414] SPEAKER_01: 我觉得我已经问过我的难题了。

[5563.634-5571.552] SPEAKER_01: 我们只有大约24小时准备,所以我觉得这里面大部分会是Claude最难的问题,不过不管怎样,看看会怎么样吧。

[5571.852-5587.423] SPEAKER_02: 对,这个的背景是,我上周参加了一个癌症和分子治疗会议,会议的形式是一半时间做内容报告,另一半时间是非常激烈的拷问,那既可怕又鼓舞人心,所以我就来了,愿意在公开场合做这件事。

[5587.723-5588.558] SPEAKER_01: 来吧。

[5588.778-5592.864] SPEAKER_01: 就像RJ刚才提到的,DEL往往有非常特定的性质。

[5593.084-5597.217] SPEAKER_01: 你可以在DEL里变得非常擅长优化。

[5597.437-5604.565] SPEAKER_01: 但归根结底,它们经常在某些事情上失败,而那些事情很难转化到真正的药物上。

[5604.785-5610.473] SPEAKER_01: 某些失败模式,比如任何容易组装的东西也容易拆解,对ADMET性质不利。

[5610.693-5616.439] SPEAKER_01: 你能构建的空间只有那么多,因为你已经用掉了一些组合构建模块之类的东西。

[5616.659-5621.465] SPEAKER_01: 那么,这在长期超出库的泛化方面是怎么形成限制的?

[5621.765-5628.394] SPEAKER_02: 我觉得这在很大程度上取决于构建模块的可得性,以及愿不愿意去做定制合成。

[5628.614-5638.018] SPEAKER_02: 所以尤其是对于精细映射这类事情,比如说能把一个氮原子绕着环挪到所有这些位置中的任何一个,这是非常非常理想的。

[5638.238-5646.759] SPEAKER_02: 但对你目前生成的各种构建模块来说,想要在商业上全都拿到,可能性也相当低。所以这会成为一个失败模式吗?那肯定。是的。是的。

[5646.979-5652.342] SPEAKER_02: 我很希望能拿到更多这类东西,把我们的定制合成能力加强一下。

[5652.562-5655.069] SPEAKER_02: 这是我们正在考虑的事情。

[5655.289-5658.435] SPEAKER_02: 但现在,想弄到这些还挺有挑战的。

[5658.655-5668.918] SPEAKER_02: Claude可能会想到的一个批评,关于分子容易组装也容易拆解,很多年里,把构建模块连接到化学上最常见的方式就是酰胺键或者肽键。

[5669.138-5673.004] SPEAKER_02: 所以这些东西在体内是相当容易被降解的。

[5673.224-5687.158] SPEAKER_02: 但过去几年,大概四年左右吧,出现了一大批对DNA友好的化学反应,它们在连接过程中不会破坏DNA,因为这一点非常重要,能给你碳碳键、碳氮键,

[5687.378-5689.792] SPEAKER_02: 诸如此类的东西。

[5690.012-5694.574] SPEAKER_02: 所以对于日常的简单化学来说,其实还挺不错的,是的。

[5694.794-5701.574] SPEAKER_02: 所以那部分我其实不太担心,我更担心的是构建模块的多样性,而这是有来源的,是的。

[5701.874-5707.783] SPEAKER_01: 那ADMET性质总体上怎么样呢,你知道,你们一直非常专注于结合。

[5708.083-5710.010] SPEAKER_02: 确实是这样,是的。

[5710.230-5726.184] SPEAKER_02: 在我们做过的项目里,试着去看合理的ADMET和PKPD性质,值得一提的是,我们从化合物库的命中物直接做到了小鼠体内良好的PKPD,只用了六个月,而且药物化学循环次数非常少。

[5726.404-5733.126] SPEAKER_02: 所以至少我们目前手上的这些化学材料,或者说我们做过的那几个系列,在我们手里结果还挺不错的。

[5733.346-5745.144] SPEAKER_02: 我想我们会继续看那个建模效果如何,当然我们也想做更多这类ADMET靶点模型,然后考虑怎么把其他类型的、更涌现式的模型和我们的设计结合起来。

[5745.444-5750.505] SPEAKER_01: 那个速度是因为你们能自己构建本地组合库吗?还是说那个速度是……

[5750.725-5753.999] SPEAKER_01: 是什么让你们能在六个月内做到那一步?

[5754.299-5760.463] SPEAKER_02: 我们一开始设计这些化合物库的时候,就非常针对类药性去优化了那个空间。

[5760.683-5765.489] SPEAKER_02: 所以我们觉得这也是其中一部分原因,就是那确实是个很好的起点。

[5765.709-5772.535] SPEAKER_02: 我们做化合物库设计的时候,会用一种类似汤普森采样的方法,先定一个优化函数。

[5772.755-5775.959] SPEAKER_02: 就是说,好,我希望这些库具备这些性质。

[5776.179-5781.542] SPEAKER_02: 其中一些性质是,我想结合这些东西,我想避开那些东西。

[5781.762-5788.727] SPEAKER_02: 然后还有一些性质是,哦,还有别的ADMET模型方法,可以用来预测你的化学材料最后可能会是什么样。

[5788.947-5791.536] SPEAKER_02: 然后你就把它放进优化函数里。

[5791.756-5802.437] SPEAKER_02: 接下来你要做的就是,好,在我这个几何结构允许的范围内,我有所有能造出来的化合物,但我不想造那么多,我想造少一点。

[5802.657-5809.924] SPEAKER_02: 所以你基本上就是先设定好,生成一堆合成库,然后用这个优化函数给它们打分。

[5810.144-5813.870] SPEAKER_02: 我们这个库就是这么做的,起始材料看起来相当不错。

[5814.090-5816.562] SPEAKER_02: 所以我肯定我们会继续这么做。

[5816.862-5821.947] SPEAKER_00: 顺着这个思路问一下,你们做的东西有进到动物实验的吗?有进到人体的吗?

[5822.247-5825.137] SPEAKER_02: 有,小鼠的PKPD,对,是的。

[5825.357-5831.858] SPEAKER_02: 那意思就是,你能不能给小鼠用这个药,然后看它怎么进入小鼠的身体和组织?

[5832.158-5834.990] SPEAKER_00: PKPD就是药代动力学。

[5835.210-5837.137] SPEAKER_00: 药效动力学。

[5837.357-5843.382] SPEAKER_00: 身体是怎么把药物运到……或者说代谢是怎么让药物在体内运转的?对。

[5843.682-5847.873] SPEAKER_02: 然后还有,有没有能反映药物预期活性的生物标志物?

[5848.093-5854.896] SPEAKER_02: 放到这里来说,意思就是,这就像一种药,这是我们正在做的一个针对炎症的化合物。

[5855.116-5864.195] SPEAKER_02: 所以我们追踪了小鼠血液里的细胞因子水平,结果它们表现出了我们想要的、也是根据药物靶点预期会有的变化。

[5864.495-5866.863] SPEAKER_00: 所以Sean喜欢问,什么时候能赚钱?

[5867.083-5869.997] SPEAKER_00: 我想问的是,什么时候能到人身上。

[5870.297-5873.106] SPEAKER_02: 对。

[5873.326-5882.869] SPEAKER_02: 我是说,跟我们聊过的那些,我们有几个这样的项目,正在跟人谈合作,想拆出去成立新实体去追这些机会。

[5883.089-5892.469] SPEAKER_02: 所以,对,当然,所有这些事都得花些时间,你得做,就是有这些传统的步骤要走,你得先宣布一个所谓的开发候选物。

[5892.689-5899.596] SPEAKER_02: 然后你还得做一堆别的工作,关于生产制造和额外的安全性工作,才能进到人身上。

[5899.816-5903.600] SPEAKER_02: 所以这些事都要花长得多的时间。对。

[5903.900-5906.709] SPEAKER_00: 所以你们要拆出去,想法是拆出去一个……

[5906.929-5915.752] SPEAKER_00: 所以有些人,甚至可能是内部的,他们会说,我真的很想把这个东西推向市场,或者试着把它,推到下一步。对。

[5916.052-5924.295] SPEAKER_02: 我是说,我们思考这件事的一种方式是,你知道,我们建了这个非常棒的引擎,用来做数据生成和模型训练。

[5924.515-5940.562] SPEAKER_02: 而现在,就像我们聊过的,这些强化学习的推理方法,在大多数其他领域里,当你建一个引擎去做那些事、去帮忙解决那些问题的时候,你在这个过程中生成的那个子集本身并不是内在有价值的。

[5940.782-5949.721] SPEAKER_02: 没人想卖关于政治理论的推理轨迹,但我们在做所有这些筛选的过程中,确实生成了一些小小的金子。

[5950.021-5956.940] SPEAKER_00: 因为你实际上推理的不只是这个模型好,或者说这个分子好,而是这个,这里为什么好。

[5957.240-5966.377] SPEAKER_02: 这里为什么好,而且这里有对我们专有的化学材料,它的活性落在别人可能觉得很难成药的蛋白靶点类别里,对吧?

[5966.597-5975.362] SPEAKER_02: 所以你就有起始材料,你知道,现在我们有的起始材料,在我看来对大概700个靶点都挺有选择性的,就是个很大的数字。

[5975.582-5986.216] SPEAKER_02: 你不想把这些全都追下去,但是,你知道,作为机会,它们都是机会,只是经济价值捕获和吸引力各不相同。

[5986.436-5993.436] SPEAKER_02: 所以你会想,好吧,我们有这么多东西,那就看看我们能从中挖出什么。看看我们能从中得到什么。

[5993.736-5997.683] SPEAKER_00: 发现只占开发一款药总成本的一小部分。

[5997.903-6006.122] SPEAKER_00: 你可以争辩说,好吧,任何一次发现也许都便宜,但是,你知道,因为失败很多,你有很多次。

[6006.342-6021.124] SPEAKER_00: 所以,但即便那样,你知道,要得到一款药,一款药,一个成功的候选药物走完所有步骤,也许,你知道,往低了说两亿,往高了说十亿,取决于你要在谁身上测试,还有很多其他因素。

[6021.344-6023.189] SPEAKER_00: 而发现只要几百万。

[6023.409-6026.218] SPEAKER_00: 所以你们是在解决对的问题吗?

[6026.518-6033.402] SPEAKER_02: 所以我觉得有不少早期发现的问题值那么多钱,就是合理的金额。那这意味着什么呢?

[6033.622-6038.683] SPEAKER_02: 现在有一批靶点,有非常好的遗传学证据,但用small molecule做药非常难。

[6038.903-6050.199] SPEAKER_02: 一个很直白的例子是,很多这类细胞因子炎症适应症,大家用抗体来做药,然后想去做一个能做成药片吃、而不是输液的小分子疗法,

[6050.419-6055.422] SPEAKER_02: 一种不需要冷链运输就能送到不同患者群体的药。

[6055.642-6058.289] SPEAKER_02: 能有这些东西是非常理想的。

[6058.589-6061.595] SPEAKER_00: 意思是你得有冷藏车。对吧?对。

[6061.895-6067.665] SPEAKER_02: 而如果你想把这些抗体类药物送到某些人手里,这是个非常难的问题。

[6067.885-6071.054] SPEAKER_02: 是啊,而且非常贵。而且非常贵。

[6071.274-6077.903] SPEAKER_02: 所以大家真的很兴奋:能不能找到一个小分子疗法,做到跟针对这些药的抗体一样的事?

[6078.123-6081.397] SPEAKER_02: 所以有某个抗体,它有效。对,所以我们知道它有效。

[6081.697-6086.503] SPEAKER_00: 于是你就想,那为什么我们不能用small molecule去打同一个靶点呢?

[6086.803-6095.440] SPEAKER_02: 结果发现那些蛋白质因为各种原因非常难成药,但我们愿意相信我们正在开发的技术能拿到好的分子。

[6095.660-6100.327] SPEAKER_02: 所以我们确实已经针对很多这类靶点拿到了有选择性的分子。

[6100.547-6108.151] SPEAKER_02: 所以这就是一个例子,一个非常理想的靶点,当然要把它推过终点线、真正上市,需要多得多的资金。

[6108.371-6110.100] SPEAKER_02: 但兴趣足够高。

[6110.400-6114.068] SPEAKER_00: 所以你们基本上是要把抗体市场给毁了。

[6114.368-6127.873] SPEAKER_02: 我是说,如果你能做到的话,这对某些东西来说是好事,对某些东西来说是好事,而且你知道,大量精力正投到那些团队上,因为我们在蛋白质折叠方面很擅长。

[6128.093-6130.066] SPEAKER_02: 所以他们进展很大。

[6130.286-6133.989] SPEAKER_02: 也许更宽泛地说,就是要去解决对的问题。

[6134.209-6142.486] SPEAKER_02: 这有点像路灯效应,因为在生命科学里,我们能做足够多可扩展测量的,都是这些早期的问题。

[6142.706-6146.757] SPEAKER_02: 我们没法真的做一百万只老鼠的实验,对吧?

[6146.977-6150.901] SPEAKER_02: 我们也没法做几百万个一期临床试验。

[6151.121-6153.733] SPEAKER_02: 所以我们会在这方面做得越来越好。

[6153.953-6160.860] SPEAKER_02: 我们会借助更好的数据、更好的推理和物理模型,开始往生物抽象的不同层级往上走。

[6161.080-6168.800] SPEAKER_02: 但眼下,我们真正能做出所需测量数量的技术,我觉得还是这些早期的方法。是啊。

[6169.100-6185.797] SPEAKER_00: 我还想说,如果你有一个神谕,某个AI神谕说,哦,这个,所有ADMET性质都会不错,而且这正好能推广到特定人群,所以你有这个神谕过滤器,那你在临床试验里的所有失败就都没了。是啊。

[6186.097-6201.064] SPEAKER_02: 你可以想象这样一个世界:你能搞出一个神谕,你有个新靶点,你知道,有一些新证据覆盖了它,然后这个神谕能立刻给你一些混合材料,让你觉得可以直接拿去做老鼠实验,对吧?

[6201.364-6207.552] SPEAKER_00: 所以这需要在老鼠实验、临床试验等等的数据上训练。我是说,也许吧。

[6207.852-6218.126] SPEAKER_02: 我是说,我可以说,如果你对靶点有信心,而且你需要确保它不会命中所有这些其他的脱靶,那ADMET性质肯定是没问题的。

[6218.346-6224.615] SPEAKER_02: 但即便那样,你大概也不需要临床结果才能有信心直接去做老鼠实验。

[6224.915-6228.606] SPEAKER_01: 好,那我们来到大家最喜欢的保留问题。

[6228.826-6236.593] SPEAKER_01: 我最喜欢的保留问题,我称之为机器学习和发现的Kusri悖论。哦,来了来了。对。对。

[6236.813-6241.724] SPEAKER_01: Shree Krishnaree,很棒的推文。我喜欢这条推文。喜欢这家伙。

[6241.944-6244.033] SPEAKER_01: 对,他几周前刚来过。

[6244.253-6247.561] SPEAKER_01: 希望我们接下来几周能放出他那期。

[6247.781-6251.310] SPEAKER_01: 可惜我在那期节目里根本没提这个。我太失望了。

[6251.530-6257.033] SPEAKER_01: 总之,那条推文基本上是说,药物发现中机器学习的商业模式是什么?

[6257.253-6263.696] SPEAKER_01: 因为要构建一个好的机器学习模型,你需要大量数据,而且是规模化、高质量的好数据。

[6263.916-6266.121] SPEAKER_01: 你显然有这些。

[6266.341-6271.611] SPEAKER_01: 但话说回来,如果你需要这些数据来训练模型,那你还要模型干什么呢?

[6271.831-6277.670] SPEAKER_01: 因为你直接去收集这些东西就行了,而且你显然能把这些东西收集得相当好。

[6277.890-6290.303] SPEAKER_01: 所以,是啊,我们聊了很多数据收集,也聊了很多机器学习,其实我有点好奇,从某些方面来说,真正的机器学习到底在哪里,它对你们的商业模式来说是必需的吗?

[6290.603-6293.830] SPEAKER_02: 所以,我的意思是,这当然要看商业模式。

[6294.050-6301.793] SPEAKER_02: 我觉得如果你的唯一目的就是去为某个特定靶点拿到好的化学材料,那Ria说得当然对,对吧?

[6302.013-6304.985] SPEAKER_02: 你有了材料,你就可以直接开始了。

[6305.205-6319.278] SPEAKER_02: 但如果你有足够的化学材料,广泛覆盖所有这些其他靶点,能够推动对化学行为更深层的机器理解,那么你优化这些早期材料的方式就有可能快得多,

[6319.498-6327.102] SPEAKER_02: 尤其是如果你能按我们这样的规模来做,尤其是如果你能像我们这样以很低的资金投入来做。

[6327.322-6331.373] SPEAKER_02: 至少我们没融多少钱,但我们筛选的量非常巨大。

[6331.593-6345.875] SPEAKER_02: 然后我觉得,甚至,你知道,退一步说,我提到这些语言模型的东西,其中一个原因是我们开始在想,它能不能带来比仅仅识别新的化学材料大得多的能力范围。

[6346.095-6356.636] SPEAKER_02: 比如说,如果我们真的擅长化学推理,那我们就能擅长很多不同的行业及其应用,而不必真的去那些不同领域里逐个做物理筛选。

[6356.856-6358.330] SPEAKER_02: 能举个例子吗?

[6358.550-6363.937] SPEAKER_02: 比如说,假设我们真的擅长做这些预测了,那我们就可以马上去做农业,对吧?

[6364.157-6375.270] SPEAKER_02: 你可以去做兽医科学,可以做材料科学,而且如果你真的很擅长这个,你就不必把那些蛋白质也都筛一遍,因为你对这个有了很好的基础理解,对吧?

[6375.490-6380.192] SPEAKER_02: 同样的道理也可以用在所有那些做蛋白质折叠的公司身上,对吧?

[6380.412-6391.824] SPEAKER_02: 就是说,现在这些模型很强了,有些团队在攻克那些还没被筛选过、或者非常难筛选的蛋白质靶点,并且拿到了非常好的起始材料。

[6392.044-6401.506] SPEAKER_02: 比如Novel那帮人做的,基本上就是细胞上的一个受体,上面有一小段突变的癌症基因,那东西特别难做,但他们成功搞定了。

[6401.726-6407.472] SPEAKER_02: 所以你可以想象,哦,也许会有那么一个世界,我们用小分子材料也能做到这一点。

[6407.692-6424.412] SPEAKER_02: 所以我觉得第3点不算错,就找起始材料而言,你知道,如果你只是想给这一个东西做成药,你大量筛选,然后你已经有那个东西了,你就不需要为这个东西建模,但这跟泛化到所有东西上并不完全是一回事。

[6424.632-6437.823] SPEAKER_02: 而且,你知道,我们希望如果你在工程化的活性悬崖里有足够多的这种变化,你实际上就能达到一个什么都能做的地步,到那个时候,你就再也不需要把所有东西都筛一遍了。

[6438.123-6443.765] SPEAKER_00: 嗯,而且可以说,你们几位,我不太清楚你们具体融了多少钱。

[6443.985-6451.566] SPEAKER_00: 所以,我的意思是,对一个项目来说,这差不多就是两个项目的花费,金额是一样的。对对。

[6451.866-6455.511] SPEAKER_02: 我的意思是,也许可以给大家一个更直观的感受。

[6455.731-6472.451] SPEAKER_02: 所以,我们开发并筛选了大约2000种不同的蛋白质构建体,公司历史上总共大概做了5000次筛选,每次至少覆盖650万个分子,我不想陷入那种比拼数字的游戏,但这肯定几乎和地球上任何人都一样多,

[6472.671-6475.201] SPEAKER_02: 也许比所有人都多,大概不是。

[6475.421-6483.048] SPEAKER_02: 可能有那么几个团队,你知道,但就突变的数量而言,我觉得我们可能比所有人都多。这在我看来很有可能。

[6483.268-6489.874] SPEAKER_02: 所以是的,我们就是投入了巨大的精力,把这件事做得非常便宜、非常可扩展。

[6490.174-6492.728] SPEAKER_00: 而如果我是一次只做一个的话。

[6493.028-6501.654] SPEAKER_02: 对,如果你去找CRO,一次只做一个,那大概每个要花你10万美元,取决于他们帮你多少忙。对。是啊。

[6501.954-6505.727] SPEAKER_01: 你刚说了五百万,是多少来着,六百五十万个分子。

[6505.947-6509.894] SPEAKER_01: 这不算很多分子,尤其是考虑到这是组合空间。

[6510.114-6513.422] SPEAKER_01: 你知道,大家都会说10的40次方之类的。

[6513.642-6516.811] SPEAKER_01: 10的60次方,大数字。

[6517.031-6520.676] SPEAKER_01: 我的意思是,显然你不需要理解整个化学空间。

[6520.896-6526.224] SPEAKER_01: 不需要。你只需要能稳定地、可重复地做出药物,这就是你的目标。

[6526.444-6533.212] SPEAKER_01: 但那个化学空间真的足够大,能让你在自己的化学空间之外做出有意义的事情吗?好问题。

[6533.512-6548.340] SPEAKER_02: 所以让人欣慰的答案是,你知道,我之前说过我们只用内部数据训练模型,而且我们能够扩展,并做出泛化预测,进入Kembo,那是化学空间中非常不同的角落。

[6548.560-6551.056] SPEAKER_02: 所以是的,我们觉得够吗?远远不够。

[6551.276-6564.154] SPEAKER_02: 你知道,所以这已经是我们路线图的一部分了,我们一直在推进的,就是制作更多、更大的化学库,分布在化学空间的不同角落,大致覆盖我之前讲到的那些,

[6564.374-6575.113] SPEAKER_02: 其中一些是像这种非常细微的变化,更偏向活性悬崖,而另一边,则是这种大幅度的变化,试图捕捉新的蛋白质和蛋白质形状。

[6575.413-6579.464] SPEAKER_01: 这不是个难回答的问题,我就是真的很好奇。

[6579.684-6583.875] SPEAKER_01: 你们能预测效力吗,比如相对效力,能预测得有意义吗?

[6584.095-6591.780] SPEAKER_01: 比如,你们能做KD曲线吗,就是那种,你知道,不断滴定,用越来越大、越来越多的库之类的?

[6592.080-6600.415] SPEAKER_02: 所以大家在这方面也摸索过一阵子,想直接从DEL里拿到KD,比如试试改变蛋白质浓度之类的,这是大家会做的事。

[6600.635-6612.825] SPEAKER_02: 我们看到的一点是,当我们做重复筛选时,拿回来的命中物基本是一样的,顺序也大致相同,这让我们,你知道,对能做出这类东西比较乐观。

[6613.045-6626.352] SPEAKER_02: 我们开始更多地转向SPR这类生物物理相关的测量,想看看能不能搞出一个效力阶梯之类的东西,然后把它作为我们筛选的化学材料的一部分,来捕捉这些东西。

[6626.572-6630.403] SPEAKER_02: 但我不会说我们现在已经很擅长这个了。

[6630.703-6634.069] SPEAKER_01: 比如你不能直接拿reads当KD的替代指标之类的。

[6634.369-6641.195] SPEAKER_02: 我觉得相对排序可以,但我觉得reads当KD,reads当KD,不太行。

[6641.415-6644.004] SPEAKER_02: 然后你就会开始碰到一些奇怪的东西。

[6644.224-6654.405] SPEAKER_02: 比如我们遇到过很多蛋白质,结果发现DNA条形码本身,有些蛋白质并没有被描述为DNA结合蛋白,但我们发现它们是。

[6654.625-6658.688] SPEAKER_02: 所以你可以想象,这可能会影响那些东西的KD。

[6658.908-6662.042] SPEAKER_02: 他们得想办法缓解这些问题之类的。

[6662.262-6665.675] SPEAKER_02: 所以,对,我觉得相对排序是相当可行的。

[6665.895-6669.981] SPEAKER_02: 我觉得把它转化成KD是我们正在积极努力的事。

[6670.201-6677.329] SPEAKER_02: 而且我们觉得也许能搞出一些合理的,你知道,那种比较粗糙的转换,但我不会说我们已经做到了。

[6677.629-6680.357] SPEAKER_01: 好,这个,这个挺狠的。哦,太好了。

[6680.577-6683.049] SPEAKER_01: 苦涩的教训,对,我就直接读了。

[6683.269-6686.635] SPEAKER_01: 这个纯粹是胡扯。我对此毫无想法。

[6686.855-6688.968] SPEAKER_01: 苦涩的教训真的就是定律。

[6689.188-6695.596] SPEAKER_01: 是什么阻止了一个资金更充足的实验室在规模上超过你们的Dell引擎?

[6695.896-6698.705] SPEAKER_02: 哦对,当然,大家肯定会问我们这个问题。

[6698.925-6713.324] SPEAKER_02: 而原因,我真正想说的是,无论是在at-leash还是在at-recursion,我的团队都犯过太多错误,不小心撞上了那些作弊模式,而这些模式基本上就是做实验室工作带来的后果。

[6713.544-6715.610] SPEAKER_02: 这种东西太多了。

[6715.830-6718.256] SPEAKER_02: 所以你必须把这些一个个追查清楚。

[6718.476-6724.664] SPEAKER_02: 其中很大一部分跟用元数据追踪批次效应有关,比如说。

[6724.884-6730.793] SPEAKER_02: 所以你得在组织里建立一种文化,就是,好吧,我们得把所有这些都追踪起来。

[6731.013-6734.763] SPEAKER_02: 你得开发工具来追踪所有这些。

[6734.983-6742.181] SPEAKER_02: 我们得让这些工具用起来毫无摩擦,让真正干活的人愿意去记录这些东西。

[6742.401-6748.890] SPEAKER_02: 然后你还得回头去看公司成立以来的所有数据,确保你得到的结果真的是一致的。

[6749.110-6755.669] SPEAKER_02: 然后当你看到大的变化时,你得找出是什么导致的,然后再去缓解这些问题。

[6755.889-6758.814] SPEAKER_02: 这工作量真的是巨大巨大。

[6759.034-6762.087] SPEAKER_02: 我们还基本上从零重建了筛选流程。

[6762.307-6774.755] SPEAKER_02: 我们从零重建了很多蛋白表达流程,然后我们还有所有这些其他的代理指标,用来评估蛋白生产做得好不好、是优是劣,还有这些其他的过滤器。

[6774.975-6782.335] SPEAKER_02: 这就需要一种独特的文化、耐心,以及愿意犯这些错误,然后让团队真正深入思考怎么去解决它们。

[6782.555-6792.458] SPEAKER_02: 我觉得除非你有那种对这类实验错误真正有敏锐嗅觉的人,否则要复制起来是挺、是得花不少时间的。流程模式。

[6792.678-6794.489] SPEAKER_02: 对,我真是这么觉得。

[6794.709-6802.255] SPEAKER_02: 有太多地方可能出岔子,你必须时刻保持足够的注意力,才能在它们出岔子的时候识别出来。

[6802.475-6807.304] SPEAKER_02: 有些东西你也许可以写自动过滤器来处理,但早期可能还不行。

[6807.524-6813.746] SPEAKER_02: 所以就像,你知道,一个挺好的例子我很乐意聊,就是大家经常问我们,怎么知道哪些蛋白是好的?

[6813.966-6817.240] SPEAKER_02: 我们有很多办法能弄清楚这件事。

[6817.460-6828.036] SPEAKER_02: 我现在最喜欢的一个办法是,我们注意到当蛋白质发生错误折叠时,在非常粗糙的情况下我们能够识别出这种错误折叠。

[6828.256-6838.577] SPEAKER_02: 比如说你把蛋白质放到凝胶上跑一下,这是蛋白质实验里的一个技巧,用来判断它有多大,如果它错误折叠了,你多少能检测出来。

[6838.797-6842.941] SPEAKER_02: 但如果它只是轻微错误折叠,那就可能很难发现。

[6843.161-6854.759] SPEAKER_02: 有些药物的作用就是把错误折叠的蛋白质重新折叠好,这类东西叫分子伴侣。哦,好的。你也可以叫它们“生物”。我们就是这么叫的。对。

[6854.979-6861.248] SPEAKER_02: 有一个非常有名的,用来治疗囊性纤维化患者,叫Blumicaftor。

[6861.468-6870.570] SPEAKER_02: 所以我们的化合物库里有一批化学物质,看起来就像lumicaftor,就是那种专门负责把错误折叠的蛋白质重新折叠好的东西。

[6870.790-6875.898] SPEAKER_02: 你猜我们筛它们的时候,它们会命中哪类蛋白质?

[6876.198-6882.119] SPEAKER_01: 囊性纤维化?还是,抱歉,是错误折叠的蛋白质。哦,对,错误折叠的蛋白质。

[6882.419-6884.450] SPEAKER_02: 它就是干这个用的。

[6884.670-6886.980] SPEAKER_02: 结果它就在我们的库里。

[6887.200-6890.973] SPEAKER_02: 所以,你知道,我们其实是偶然发现这一点的。

[6891.193-6898.460] SPEAKER_02: 我们看到这些化学系列在所有不同的蛋白质类型里不断冒出来,就想,天哪,这是什么?是lumicaftor吗?

[6898.680-6905.704] SPEAKER_02: 然后你开始看蛋白质的表达情况,再看它是怎么走的,就会发现,哦,它在情况不好的时候才会出现。

[6905.924-6913.006] SPEAKER_02: 所以现在我们可以把它当成一个过滤器:如果我们拿到一堆lumicaftor类的命中,那这个蛋白质很可能没折叠对。

[6913.226-6916.720] SPEAKER_02: 我们大概就不想把它当作训练数据。

[6916.940-6923.882] SPEAKER_02: 我们大概想用稍微不同的条件重跑一遍,让条件对蛋白质更友好一些。

[6924.102-6927.306] SPEAKER_02: 然后我们再看看那些命中长什么样。

[6927.526-6933.354] SPEAKER_02: 所以除非你保持那种程度的关注,不然真的,我是说,真的很难。

[6933.574-6941.317] SPEAKER_02: 对,而且你得建好工具,让你能直接看这些东西,还得有知道该找什么、并且能认出这些东西的人。

[6941.537-6943.650] SPEAKER_02: 是啊,这是个很难的问题。

[6943.950-6948.315] SPEAKER_01: 是啊,凡是碰过DEL的人,最后都带着心理阴影出来。

[6948.535-6952.308] SPEAKER_01: 你不知怎么地把它搞明白了。这个我大概也支持过。

[6952.608-6956.857] SPEAKER_02: 你也有心理阴影,不过是好的那种。是啊,我知道。真的很难。所以才这样。

[6957.077-6969.037] SPEAKER_02: 而且你知道,当你的动力只是找到一两个特别棒的命中物来启动一个药物项目时,你就不会去追查这个检测方法的所有这些不同方面。所以我理解。

[6969.257-6975.526] SPEAKER_02: 但如果你是想让它成为机器学习的素材,那你就得注意所有这些细节。

[6975.826-6984.150] SPEAKER_00: 我们最后总会问的一个问题是,如果你能靠行政命令直接买下、或者直接消除一个瓶颈,那会是什么?

[6984.450-6992.089] SPEAKER_02: 不,说到靠行政命令买下,其实有件事现在正在发生,就是测序成本在像石头一样往下掉。

[6992.309-6995.896] SPEAKER_02: 我在想,好吧,我们到底真正想做什么?

[6996.116-7000.202] SPEAKER_02: 如果我们想要更多化合物,想要更多测量数据。

[7000.422-7006.145] SPEAKER_02: 这些就是我想让日子稍微好过一点的地方,就是那些眼下最实际的问题。

[7006.365-7011.426] SPEAKER_02: 所以你是想要,抱歉,我没太明白。更便宜的测序,更多分子。好。是的。

[7011.726-7016.671] SPEAKER_01: 在测序方面,你能给点背景说说它降了多少吗?我的天。

[7016.891-7020.002] SPEAKER_01: 降了好多个、好多个数量级。

[7020.222-7028.488] SPEAKER_01: 我觉得是——第一个基因组花了几十亿美元,现在人类基因组一千美元就能做,对吧?我觉得可能是一百。一百,对。真的很便宜,是啊。

[7028.788-7033.199] SPEAKER_02: 有段时间它降得比摩尔定律还快,挺让人兴奋的,是啊。

[7033.499-7036.285] SPEAKER_00: 那等等,那你为什么还想要更便宜的测序?

[7036.585-7039.951] SPEAKER_02: 哦,我只是对这个趋势感到高兴。哦,好吧。

[7040.251-7046.311] SPEAKER_00: 如果靠行政命令,你会消除什么,那种还没被消除的?好,这个问得好。

[7046.611-7052.334] SPEAKER_02: 我想要的是,现在有各种不同的装置可以用来纯化小分子。

[7052.554-7060.379] SPEAKER_02: 好,所以现在你合成它们的时候,就是把一些东西放进一个容器里,加热或者用别的条件,然后就得到产物。

[7060.599-7063.605] SPEAKER_02: 这会在某种效率水平上起作用。

[7063.825-7066.077] SPEAKER_02: 可能很好,也可能很糟。

[7066.297-7072.786] SPEAKER_02: 所以不管哪种情况,尤其是如果很糟的话,就有这些别的装置可以用来把它纯化一下。

[7073.006-7076.001] SPEAKER_02: 所以人们会用HPLC或者这类其他技巧。

[7076.221-7082.664] SPEAKER_02: 这些方法里没有哪个是真正能大规模并行的,那些真正特别好的方法也不行。

[7082.884-7087.527] SPEAKER_02: 所以能大规模地纯化东西会非常非常好,因为你想,我们想做什么呢?

[7087.747-7095.850] SPEAKER_02: 我们把这些分子全都跑进那个我们已经描述过的、给人们带来过很多创伤的古怪检测里。

[7096.070-7111.351] SPEAKER_02: 如果之后能拿到大量分子,放进另一种检测里,那种检测非常干净、纯化过、容易操作,然后再去做下一步,那就太好了,因为那样你就能真正正交地验证你做的所有这些测量。那会非常非常好。

[7111.571-7119.732] SPEAKER_02: 当然,大家都在抱怨GPU之类的,大家都说除了GPU之外,然后另一个问题是,你希望人们从那一集里得到什么。

[7119.952-7134.745] SPEAKER_02: 我希望人们从那一集里得到的收获是,至少对我们来说,我们相信我们正在构建的东西非常非常令人兴奋,感觉像是为各种有趣的推理和生物医学应用提供了一个物理上扎实的基础。

[7134.965-7137.960] SPEAKER_02: 所以如果他们对这个感兴趣,请联系我们。

[7138.180-7151.301] SPEAKER_02: 我们正在招机器学习的人,我们想和合作伙伴谈,我们正在构建这个东西,我们认为它会有变革性。所以来找我聊吧。太棒了。酷。那太好了。太有意思了。谢了,兄弟。谢谢你来。谢谢。好的。