本·格策尔谈AGI、科幻影响与奇点未来

Podcast Script (zh)

[0.120-16.030] SPEAKER_00: 来听听本·格策尔的一段对话 他在人工智能领域 挺有趣的脑袋之一 他是SingularityNet的创始人 他设计了OpenCog AI框架 曾在机器智能研究所 做研究总监 还有汉森机器人首席科学家

[16.110-28.430] SPEAKER_00: 他们造了索菲亚机器人 他一直是AGI领域核心 组织并贡献 通用人工智能会议 2020年会议这周举行 周三到周五 线上免费 推荐你看看这些演讲

[28.510-44.731] SPEAKER_00: 还有本播客101集约什·巴赫演讲 广告快讯 赞助商：乔丹·哈宾格秀和大师课 赞助商：乔丹·哈宾格秀和Masterclass 考虑支持一下这个播客吧 去 jordanharbinger.com/lex 看看 注册免费试用

[44.811-61.685] SPEAKER_00: 去 masterclass.com/lex 注册 点击链接购买全部 这是支持本播客最好的方式 也支持我的研究创业旅程 这里是人工智能播客 喜欢的话 YouTube 订阅一下 Apple Podcasts 给五星 Patreon 上支持我们

[61.765-77.208] SPEAKER_00: 或在 Twitter 找我 @lexfriedman 拼写没有 E，F-R-I-D-M-A-N 照惯例插播几分钟广告 下次见 中间绝没有广告 打断对话流畅 本期由 Jordan Harbinger Show 赞助 去 jordanharbinger.com/lex

[77.288-95.692] SPEAKER_00: 这样他知道你是我推荐的 那页上有订阅链接。 在 Apple Podcasts、Spotify 等平台。 我一直在狂听他的播客。 乔丹很棒。 他总能让嘉宾展现潜力， 深聊，必要时直说， 整个过程特有趣。 他采访过科比·布莱恩特、马克·库班、

[95.772-110.112] SPEAKER_00: 尼尔·德格拉斯·泰森、 加里·卡斯帕罗夫，还有很多人。 跟科比的对话提醒我们 需要多少专注和努力 才能做到卓越 在体育、商业和生活中。 我特别推荐这集 如果你想要启发。

[110.192-115.103] SPEAKER_00: 再次提醒，访问 jordanharbinger.com/lex。 乔丹就知道是我推荐你的。

[115.183-131.369] SPEAKER_00: 本期节目由 Masterclass 赞助。 去 masterclass.com/lex 注册。 为了拿到折扣， 并支持这个播客。 我第一次听说Masterclass时， 觉得这好得难以置信。 每年一百八十美元， 你可以买全通票看课程，来自 举几个我最喜欢的。

[131.449-154.697] SPEAKER_00: 克里斯·哈德菲尔德讲太空探索， 尼尔·德格拉斯·泰森讲科学思维 和交流， 威尔·赖特， 史上最伟大的城市建造游戏， 《模拟城市》《模拟人生》的创作者，讲游戏设计， 卡洛斯·桑塔纳讲吉他， 加里·卡斯帕罗夫， 最伟大的， 还有史上最伟大的象棋棋手讲象棋，

[154.777-168.316] SPEAKER_00: 丹尼尔·内格里努讲扑克， 等等。 克里斯·哈德菲尔德讲火箭原理 还有独自被发射到太空的经历 物有所值。 再次， 去masterclass.com/lex注册 拿折扣 支持这个播客。

[168.396-171.762] SPEAKER_00: 现在， 下面是我和 本·库尔策尔的对话。

[171.842-176.648] SPEAKER_00: 书、 作者、 思想 对你影响很大吗？ 在你人生中 早期？

[176.948-193.587] SPEAKER_01: 你知道， 是什么让我开始接触 人工智能和科幻 之类的 不是一本书。 但原版《星际迷航》剧集 我和我爸一起看 就在它首播那会儿 大概1968、69年吧 真的太棒了 因为每集都去

[193.667-204.023] SPEAKER_01: 不同的外星文明 不同的文化 还有奇特的机器 这让我迷上科幻 那时候科幻很少 那会儿电视上科幻片不多 于是我开始读 科幻文学 你知道

[204.103-216.632] SPEAKER_01: 从上世纪初 一直到那会儿 我是说 好多科幻作家 曾给过我灵感 非要说两位，我会选斯坦尼斯瓦夫·莱姆。 他是一位波兰作家。 对。 《索拉里斯星》。

[216.712-237.542] SPEAKER_01: 他还有很多更晦涩的作品。 讲的是被制造出的超级人工智能。 索拉里斯星是超自然、 自然形成的智能。 然后还有菲利普·K·迪克。 最终我对菲利普·K·迪克的痴迷 让我和大卫·汉森， 我的机器人项目合作者走到一起。 所以斯坦尼斯瓦夫·莱姆 非常像个知识分子，对吧？

[237.622-250.929] SPEAKER_01: 他对智能的视野很广， 超越了人类。 所以斯坦尼斯瓦夫·莱姆 他特像知识分子，对吧？ 他对智力的看法很广。 超越人类。 然后进入我说的 开放式超级 超级智能

[251.009-267.753] SPEAKER_01: 索拉里斯星上的超级智能海洋 在某些方面它很智能 比人类更普遍智能 但它方式复杂又让人困惑 人类永远没法真正跟它连接 但它明显非常非常聪明 然后是莱姆书里魔像四号超级计算机

[267.833-281.721] SPEAKER_01: 在莱姆的一本书里 它是人类设计的 但最终变得非常智能 朝跟人类不同的方向 它还觉得人类有点微不足道 人类并不那么有趣 它就在周围设了道无法穿透的屏障

[281.801-295.271] SPEAKER_01: 把自己和人类隔开 然后发了一通哲学长篇大论 说人类可悲又没希望 还有所有人类的想法。 然后就消失了。 菲利普·K·迪克有点不同。 他关注人类本身，对吧？

[295.351-308.380] SPEAKER_01: 他最看重人类的同情心。 但人类的心灵和灵魂 会一直推动我们前进。 不管发现什么外星人， 或心灵感应、超级AI， 或其他任何东西。 所以他不相信现实，

[308.460-323.033] SPEAKER_01: 比如我们看到的现实 可能只是模拟或梦境， 或我们理解不了的东西。 但他相信爱与同情心 是某种持久的力量， 贯穿所有模拟现实。 所以这两位科幻作家 对我影响特别大。 再长大一点后，

[323.113-328.523] SPEAKER_01: 我开始读陀思妥耶夫斯基和尼采 还有兰波和一些更有文学性的打字作品

[328.823-333.687] SPEAKER_00: 我们能聊聊其中一些东西吗？ 那么在索莱拉这边，斯坦尼斯拉夫·莱姆

[333.767-337.099] SPEAKER_00: 这种存在智慧生命的思想 跟我们的智慧不同

[337.179-348.292] SPEAKER_00: 你觉得我们周围可能有智慧吗？ 甚至我们都探测不到？ 所以这种想法，你也可以评论一下 关于斯蒂芬·沃尔夫勒姆认为计算 无处不在，我们只是不够聪明 去探测它们的智慧

[348.372-350.159] SPEAKER_00: 或者欣赏它们的智慧

[350.459-357.622] SPEAKER_01: 是的，我的朋友雨果·德·加里斯 我一直跟他讨论这些事 几十年了，从90年代初开始

[357.702-366.200] SPEAKER_01: 他有个想法，叫SIPI 就是寻找粒子内部的智慧 哈！ 所以这个概念是，随着人工智能越来越聪明 而且越来越聪明，

[366.280-381.143] SPEAKER_01: 假设我们知道的物理定律 还是这些超级智能 觉得成立并受约束的， 随着它们越来越聪明， 它们会让自己越来越小， 因为狭义相对论让 它们能在相距很远的两点间交流。

[381.223-396.597] SPEAKER_01: 所以它们会越来越小， 但最终，这意味着什么？ 超级超级超级智能的思维， 超级智能， 它们会被压缩进相互作用里， 基本粒子或夸克的， 或者夸克里的部分子之类的。 所以我们当作随机涨落的

[396.677-413.305] SPEAKER_01: 在量子或亚量子层面上的 实际上可能是 微型微型微型化的超级智能的思维， 因为我们分不清随机。 结构里头带算法信息 比人脑复杂，对吧？ 我们分不清区别 所以我们就觉得 以为是随机，可能是思维过程

[413.385-421.744] SPEAKER_01: 一些极小的超级思维 如果这样，我们没办法 只能努力提升智能 扩展思维，好让我们感知 周围更多东西

[422.044-435.351] SPEAKER_00: 但如果那些随机波动 比如进入量子力学 如果那其实是超级智能系统 那我们不就是超级智能汤的一部分？ 我们不就在其中？ 我们就有点像 整个身体里的一根手指 超级智能系统的一根手指？

[435.651-440.643] SPEAKER_01: 也许吧，手指这个比喻有点怪 我是说，我们，我们啊

[440.943-442.754] SPEAKER_00: 一根手指挺蠢的。 对，对。

[443.054-458.973] SPEAKER_01: 但一根手指也有用。 大脑有意控制的。 我们还不如它呢，对吧？ 就是说，是啊。 我们可能只是随机副现象。 他们不太在意。 就像想想那，那，那， 体育场涌出的人群形状，对吧？ 人群涌现的形状就在那里。

[459.053-472.999] SPEAKER_01: 你可以拍张照片。 这还挺酷的。 它跟比赛主要目的没关系。 也跟人们去哪儿没关系。 或者人们在想什么。 正是这些形成了那个形状，对吧？ 所以我们可能只是某种 半任意的高层模式。 就是半任意高层模式。

[473.079-478.709] SPEAKER_01: 从低层弹出来。 超智能自组织。 我的意思是， 就这样，一件事。

[479.009-481.063] SPEAKER_00: 还挺有意思的旅程。

[481.363-489.629] SPEAKER_01: 对，年龄越大， 我越觉得人根本无知。 所有人都是。 我看着两只狗， 漂亮的小玩具贵宾犬， 它们看我打字。

[489.709-498.486] SPEAKER_01: 可能以为我在锻炼手指， 或者看守显示器。 它们不知道我在跟远方的人聊天。 更别说服务器跑算法了，对吧？ 但它们就在身边。

[498.566-504.429] SPEAKER_01: 我们周围有多少东西 太蠢或封闭而理解不了？很多。 你的狗也可能在跨洋交流。

[504.729-512.507] SPEAKER_00: 连你的狗也在跨…交流。 和其他生物的多重维度，而你 太笨了，理解不了 你正在经历的那种交流 正在经历着

[512.807-525.928] SPEAKER_01: 很多电视节目和科幻小说说猫、 海豚、老鼠其实是超级智能，在这儿观察我们 我觉得就像一位量子物理创始人说的， 那些理论不够疯狂，不够真实

[526.008-528.782] SPEAKER_01: 现实可能更疯狂

[529.082-540.564] SPEAKER_00: 说得好。关于人性， 以菲利普·K·迪克为例，总的来说， 你怎么看这个：爱与人类本性的核心 在这些多重现实中一直存在？ 你站哪边？

[540.644-551.940] SPEAKER_00: 关于人工智能，让你受启发的是 智能 是人性中某种一直存在的东西 通过我们设计的各种系统，还是说AI激发你去创造 比你更厉害的东西？

[552.240-562.073] SPEAKER_01: 超越人类、近乎非人的人类。我想说，我造AGI的动力来自 其实从这两个方向看，我第一次对AGI有热情时

[562.153-572.613] SPEAKER_01: 我两三岁时看了《星际迷航》里的机器人后 这其实是求知欲，比如机器真能思考吗 你会怎么做？还想创造出比那些

[572.693-587.022] SPEAKER_01: 明显受限且有缺陷的人类更好的东西——我看到的周围人。随着我长大 更融入人类世界，结婚生子，然后父母开始 变老，我意识到AGI不仅让人超越

[587.102-597.701] SPEAKER_01: 人类局限，还能阻止死亡、痛苦 以及精神折磨，所以AGI有惊人的能力 为人类做好事，也能远远超越

[597.781-603.226] SPEAKER_01: 人类水平，两方面都存在，让它更令人兴奋和重要

[603.526-608.019] SPEAKER_00: 你提到陀思妥耶夫斯基和尼采，从哪里接触到的？

[608.319-617.676] SPEAKER_01: 那可能超出了这次采访的范围 当然，这两位都是了不起的思想家，一个人必然 会与他们有复杂关系，对吧？所以陀思妥耶夫斯基，从

[617.756-630.726] SPEAKER_01: 负面看，他像个宗教狂热分子，还帮助镇压俄罗斯的虚无主义 运动，这很有趣，因为虚无主义最初在 19世纪中后期的俄罗斯，不是指完全不接受任何东西百分百

[630.806-644.554] SPEAKER_01: 绝对化，它更像我们现在说的贝叶斯主义，你不想 把任何东西当作教条确定无疑，保持思想开放，而陀思妥耶夫斯基如何 讽刺虚无主义有点不同，他讽刺绝对相信的人。

[644.634-655.268] SPEAKER_01: 没什么，所以他们给每个命题相等概率权重，这 实际上行不通，所以一方面我没真正 同意陀思妥耶夫斯基宗教观点，另一方面

[655.348-666.389] SPEAKER_01: 你看他对人性理解，还有心灵和内心 灵魂，真是无与伦比。他对人类有惊人见解。 根据自己的理解和精神构建世界。

[666.469-677.266] SPEAKER_01: 倾向，而且特别看《卡拉马佐夫兄弟》 文学理论家巴赫金称之为复调小说模式。 既不是第三人称，也不是某人的第一人称。

[677.346-688.003] SPEAKER_01: 小说中许多角色，每个人都在讲述 故事一部分，从自己视角，现实像交叉 由不同角色世界观协同组成，这确实

[688.083-699.518] SPEAKER_01: 美丽隐喻，反映我们社会性地创造 现实，每个人以自己方式看世界，都在创造 所见世界基于自己思想，但复调，像

[699.598-718.223] SPEAKER_01: 音乐中多种乐器汇聚创造出声音。 终极现实来自每个人主观理解。 主观理解交织成终极现实，被policerzajoueva摧毁，我们身处其中… 那是陀思妥耶夫斯基美好之一，所以也许有点

[718.523-725.105] SPEAKER_00: 你说我跟俄罗斯苏联文化有联系？我也不太确定具体是啥。 这种联系至少是你思想的精神。

[725.405-734.263] SPEAKER_01: 我祖上四分之三是东欧犹太人，三位曾祖父母。 从立陶宛波兰边境移民到纽约，那些地区当时反复易手。

[734.343-740.647] SPEAKER_01: 一战后属于波兰，他们曾是社会主义者。 他们大多是孟什维克而非布尔什维克。

[740.727-757.529] SPEAKER_01: 正好因个人原因逃往美国，然后几乎全部我的。 留在埃及的大家庭也移民到了纽约。 他们全移民到了纽约。 后来被希特勒或斯大林手下杀害，所以那一支。 移民美国的那一支几乎是唯一的。那么这种精神有多少？

[757.829-761.660] SPEAKER_00: 还流淌在你的血液里？比如照镜子时，你看到的是？

[761.960-768.299] SPEAKER_01: 我看到一袋肉，想通过上传到某种。 更高级的现实来超越它。但确实如此。

[768.379-775.147] SPEAKER_01: 说得很清楚。我不是传统宗教信徒，但显然东欧。 犹太传统是我成长环境。我祖父里奥。

[775.227-788.941] SPEAKER_01: 他是物理化学家，曾与兰迪斯·鲍林等早期。 跟量子力学大师合作。他做X射线衍射，属于。 材料科学，实验家而非理论家。他姐姐也搞材料科学。

[789.021-797.716] SPEAKER_01: 也是一位物理学家。我爷爷维克多·格策尔是心理学博士。 在拘留营给日本人做创价疗法，这活可不轻松。

[797.796-808.593] SPEAKER_01: 二战时啊，劝他们别自杀，哪怕经历过那些事。 东西被没收，无故被关，所以他们啊，就是那样子。 我背景里有不少东欧犹太传统。

[808.673-820.132] SPEAKER_01: 我叔祖父好像是旧金山交响乐团的指挥。 交响乐团里好多米奇·萨尔克，音乐特多。 这文化就是学习和理解世界，还有呢……

[820.212-831.929] SPEAKER_01: 做得对了也别太较真，里头很多意第绪语幽默。 幽默融在里面，所以我挺欣赏那文化，虽然那个想法吧…… 比如犹太人是天选之民，这我没啥共鸣。

[832.229-842.109] SPEAKER_00: 格策尔家族的家谱，我遇到的人，做点研究。 几十年了解你的工作，挺迷人的，我就是…… 博士不少，是啊，挺迷人，我爸是社会学教授。

[842.409-851.429] SPEAKER_01: 他刚从罗格斯大学退休，不过那…… 确实让我起步早，我祖父把量子力学书都给了我。 七八岁时我翻那些书，全是……

[851.509-865.699] SPEAKER_01: 旧量子力学，什么卢瑟福之类的，看到波函数部分。 我虽聪明也不懂，后来发现他也不太明白。 但至少他指了宾大附近一位教授，那位…… 他懂这些，对吧？所以呢……

[865.779-879.992] SPEAKER_01: 对孩子来说，那是个难得的机会，我爸爸当时在编Fortran。 我十岁左右，在罗格斯大学用HP3000主机，所以能做。 用Fortran穿孔卡片做线性回归，那时我上中学。

[880.072-884.100] SPEAKER_01: 他搞人口统计和社会学数据分析，所以当然。

[884.180-891.923] SPEAKER_01: 这让我在科学上有了先发优势和推动。 这让我在很多领域领先。你第一次爱上

[892.223-896.135] SPEAKER_00: 人工智能？是Fortran编程吗？还是社会学

[896.435-910.671] SPEAKER_01: 还是心理学，从你爸那学的？我三岁时，在 《星际迷航》里机器人原地转，说“错误，错误”，因为史波克和柯克 用逻辑悖论让它出故障，我当时就想，嗯

[910.751-921.014] SPEAKER_01: 它很聪明，在宇宙旅行，但这些人能用 一个简单逻辑悖论就骗了它。为什么？人脑能超越 悖论，为什么这个人工智能不行？我觉得编剧

[921.094-925.401] SPEAKER_01: 误解了智能本质，我跟我爸抱怨，而他

[925.481-932.563] SPEAKER_01: 他没打算发表意见，但我出生前， 我爸在安提阿学院，美国中部，领导过抗议运动

[932.643-945.135] SPEAKER_01: 叫SLAM，学生联盟反对死亡，抗议死亡，在校园里 校园。他当时热衷未来主义。但人工智能能否面对 逻辑悖论，他也不知道。但十年后，如果

[945.215-963.015] SPEAKER_01: 我发现了道格拉斯 霍夫施塔特那本《哥德尔、埃舍尔、巴赫》也是这个意思。 人工智能和悖论、逻辑，他老在讨论哥德尔不完备定理。 人工智能能不能完全自己建模自己，还是你会陷入某种

[963.095-979.421] SPEAKER_01: 悖论。人类心智能不能完全自我建模，还是会陷入某种 悖论？所以我想起那本《哥德尔、埃舍尔、巴赫》，读它的时候 它刚出版，我大概十二岁。记得当时花了 一天读十六个小时，从头到尾读完，又重读了两遍，因为里面

[979.501-987.767] SPEAKER_01: 有很多奇怪的小形式系统，我当时很难理解。 但那是我读的第一本，让我对人工智能有了实践性的

[987.847-995.904] SPEAKER_01: 学术或工程学科的感觉。因为读 读那本书前，我是科幻迷，把AI当科幻。而且

[995.984-1012.228] SPEAKER_01: 要实现永生和超人类AGI，还得等很久， 所以我该想办法造一艘接近光速的飞船， 飞到很远，百万年后回地球，那时科技更先进， 就能造这些东西了。读那本书，不是所有内容我都觉得真实，

[1012.308-1022.304] SPEAKER_01: 但很多是的。而且我看到周围大学里， 有些聪明人正在努力建造我称之为 AGI，虽然霍夫施塔特没这么叫。所以当我读那本书时——

[1022.384-1026.331] SPEAKER_01: 大概初中时，我开始想，嗯，这是我

[1026.631-1032.459] SPEAKER_00: 可以实际去做的事，而不是飞走等待。 我其实就是那种人。

[1032.759-1036.706] SPEAKER_01: 对纳米技术、永生和时间旅行感兴趣。

[1036.786-1046.248] SPEAKER_01: 和其他科幻迷一样，但AI若侯世达是 找对程序，输入就行，不需要别的。 不需要转动恒星或政府批准。

[1046.328-1051.935] SPEAKER_01: 把人切开填充DNA，之类，只要编程。 当然那能实现一切。还有本书，由

[1052.015-1052.607] SPEAKER_01: 呃

[1052.687-1064.622] SPEAKER_01: 普林斯顿物理学家费因鲍姆的《普罗米修斯计划》。 这本书60年代末写，我70年代中期读到。 但书里说未来几十年人类将创造出

[1064.702-1075.801] SPEAKER_01: 超人类思维机器、纳米技术、永生，然后 我们的挑战是如何用它扩展人类意识 方向，还是我们用它 推动消费主义，他建议联合国

[1075.881-1086.434] SPEAKER_01: 联合国调查，派人去非洲每个偏远小村 或南美洲，向每人说明技术带来的变化 以及我们的选择，让全球每个人

[1086.514-1097.067] SPEAKER_01: 投票决定是否发展超级AI、纳米技术和永生 为扩展意识或其它 消费主义没成功，那人80年代去世，没看到变主流。但

[1097.147-1108.478] SPEAKER_01: 有趣的是，我现在的主题，从AGI、永生到尝试 民主化技术，就像我推动的奇点和区块链工作 这些主题早就在60年代末费因鲍姆的书里

[1108.558-1119.192] SPEAKER_01: 还有瓦连京·图尔钦，俄罗斯物理学家，90年代末在纽约相识，他在 60年代末在俄罗斯出版《科学的现象》，阐述了

[1119.272-1126.272] SPEAKER_01: 所有这一切 同样的事情。 我记得瓦连京2004年左右因帕金森去世，所以人们容易

[1126.352-1129.219] SPEAKER_01: 现在忘了：未来主义与奇点主义的高级

[1129.299-1136.706] SPEAKER_01: 技术理念已成主流，电视上常出现，意思是这些 不新，对吧？人类历史算新，但意思是这些

[1136.786-1154.633] SPEAKER_01: 20世纪中期已存在，被主流教授清晰写出 直到使能技术成熟，才能实现。70年代我就 看到这点，亲身经历，从《星际迷航》到道格拉斯 反之亦然，所以我开始思考如何让它更实用，从

[1154.713-1164.953] SPEAKER_01: 60年代末到70年代末，我买的第一台电脑只能用…… 有点像看到并经历，从《星际迷航》到道格拉斯

[1165.033-1177.818] SPEAKER_01: 反之亦然，所以我开始思考如何让它更实用，从 从60年代末到70年代末，我买的第一台电脑只能用……编程 十六进制机器码得亲手焊，几年后

[1177.898-1191.426] SPEAKER_01: 打孔卡出现，再过几年就有雅达利400和VIC 20 键盘打字，用高级语言编程，也能用 汇编语言，所以 这些想法不断积累 我们这代人亲身感受积累，与后来进入

[1191.506-1200.666] SPEAKER_01: 后来的人不同，这些从一开始就是文化环境 贯穿整个职业生涯甚至一生。想想，真吸引人

[1200.966-1211.147] SPEAKER_00: 这些想法像在全球噪音中游荡 不同世代，然后非线性东西发生，渗透开来 抓住主流群体想象力，这正是现在AI领域的事

[1211.447-1221.710] SPEAKER_01: 你提到尼采，他有超人概念，但他不完全理解 技术上无法想象如何把分子拼凑起来 物理制造超人。他对超人出现有点模糊

[1221.790-1228.349] SPEAKER_01: 但思考超人意识和表达方式时 他很深刻，非常敏锐，深知人类

[1228.429-1242.653] SPEAKER_01: 思维构建自我和自由意志的幻觉，如何 从生命欲望中构建善恶等价值观 他了解人类思维运作，也了解很多 关于后人类思维如何运作。我的意思是

[1242.733-1250.976] SPEAKER_01: 超人该能完全掌控自己的心智。 大脑和意识，能自建价值体系。 调整所有偏见，思考力很强。

[1251.056-1254.898] SPEAKER_01: 这些想法埋下后现代哲学的种子。

[1254.978-1262.605] SPEAKER_01: 对文化发展甚至技术都很有价值。 但没技术，只是抽象思考。 现在很多想法能实现，这是

[1262.905-1268.129] SPEAKER_00: 既惊人又可怕，对吧？尼采如果 晚生一个世纪或穿越时空，他会

[1268.429-1273.200] SPEAKER_01: 对AI说什么？完全不同的事。要是他穿越，嗯

[1273.500-1277.064] SPEAKER_00: 就不会写出那些伟大作品了，所以带他过来，也许

[1277.364-1282.553] SPEAKER_01: 《查拉图斯特拉如是说》会变成音乐MV？谁知道。但如果他被

[1282.853-1290.736] SPEAKER_00: 穿越时空，回去追溯很有趣。 你让我想到，可以重读尼采，看看有没有 关于人工生命的思考。他肯定有暗示。

[1290.816-1297.096] SPEAKER_00: 在他之前的《弗兰肯斯坦》，他文本里肯定暗示过。这 有趣，看他有没有想过超人其实就是

[1297.176-1299.823] SPEAKER_00: 一个通用AI系统。他没有，没有。

[1300.123-1303.931] SPEAKER_01: 他对现代认知科学有很多暗示，很有趣。

[1304.011-1311.870] SPEAKER_01: 我觉得那是《权力意志》第三部分的内容。 我是说，第三本书深入分析了思维过程，但他…

[1311.950-1316.199] SPEAKER_01: 他不是喜欢动手的人，对吧？他很抽象，你觉得呢？

[1316.499-1320.446] SPEAKER_00: 嗯，你怎么看权力意志？人类是什么？驱动人类的是什么？

[1320.746-1328.013] SPEAKER_01: 嗯，整件事我觉得它是…… 各种不纯粹东西的混合，我不认为有纯粹简单优雅的目标函数。

[1328.313-1336.149] SPEAKER_00: 驱动人类，但你怎么看？如果我们看，我知道很难整体上 看待人类，你觉得人类总体是好的，还是内心有善有恶？

[1336.229-1339.920] SPEAKER_00: 取决于环境和各种因素，能够…… 完美达到顶峰

[1340.220-1342.274] SPEAKER_01: 善与恶是……

[1342.354-1349.656] SPEAKER_01: 非常模糊复杂，甚至很愚蠢的概念，但如果我们 可以从多个角度探讨你的问题。我觉得从进化角度看，

[1349.736-1359.291] SPEAKER_01: 人性由个体选择和生物学家说的群体选择共同塑造。 比如部落选择。个体选择驱使我们走向自私的DNA。 所以

[1359.371-1373.108] SPEAKER_01: 的方式，因此某种程度上，我们都会做有助于传播DNA的事。 到未来几代。我是说，这就是为什么我到现在有四个孩子了。 而且可能还不是最后一个。另一方面，我喜欢野心。

[1373.188-1384.380] SPEAKER_01: 部落的群体选择意味着人类会做有利于维护 整个部落或社会群体的DNA的事。 生物中两种选择都有，像蚂蚁群就有很多群体选择。

[1384.460-1395.396] SPEAKER_01: 大型猫科动物这类独居的更偏向个体选择。 人类是种平衡，反映我们怎么看自私和利他。 所以这两种目标函数都塑造了我们大脑。

[1395.476-1398.900] SPEAKER_01: 尼采和别的人都分析过，我的意思是，

[1398.980-1409.301] SPEAKER_01: 我们抽象后，内心善恶并存，因为 我们觉得恶的多自私，善的多利他。 就是对部落有益，两者都深植内心。

[1409.381-1418.483] SPEAKER_01: 当然有精神病、反社会和以人痛苦为乐的人。 那是例外，但我觉得， 本质上不是纯自私或纯利他，是混合体。

[1418.563-1422.812] SPEAKER_01: 本质就是这样。 还有复杂价值观，很特定于进化历史。

[1422.892-1433.549] SPEAKER_01: 比如喜爱水道山脉，房子理想在山上俯瞰水景。 很关心自己孩子，堂表亲少点，远亲更少。 意思是有很多特殊性。

[1433.629-1445.088] SPEAKER_01: 进化历史上，我们热爱水道山脉和理想之地。 房子应放在能俯瞰水面的山上，我们很在乎。 对孩子关心多，表亲少，五代亲更少。

[1445.168-1447.861] SPEAKER_01: 意思就是有很多特殊性。

[1447.941-1460.726] SPEAKER_01: 人的价值观，好坏都看你的视角。 比如我在埃塞俄比亚亚的斯亚贝巴待了很久，那里有我们的AI开发办公室。 我的奇异网络办公室就在那。走在街头，你知道，那里有

[1460.806-1466.355] SPEAKER_01: 路边躺着人，像住在那儿一样。 可能死于能治的病，缺食物和药。

[1466.435-1472.983] SPEAKER_01: 走过他们身边，我很难过。给他们钱，但回到 发达国家，就不太想着他们了。捐了点钱，但我也

[1473.063-1483.604] SPEAKER_01: 把钱花在无谓的享乐上，而不是捐给 那些路边挨饿、垂死、受苦的人。所以 这算邪恶吗？我有点自私，也有点利他。每个人

[1483.684-1491.810] SPEAKER_01: 都用自己的方式平衡。所以，这是否也适用于 所有可能的通用人工智能，问题更微妙。所以你看，人类就这样。

[1492.110-1499.017] SPEAKER_00: 你隐约觉得有自私。我不打算提 安·兰德认为自私是核心美德，那是个有趣的

[1499.317-1512.427] SPEAKER_01: 跑题，只会分散注意力。我不得不讲个有趣的 评论，或者一个让我好笑的评论。所以，我对安·兰德极度负面 的敬意。负面的？负面敬意？但当我与一家叫

[1512.507-1522.131] SPEAKER_01: Genescient的公司合作，在南加州用进化让果蝇特别长寿。 我们通过人工选择进化出果蝇，寿命是

[1522.211-1533.751] SPEAKER_01: 普通果蝇的五倍。但那些超长寿果蝇实际位于 所以在南加州安·兰德小学的备用房里，就像 嗯，要是在电影里看到这个，我肯定不信。

[1534.051-1549.994] SPEAKER_00: 嗯，对，宇宙的幽默感刚好融入其中。 不知怎么融入这荒谬的存在，但你提到了自私与利他的平衡 和利他主义，这就有点... 你你你你你你…… 与生俱来的，你觉得可能吗？ 这就像一种涌现现象，

[1550.074-1561.686] SPEAKER_00: 我们价值体系的那些特殊性， 其中有多少是与生俱来的？ 其中有多少是我们共同的， 有点像陀思妥耶夫斯基的小说， 作为文明共同赋予生命的？

[1561.986-1576.477] SPEAKER_01: 我的意思是，天性对教养问题的答案 通常是两者兼有，当然还有天性 对教养对自组织，像你说的。 所以显然有进化根源 对个体和群体选择 导致了自私和利他主义的混合。

[1576.557-1587.273] SPEAKER_01: 另一方面，不同的文化 它们以不同方式表现出来。 嗯，大家的生物学构造基本一样。 如果你看看那些早期文明， 像委内瑞拉的亚诺马米部落，

[1587.353-1597.616] SPEAKER_01: 他们专注于杀其他部落。 还有石器时代的其他部落， 大多是和平的。 而且极度禁忌暴力。 所以当然可以有巨大差异， 在于文化怎么展现。

[1597.696-1611.050] SPEAKER_01: 这些天生的生物特征， 但你知道，可能还是有限制， 由我们的生物学决定。 我和曾祖父母争论过这点， 他们其实是马克思主义者， 因为他们相信国家会消亡。

[1611.130-1625.041] SPEAKER_01: 比如，他们相信，你知道， 随着资本主义到社会主义再到共产主义的过渡， 人们会更有社会意识， 因此国家就没必要了。 人们就会给予 人人都会给他人需要的东西 先不谈那些

[1625.121-1638.567] SPEAKER_01: 地球上的各种马克思主义实验 实践中好像正往那个方向走 单从理论上讲，我很怀疑 人性能否达到那种境界 比如，当时我祖父母还在 我当时就是个愤世嫉俗的少年

[1638.647-1651.757] SPEAKER_01: 我觉得人类就是混蛋 国家不会消失 如果没有某种结构 阻止人们互相欺骗 他们就会那样做 所以现在我不完全这么看 我的意思是，现在我觉得 文化比

[1651.837-1664.749] SPEAKER_01: 我小时候认为的更重要 而且我觉得可以有一个人类社 它的调节程度大幅偏向 自我意识、他人意识，你知道的。 同情心和分享，比现在社会多。 当然，物质丰富能帮上忙。

[1664.829-1679.088] SPEAKER_01: 但某种程度上，物质丰富 也是一种主观感受。 因为很多石器时代文化觉得自己 生活在巨大富足中。 他们想要的食物和水都有。 他们住在美丽的地方。 他们有性生活，有孩子。

[1679.168-1688.154] SPEAKER_01: 我是说，没工厂也富足，对吧？ 所以我觉得人类或许能 从根本上更积极更喜悦的模式 的社会生活，比现在好。

[1688.234-1698.288] SPEAKER_01: 显然，马克思的想法并不全对。 关于怎么实现这些。 他错过了一些，你知道。 人类社会的一些关键方面 和它的演变。 看看现在社会的情况。

[1698.368-1704.254] SPEAKER_01: 怎么去那里，那问题可就完全不一样了。 因为有一股很强的力量推着人们

[1704.334-1708.165] SPEAKER_01: 朝不同的方向走 而不是积极快乐有同情心，对吧？

[1708.465-1722.469] SPEAKER_00: 所以如果我们试着，你看， 埃隆·马斯克现在梦想殖民火星。 那么埃隆·马斯克... 你也许有机会开创一个新文明 配上新的政府体系。 当然，混乱也不少。 我们现在坐这儿，也不知道今天几号了， 但现在是六月。

[1722.549-1730.374] SPEAKER_00: 各种形式的混乱还挺多， 正发生在美国和世界各地。 所以人们渴望新的政府形式， 新型领导力和新体系。

[1730.454-1734.157] SPEAKER_00: 那到底有哪些力量在起作用？ 我们怎么向前走？

[1734.457-1747.787] SPEAKER_01: 对，首先，殖民火星， 那确实很酷。 我们该做这事。 所以你喜欢这想法。 对，我是说，这比做 巧克力师的巧克力和性感内衣 还有我们花更多资源的事 作为物种对吧？

[1747.867-1760.315] SPEAKER_01: 所以我们当然该做。 我觉得未来可能是 我觉得我们该这么做。 我也赞成这么做。 火星殖民地带来关键改变。 对人类来说很少。 假设我们建火星殖民地。 几十年后人们去那生活。

[1760.395-1771.378] SPEAKER_01: 我是说，物资来自地球。 建殖民地的钱来自地球。 以及提供物资的势力。 其实来自地球。 会控制火星殖民地。 当然也有例外。

[1771.458-1780.281] SPEAKER_01: 比方说，地球炸得灰飞烟灭 可不知咋的，火星已经自给自足 了呗 然后火星让人类延续 但我觉得这事根本不可能

[1780.581-1784.214] SPEAKER_00: 这不就是漫长旅途的第一步吗

[1784.514-1787.265] SPEAKER_01: 当然，这是漫长旅途的第一步 太棒了

[1787.345-1800.838] SPEAKER_01: 我猜，殖民宇宙其他地方 很可能由人工智能 来完成，因为它们更适应太空 而不是我们这样的血肉之躯 但谁知道呢 也许能用更好办法冷冻保存自己 比现在的方法更好

[1800.918-1813.738] SPEAKER_01: 然后发射到半人马座阿尔法星更远 我觉得这一切都很酷 非常有趣 而且比人类花资源做大多数事 都更有价值 另一方面，AGI来了， 就能达到奇点

[1813.818-1817.846] SPEAKER_01: 在火星自给自足前，当然， 甚至可能更早。

[1818.146-1823.916] SPEAKER_00: 所以你觉得，问题在这儿。 如果我们真砸资源， 比合法途径更快， 让火星彻底自给自足。

[1824.216-1835.477] SPEAKER_01: 对，我很清楚我们能成， 因为经济价值巨大， 从狭义AI迈向AGI， 而火星殖民呢， 经济价值不高， 除非看到极远的未来。 我觉得这挺有意思。

[1835.557-1844.473] SPEAKER_01: 只是有点跑题了。 我的意思是，比如 艺术和音乐超级有趣， 我希望资源能 用来创作惊艳的艺术音乐。 我更愿意看到那样

[1844.553-1859.056] SPEAKER_01: 而不是浪费资源造那么多垃圾 我们不想看到的 另一方面 我不觉得火星殖民 或者发明超棒的新音乐 并不是其中之一 最可能产生关键影响 在人类和其他生命进化中

[1859.136-1861.980] SPEAKER_01: 未来十年这片宇宙

[1862.280-1864.393] SPEAKER_00: 你觉得AGI真的...

[1864.693-1873.017] SPEAKER_01: AGI显然最重要 即将出现 然后那些有直接... 直接推动AGI的技术 或者加速AGI 也很重要 比如量子计算

[1873.097-1888.064] SPEAKER_01: 我觉得那对AGI不是关键 当然你可以看到 正确的量子计算架构怎么样？ 能极大地加速AGI， 类似其他纳米技术，对吧？ 现在，要治愈衰老、终结疾病。 虽然大局上， 不如AGI重要，

[1888.144-1903.332] SPEAKER_01: 当然，这对我们所有人都很重要。 作为人类个体。 如果有人造出一种超级长寿药丸， 明天就分发出去， 我是说，那会很巨大， 而且影响更大， 比火星殖民将产生的， 在很长一段时间内。

[1903.632-1906.162] SPEAKER_00: 但可能没AGI系统那么大。

[1906.462-1923.194] SPEAKER_01: 不，因为如果你能造出仁慈的AGI， 那所有其他问题就都解决了。 我是说，如果那时AGI... 一旦它智能和人类一样普遍， 它就能迅速实现大规模。 比人类更聪明，更全面。 然后AGI应该能解决

[1923.274-1932.155] SPEAKER_01: 科学和工程问题， 比人类好得多， 只要它确实有动力这么做。 所以我管它叫仁慈的AGI。 也可能有其他类型。

[1932.455-1936.042] SPEAKER_00: 或许退一步看比较好。 我们一直都在用AGI这词。

[1936.122-1943.761] SPEAKER_00: 大家经常提起你， 说你是创造者或推广者 AGI这个词，就是人工通用智能。 能讲讲这个词的来历吗？

[1944.061-1957.995] SPEAKER_01: 当然可以。 对，可以说是我提出了AGI。 并把它推向全世界， 虽然我从来不太喜欢这词。 没错。 事情是这样的，当时我在编一本书， 大约从2001或2002年开始。

[1958.075-1973.344] SPEAKER_01: 这本书我记得是2005年出版的。 我当时在编一本书， 我暂时叫它《真正的人工智能》。 我的目标是汇集 相当严肃的学术论文 关于制造思维机器的话题 能像人类一样真正思考的机器

[1973.424-1989.436] SPEAKER_01: 甚至比人类想得更广，对吧？ 于是我联系了其他人 那些我在各处碰到的人 他们对这个感兴趣， 里面还包括其他人。 下面还有几个人，你懂的。 那些我从超人类主义者那儿认识的 还有奇点主义圈子里认识的，比如Peter Voss，

[1989.516-2003.566] SPEAKER_01: 他有一家AGI公司，在加州， 还有Shane Legg，他以前跟我干过， 90年代末我在纽约的公司Webmind， 他现在又有钱又有名了。 他是Google DeepMind的联合创始人之一。 但那时候，Shane，

[2003.646-2006.316] SPEAKER_01: 我想他可能刚开始读博士，

[2006.396-2020.377] SPEAKER_01: 跟着Marcus Hooter，那时 他还没出版《通用人工智能》这本书， 这本书主要给通用人工智能 提供了数学基础。 于是我联系了Shane、Marcus和Peter Voss， 还有Pei Wang，他以前是我的员工，

[2020.457-2033.845] SPEAKER_01: 曾是Douglas Hofstadter的博士生， 对AGI有自己的方法， 还有一些俄罗斯人， 就联系了这些人， 他们给这本书写了论文。 但那是暂定书名，我从没喜欢过它， 因为最终，你知道，

[2033.925-2051.865] SPEAKER_01: 我也在做一些现在叫狭义人工智能的东西， 比如把机器学习用在基因组数据 或用在情感分析的聊天数据。 我是说，那些工作是真的，某种意义上， 某种意义上，它确实是人工智能。 这只是另一种AI。 这只是另一种AI。 这只是另一种AI。

[2051.945-2055.010] SPEAKER_01: 库兹韦尔写过窄AI和强AI的区别。

[2055.090-2057.121] SPEAKER_01: 但我觉得奇怪，因为

[2057.201-2074.223] SPEAKER_01: 首先，窄AI和强AI不是对立的吧？ 没错。 另外，强AI这个词曾用于 在认知科学里，指一个假说 即数字计算机的AI能有真正意识 就像人一样。 所以强AI已经有了一个含义

[2074.303-2087.155] SPEAKER_01: 这很复杂，但也有关联。 这很复杂，但也有关联。 我们在邮件列表上反复讨论 该用什么标题。 于是讨论了窄AI、宽泛AI、广泛AI 窄AI、通用AI。

[2087.235-2090.578] SPEAKER_01: 我想是谢恩·莱格或彼得·沃斯

[2090.658-2103.640] SPEAKER_01: 在私下邮件讨论里 他说，哎，我们干嘛不用AGI呢？ 人工通用智能。 王培想做的是GAI，通用智能。 人工智能嘛，中文顺序这样，但“gay”在美国文化里不行，

[2103.720-2111.382] SPEAKER_01: 所以我们就用了亚洲AGI，当书名。 那本书，彼得和肖恩觉得，心理学里有g因子，

[2111.462-2121.202] SPEAKER_01: 就是IQ通用智能，对吧，所以有GI的意思， 心理学里，然后看人工GI，哎，挺合理。 对，就用那个当书名，所以我想可能我、

[2121.282-2134.438] SPEAKER_01: 肖恩和彼得都以为是自己发明的，但书出版后， 一个叫马克·古布里德的人找我，说他在1997年就用了AGI这个词， 之类的。我就等着哪个俄国人站出来

[2134.518-2141.716] SPEAKER_01: 说1953年就用了，对吧，这词肯定不是 什么新发明，事后看挺明显，也有点

[2141.796-2150.875] SPEAKER_01: 烦人，你采访过的约书亚·巴赫是我好友， 他喜欢“合成智能”，我更喜欢，但没流行起来， 其实没流行，因为我觉得“人工”这个词

[2150.955-2158.873] SPEAKER_01: 有点不对劲，“人工”像工具，但AGI不全是工具， 现在可能是，但目标让它们成为智能体而非工具，

[2158.953-2169.390] SPEAKER_01: 我不喜欢“人工”和“自然”的区分。 我们和机器都是自然的一部分。 进化跟工程设计有区别，但不一样。 那就是工程化的通用智能。

[2169.470-2173.034] SPEAKER_01: 马库斯·胡特在《通用智能》中论证。

[2173.114-2183.853] SPEAKER_01: 计算理论领域虽有限但有趣。 假设可计算的环境和奖励函数，他阐述了。 真正的通用智能是AIXI系统，非常优美。

[2183.933-2195.833] SPEAKER_01: IXC是我的一个孩子的中间名。 名字叫Quark C QR XI，我妻子取的，是量子组织化的缩写。 理性扩展智能，他的中间名是X Xiphanes。

[2195.913-2205.735] SPEAKER_01: 意思是最初的主要基础AXI，但你给了埃隆。 马斯克新孩子？我先做的，他模仿我用了个怪名字。 但再有个孩子，我得超过他。

[2205.815-2220.237] SPEAKER_01: 这成了奇怪极客宝宝名字的军备竞赛，等着看宝宝们怎么想。 我大儿子Zarathustra喜欢他的名字，女儿Sharazad也喜欢。 所以给孩子怪名字，他们会名副其实，你有义务。

[2220.317-2228.095] SPEAKER_01: 让孩子足够怪，他们才喜欢这些名字，这指导了成长。 Marcus在那本书里展示了真正的通用智能。

[2228.175-2241.505] SPEAKER_01: 理论上可能，但需要无限计算能力，人工就有点。 偏离了，通用智能在已知物理学中并不可实现，我的意思是物理学。 知道有限，但现实如此。智能通用？

[2241.805-2245.055] SPEAKER_00: 从信息处理看，智能定义模糊。

[2245.355-2248.849] SPEAKER_01: 定义明确吗？到底什么意思？AI中流行。

[2248.929-2259.087] SPEAKER_01: 所以智能本身不是重点，对吧？我们这样很久了。 我们一直审视这问题，不断前进，只是改变看法。 你正确看它在哪里、是什么，这才是关键。

[2259.167-2276.642] SPEAKER_01: 很重要。我从节目朋友那学到，他们在审视。 非常重要的部分。我从朋友那学到。 他们在会议上审视。 智能这个概念。然后我开始写，他们开始。 写文章。我当时想，这有点像。 在环境中，不一定有它要最大化的目标函数。

[2276.722-2287.240] SPEAKER_01: 尽管在特定时间里， 它表现得好像在优化某个函数。 这很像莱姆的《索拉里斯星》。 重点是，AGI都不好。 另一方面，人人知道什么是AI，

[2287.320-2296.782] SPEAKER_01: 而AGI对有技术背景的人立即可懂。 我认为这个术语有社会学功能。 现在，它无处不在。 这让我挺困惑的。

[2297.082-2302.886] SPEAKER_00: 跟肯德基一个样，没错。 我们可能要在AGI上卡很久， 直到AGI系统接手并改名。

[2303.186-2303.836] SPEAKER_01: 对。

[2304.136-2305.552] SPEAKER_00: 到时候我们就变生物了。

[2305.852-2309.996] SPEAKER_01: 我们也会被GPU卡住， 但这些GPU大多跟图形无关了。

[2310.296-2313.082] SPEAKER_00: 我在想AGI会怎么叫我们人类。 大概是——

[2313.382-2314.159] SPEAKER_01: 爷爷。

[2314.459-2317.024] SPEAKER_00: GP，爷爷处理器。 没错。

[2317.324-2319.169] SPEAKER_01: 爷爷处理单元。

[2319.469-2329.511] SPEAKER_00: 生物爷爷处理单元。 好吧，也许只是评论AGI代表， 甚至在这词出现之前， 就已经代表一个社区了。 你以前提过这个。 人工智能是一波一波来的，

[2329.591-2340.423] SPEAKER_00: 但总有一个由梦想家组成的社区 构建人类级通用超级智能系统。 你怎么看这个社区在当今历史中的位置？ 以及深度学习革命前的状态？

[2340.503-2343.370] SPEAKER_00: 贯穿AI的冬天和夏天？

[2343.670-2352.168] SPEAKER_01: 当然。首先，我想说， 顺便说一句，美国人夸大了AI的冬天和夏天。 如果你看AI社区的出版记录，

[2352.248-2361.292] SPEAKER_01: 比如50年代，你会发现思想和论文稳步增长。而且 所谓的AI冬天或夏天，其实就是美国军方投了多少钱

[2361.372-2371.426] SPEAKER_01: 投入到AI中，这很有意义。另一方面，在德国、英国、 日本、俄罗斯等地也在做AI研究，而美国军方热情忽高忽低。

[2371.726-2385.648] SPEAKER_00: AI。所以我的意思是，碰巧的是，对不知道的人，美国军方恰好是 AI研究的主要资金来源。所以另一种说法是资金时涨时落。 AI研究资金有波动。确实。而且我会说

[2385.948-2402.471] SPEAKER_01: 资金和智力进步不是100%相关，对吧？比如俄罗斯， 比如在德国，资金比美国少，但很多 发现资金确实比美国少。所以以俄罗斯为例， 提出了基础性思想，但更多是理论而非实践，对吧？而美国

[2402.551-2408.495] SPEAKER_01: 确实擅长从理论突破到实际实现。 确实随美国军费起伏。但你看，

[2408.575-2417.038] SPEAKER_01: 80年代德国多纳已在高速上测试自动驾驶了，对吧？这 有点早了， 对汽车行业来说，当时没这么火。不过，

[2417.118-2428.797] SPEAKER_01: 德国自动驾驶技术基本是独立发展的 不受美国AI军事起伏影响。所以全球AI领域的事 不仅超出多数人认知，甚至超出大多数

[2428.877-2439.500] SPEAKER_01: 新AI博士的认知，因为他们只在子领域成长，不用管别的。 他们不用太关注外面。我1989年拿数学博士时， 已经对AI感兴趣了。

[2439.800-2440.891] SPEAKER_00: 在费城。

[2441.191-2447.251] SPEAKER_01: 对。我先在纽约大学，后转到费城天普大学，北 费城。

[2447.551-2448.746] SPEAKER_00: 北费城，没错。

[2449.046-2467.206] SPEAKER_01: 对对对。美国明珠。兄弟，你从不在红灯停车，因为 怕停车等红灯遭劫车，所以直接闯每个红灯。 是的。 是的。 兄弟，你从不在红灯停车，怕停车遇劫车，直接闯每个红灯。 是的。 对。 对。 对。 对。 红灯。每天开车或骑车去寺庙都像新冒险。

[2467.286-2478.942] SPEAKER_01: 我没读AI博士，因为当时学界在做的事。 当时我觉得很无聊，而且像是错的。就像基于规则的东西。 专家系统和生产系统。其实我喜欢数理逻辑。

[2479.022-2489.006] SPEAKER_01: 我不反对用逻辑做AI的认知引擎，但那种把知识都输进去的想法 我觉得这完全是愚蠢和错误的。 就是说，你可以用逻辑，但系统必须得—

[2489.306-2490.339] SPEAKER_00: 自动化。

[2490.639-2498.742] SPEAKER_01: 学习，对吧？应该从经验中学习。当时AI领域并不 对从经验学习感兴趣。当然有些研究者感兴趣。我记得 在—

[2498.822-2507.703] SPEAKER_01: 80年代中期，我发现约翰·安德烈亚斯的一本书，关于强化学习 系统叫PURR-PUSS，我记不清缩写含义。

[2507.783-2519.056] SPEAKER_01: 反正就是PURR-PUSS。那应该是一个 通用AI系统。通过马尔可夫决策过程学习之类的方法，它应该 要— 全靠输入数据学，再学会最大化奖励，变得

[2519.136-2531.793] SPEAKER_01: 智能，对吧？当时学术界真有这类研究，但很孤立。 零散古怪的人。但这些怪人，当时，我的意思是 他们为后来的发展奠定了智力基础。比如约翰·安德烈亚斯

[2531.873-2545.772] SPEAKER_01: 他在坎特伯雷大学提出PURR-PUSS强化学习马尔可夫系统。他是 约翰·克利里的导师。 在新西兰。1993年我在怀卡托大学，和约翰·克利里合作过。

[2545.852-2555.430] SPEAKER_01: 他和伊恩·威滕合作推出了Weka，首个开源 机器学习工具包，我记得93或94年推出，那时我在 怀卡托大学。

[2555.730-2558.365] SPEAKER_00: 可惜是用Java写的。

[2558.665-2561.660] SPEAKER_01: 用Java写的，但那时Java可酷了，对吧？

[2561.960-2565.849] SPEAKER_00: 我想它现在…嗯，已经不酷了，但还行。

[2566.149-2577.329] SPEAKER_01: 我发现，和多数程序员一样，觉得Java太臃肿，但那时 基本就是Java或C++，Java对学生更友好。有趣的是，Weka上很多工作

[2577.409-2596.068] SPEAKER_01: 我们在新西兰时，Weka资金来自美国——不对，是新西兰政府拨款。 用机器学习预测奶牛的月经周期。而美国，所有科研拨款 用于AI的钱都关乎如何杀人。 人们互相监视。在新西兰，全是奶牛或猕猴桃，对吧？

[2596.148-2604.286] SPEAKER_01: 是啊。 其实，约翰·安德烈亚斯靠概率论搞强化学习。 约翰·克利里野心更大，想搞概率通用AI。

[2604.366-2616.719] SPEAKER_01: 他参与了Weka开发，第一个开源机器学习工具包。 算是TensorFlow那些东西的前身。 他是第一个。 对。 他最早干了这些事。当时肖恩·莱格也在怀卡托，

[2616.799-2631.848] SPEAKER_01: 跟约翰·克利里、伊恩·温顿一起干，后来还跟我合作。 我90年代末有个AI公司叫Webmind，在怀卡托大学有团队。 所以肖恩满脑子通用AI，后来跟德莫斯一起创立了DeepMind。

[2631.928-2642.551] SPEAKER_01: 你看这个传承：80、90年代， 约翰·安德烈亚斯想建概率强化学习通用AI。 当时计算机不行，但他的想法跟现在很像。

[2642.631-2654.682] SPEAKER_01: 可惜他早逝，不太有名， 只在坎特伯雷一带。思想从他传给学生， 再传给学生，一直传到我和DeepMind。 通用AI领域其实一直在发展。 对。

[2654.762-2665.036] SPEAKER_01: 最后打下了今天的基础，但当时没圈子。 所以我当初想召集通用AI社区时。 大概是21世纪初，我住华盛顿特区，做AI咨询。

[2665.116-2679.015] SPEAKER_01: 给美国政府机构做AI咨询。我组织了首届 2007年的AGI研讨会。 对，首届AGI研讨会是2006年。其实不在 地下室什么的。是在贝塞斯达万豪的会议室。

[2679.095-2682.345] SPEAKER_01: 可惜，没那么前卫或地下，但——

[2682.645-2684.212] SPEAKER_00: 有多少人参加？

[2684.512-2686.741] SPEAKER_01: 大概六十人左右。

[2687.041-2687.876] SPEAKER_00: 还不错。

[2688.176-2698.334] SPEAKER_01: 其实华盛顿的AI活动曾比硅谷多，直到近十年。 但因为华盛顿的性质，这些活动都很低调。 他们不靠公关。事情运作特别好时，

[2698.414-2707.109] SPEAKER_01: 就会保密，变得更安静，对吧？ 但感觉就像一群充满幻想的特立独行者 挤在地下室密谋推翻狭隘的AI体制。

[2707.189-2715.954] SPEAKER_01: 有时，第一次和志同道合的人聚在一起 分享对AGI和技术的热情。 其实，和今天情况完全不同。 现在不同了。

[2716.034-2726.157] SPEAKER_01: 每年有AGI会议，几百人，不是50人。 这更像是想实现AGI的人觉得 大规模非线性回归不可能 对 这不是AGI的捷径

[2726.457-2729.452] SPEAKER_00: 所以我是说这 就是神经网络

[2729.752-2736.741] SPEAKER_01: 对对对 好的 嗯，用神经网络学习的一些架构 所以AGI会议现在算是那些不执着于

[2736.821-2748.639] SPEAKER_01: 深度神经网络和强化学习，但还关心AGI的人的主要聚集地 不是唯一 还有别的小会议和团体 还有关注类人AI和认知架构的会议 等等

[2748.719-2759.435] SPEAKER_01: 不过，这是个大转变 那时你根本不能 那时在大学做AGI或类人AI的研讨 级别AI的研讨特别前卫 更像是得谈些短期能落地的事

[2759.515-2768.176] SPEAKER_01: 不是去酒吧胡扯通用人工智能。 像时间旅行或模拟假说那些，对吧？ 现在连普京都关注通用人工智能。

[2768.256-2781.447] SPEAKER_01: 普京说俄罗斯要引领通用人工智能，对吧？ 所以各国领导人和大公司CEO都参与。 英特尔CTO贾斯汀·拉特纳，几年前在奇点峰会上。 2008年左右。 他说——

[2781.527-2788.028] SPEAKER_01: 他相信奇点2045年到来，芯片用英特尔。 所以它从那些疯狂特立独行者、

[2788.108-2795.875] SPEAKER_01: 怪人和科幻迷的追求，成营销术语。 还成领导人话题，这转变太惊人。 但没错。 在这个转变过程中……

[2795.955-2806.392] SPEAKER_01: 我认为形成了子社区，包括AGI会议那个。 系列无疑是其中之一。 它没像我想的那样壮大。 但适中规模的社区更利于智力

[2806.472-2814.076] SPEAKER_01: 进步。 像神经科学学会，有三四万神经科学家。 这很棒。 另一方面…… 外人不会跟领域领袖交谈。

[2814.376-2822.294] SPEAKER_00: 对。 AAAI这个通用AI会议太大了。 它太模糊了。 它并不…… 嗯，对，NIPS现在成了广告渠道。

[2822.594-2823.743] SPEAKER_01: 对。 对。

[2824.043-2837.092] SPEAKER_00: 对。 对。 我还是觉得，AGI在研究界的位置…… 在NeurIPS、CVPR、ICLR这些会议上，AGI还是异类。 我不确定AGI在这些会议上是否被研究人员公认。

[2837.172-2846.587] SPEAKER_00: 我大胆地看到…… 你提到了Shane Legg。 我猜是DeepMind和OpenAI这两个地方。 你提到了谢恩·莱格。 我猜是DeepMind和OpenAI这两个地方。

[2846.667-2854.933] SPEAKER_00: 说实话，到现在确实是这样。 可惜的是，它正在变。 但至今他们还在推这个想法。 目标就是造出通用人工智能。

[2855.233-2868.633] SPEAKER_01: 嗯，他们有几十亿美元撑腰。 所以，在大家看来， 当然很有分量，对吧？ 就是说—— 但他们也有顶尖研究员，对吧？ 对，他们团队很出色。 尤其是DeepMind。

[2868.933-2875.121] SPEAKER_00: DeepMind还有马库斯·霍特在活跃。 有这些人， 他们基本全职工作 就是梦想造出通用AI。

[2875.421-2881.202] SPEAKER_01: Google Brain也有很多厉害的 专注通用AI的研究员。 所以从宣传角度看，

[2881.282-2891.463] SPEAKER_01: DeepMind和OpenAI是两大规模、 资金充足的组织，提出了这个说法。 在语境里。 通用人工智能是它公众形象的一部分。

[2891.543-2904.130] SPEAKER_01: 但说白了，他们当然不是。 还有其他团队在研究。 在我看来也有通用人工智能倾向。 我是说，包括很多团队。 在谷歌山景城总部。 所以没错，这是真的。

[2904.210-2907.135] SPEAKER_01: 通用人工智能现在有点偏离主流。

[2907.215-2917.338] SPEAKER_01: 但和之前一比， 没错。 十五年前，它已经惊人地主流了。 超长寿研究也是一样。 这个领域让我特别兴奋。 我从90年代就开始聊这个。

[2917.418-2929.457] SPEAKER_01: 但从2001年就专注这个。 当时，如果说 你尝试创造疗法让人 活上几十万年， 你完全脱离了行业。 学术主流。 现在谷歌有了Project Calico，

[2929.537-2944.980] SPEAKER_01: 克雷格·文特尔有了人类长寿公司。 一旦官司找上门，对吧， 一旦有大笔钱进来， 大家就得认真对待它， 因为现代社会就是这么运作的。 所以它还是没癌症研究那么主流， 就像AGI，不像其他技术，

[2945.060-2953.361] SPEAKER_01: 比如自动驾驶那些主流一样。 但过去十到十五年里，主流化的程度， 对我们这些常年干这行的人来说， 挺让人震惊的。

[2953.661-2967.386] SPEAKER_00: 对，但这词有营销成分， 但从全力研究的角度看， 那些打着AGI名头搞的研究， 目前，它主要由神经网络研究主导， 也许你不同意， 由非线性回归主导，像你刚说的。 你提到的非线性回归。

[2967.466-2975.302] SPEAKER_00: 那你对OpenCog和自己工作有什么看法？ 我主要接触过逻辑系统和专家系统。 它们似乎抓住了智能里一个很深的元素。

[2975.382-2984.974] SPEAKER_00: 就像你讲的，它需要学习， 需要某种自动化方式， 但现在的很多研究好像缺了这一点。 那你觉得呢？ 也许可以这么问： 你觉得通用AI应该具备什么？

[2985.054-2990.301] SPEAKER_00: 嗯，这个话题很有意思。 我想了很久。 我觉得有很多不同的方法

[2990.601-2995.662] SPEAKER_01: 都能达到人类水平AI。 所以我不认为有唯一的 黄金算法

[2995.742-3008.794] SPEAKER_01: 或者唯一的设计能行。 所以我不觉得有像是一个， 黄金算法 或者一个万能设计， 能成。 就是说啊， 飞行器在这儿更合适，对吧？ 比如，你有飞机， 有直升机，

[3008.874-3013.425] SPEAKER_01: 有气球， 还有隐形轰炸机， 它们都不像普通飞机。 还有飞艇，

[3013.505-3015.350] SPEAKER_01: 还有鸟类，

[3015.430-3020.515] SPEAKER_01: 鸟，对，还有虫子，对吧？ 嗯，我是说， 当然有很多种飞行器—— 还有弹射器，

[3020.815-3022.951] SPEAKER_00: 能直接发射的那种。

[3023.251-3025.816] SPEAKER_01: 还有自行车驱动的飞行器，对吧？

[3026.116-3027.346] SPEAKER_00: 对，是的。

[3027.646-3036.945] SPEAKER_01: 没错，这些都可以 用基本空气动力学来分析，对吧？ 所以AGI的问题就是，还没有 像空气动力学那样的理论。 这正是马库斯·胡特尔想做的

[3037.025-3048.460] SPEAKER_01: 通过AXC和他的通用智能理论 但那个理论最清楚的部分 其实只适用于无限强大的机器 或者几乎无限，或者强得不现实 所以说，如果你想采用

[3048.540-3063.925] SPEAKER_01: 用理论方法来实现AGI 你会说，好，我们用 AXC-TL就是胡特尔的机器 它只能在多得疯狂的处理能力下 在海量处理能力下才能工作 而不是无限多的处理能力

[3064.225-3065.478] SPEAKER_00: TL代表什么？

[3065.778-3069.330] SPEAKER_01: 时间和长度。 好的。 所以你基本上是怎么——

[3069.630-3071.417] SPEAKER_00: 比如约束，某种方式。

[3071.717-3088.321] SPEAKER_01: 对对对。 AXC的原理是，每个动作 它要执行的动作，在执行前 它回顾了自己全部的历史， 再看所有可能的程序， 用来做决策的那些， 然后挑出最合适的决策流程， 让它能做出最好的选择，

[3088.401-3095.343] SPEAKER_01: 根据历史里的奖励机制， 然后用这个决策流程， 来做下一个决定，对吧？

[3095.643-3097.372] SPEAKER_00: 它不担心资源无限。

[3097.672-3107.946] SPEAKER_01: 它在搜索空间里， 找所有可能的程序， 在每个动作之间。 现在，AXC-TL 搜索所有可能的程序， 运行时间短、长度小的，

[3108.246-3110.695] SPEAKER_00: 但那空间还是大得离谱，对吧？

[3110.995-3120.491] SPEAKER_01: 要造AGI，你想做的， 大概五十年后能实现， 就是，好吧，我们有限制。 有处理能力的限制， 还有程序和时间的限制。

[3120.571-3133.785] SPEAKER_01: 能源利用上有限制。 而且我们有特定环境类别。 我们关心的环境类型。 比如操控物理物体。 在地球表面用人类语言交流。 要求可以提，只要不毁灭人类。

[3133.865-3145.498] SPEAKER_01: 不管具体是什么要求。 如果把这些要求形式化。 用形式化规范语言。 那你就能运行。 一个AXC-TL自动特化器。 让它符合计算资源约束。

[3145.578-3162.124] SPEAKER_01: 以及特定环境和目标。 然后输出特化版本。 的AXC-TL，适应资源限制。 这就是你的AGI，对吧？ 而这就是我们的超级AGI。 如何创建新AGI系统，对吧？ 但这很俄罗斯式。

[3162.204-3167.289] SPEAKER_01: 看起来真的很低效。 这挺俄罗斯的。 就像整个程序特化领域 源自俄罗斯。

[3167.589-3171.083] SPEAKER_00: 你给回溯一下？ 那什么是程序特化？ 所以基本上——

[3171.383-3192.202] SPEAKER_01: 嗯，拿排序举例。 你可以写个通用的列表排序程序， 但如果你的所有列表只是，你知道， 你关心的列表长度不超过一万呢？ 明白了。 你可以跑一个自动程序特化器 对你的排序算法作用一下， 它就会生成一个算法 对排序长度不超过一万的列表最优，

[3192.502-3201.488] SPEAKER_00: 对吧？ 这有点像， 这不就是一种进化吗， 就是对环境的程序特化器。 所以你某种程度上在进化人类， 或者说生物—— 没错，就是这样。

[3201.788-3214.538] SPEAKER_01: 你身上俄罗斯的基因冒出来了。 和亚历山大·维塔耶夫一起， 还有彼得·阿诺欣这些人， 其实历史挺长的。 从那个角度看进化，对吧？ 所以我觉得，大家说的

[3214.618-3229.028] SPEAKER_01: 人类级别通用智能， 如果从狭义AI入手， 就像现在商业AI用的那样， 你就在想， 怎么让它越来越通用。 另一边，如果从AXA出发， 施米德胡贝尔的束腹机器，

[3229.108-3242.206] SPEAKER_01: 或者那些无限强大， 但实际行不通的AI， 那么人类水平AGI， 就是个专门化的问题。 好比说，怎么去搞定它。 最通用的学习过程， 以及怎么特化它们

[3242.286-3256.116] SPEAKER_01: 以便在资源限制下运行 你拥有的资源限制， 但还能实现你在意的目标？ 因为我们不是， 人类不是最通用的智能，对吧？ 如果让你在750维空间里跑迷宫， 你可能会很慢。 但在二维空间里，

[3256.196-3265.959] SPEAKER_01: 你会表现好得多，对吧？ 所以，我们是特殊的， 因为海马体里有个二维地图， 对吧，里面没有750维地图。 所以，我们是，你知道，

[3266.039-3269.173] SPEAKER_01: 普遍性和特殊性的奇怪混合，

[3269.253-3269.787] SPEAKER_01: 对吧？

[3270.087-3276.414] SPEAKER_00: 我们出生时可能很通用。 并非明显狭隘， 但比20、30、40岁时更通用

[3276.494-3278.548] SPEAKER_00: 比如五十、六十。

[3278.848-3291.435] SPEAKER_01: 我不这么觉得， 我觉得比那更复杂， 我的意思是，某种程度上， 小孩子偏见少， 大脑还没结晶， 形成处理特定方面的结构， 物理和社会结构。 另一方面，

[3291.515-3302.590] SPEAKER_01: 小孩很依赖感官， 我们可以处理抽象数学， 比如750维， 而小孩不能， 因为他们还没发展出， 皮亚杰说的形式能力。 他们还没学会抽象，对吧？

[3302.670-3312.410] SPEAKER_01: 抽象能力赋予你， 一种不同于婴儿的普遍性。 所以更专门化， 对。 还有更多泛化。 这是开发过程中来的。

[3312.710-3317.075] SPEAKER_00: 我想只是轨迹。 专业化轨迹最可控。 年轻时，可以这么说。

[3317.375-3320.463] SPEAKER_01: 你有孩子吗？ 没有。 不像你想的那么可控。

[3320.763-3322.179] SPEAKER_00: 所以你觉得有趣。

[3322.479-3333.856] SPEAKER_01: 老实说，我认为。 我认为成年人智力远高于。 人类婴儿。 婴儿很笨。 我是说，他们很可爱。 因为可爱，我们忍受。 他们的重复和笨。 还有禅宗说的。

[3333.936-3338.568] SPEAKER_01: 初学者心态，很美好。 但这不一定跟。 高智力有关。

[3338.868-3344.452] SPEAKER_00: 说到可爱和愚蠢的情节， 有个过程让我们能容忍 他们越聪明，蠢得越能忍。

[3344.752-3355.468] SPEAKER_01: 所以当你变成我这样又丑又老的男人， 就得特别聪明来弥补。 就为了弥补。 好，酷。 但回到你最初的问题。 我看待人类级AGI的方式是，

[3355.548-3367.599] SPEAKER_01: 你怎么专门化，你知道， 不切实际低效的超人蛮力 学习过程，去实现特定目标 人类要达成的目标 和我们拥有的特定资源？ 目标和资源这两者

[3367.679-3376.978] SPEAKER_01: 还有环境——这些都很重要。 资源方面，重要的是 我们带来的硬件资源 和人脑很不一样。 所以实现AGI的方式是

[3377.058-3391.782] SPEAKER_01: 在培养皿里一堆神经元上 我可以随意重连，这很不同 比起我造AGI的方式，比如 现代CPU服务器集群 所以我能创建两个CPU和GPU 这反过来又可能完全不同 比我实现AGI的方式

[3391.862-3403.474] SPEAKER_01: 你知道，任何量子计算机 我们十年后会有 假设有人造了强量子图灵机 或类似的东西，对吧？ 所以我觉得存在着共同进化 人类大脑组织模式的 和生理细节的

[3403.554-3418.870] SPEAKER_01: 人类大脑随时间演变 在神经网络中，它是一种强大的学习算法，但也是一种类别 学习算法进化到利用人脑作为计算基质的特殊性 基质。你看现代服务器群的计算基质，就不会

[3418.950-3434.312] SPEAKER_01: 一定想要你在人脑上要的相同算法。而从适当抽象层次 抽象，你可以看看大脑上的最佳算法和最佳算法 在现代网络中实现相同的抽象学习与表示

[3434.392-3443.076] SPEAKER_01: 但这种抽象水平本身就是AGI研究 那个项目，对吧？是的。 所以关乎硬件和软件。 关于需求，我多年前写了篇论文，提出

[3443.156-3453.697] SPEAKER_01: 具身通信先验，这与 跟Bengio的意识先验论文类似，但我不想把 包含意识，对我来说感质和主观体验是一个非常

[3453.777-3458.026] SPEAKER_01: 有意思的问题，可以聊聊，但我更愿意把这场哲学辩论

[3458.106-3467.231] SPEAKER_01: 和你想在通用智能中注入什么偏见来赋予它 与人类通用智能的辩论分开，而且我不确定Bengio是否真的在

[3467.531-3468.320] SPEAKER_00: 讨论...

[3468.400-3470.907] SPEAKER_00: 不，我…… 我想他只是在用这个词。

[3471.207-3487.869] SPEAKER_01: 我非常喜欢Yoshua，他是我在深度学习里最喜欢的人。 嗯。 他心地善良，也是很有创造力的思想家。 他是个好人，嗯当然。 我不确定他是否深入探究了意识哲学。 不，他只是把它当个时髦词。

[3487.949-3490.294] SPEAKER_01: 我管它叫具身通信先验。

[3490.594-3492.463] SPEAKER_00: 能简单解释下吗？

[3492.763-3498.893] SPEAKER_01: 人类进化为了什么？成为人类？ 但这很抽象。心智控制身体，身体自主。

[3498.973-3506.438] SPEAKER_01: 在固体世界移动的智能体，对吧？ 进化出用语言与其他智能体交流。 和我们一起做事。

[3506.518-3516.061] SPEAKER_01: 在固体世界里，这些很明显，但若跟 所有智能范围，乃至物理可实现的 相比，极大限制了。所以想，怎么实现

[3516.141-3521.864] SPEAKER_01: 专门化或受限的通用智能，在 内存和处理都有限的系统中？

[3521.944-3528.143] SPEAKER_01: 它在固体世界移动，操控物体并 用语言与其他智能体交流，对吧？然后

[3528.223-3531.810] SPEAKER_01: 开始分析人类级通用智能的需求。

[3531.890-3542.768] SPEAKER_01: 这导向认知科学，比如看看有哪几种 人类心智和大脑的记忆类型，近几十年 已成熟，我深入研究。数学博士毕业后，

[3542.848-3559.162] SPEAKER_01: 做了八年学者，在数学、计算机 科学和心理学系待过。在心理学系时， 我在西澳研究记忆和感知的认知科学。 我教深度神经网络，即多层感知器，认知科学涉及多学科。

[3559.242-3573.432] SPEAKER_01: 教心理学学生用多层感知器建模人类认知实验数据。 早期深度神经网络版本，但反向传播训练很慢。 就是这样。 这些约束系统处理物理对象，所以看认知心理学。

[3573.512-3586.041] SPEAKER_01: 多种记忆由人脑不同子系统表示，比如情景记忆。 还有陈述性或语义记忆，是脱离情绪的事实和信念。 感觉记忆特定于某种模态，又跨模态统一。

[3586.341-3590.764] SPEAKER_00: 程序记忆比如挥网球拍，包含运动记忆但更抽象，涉及小脑。

[3591.064-3600.050] SPEAKER_01: 你看认知心理学，你可以。 有多种记忆，它们由不同子系统负责。 我们有情景记忆，它涉及生活经历。

[3600.130-3607.119] SPEAKER_01: 考虑我们的经历和发生的一切，我们有。 陈述性或语义记忆，是抽象的事实和信念。

[3607.199-3621.017] SPEAKER_01: 情绪相关的感官记忆，某方面是。 感觉模态特异，又跨感官统一。 有程序性记忆，关于怎么做事的记忆，比如如何。 正确挥拍，有运动记忆，但还有一个。

[3621.097-3629.084] SPEAKER_01: 比运动记忆更抽象，涉及小脑等。 皮层协同工作，连接记忆和情感 处在皮层和边缘系统之间

[3629.164-3639.845] SPEAKER_01: 记忆怎么建模空间和时间的具体细节 海马体、丘脑连接皮层和基底神经节，影响 我们会记住想要感知的目标和子目标

[3639.925-3651.778] SPEAKER_01: 过去不同情境下，人脑有不同子系统 不同类型的记忆 不同调谐的学习，就是长期的不同模式 强化跟不同神经元和递质相关

[3651.858-3661.540] SPEAKER_01: 大脑对应这些不同类型的知识 人脑的记忆和学习，都能归结为具身 用来控制智能体交流和固体世界

[3661.620-3672.359] SPEAKER_01: 想构建AGI系统，从认知科学和 神经科学入手 就是说，对这类智能，要什么记忆类型 哪些学习类型跟这些不同

[3672.439-3681.181] SPEAKER_01: 记忆类型配合好，再连起来，对吧 人脑进化逐步实现，因为每个子网络 不是脑叶，是子网络，分布很广 分布，哪个的

[3681.261-3690.200] SPEAKER_01: 大脑各个子网络一起进化， 不管结构还是神经细节上都如此。 它们通过沟通和适应成长，而不是

[3690.280-3699.335] SPEAKER_01: 独立黑箱硬拼起来。但工程师 常会说：这里做记忆模块，那里做程序模块， 这里做感知，然后连起来。能这样当然

[3699.415-3705.022] SPEAKER_01: 有趣，汽车就是这么造的。但这不是 生物系统的方式。各部分共同进化协作。

[3705.322-3727.095] SPEAKER_00: 顺便说，之前类比里，所有能飞的人工系统 也都是这么造的。你觉得有吸引力吗？ 有很多令人兴奋的，我觉得 这样讲奇怪，但我觉得这说法很有趣，但我觉得 奇怪的说法，但我觉得很怪，但我觉得 这样讲，但我觉得非常奇怪，我觉得 但我觉得非常奇怪，我觉得 就是过去几十年被忽略，比如认知架构研究。 你觉得那些工作有趣吗？

[3727.395-3737.855] SPEAKER_01: 是的，我和那个圈子有交集。保罗和约翰， 他们构建了SOAR，是我的朋友。我学SOAR很好， 还有ACT-R等不同架构。我当时怎么看？

[3737.935-3755.364] SPEAKER_01: 大概十年前，深度学习还没火的时候，AI世界是这样子的： 一边是认知架构专家，跟心理学家合作，琢磨人脑各部分怎么配合。 另一边是学习理论专家，不关心架构，只管从海量数据里找模式。

[3755.444-3767.019] SPEAKER_01: 其实你要做的就是把学习理论专家做的事， 跟认知架构专家搭的架构结合起来。但问题是， 仔细一看，如果不重建两边的东西，

[3767.099-3775.539] SPEAKER_01: 根本没法直接做到。他们试过在SOAR里搞， 结果无非是拿个深度神经网络处理感知， 然后把它当个黑箱。

[3775.619-3787.379] SPEAKER_01: 对，学习机制就成了其中一个箱子， 而不是系统的基础。 嗯，行不通。看看DeepMind搞的那些， 比如微分神经计算机，有个神经网络做深度学习感知，

[3787.679-3794.343] SPEAKER_00: 还有个神经网络像存储矩阵，记伦敦地铁图。 所以Demis Hassabis可能把它看成部分皮层、部分……

[3794.643-3805.776] SPEAKER_01: 嗯，那不行。看看DeepMind做的， 像微分神经计算机，有点像深度学习的神经网络。 学习感知，还有个神经网络像记忆矩阵，存，

[3805.856-3821.183] SPEAKER_01: 伦敦地铁地图。Demis Sassabas可能把它当成 部分皮层和部分…… 海马体有空间地图。他是神经科学家时， 他研究皮层和海马体的连接。所以DNC就是 深度神经网络的人想往认知架构走一步。

[3821.263-3830.667] SPEAKER_01: 两个神经模块对应大脑不同部分，管不同记忆和学习。 但另一方面， 从认知架构看，它很粗糙，对吧？

[3830.747-3841.265] SPEAKER_01: John Laird和Soar用神经网络做学习，也很粗糙， 学习是次要的，没影响核心表征。 你没学表征，只学了输入的数据。

[3841.345-3851.863] SPEAKER_01: 你学感知数据的抽象，输入到没学的表征里。 我早明白了。对AGI社区的期望之一就是 回到之前说的，把

[3851.943-3864.356] SPEAKER_01: 两个方向的人聚在一起。但这还没怎么发生。 还没有。 意思是没让认知架构的领军人物 和深度学习的领军人物走到一起。但某种程度上有用，因为

[3864.436-3872.203] SPEAKER_01: 年轻研究者脑子里都有这两种想法。这又回到 我父亲常引用的一句话： 科学进步一次一个葬礼。

[3872.283-3881.222] SPEAKER_01: 我53岁，正在努力避免，发明些惊人古怪的新东西。 这事没人想过，稍后会聊到。但确实有这一面。

[3881.302-3891.785] SPEAKER_01: 对吧？那些搞AI很久、专研某方面的人， 比如认知框架或深度学习，一旦年纪大了， 一直专心一件事，心理转弯很难。我很努力

[3892.085-3899.271] SPEAKER_00: 保持思维灵活。你成功改变过吗？ 或许你改变过对构建AGI所需条件的看法？ 比如技术方面？

[3899.571-3902.566] SPEAKER_01: 难点是世界不希望你改变。

[3902.866-3904.874] SPEAKER_00: 是世界还是你的大脑？

[3905.174-3916.574] SPEAKER_01: 是世界。嗯，一是你大脑不乐意；二是 世界不希望你改变。就像那些… 那些追随你的人，你一旦变主意他们会生气，媒体也

[3916.654-3925.396] SPEAKER_01: 想把你定型为某种思想代言人。但没错，我改过很多 想法。刚入行时，我真以为量子计算对AGI是必需的，

[3925.476-3929.609] SPEAKER_01: 现在觉得未必必要，尽管它会是个巨大的

[3929.689-3932.533] SPEAKER_01: 增强。但我现在正打算彻底

[3932.613-3948.590] SPEAKER_01: 重新思考和重写OpenCog AGI系统，和Alexey Potapov还有他 圣彼得堡的团队合作，他也在SingularityNet跟我共事。现在我们想回归 基础，吸取当前OpenCog系统里的所有经验，吸取

[3948.670-3951.816] SPEAKER_01: 其他人从各自系统中学到的一切。

[3951.896-3956.865] SPEAKER_01: 原型AGI系统，再设计最佳框架。我觉得

[3956.945-3965.408] SPEAKER_01: 从深度神经网络的成功，我们能学到不少 网络和深度强化系统。这些简单系统 跑得比我想的好多了。能学很多，

[3965.488-3972.813] SPEAKER_01: 想把它们融入OpenCog 2.0系统里， 但光靠当前深度神经网络，到不了AGI。

[3972.893-3977.223] SPEAKER_01: 别因噎废食，别听记者瞎吹，就说它们是垃圾。

[3977.303-3981.087] SPEAKER_01: 对，有不少可学的，虽不是黄金路径。

[3981.387-3985.090] SPEAKER_00: 所以，退一步想想也好。 你提了OpenCog 2.0，但……

[3985.390-3988.884] SPEAKER_01: 回到OpenCog 0.0，它现在就有。

[3989.184-3992.887] SPEAKER_00: 嗯，聊聊OpenCog历史，你是怎么想的。

[3993.187-4002.068] SPEAKER_01: OpenCog 2.0是我们随口说的。 有点…… 对。 半开玩笑，现有系统远没到1.0版，对吧？ 它还是早期……

[4002.148-4010.112] SPEAKER_01: 存在十三年了，还是早期研究系统。 其实我们理论实现都在回起点。 因为觉得这才是正确的方向。

[4010.192-4019.468] SPEAKER_01: 但我相信最后的结果会和现有系统很像。 就是说，我们还是都挺喜欢这种做法的。 那首先，OpenCog 是什么？ 当然。

[4019.548-4024.250] SPEAKER_01: OpenCog 是开源项目，2008 年我和别人一起发起的。

[4024.330-4037.556] SPEAKER_01: 最早写的代码大概是 2001 到 2002 年左右。 那会儿在我的人工智能公司 Novamente 内部开发的专有代码。 后来 2008 年决定把它开源。 清理了一下代码什么的。

[4037.636-4040.166] SPEAKER_01: 也加了些新内容。

[4040.246-4045.435] SPEAKER_01: 它用什么语言写的？ C++。 主要是 C++，也用了些 Scheme，但大部分是 C++。

[4045.735-4051.505] SPEAKER_00: 它和我们后面要讲的“奇点网络”不是一回事。 对，对。 它一开始就不是网络。 对，没错。

[4051.805-4054.951] SPEAKER_01: 嗯，这里面涉及多层网络，对吧？

[4055.251-4056.597] SPEAKER_00: 没有互联网连接。

[4056.897-4068.936] SPEAKER_01: 哦，没有。 刚出生时。 对。 Singularity Net 是独立项目，也是独立代码库。 Singularity Net 也是分布式 OpenCog 的一部分。 但有不同的层次。 明白了。

[4069.016-4070.827] SPEAKER_01: 那么，OpenCog。

[4070.907-4075.516] SPEAKER_01: 一方面，它作为框架能实现多种 AI 架构和算法。

[4075.596-4083.583] SPEAKER_01: 实践中，我和 Linus、Nils 等人共同领导。 他们用 OpenCog 平台探索如何让它工作。 比如一个 AGI。

[4083.663-4094.855] SPEAKER_01: 所以 OpenCog 平台与 AGI 设计有点混淆。 因为理论上，你可以用那个软件来做... 你可以用它来制作神经网络。 还能制作多种不同的 AGI 设计。

[4095.155-4099.404] SPEAKER_00: 那这个平台提供了什么？ 比如，具体有哪些工具和实用程序？

[4099.704-4111.662] SPEAKER_01: 好，先介绍作为软件平台的 OpenCog。 然后介绍我们基于它做的 AGI 研发工作。 OpenCog 平台的核心是 Atom Space，带权重的标记超图。

[4111.742-4117.465] SPEAKER_01: 原子空间，就是A-T-O-M。 对，原子空间。 不是Atom，是亚当夏娃，也挺酷。

[4117.545-4122.096] SPEAKER_01: 对，超图就像... 图就是一堆节点和连线。 超图是...

[4122.176-4130.094] SPEAKER_01: 类似图，但连接可跨多个节点。 一个链接能连三个节点。 其实原子空间该叫元图，链接可指链接或子图，对吧？

[4130.174-4137.279] SPEAKER_01: 所以它是扩展超图或元图。 元图是技术术语吗？ 现在是了。 有意思。 但起初叫广义超图时还不是术语。

[4137.359-4146.078] SPEAKER_01: 总之，是带权重标签的广义超图或元图。 权重标签让节点和链接带数字符号。 所以它们可有类型。

[4146.158-4149.687] SPEAKER_01: 数字可代表真值或重要性。

[4149.987-4153.876] SPEAKER_00: 一切都能简化成超图，再简化为图。

[4154.176-4157.821] SPEAKER_01: 图能简化为邻接矩阵。 总是有多种说法。

[4158.121-4160.570] SPEAKER_00: 但有种表达方式效果很好。 明白。

[4160.870-4168.114] SPEAKER_01: 对对对。 同样，链接整个图，因为它代表信息体。 我拒绝这个信息体。 让链接指向代表信息体的子图，对吧？

[4168.194-4180.047] SPEAKER_01: 有很多替代方案，但…… 总之，OpenCog拥有…… 原子空间是加权标记的广义超图。 知识存储在RAM里。 也能备份到磁盘。 可分布在多台机器上。

[4180.127-4189.008] SPEAKER_01: 还有各种工具处理它。 模式匹配器让你指定抽象模式， 搜索整个原子空间超图， 看哪些子图匹配。 比如那个模式。

[4189.088-4197.946] SPEAKER_01: OpenCog中有个COG服务器， 可在调度器里运行不同代理或进程。 每个智能体都在原子空间里读写。

[4198.026-4209.357] SPEAKER_01: 所以这就是基本的操作模型。 这就是软件框架。 对。 当然，里面内容很多。 当然，里面内容很多。 当然，里面内容很多。 从可扩展软件工程角度看。

[4209.657-4218.376] SPEAKER_00: 所以你可以用它。 我不知道你是否…… 你最近研究过沃尔夫勒姆的物理项目吗？超图那些？ 理论上，能用这个框架操作它吗？

[4218.676-4222.902] SPEAKER_01: 当然可以。 不过沃尔夫勒姆死也不用别的，只用Mathematica。

[4223.202-4230.342] SPEAKER_00: 嗯，那是…… 是的，但有个庞大社区喜欢集成。 就像你说的，年轻人喜欢集成和连接。

[4230.642-4236.249] SPEAKER_01: 没错。 我想补充，超图模型在物理学里并不新鲜。 比如，如果你看看……

[4236.549-4238.139] SPEAKER_00: 俄罗斯人先做的。

[4238.439-4246.879] SPEAKER_01: 嗯，他们确实做了。 有个数学家本·德利布斯，写了本讲量子集合的书，比沃尔夫勒姆还深入。 但他没钱。

[4246.959-4256.618] SPEAKER_01: 既没钱也没名，所以没上头条。 但抛开沃尔夫勒姆，这么说也挺合适。 OpenCog框架能模拟生物网络和生物过程。

[4256.698-4263.524] SPEAKER_01: 也能模拟离散图模型上的物理。 还能做逼真的生物神经网络。 这就是……

[4263.824-4269.710] SPEAKER_00: 所以那是个框架。 智能体和进程干什么？ 它们扩展图吗？ 它们…… 它们大致做什么计算？

[4270.010-4278.334] SPEAKER_01: 理论上，什么都能做。 它们就是C++进程。 但这个框架是为智能体设计的，它们大部分时间都在读写原子空间。

[4278.414-4288.735] SPEAKER_01: 所以它跟基于矩阵乘法的模型很不一样。 而大多数深度学习系统就是基于矩阵乘法。 你可以造一个智能体，花几十亿年分解数字。

[4288.815-4299.008] SPEAKER_01: 它跑在OpenCog上，但没啥意义，对吧？ OpenCog就是为了创建通过读写加权超图协作的智能体，对吧？ 所以那... 而那个兼具两者...

[4299.088-4305.868] SPEAKER_01: 认知架构重要，超图作共享内存，但GPU不适用，图形芯片才好，对吧？

[4305.948-4311.439] SPEAKER_01: 我觉得Graphcore有那些芯片，但不完全适合。 但我认为接下来，比如说...

[4311.519-4316.720] SPEAKER_01: 三到五年内，新芯片图形内置，进程切换SIMD/MIMD很快。

[4316.800-4321.827] SPEAKER_01: 这会对OpenCog架构的影响，就像GPU对深度学习那样。

[4322.127-4334.529] SPEAKER_00: 顺便问下，你怎么看神经形态计算？ 就像这些不同硬件实现... 我是说... 你感兴趣吗？ 你对这种可能性兴奋吗？ 我对图形处理器很兴奋，它们能大幅加速OpenCog。

[4334.829-4344.291] SPEAKER_01: 这是我研究的一类架构。 我想如果... 原则上，神经形态计算应该很惊人。 我还没被现有的系统说服。 比如，记忆选手也很厉害，对吧？

[4344.371-4360.543] SPEAKER_01: 所以很多这种东西都… 嗯。 嗯。 嗯。 嗯。 嗯。 嗯。 嗯。 嗯。 嗯。 嗯。 嗯。 嗯。 嗯。 嗯。 嗯。 嗯。 嗯。 嗯。 嗯。 嗯。 嗯。 嗯。 但我还没见过能体现这点的系统。

[4360.843-4364.430] SPEAKER_00: 马克的系统很棒，但目前的不行。 嗯。

[4364.730-4372.253] SPEAKER_01: 就是说…… 比如，你想做个逼真的硬件神经网络， 像在硬件上模拟霍奇金-赫胥黎电路，

[4372.333-4382.712] SPEAKER_01: 或伊济凯维奇方程，那些微分方程， 用在逼真神经元上，然后做到芯片里， 这样造大规模逼真的神经网络 就更可行了。

[4382.792-4393.275] SPEAKER_01: 不，现在做的不是这样。 我个人在计算神经科学做了不少工作， 和华盛顿IARPA合作过。 我们研究怎么用真实非线性神经元模型，

[4393.355-4401.098] SPEAKER_01: 让大脑七个区域协同工作， 做逼真模拟。 那你用它怎么模拟分析师找恐怖分子的思维？ 对吧？

[4401.178-4420.116] SPEAKER_01: 所以要做类似的事，就需要神经形态硬件来模拟逼真的神经元模型。 那会很了不起。 但这只是从计算神经科学的角度看的，对吧？ 从通用AI角度，我更喜欢超图知识表示架构，它受益于多种图处理器，瓶颈是读写内存。

[4420.196-4428.752] SPEAKER_01: 这主要在处理内存里的图结构。 这种原始通用AI架构的瓶颈是超图。 我感兴趣的正是这个。

[4428.832-4449.349] SPEAKER_01: 好的。 所以你是说，这个架构的瓶颈不是矩阵乘法？ 所以擅长矩阵乘法的GPU不太适用。 有框架像Gunrock试图把图处理变成矩阵运算，很酷，但有点生搬硬套。 所以你是说，这种架构的主要瓶颈是—— 不是矩阵乘法。 所以非常擅长矩阵乘法的GPU不适用。 也对。

[4449.429-4463.259] SPEAKER_01: 比如Gunrock这类框架，试图把图处理简化为—— 矩阵运算，很酷，但还是在把方钉塞进圆孔。 以某种方式。 量子机器学习，非常酷。 其实就是矩阵和向量的运算。 对。

[4463.339-4480.733] SPEAKER_01: 这是量子力学很重要的一部分。 这是量子力学很重要的一部分。 我明白，这么做很自然。 量子力学就是酉矩阵和向量，对吧？ 量子力学就是酉矩阵和向量，对吧？ 另一种思路是造以图为中心的量子计算机。 这会是未来的方向。

[4480.813-4493.444] SPEAKER_01: 用OpenCog实现层，保持未坍缩状态。 在量子计算机里。 那可能是奇点的平方，对吧？ 不太确定。 不太确定。 我不确定非要那个才能到人类水平。

[4493.744-4502.288] SPEAKER_00: 奇点平方。 人类水平。 那已经超过第一个奇点了。 但我们能不能直接... 好，我们回OpenCog。 不，不。 对。 还有超图和OpenCog。

[4502.588-4508.172] SPEAKER_01: 对，对。 那是软件框架吧？ 认知架构告诉我们在那放算法。 明白。

[4508.472-4515.554] SPEAKER_00: 能回顾一下那种… 这图设计成… 一般它稀疏吗？ 它稀疏，操作不断增长改变图？

[4515.854-4517.769] SPEAKER_01: 对，图稀疏。

[4518.069-4520.344] SPEAKER_00: 但会不断加链接之类的？

[4520.644-4523.279] SPEAKER_01: 对，自我修改的超图。

[4523.579-4528.002] SPEAKER_00: 所以它不是… 读写操作不只是固定图， 你改方式。 不，不，不。

[4528.302-4548.447] SPEAKER_01: 它就是不断增长的图。 嗯，确实如此。 它和当前固定的深度神经网络不同，后者只更新权重。 虽然存在级联相关神经网络，它们会生长新节点和链接。 但最常见神经架构是固定的，只更新权重。 而在OpenCog中，更新权重很常见。

[4548.527-4557.768] SPEAKER_01: 但添加新节点和链接，移除它们，同样关键。 明白了。 是的。 然后在这个OpenCog架构上添加这些认知算法。 那看起来是什么样？

[4558.068-4572.815] SPEAKER_00: 对，在这个框架里，构建认知架构主要就两件事： 选择超图节点和链接的类型系统，也就是你想要什么类型的。 然后选择代理集，也就是哪些AI算法或进程。 那看起来像什么？

[4573.115-4584.910] SPEAKER_01: 是的，在这个框架里，创建一个认知架构基本就是两个 东西。 这是选择超图节点和链接上放什么类型的系统。 你想要什么类型的节点和链接？

[4584.990-4592.710] SPEAKER_01: 然后就是选择哪些代理集合、哪些AI算法集合或 过程。 这个超图能跑哪些节点？ 当然，这两个决定密切相关。

[4592.790-4603.645] SPEAKER_01: 类型系统里，有的链接像神经网络。 它们只有权重，靠学习来更新。 有的链接更像逻辑，节点也像逻辑。 所以可以有个变量节点。

[4603.725-4616.684] SPEAKER_01: 还能有全称量词或存在量词的节点，类似谓词逻辑。 逻辑或词项逻辑。 所以可以有逻辑节点，也可以有神经网络节点。 还可以有程序节点，比如lambda演算。

[4616.764-4628.701] SPEAKER_01: lambda演算表示的程序。 这样多种节点和链接，搞不好会一团糟。 或者弄出个烂摊子。 或者你可以搭个系统。 或者让不同类型知识融合，效果很美。

[4629.001-4631.973] SPEAKER_00: 超图能包含程序。 是的，可以包含程序。

[4632.273-4640.968] SPEAKER_01: 但目前版本执行效率很低，我们在重写系统解决。 程序执行效率低，正在解决。 程序执行效率低，正在解决。

[4641.268-4647.293] SPEAKER_00: 对你来说，最棒的地方是什么？ OpenCog最棒的地方在哪？ 有没有什么方面让你觉得很美、很有力量？

[4647.593-4654.895] SPEAKER_01: 我最着迷的是找到一个共同的表达方式，作为抽象知识的基础。 还有感官知识和运动知识。

[4654.975-4666.689] SPEAKER_01: 以及程序性和情景性知识，找到合适的表达层次。 让所有知识都能统一存储、互相转换。 同时还能真正用起来，对吧？ 所以对我来说，这是核心。

[4666.769-4681.446] SPEAKER_01: 因为一旦做到，不同的学习算法就能互相帮忙。 比如，有个逻辑引擎处理陈述性知识， 有个深度神经网络收集感知知识，还有个进化学习系统 学习程序性知识，你希望它们不只是互相传递结果。

[4681.526-4692.509] SPEAKER_01: 还希望逻辑引擎卡住时， 能把中间状态分享给神经网络和进化算法， 让它们互相帮忙克服瓶颈， 一起解决组合爆炸问题。

[4692.589-4708.520] SPEAKER_01: 通过干预彼此的认知过程。 但这只有当逻辑引擎、进化 学习引擎和深度神经网络的中间状态用相同形式表达时才能实现。 这就是把正确类型系统放上去的结果。 在这张加权标记的超图上。

[4708.820-4718.061] SPEAKER_00: 能详细讲讲类型系统的不同特征吗？ 这些特征能在各种系统中共存吗？ 要表示不同类型知识吗？ 它是不是分层次的？

[4718.141-4720.730] SPEAKER_00: 对这种类型系统有何见解？

[4721.030-4731.931] SPEAKER_01: 是的，是的。 当然，这就很具体很数学了。 关键是从谓词逻辑转到词项逻辑。 什么是谓词逻辑？ 什么是词项逻辑？ 词项逻辑是亚里士多德发明的。

[4732.011-4740.393] SPEAKER_01: 至少这是最古老的记载。 词项逻辑把基本逻辑拆成节点间的简单链接。 比如节点A和B的继承链接。

[4740.473-4755.417] SPEAKER_01: 词项逻辑的基本推理：A蕴含B，B蕴含C。 所以A蕴含C。 而谓词逻辑的基本操作是肯定前件。 所以如果A且A→B，就能推出B。 所以逻辑分解的方式，有点不同。

[4755.497-4766.352] SPEAKER_01: 把逻辑拆成术语逻辑，就成了节点和链接，很棒。 你的概念就成了节点。 逻辑关系就成了链接。 推理就像这样：如果A蕴含B，B蕴含C。

[4766.432-4781.376] SPEAKER_01: 演绎就构建出A蕴含C的链接。 概率算法可以在那儿分配权重。 也可能有类似赫布学习的A到C链接。 它表示A注意时，该让B成为焦点多少。 这就有了神经链接。

[4781.456-4791.974] SPEAKER_01: 术语逻辑里还能有符号逻辑的继承链接。 它们各自有独立意义。 但也能互相引导。 如果A和B间神经权重很大，逻辑引擎就会想，它们什么关系？

[4792.054-4803.687] SPEAKER_01: 相似吗？ 有继承关系吗？ 在某种上下文里相似吗？ 反过来，逻辑关系会引导神经组件想：想A时，要不要也关注B？ 因为存在逻辑关系。

[4803.767-4812.811] SPEAKER_01: 所以在逻辑方面。 怎么拆分逻辑关系，我们想了很久。 包括亚里士多德词项逻辑里的基本命题关系。 还有量词逻辑关系。

[4812.891-4825.281] SPEAKER_01: 怎么优雅地拆成一个超图？ 因为逻辑式能简化成图，方法很多。 很多方式特别丑，对吧？ 没错。 我们就想找优雅的层次分解。 把复杂逻辑式拆成节点和链接。

[4825.361-4830.527] SPEAKER_01: 这样不同节点代表Ben、AI、Lex、采访等，逻辑关系就很紧凑。

[4830.607-4835.912] SPEAKER_01: 当神经网络处理这些节点和链接时，它俩就能协同工作。

[4836.212-4838.998] SPEAKER_00: 而且人也看得懂。 这重要吗？ 不好说。

[4839.298-4845.985] SPEAKER_01: 简单情况下人看得懂。 但说实话，逻辑系统比神经网络更透明、更易懂。

[4846.065-4856.386] SPEAKER_01: 可还得努力。 因为给你看一个带500多个嵌套量词的谓词命题。 还有217个变量。 那不一定比神经网络权重好懂，对吧？

[4856.466-4866.706] SPEAKER_01: 所以说，AI从经验中学的逻辑，人类基本看不懂。 而且可能比神经网络还难懂。 因为多个嵌套量词，抽象层次太高了。

[4866.786-4881.695] SPEAKER_01: 不过区别是，逻辑里提规范化更直接。 能简化成特定形式。 神经网络也能做到这一点。 比如，把神经网络提炼成更简单的形式。 但更多是为了让它在嵌入式设备上跑。

[4881.775-4891.933] SPEAKER_01: 让神经网络变易懂，比简化逻辑更难。 但这也不是轻松的事。 比如AI的想法很难懂，除非专门让它变易懂。 从程序角度来说， 是的，

[4892.013-4904.542] SPEAKER_01: 程序方面有一些有趣的技巧。 计算机里有个柯里-霍华德对应，证明和程序一一映射。 每个程序都能映射到一个证明。 每个证明也能对应一个程序。

[4904.622-4915.999] SPEAKER_01: 范畴论等漂亮数学可以用来建模。 但我们想让这实用，对吧？ 比如有个可执行程序，像移动机器人。 移动机器臂或对话排序，用OpenCog超图表示。

[4916.079-4920.072] SPEAKER_01: 但要推理怎么改进，得用Curry-Howard同构映射到逻辑。

[4920.152-4930.194] SPEAKER_01: 逻辑引擎推理改进，再映射回高效执行表示。 所以关键：你的过程能否变成节点和链接？ 因为这很容易做到。

[4930.274-4937.715] SPEAKER_01: C++编译器内部就有节点和链接。 你能把过程简化成节点和链接，层次分解又简单吗？

[4938.015-4939.443] SPEAKER_00: 它能推理这个过程。

[4939.743-4947.301] SPEAKER_01: 对，对。 资源有限时，你可在术语逻辑间快速映射，避免臃肿。 对吧？ 所以有很多具体细节。

[4947.381-4955.577] SPEAKER_01: 同理，问芯片设计师：你们怎么把i7做得这么好？ 答案很长，得花时间讲完。 这已经是几十年的工作了。

[4955.657-4967.197] SPEAKER_01: 我第一个这类系统是90年代中期的WebMind。 我们有一个大图。 用Java1.1实现，在RAM中运行，思路极糟。 每个节点有自己的处理过程。

[4967.277-4978.329] SPEAKER_01: 核心循环遍历所有节点，让每个节点执行小任务。 那时我们有逻辑、神经网络和进化学习。 但数学没做够，它们没法干净协同。

[4978.409-4988.846] SPEAKER_01: 所以真是一团糟。 除了把实现变成图对象、智能体单独调度， 我们还花了很多功夫研究怎么表示程序。 怎么表示过程？

[4988.926-4997.587] SPEAKER_01: 怎么表示进化的基因型，让学习互操作？ 让这些知识类型真正能互通？ 这相当难。 花了几十年时间。

[4997.667-5006.467] SPEAKER_01: 这完全偏离了AI商业主流的做法。 他们根本没考虑表示问题。 比如在DNC里，他们也得想想怎么表示地图，

[5006.547-5021.271] SPEAKER_01: 让记忆矩阵和分层网络中的视觉表示协同。 但我不确定。 我们选了那个方向——考虑不同学习需要的知识类型， 比如陈述性、程序性、注意性，以及怎么表示它们，

[5021.351-5029.872] SPEAKER_01: 让不同记忆之间能交叉学习。 从90年代中期起，我们一直在OpenCog和Webmind里做原型实验。

[5029.952-5038.078] SPEAKER_01: 我们一直在OpenCog和Webmind里做原型实验，从90年代中期开始。 遗憾的是，AGI系统还没做到，对吧？

[5038.158-5049.141] SPEAKER_01: 我们在咨询业务里用了这个系统。 所以我们做了自然语言处理、机器人控制和金融分析。 做了垂直市场的专有AI项目，后端用OpenCog。 但还没实现。

[5049.221-5057.603] SPEAKER_01: 那不是AGI的目标，对吧？ 挺有意思的。 有意思，但不是AGI的目标。 所以我们现在在搞系统重建。

[5057.903-5059.156] SPEAKER_00: 2.0版本。

[5059.456-5068.999] SPEAKER_01: 是的。 我们叫它True AGI。 所以名字还没定。 建了trueagi.io网站，但还没放东西。 可能会想个更好的名字。

[5069.299-5072.294] SPEAKER_00: 这有点像你AGI书里真正AI的起点。

[5072.594-5083.693] SPEAKER_01: 是的，但我更喜欢true，有真心实意的感觉，对吧？ 就像对女朋友忠诚一样。 True也有数字和逻辑的意思，对吧？ 因为逻辑是系统的关键。 我喜欢这个。

[5083.773-5087.615] SPEAKER_01: 我们坚持相同架构，但基于所学来构建。

[5087.695-5093.465] SPEAKER_01: 需要加快依赖类型的类型检查。 现在节点和链接支持复杂类型。

[5093.545-5101.706] SPEAKER_01: 让类型成变量，检查复杂高阶类型，能行但慢。 类似Agda等前沿语言或晦涩研究语言。

[5101.786-5110.946] SPEAKER_01: 我们做了很多这方面工作。 我们大量结合了深度神经网络与符号学习。 比如给思科做过项目。 街景分析，很多监控的深度模型。

[5111.026-5121.939] SPEAKER_01: 每个摄像头单独训练，迁移学习失效。 收集所有摄像头深度模型的输出。 输入到OpenCog符号系统。 在符号图中做模式挖掘和推理。

[5122.019-5131.353] SPEAKER_01: 效果很好。 思科的Hugo在去年AGI会议上提到了。 在深圳。 深度模型和符号系统配合有点笨重，用了Torch。

[5131.433-5137.017] SPEAKER_01: Torch有状态计算图，需要从超图实时访问。 然后…… 我们确实做到了。

[5137.097-5147.035] SPEAKER_01: 圣彼得堡的Alexey写了篇论文，讲OpenCog里的Torch图怎么处理。 但后来发现，这不是我们当初设计OpenCog的想法。

[5147.115-5155.915] SPEAKER_01: 在快速检查类型和高效对接深度学习框架之间， 再加上想在万台机器上跑OpenCog超图，这……

[5155.995-5165.770] SPEAKER_01: 现在只用几十台机器，差得远。 架构设计时没考虑现代扩展性。 性能需求逼我们重新设计基础架构。 但核心AGI思路没变。

[5165.850-5172.932] SPEAKER_01: 数学还是那样。 在2001到2008年的老架构上，达不到想要的分布式速度，不奇怪吧？

[5173.232-5182.473] SPEAKER_00: 你说的那三件事挺有意思。 你说互操作性，怎么跟神经网络计算图对接？ 你对那种表示怎么看？ 你怎么看神经网络形成的表示？

[5182.773-5194.069] SPEAKER_01: 很差劲，但办法很多。 我一直在琢磨监督语法归纳的问题。 我有篇小论文，将在下次AGI会议发表，线上部分就在下周。

[5194.369-5195.518] SPEAKER_00: 语法归纳是什么？

[5195.818-5214.733] SPEAKER_01: 它不算AGI，是介于狭义AI和AGI之间的东西。 所以不算通用AI，介于狭义和通用之间。 所以不算通用AI，介于狭义和通用之间。 无监督语法归纳，就是这个问题。 把AI系统放进去，输入大量文本，让它学语法。

[5214.813-5229.328] SPEAKER_01: 所以不给你标好的例子。 没有研究生标好语法的成千上万句。 它只能从文本里推断语法。 就像罗塞塔石碑，但更糟，对吧？ 因为你只有一种语言。 还得自己弄明白语法是什么。

[5229.408-5240.124] SPEAKER_01: 所以这不是真通用AI，人学语言不是这样。 我们是靠上下文语言来学的。 所以是社交加具身体验的过程。 看句子如何根据观察指代实际东西。

[5240.424-5242.420] SPEAKER_00: 我觉得这里有互动元素。

[5242.720-5255.168] SPEAKER_01: 对对对。 另一方面，我对那个更感兴趣。 我更想让通用AI从社交和体验中学语言。 但做起来也更麻烦。 这就引到汉森机器人公司，我了解，过会儿谈。

[5255.248-5265.244] SPEAKER_01: 但作为智力练习，从语料学语法很有趣，对吧？ 这在AI领域已经存在很久了。 没人能做得很好。 所以我们一直研究Transformer和树形Transformer。

[5265.324-5275.865] SPEAKER_01: 这太惊人了。 其实是Google Brain做的。 Lucas Kaiser在那团队，2005-08年给我工作。 看到从前AGI员工分散做这些事很有趣。

[5275.945-5289.148] SPEAKER_01: 其实，太多人被谷歌吸走了。 我们也会聊到这个。 Lucas Kaiser他们创造了Transformer网络。 嗯。 经典论文《Attention Is All You Need》和后续。 所以我们正在研究Transformer网络。

[5289.228-5297.947] SPEAKER_01: 这就是GPT-2、GPT-3的基础。 它们很酷，但对文本完全没认知理解。 它们是非常聪明的白痴，对吧？

[5298.247-5302.089] SPEAKER_00: 抱歉打断——你觉得GPT-3理解语言吗？

[5302.389-5307.021] SPEAKER_01: 不，完全不理解。 它完全是个白痴。 这就是个聪明的笨蛋。

[5307.321-5310.188] SPEAKER_00: 你真觉得GPT-20能理解语言？

[5310.488-5311.556] SPEAKER_01: 不不不。

[5311.856-5314.189] SPEAKER_00: 所以说，规模大不等于能理解。

[5314.489-5327.297] SPEAKER_01: 就像车再快也到不了火星。 这完全是两码事。 我是说，这些网络很酷。 作为企业家，我觉得它们用处很大。 作为艺术家，我很喜欢它们，对吧？ 所以，我是说，我——

[5327.377-5344.121] SPEAKER_01: 我们现在用自己开发的神经模型，来控制菲利普·K·迪克机器人。 在机器人菲利普·K·迪克身上训练模型，很神奇。 看到它说出疯狂、像嗑了药的哲学家言论， 很像菲利普·K·迪克会说的话，对吧？

[5344.201-5354.359] SPEAKER_01: 所以这些模型超级酷。 我现在和汉森机器人公司合作，给索菲亚用了一个类似但更复杂的模型， 还没正式推出。 所以我觉得这很酷。

[5354.659-5355.773] SPEAKER_00: 但这不叫理解。

[5356.073-5366.208] SPEAKER_01: 它们只是在识别大量浅层模式。 它们没有形成抽象表示。 这正是语法归纳研究的重点。 我们试图从Transformer结构里挖模式。

[5366.288-5380.895] SPEAKER_01: 虽然能做到，但不是我们想要的。 它们很糟糕。 所以，如果你做监督学习， 如果看那些正确句法分析的句子。 你可以学到一个矩阵，连接Transformer内部表示。 再映射到句子的句法分析。

[5380.975-5398.264] SPEAKER_01: 这样你就能训练一个模型，从Transformer内部状态 输出句子的句法分析。 我们做到了，我记得克里斯托弗·曼宁 和其他人做过类似工作。 但问题是，你得到的Transformer表示 几乎不美观，分散在网络里。

[5398.344-5405.727] SPEAKER_01: 看起来不像你知道的正确语法规则，对吧？ 它有点丑。 所以我们用了符号语法学习算法， 但用Transformer预测句子概率。

[5405.807-5416.258] SPEAKER_01: 如果你有条语法规则，但不肯定它对不对， 用那条语法规则能造出很多句子 也能造出违反规则的很多句子。 而且你会发现，Transformer模型并不觉得

[5416.338-5431.096] SPEAKER_01: 遵守规则的句子比违反的更可能。 这样，你可以把神经模型当成句子概率预言机， 来指导符号化语法的学习。 这比从神经网络里硬挤语法要好， 因为神经网络本身没有语法。

[5431.176-5443.436] SPEAKER_01: 可问题是，这些网络并没获得 内部有意义的语义表示。 所以一条路就是让它们做到这一点。 InfoGAN就是这么尝试的。 回忆两年前，有大量论文，

[5443.516-5459.041] SPEAKER_01: 比如EdWord，谷歌的概率编程神经网络框架， 它源于InfoGAN。 想法是，训练一个InfoGAN模型， 它是一个生成式关联网络， 用来识别和生成人脸。 模型会自动学习表示鼻子长度的变量，

[5459.121-5475.238] SPEAKER_01: 也会自动学习表示眼睛宽度的变量。 或者嘴唇大小之类的，对吧？ 所以它自动学到了这些有语义的变量。 这是个罕见案例，一个用标准GAN训练的神经网络。 竟然真能学到语义表示。

[5475.318-5495.336] SPEAKER_01: 多年来，我们很多人都想迈出下一步。 得到一个GAN类的神经网络， 它不仅有组语义潜在变量， 还有个语义潜在变量的贝叶斯网络， 和它们间的依赖关系。 整个编程框架EdWord就是为这设计的。 我的意思是，没人成功实现它，对吧？

[5495.636-5496.785] SPEAKER_00: 你觉得这可能吗？

[5497.085-5512.029] SPEAKER_01: 我不知道。 可能反向传播就是行不通， 因为梯度太乱了。 或许你可以用CMAES， 或者像浮点进化算法这类方法来实现。 我们试过，但没成功。 最后我们只是暂停了项目，不是放弃。 我们暂停了它，然后说，

[5512.109-5524.139] SPEAKER_01: 咱们试试更多创新办法吧。 去看看网络里藏着什么表征。 不试图让它自己长出来。 我讲了我们在语言上怎么做的。 视觉上也能做类似的事，对吧？

[5524.219-5536.806] SPEAKER_01: 把它当预言机用。 对对对。 这是一种方式。 用结构化的学习算法，就是符号化的， 再拿深度神经网络当预言机， 去指导那个算法。 另一种就像Infogam想做的， 调整神经网络，

[5536.886-5548.902] SPEAKER_01: 让它内部带上符号表征。 我总觉得大脑干的活儿， 更像是拿深度神经网络当预言机。 我觉得视觉皮层， 或者小脑， 可能在学习一种，

[5548.982-5563.206] SPEAKER_01: 非语义、不透明、纠缠的表征。 然后它们一互动 和大脑更理性的区域， 皮层把它们当预言机， 慢慢学到抽象概念。 比如你运动的时候， 像发网球，对吧？ 我发球一般般，不算好，

[5563.286-5577.313] SPEAKER_01: 但我是试错学会的，对吧？ 音乐我也是试出来的。 就是坐下来弹。 但如果你是运动员， 我不是好运动员， 你会看自己发球的录像， 教练帮你琢磨动作， 然后形成有意识的理解。 但小脑

[5577.393-5590.944] SPEAKER_01: 可能没有这种理解。 音乐也类似。 比如我脑子里有段旋律， 坐下来就按听到的弹。 然后我会试着研究手指的动作。 你看，你刚才弹了什么？ 就像，你是怎么做到的？

[5591.024-5605.063] SPEAKER_01: 因为你在作曲时， 你可能想看看怎么做到的。 然后用声明方式改变它。 手指想不到的方式，对吧？ 但生理动作 可能源于某种不透明的、 像小脑强化学习的东西，对吧？

[5605.143-5620.168] SPEAKER_01: 所以我觉得，榨取神经网络结构 把它当成预言机 可能更像你的声明性思维 处理视觉或运动皮层的内容。 我的意思是，视觉上也是。 就像，你能认出美丽的艺术

[5620.248-5638.803] SPEAKER_01: 远比你能说出为什么好 你认为那件艺术品很美。 但如果你受过艺术评论训练， 你确实学会了说出为什么。 有些是瞎说，但有些不是，对吧？ 有些是学习怎么把感官知识 映射到陈述与语言知识里 但没必要

[5638.883-5643.085] SPEAKER_01: 让感官系统自己 用透明又好沟通的方式。

[5643.385-5652.905] SPEAKER_00: 对，这很吸引人。 想象神经网络，比如说， 可以榨取的傻问答， 来建知识库。 而且我觉得可能有多个网络， 来自不同的…

[5653.205-5669.426] SPEAKER_01: 对，对。 所以我觉得DeepMind或OpenAI这类团队 要构建AGI， 而且我认为DeepMind，就像， 据我所知，可能性高千倍， 因为他们招了很多人， 思维开阔，方法多样， 以及对AGI的不同视角。

[5669.506-5678.027] SPEAKER_01: OpenAI也很棒， 但我觉得他们更像深度强化学习团队。 对，这次我听懂了。 到目前为止。 对，有很多...

[5678.327-5687.603] SPEAKER_00: 你说得对。 我的意思是，DeepMind跨学科工作很多。 比如神经科学是核心。 而且把它和Google Brain结合。 当然，他们合作不太紧密。

[5687.903-5710.080] SPEAKER_01: 但你知道， 我大儿子Zarathustra， 在读机器学习博士， 方向是自动定理证明的机器学习应用。 在布拉格师从Joseph Urban。 所以第一篇论文DeepMath， 它用了深度神经网络 在布拉格师从约瑟夫·厄本 所以第一篇论文DeepMath， 应用了深度神经网络的 帮忙证明定理， 来自谷歌大脑。

[5710.160-5724.500] SPEAKER_01: 就是说，到现在， 目前，自动定理证明圈 已经远远超过谷歌做的任何事。 不过，还是啊， 但不管怎样， 如果那个圈子要做AGI， 也许他们的一个办法是， 就拿25个不同的神经模块，

[5724.580-5739.327] SPEAKER_01: 架构各异的， 像大脑的不同区域， 比如基底节模型， 小脑模型， 丘脑模块， 几个海马模型， 很多不同的模型， 代表皮层部分，对吧？ 把这些都拿来， 然后连在一起。 就是说，你知道吗，

[5739.407-5755.617] SPEAKER_01: 一起训练，一起学习它们。 那是造出通用AI的一种方式。 人们能高效做出类似的东西。 在真正的通用AI之上， 比如OpenCog 2.0系统， 等它出现之后， 虽然谷歌自己有

[5755.697-5775.332] SPEAKER_01: 高效实现的架构。 所以我觉得这是构建通用AI的好方法。 90年代中期我特别感兴趣。 但说实话， 对大脑运作的了解， 有点让我生气。 因为它还不够完善。 比如，你知道， 海马体里， 有这些概念神经元， 像所谓的祖母神经元， 大家都笑话它。

[5775.412-5793.828] SPEAKER_01: 它就在那里。 就像我有几个Lex Friedman神经元 看到你时，它们会不一样地激活 看到别人就不会了，对吧？ 嗯。 那这些Lex Friedman神经元 它们怎么协调的 和分布式表征 我大脑皮层里Lex Friedman的表征，对吧？ 有一些来回交流 在皮层和海马体之间

[5793.908-5808.991] SPEAKER_01: 这让这些离散的符号表征 在海马体里互相联系合作 跟皮层里的分布式表征。 这可能跟 大脑怎么做抽象版本 和量化逻辑有关，对吧？ 比如海马体一个神经元 能激活整个分布式激活模式 在皮层里。

[5809.071-5823.922] SPEAKER_01: 可能大脑就是这么运作的 像符号化和抽象化 比如函数式编程这类 但我们测不了它 比如电极不够多 插在大脑皮层和海马体中间 现有实验都测不到 所以我对那个方向挺沮丧的

[5824.002-5826.068] SPEAKER_01: 不是因为它不可能

[5826.368-5829.758] SPEAKER_00: 而是了解得还太少

[5830.058-5844.506] SPEAKER_01: 当然，这是个有效方向 你可以再多了解 而且现在我们测到的大脑活动 比以往任何时候都多 所以这挺有意思的 另一方面 我有点转向AGI的工程思维 我想，好吧

[5844.586-5861.388] SPEAKER_01: 我们还不懂大脑怎么运作 也不懂鸟怎么飞 蜂鸟怎么飞，我们其实不清楚。 从空气动力学上讲， 另一方面呢， 基本原理我们懂。 比如拍翅膀、往下推空气。 基本原则我们也知道， 就是大脑各部分怎么运作。 所以，我们就用这些原理

[5861.468-5868.329] SPEAKER_01: 设计个东西， 它得体现这些原理， 但得配合现有硬件 做好的设计。 目前来说，

[5868.629-5873.934] SPEAKER_00: 那你觉得，没搞懂大脑能先造出AGI吗？ 对，我觉得这种情况很可能。

[5874.234-5887.460] SPEAKER_01: 也许AGI能帮我们把脑成像做得更好， 然后造出人造人， 这真的特别有意思， 因为我们就是人类嘛，对吧？ 因为我们都是人，对吧？ 我是说，造人工人类很值得。

[5887.540-5890.454] SPEAKER_01: 只是觉得，这未必是到AGI最短的路。

[5890.754-5895.084] SPEAKER_00: 所以，这想法很迷人。 我们会建造AGI。 帮我们了解自己。

[5895.164-5908.274] SPEAKER_00: 很多人问我 如果年轻人有兴趣 进入人工智能领域， 他们会考虑读研究生， 甚至本科生， 但研究生级别的研究， 然后他们看到 AI社区目前的状况。 大多不是真正的AGI研究。

[5908.354-5919.641] SPEAKER_00: 所以他们自然会问， 你会给什么建议？ 我是说，也许我可以问， 如果有人对OpenCog项目感兴趣 或者直接或间接地， 跟OpenCog或AGI研究有关， 有什么推荐？

[5919.941-5929.844] SPEAKER_01: 首先，OpenCog 是个开源项目。 有Google群组讨论列表。 有GitHub仓库。 如果有人想帮忙， 在AGI方面， 去OpenCog网站介绍自己。

[5929.924-5941.197] SPEAKER_01: 有OpenCog邮件列表， 还有Slack。 我们当然想听意见， 纳入重新设计过程。 为新版OpenCog， 我们也在做很多有趣的研究。 我们正在做数据分析，

[5941.277-5952.712] SPEAKER_01: 用于新冠临床试验。 我们和汉森机器人合作。 我们在做很多很酷的事， 用现在的OpenCog。 所以肯定有机会。 投身OpenCog 还做了很多其他开源AGI项目

[5953.012-5955.380] SPEAKER_00: 那有没有那种 硕士博士论文在里面？

[5955.680-5962.738] SPEAKER_01: 很多，当然很多。 关键在于找到一位导师 愿意指导这种研究 但比我读博时容易多了，对吧？

[5963.038-5973.173] SPEAKER_00: 当然。 好的，太棒了。 我们聊了OpenCog 它首先是一个软件框架 也是实实在在构建AGI系统的尝试。 然后还有个让人兴奋的概念，SingularityNet。

[5973.253-5976.677] SPEAKER_00: 那你能先说说什么是SingularityNet吗？

[5976.977-5986.810] SPEAKER_01: 当然。 SingularityNet是个平台 用来实现去中心化网络 的人工智能网络。 那么马文·明斯基，那位我略知一二的AI先驱，

[5986.890-6000.975] SPEAKER_01: 他提了个“思想社会”的概念。 就像你要造一个人工智能， 不是靠写算法或程序， 而是放一堆不同的AI在那里， 让它们互相交互， 各演各的角色。 然后整个AI社会 就会展现出

[6001.055-6010.470] SPEAKER_01: 人类水平的智能。 在他还活着的时候， 我跟马文争论过很多次。 他说， 他觉得心智 比我想的更像社会。 你可以有一个心智，

[6010.550-6024.531] SPEAKER_01: 像人类社会那么乱， 但我觉得类人的心智 其实多了一点中央控制。 比如我们有丘脑、 延髓和边缘系统。 我们有种自上而下的控制系统 它支配着我们大部分行为 比整个社会做的还多

[6024.611-6036.722] SPEAKER_01: 所以我觉得他把比喻扯得太远了 但我也认为里头有点意思 所以到了90年代 当我开始第一个非学术AI项目时 Webmind，是90年代末纽约的AI初创公司

[6036.802-6050.492] SPEAKER_01: 在硅巷那一带 我当时的目标是 搞一个分布式的AI社会 它的不同部分会分布在 世界各地不同的电脑上 每个部分能独立思考 基于本地数据 但彼此会分享信息

[6050.572-6068.326] SPEAKER_01: 互相外包任务，一起合作 智能就在整个集体里 我还组织了一次会议 和弗朗西斯·海利根一起 2001年，在布鲁塞尔自由大学。 那是全球大脑零次会议。 我们正在策划下一届。 全球大脑第一次会议

[6068.406-6077.450] SPEAKER_01: 明年2021年在布鲁塞尔自由大学举办。 太棒了。 20年后。 然后十年后再办一次。 指数级更快。

[6077.750-6081.662] SPEAKER_00: 直到奇点到来，对吧？ 时机正好，没错。

[6081.962-6097.707] SPEAKER_01: 对，对，确实如此。 所以全球大脑的想法是， 也许AI不只是一个程序， 在个人电脑上， 而是遍布整个互联网， 通过不同AI模块合作， 住在不同的地方。 所以你遇到的一个问题

[6097.787-6110.723] SPEAKER_01: 打造这样的系统时， 系统怎么控制的？ 你们有没有中央控制单元？ 来控制各个模块的“提线”？ 还是说你们用的是去中心化网络？ 由AI社会民主自组织

[6110.803-6121.960] SPEAKER_01: 来控制？ 但那社会里的AI都这样，对吧？ 我和弗朗西斯在很多事上看法不同， 但我们都希望 建立一个全球AI心智社会， 采用去中心化模式。

[6122.040-6132.221] SPEAKER_01: 主要区别是，他希望每个AI 都特别简单， 所有智能集中在集体层。 而我觉得那很酷， 但更实际的方式可能是

[6132.301-6149.544] SPEAKER_01: 让心智社会中的一些智能体 本身就有很广泛的通用智能。 就像外界可以有一堆开放AI系统。 就像你能在那放一堆敞开的齿轮。 还有更简单的学习系统， 这些都在协同工作， 它们互相协调， 就像大脑那样。

[6149.624-6166.089] SPEAKER_01: 好，大脑整体就是通用智能， 但大脑皮层的一些部分， 可以说也有很强的通用智能， 单独来看， 比如小脑或边缘系统， 独自只能贡献很少， 它们对通用智能的贡献， 是通过和其他模块的连接， 其他模块。

[6166.389-6176.721] SPEAKER_00: 你有没有见过同一种例子， 可能是不同版本的OpenCog， 但也只是同一个版本的OpenCog， 而且有很多实例作为一部分， 全都作为它的一部分？

[6177.021-6194.659] SPEAKER_01: 这正是大卫、汉斯和我想做的， 和很多索菲亚还有其他机器人一起。 每个都有独立思维，在服务器上。 但也有集体智慧贯穿其中。 每个机器人边缘也有部分思维，对吧？ 是的。 问题在于， 那个时候， 除了WebMind用了Java1.1实现，

[6194.739-6210.600] SPEAKER_01: 作为庞大的分布式系统， 你知道，区块链还没出现。 那如何让它们实现分散控制？ 我们大概知道怎么做。 我们了解分布式系统。 我们了解加密技术。 所以，我们掌握了关键原理， 也就是现在区块链的基础， 但我们没有把它们整合起来，

[6210.680-6229.920] SPEAKER_01: 以现在这种方式。 所以当Vitalik Buterin和同事们 推出以太坊区块链时， 你知道，很多很多年后。 大概是2013年左右 然后我想，嗯，挺有意思的 就像Solidity这个脚本语言 某种程度上，它有点傻 我不明白为啥要搞成完整语言

[6230.000-6245.478] SPEAKER_01: 就为了这个目的 但另一方面 这好像是我第一次能坐下来 开始喜欢写脚本基础设施 用来去中心化控制人工智能 在意识社会里可操作地 比如能黑进比特币的代码库 但这真的很烦人

[6245.558-6262.511] SPEAKER_01: 而Solidity是以太坊的脚本语言 它更好用、更简单 这时候我已经很烦它了 但像Java，我是说，这些语言刚出来时 特别神奇 于是我想了个主意 后来变成了SingularityNet 好，我们搭个去中心化代理系统

[6262.591-6277.164] SPEAKER_01: 里面有一堆不同的AI 它们封装在比如 不同Docker或LXC容器里 每个AI都能 在区块链上有自己身份 这些AI社区的协调 没有中央控制，没有独裁者，对吧？ 也没有中央信息存储库

[6277.244-6292.304] SPEAKER_01: 心智社会的协调 全靠去中心化网络 用算法去中心化实现，对吧？ 因为比特币的座右铭 是“我们信任数学”，对吧？ 所以这就是你需要的 心智社会只信任数学 而不是信任一个中心化的

[6292.384-6294.555] SPEAKER_01: 中心化服务器

[6294.855-6299.580] SPEAKER_00: 所以AI系统本身 是在区块链之外 接着他们就开始交流。

[6299.880-6306.242] SPEAKER_01: 对，对。 我本来想让AI的操作 某种意义上上链， 但以太坊上太慢了。 你做不到。

[6306.542-6311.267] SPEAKER_00: 不知为啥，基本的沟通 AI系统之间是分布式的。 没错没错。

[6311.567-6318.614] SPEAKER_01: 所以AI只是SingularityNet里的软件。 AI就只是个软件进程， 存在容器里。 嗯哼。

[6318.914-6320.841] SPEAKER_00: 它就是输入输出。

[6321.141-6337.861] SPEAKER_01: 有个代理在容器里， 和那个处理交互的AI一起 和SingularityNet其他部分。 然后当AI想贡献， 和网络里另一个AI合作， 他们会建多个通道。 这些通道用以太坊区块链搭建。 明白了。 但通道一旦建好， 数据就顺着通道流动，

[6337.941-6343.142] SPEAKER_01: 不用经过区块链。 只有这些会上链： 某些数据曾从那条通道传过。

[6343.442-6346.332] SPEAKER_00: 所以你可以这样…… 所以没有共享知识。 它是……

[6346.632-6361.135] SPEAKER_01: 嗯，每个代理的身份都在链上。 对。 在以太坊链上。 如果一个代理给另一个打分， 这也会上链。 代理可以发布要履行的API 在区块链上。 但AI的实际数据 和AI的结果不在链上。

[6361.435-6363.408] SPEAKER_00: 你觉得可以吗？ 你觉得是这样吗？

[6363.708-6368.015] SPEAKER_01: 有可能。 有时候是这样。 有时候可能不是。 但我觉得，其实...

[6368.315-6369.789] SPEAKER_00: 我来举个例子。

[6370.089-6378.645] SPEAKER_01: 以太坊做不到。 现在有更新更快的区块链。 有些情况下已经能做到了。 两年前可不是这样。 这个生态变化很快。

[6378.945-6390.011] SPEAKER_00: 举个例子，你来说说。 我主要研究自动驾驶汽车。 你看每辆独立的车， 都是一个AI系统。 比如特斯拉的车， 还有福特、通用等等， 也像是更大的系统...

[6390.091-6403.433] SPEAKER_00: 就是说它们都用同一套系统， 每辆车都这样。 所以它们是独立AI系统 还有独立车辆 但完全不同 同家公司AI都一样 所以你可以想象一个场景 所有这些AI系统 都放在奇异网络上，对吧？ 是的

[6403.513-6415.206] SPEAKER_00: 那你觉得怎么实现？ 会有什么好处？ 它们能共享数据吗？ 我觉得最重要的是 权力在于去中心化控制 但好处是…… 如果它们能开放共享知识 那就很好，只要它们愿意

[6415.286-6418.200] SPEAKER_00: 对对对 都是很好的观点

[6418.500-6420.566] SPEAKER_01: 所以我觉得…… 所以我觉得这个…

[6420.646-6432.418] SPEAKER_01: 去中心化网络的好处 正如我们设想 我们希望网络中的AI 能互相外包工作 并频繁调用API。 我明白了。 真正的好处是 如果那个AI想外包

[6432.498-6435.783] SPEAKER_01: 一些认知或数据处理

[6436.083-6438.254] SPEAKER_00: 或数据预处理等，

[6438.554-6451.243] SPEAKER_01: 给网络中的其他AI 这些AI专注不同领域。 这需要不同的思维方式 AI软件开发，对吧？ 就像面向对象编程 跟命令式编程不同， 现在面向对象程序员

[6451.323-6469.390] SPEAKER_01: 都用这些框架做事 甚至不光是库， 转向代理式编程 你的AI代理会向其他实时演进的代理。 寻求它们所做事情的反馈。 关于它们正在做的事。 这是一种不同的思考方式。 其实，这不算新概念。 有很多关于代理编程的论文。

[6469.470-6482.975] SPEAKER_01: 从80年代开始就有了。 但如果你愿意转变思路， 采用代理开发模式。 AI里放的内容越来越少， 越来越依赖交互调用。 调用网络中运行的其他AI。 当然，这还没完全实现。

[6483.055-6499.799] SPEAKER_01: 尽管我们已经推出了 一个稳定的SingularityNet版本。 目前只有…… 大约50到100个AI在运行。 还没有成千上万个AI。 所以还没达到临界质量。 去实现整个思维社会。 就做我们想做的事 对，魔法真的发生了

[6500.099-6503.349] SPEAKER_00: 当智能体特别多的时候

[6503.649-6519.977] SPEAKER_01: 对对，没错 说到数据 我们合作很紧密 跟另一个区块链项目 叫Ocean Protocol 那Ocean Protocol 是Trent McConnachie开发的 他做了BigchainDB 这是个区块链数据库 所以Ocean Protocol 就是区块链大数据

[6520.057-6536.325] SPEAKER_01: 就是为了让它更高效 用在各种AI过程 或统计过程这些 共享大型数据集 或者一个过程派出自己的克隆 去处理别人的数据集 然后把结果传回来，这样反复。 所以通过获取Ocean 你有数据湖，

[6536.405-6550.072] SPEAKER_01: 这就是数据海洋，对吧？ 通过让Ocean和SingularityNet 实现互操作， 我们想要考虑 大数据方面的问题。 但这挺有挑战性， 因为要构建整个 去中心化的区块链基础设施， 你的竞争对手

[6550.152-6564.620] SPEAKER_01: 像谷歌、微软、阿里和亚马逊， 它们有巨额资金 投入它们的中心化基础设施， 而且它们解决算法问题更简单， 因为中心化 某种程度上更容易，对吧？ 对。 它们都是很大的计算机科学挑战。

[6564.700-6580.422] SPEAKER_01: 我觉得你看到的 ICO热潮那阵子 在区块链和加密圈 好多年轻黑客 他们破解比特币或以太坊 他们说， 嗯，为啥不在区块链上去中心化？ 然后ICO筹到钱后， 他们发现太难了 就像我们在跟

[6580.502-6585.273] SPEAKER_01: 超难的计算机科学 和软件工程、分布式系统斗

[6585.353-6592.655] SPEAKER_01: 问题太多了 可以解决， 但就是很难 有时候， 搞这些项目的人 没准备好 真正解决他们想解决的问题

[6592.955-6596.867] SPEAKER_00: 那你说这是主要瓶颈吗？ 说到货币的未来， 问题是……

[6597.167-6605.352] SPEAKER_01: 货币的未来啊， 主要卡在政治上。 就是政府和那些武装暴徒， 他们想抓你， 要是你绕过货币管制。

[6605.652-6610.040] SPEAKER_00: 没错。 所以你觉得， 那技术挑战呢？ 你刚暗示， 技术挑战也不小。

[6610.340-6627.316] SPEAKER_01: 我是说，搞个分布式货币， 现在Algorand就能做到。 以太坊太慢， 但Algorand， 还有其他更现代的， 扩展性更强的区块链， 它们都能正常运作， 当去中心化全球货币。 当时确实有技术瓶颈 两年前

[6627.396-6640.262] SPEAKER_01: 也许以太坊2.0 会和Algorand一样快 我不知道 那还没完全定下来，对吧 所以我觉得货币 上链的障碍是 是你提到的其他东西 货币会上链 它只是在区块链上 是一种强化中心控制的方式

[6640.342-6648.399] SPEAKER_01: 政府霸权，而不是相反 比如数字人民币可能成为首个全球性的 第一个上链的货币 数字卢布可能是下一个

[6648.699-6650.312] SPEAKER_00: 数字卢布

[6650.612-6658.738] SPEAKER_01: 对对对 太搞笑了 但数字货币完全合理 但他们宁愿这么干 就像普京和习近平那样 握着全球的钥匙，对吧？

[6659.038-6665.342] SPEAKER_00: 再类比一下 说到SingularityNet， 就是有相似之处。 你之前提到过 Linux给了你希望。

[6665.642-6670.030] SPEAKER_01: AI不像货币，监管没那么严，对吧？ 还没有，对吧？

[6670.330-6671.061] SPEAKER_00: 还没有。

[6671.361-6686.561] SPEAKER_01: 它比货币滑溜多了，对吧？ 货币这玩意儿啊…… 更容易监管 因为它更好定义， 而AI呢…… 它无处不在，渗透一切。 AI和软件的界限在哪，对吧？ 如果要监管AI， 没有给每个硬件做智商测试

[6686.641-6701.086] SPEAKER_01: 那是带学习算法的。 比如，你要把 对软件进行霸权监管。 不排除这种情况。 任何自适应软件。 对，但怎么判断软件有没有自适应性？ 软件都会变得有自适应性。 我是说……

[6701.386-6709.466] SPEAKER_00: 或者，我们正处在开源的黄金时代 但这个时代不会一直开放。 也许会变成政府对软件的集中管控。

[6709.766-6721.575] SPEAKER_01: 这完全有可能。 我觉得我们正在做的一部分工作 通过像 SingularityNet 协议这类东西 就是创建一套工具 用来应对这种情况。 网状网络也一样，对吧？ 它现在只是个配角，

[6721.655-6731.616] SPEAKER_01: 手机之间直接上网的能力。 另一方面， 要是政府开始想控制 你使用互联网的方式， 突然有个网状网络， 那就方便多了，对吧？ 所以现在，

[6731.696-6743.596] SPEAKER_01: 像去中心化的区块链AGI框架， 或狭义AI框架， 挺酷的，有它挺好。 另一方面， 如果政府开始想 打压我的AI， 跟俄罗斯或别处的AI互通，

[6743.676-6755.242] SPEAKER_01: 那突然有个去中心化协议， 没人拥有或控制， 就成了工具箱里特别有价值的部分。 我们现在已经推出了。 它不完美，但能运行。 而且它跟区块链无关。

[6755.322-6772.588] SPEAKER_01: 所以我们正在和Algorand谈， 关于一起做SingularityNet的一部分。 运行在Algorand上。 我朋友Tufi Saliba。 有个很酷的区块链项目叫Toda。 这是个没有分布式账本的区块链。 它是一种完全不同的架构。 所以还有很多更先进的。 你可以在区块链里做到。

[6772.668-6788.529] SPEAKER_01: SingularityNet可以移植到一大堆。 它可以做成多链的。 并移植到一堆不同区块链上。 而且潜力很大。 而且意义重大。 把这种工具集推向市场。 如果你比较OpenCog， 你会看到的是 OpenCog可以紧密集成

[6788.609-6801.426] SPEAKER_01: 几个AI算法 共享同一个知识存储 实时在RAM中，对吧？ SingularityNet能松散集成 多种人工智能。 它们能共享知识， 但通常不共享知识 在同一台机器里。

[6801.506-6810.910] SPEAKER_01: 我觉得我们会拥有 网络套网络套网络，对吧？ 比如，有知识图谱 在 OpenCog 系统里， 然后有个机器网络 在分布式 OpenCog 思维里。

[6810.990-6822.623] SPEAKER_01: 但 OpenCog 会连接其他 AI， 做深度神经网络 或分析生物数据， 或他们在 SingularityNet 做的那些。 这是个松散集成， 其中有些可能 在自己的网络里，对吧？

[6822.703-6837.705] SPEAKER_01: 我用个很粗略的类比， 在人体里也能看到。 比如大脑有区域 比如皮层或海马体， 它们紧密相连 比如皮层里的皮质柱。 然后有更松散的联系 在大脑不同叶之间， 然后大脑相互连接 与内分泌系统

[6837.785-6852.311] SPEAKER_01: 以及身体不同部位 更加松散。 然后身体互动更松散 与其他人 你正在互动的人。 所以常有网络中的网络 网络中的网络 耦合逐渐松散 你越往层级上走。 我是说，生物学中存在，

[6852.391-6860.947] SPEAKER_01: 在互联网中也有 只是一种网络媒介。 我觉得这就是我们将有的 在软件进程网络里 通向通用人工智能。

[6861.247-6868.526] SPEAKER_00: 这种看世界的方式很美。 又是类似的问题 像OpenCog那样。 想做AI系统的话 接入奇点网络， 你推荐什么？

[6868.826-6882.084] SPEAKER_01: 嗯，那容易多了。 OpenCog还是研究系统， 需要专业知识和时间。 我们有教程， 但认知上有点吃力， 要快速上手OpenCog。 我们希望真正AGI 能改变一点：

[6882.164-6894.400] SPEAKER_01: OpenCog 2.0版本 让事情 学习曲线更接近 TensorFlow或Torch。 因为现在， OpenCog很强， 但不好操作。 另外呢， SingularityNet， 作为开放平台，

[6894.480-6911.142] SPEAKER_01: 开发更完善， 更注重易用性， 虽然区块链， 还是有点麻烦。 如果你是命令行用户， 有命令行界面。 很容易把任何AI， 带API， 跑在Docker容器里， 部署到任何在线地方， 接入全球SingularityNet。

[6911.222-6928.326] SPEAKER_01: 任何人发请求， 把请求发到SingularityNet， 点对点发现， 它能找到你的AI。 如果它按要求执行， 它就能开始对话 与你的AI 关于它想不想向你的AI请求 为它做某事， 需要多少费用等等。

[6928.406-6943.675] SPEAKER_01: 所以这相当简单。 如果你写了一个AI 并希望它列出来 在官方SingularityNet市场上， 就在我们网站上， 我们有一个发布者门户， 然后有KYC流程 需要完成， 因为我们对网站内容

[6943.755-6951.614] SPEAKER_01: 有法律责任。 所以某种程度上， 这也是一种教育。 大概有两个层面。 这是个开放的去中心化协议。 然后还有市场。

[6951.914-6953.388] SPEAKER_00: 对，谁都能用。

[6953.688-6974.344] SPEAKER_01: 开放的去中心化协议。 比如有些开发者来自伊朗， 还有比特币， 或一些杰出的AI人才， 在德黑兰伊斯法罕大学， 他们能把他们的东西， 放到SingularityNet协议上。 就像他们能把东西， 放到网上一样，对吧？ 我不控制它。 但如果要列出东西， 在SingularityNet市场， 再放张小图片，

[6974.424-6991.748] SPEAKER_01: 还有链接到它， 那么如果我把伊朗AI天才的， 代码放在那里， 那么唐纳德·特朗普可以发送。 一群穿长靴的暴徒 上门抓我 因为和伊朗做生意，对吧？ 所以我们看到 有些方面， 有……的价值 去中心化协议 我希望的是

[6991.828-7006.157] SPEAKER_01: 伊朗有人会上传 伊朗的SingularityNet市场，对吧？ 你可以用 加密货币代币支付 不属于任何国家 在刚果这种地方 或者某个地方没有 跟伊朗有问题的地方 可以分包AI服务 那个市场的服务，对吧？

[7006.237-7019.521] SPEAKER_01: 尽管美国公民按法律不能 所以现在， 这点不重要。 就像你说的， 如果法规走偏了， 那就更重要了。 但我觉得也一样： 有这些变通方法， 来应对现有法规，

[7019.601-7036.031] SPEAKER_01: 是一种防御机制， 对抗那些法规 被推行。 你可以看到这点 在音乐行业，对吧？ 我是说，Napster就这样来了， BitTorrent也一样。 而现在大部分 像我家孩子这代人， 他们对这个很困惑： 付钱听音乐，对吧？ 我老爸就会花钱买。

[7036.111-7053.505] SPEAKER_01: 就是说... 没错，就是这样。 因为去中心化机制出现了 然后法规就来了，对吧？ 而且这些法规会很不同 如果它们是在 在Napster和BT出现之前 等等。 同样， 我们必须把AI推出去 用去中心化的方式 还有把大数据推出去

[7053.585-7068.216] SPEAKER_01: 现在也用去中心化方式 这样全球最先进的AI 从根上就是去中心化的。 如果真是这样， 那就是现实 监管者必须面对的现实。 就像音乐行业那样， 他们会制定 相应的法规。 那种工作

[7068.296-7070.931] SPEAKER_01: 随着去中心化的现实。

[7071.231-7086.303] SPEAKER_00: 美丽。 你曾是首席科学家 汉森机器人公司的。 你仍然参与 与汉森机器人公司合作， 做了很多真正 有趣的事情。 这是为那些 不了解这家公司的人 创造的 索菲亚机器人。 你能告诉我 索菲亚是谁吗？

[7086.603-7104.032] SPEAKER_01: 我更愿意先告诉你 大卫·汉森是谁。 因为大卫是天才 索菲亚机器人背后的。 而他仍然是， 到现在为止， 他还是更有趣 比他创造的东西更有趣。 虽然她可能进步了 实际上比他更快。 我是说，他…… 是的。

[7104.332-7105.167] SPEAKER_00: 说得好。

[7105.467-7118.983] SPEAKER_01: 我大概2007年见过大卫 在一次未来学家会议上 我们都在那儿发言。 我看我们有很多 共同点。 我是说，我们都有点疯， 但同时， 我们都对通用人工智能 和奇点充满热情。

[7119.063-7133.287] SPEAKER_01: 我们都是 菲利普·K·迪克的狂热粉丝， 这位科幻作家。 我想创造 仁慈的通用人工智能 这会创造 大大改善 全人类的生活 还有所有有情众生 比如动物、植物 还有超人类存在。

[7133.367-7147.208] SPEAKER_01: 而大卫， 他想要一样的东西 但他有不同想法 至于怎么实现它 他想获得 计算同情心 他想让机器 能够爱人类 和人共情。 他觉得实现目标的方法 是制造一台机器 能够观察人类

[7147.288-7161.199] SPEAKER_01: 眼对眼， 面对面， 看着人们， 让人爱上机器， 机器也爱人。 所以我觉得那是 完全不同的方式 来看待它， 因为我特别看重数学， 我只是在想， 抽象认知是什么， 算法让 系统吸收

[7161.279-7174.714] SPEAKER_01: 复杂模式 和人的价值观， 等等等等。 而他就像是， 看着你的脸 和眼睛，然后爱你。 所以我们很合得来。 我们互相聊了聊 断断续续的 2011年我搬到香港

[7174.794-7189.483] SPEAKER_01: 所以我一直到处住 我去过澳大利亚 和新西兰 我学术生涯中 在拉斯维加斯待过一阵 90年代末在纽约 开始了创业生涯 在华盛顿特区待了九年 做了一堆美国政府 咨询工作

[7189.563-7201.965] SPEAKER_01: 2011年搬到香港 主要是遇到个中国女孩 我爱上了她 我们结婚那会儿 她其实不是香港人 她来自中国大陆 但我们最终在香港汇合 我还是已婚。 我家宝宝两岁了。

[7202.265-7205.573] SPEAKER_00: 然后去了香港。 大概是去见个女孩。

[7205.873-7221.386] SPEAKER_01: 对，差不多。 另外呢， 我在那做了些很酷的研究， 和余振宇（Gino Yu）一起， 在香港理工大学。 我参加了一个IDEA项目， 用机器学习 预测股票和期货， 挺有意思的。 我还了解到 消费电子

[7221.466-7241.298] SPEAKER_01: 和硬件制造商的生态， 就在深圳那边，香港对面， 那里是全球唯一 适合做复杂消费电子产品的地方。 制造复杂的消费电子产品。 大规模，低成本。 这简直让人震惊。 硬件生态系统。 在华南地区拥有的。 这里的人无法想象。 那是什么样子。

[7241.378-7255.660] SPEAKER_01: 所以大卫开始探索。 这一点也是。 我邀请他来香港。 在香港理工大学演讲。 并在香港介绍了他。 给一些投资者。 他们对他的机器人感兴趣。 那时他还没有索菲亚。 他有一个菲利普·K·迪克的机器人，

[7255.740-7275.212] SPEAKER_01: 我们最喜欢的科幻作家。 他有一个爱因斯坦机器人。 他有一些小玩具机器人。 看起来像他的儿子芝诺。 所以通过投资者们。 我把他介绍给了 他成功拿到一些资金 基本上把汉森机器人公司 搬到了香港。 他第一次搬到香港时， 我在做通用人工智能研究

[7275.292-7286.811] SPEAKER_01: 还有这个机器学习 交易项目。 所以我没怎么参与 汉森机器人公司的事。 但我和大卫相处越多， 因为我们在同一个地方， 我开始， 我开始思考 你可以做什么

[7286.891-7304.146] SPEAKER_01: 来让他的机器人更聪明 比它们以前。 于是我们开始合作。 几年来， 我做了首席科学家 我负责软件部门 在汉森机器人公司 后来我深入涉足 区块链领域时 我退出了那个项目 然后共同创立了SingularityNet

[7304.226-7314.663] SPEAKER_01: 大卫·汉森也是 SingularityNet的 联合创始人之一 我们在那边的一个目标是 为索菲亚 和其他汉森机器人 打造基于区块链的 云脑平台

[7314.963-7319.096] SPEAKER_00: 索菲亚只是SingularityNet里的 的机器人之一

[7319.396-7335.559] SPEAKER_01: 对对对，没错 索菲亚机器人的多个副本 会，你知道， 成为用户界面的一部分 面向全球各地 SingularityNet的云端思维 我的意思是， 大卫和我聊过这个， 联合创立SingularityNet前， 持续了相当久。

[7335.859-7348.272] SPEAKER_00: 顺便说一句， 在他和你的愿景里， 索菲亚是跟某个特定的 AI系统紧密耦合吗？ 还是说，想法可以接入， 你可以不断接进去 不同的AI系统 到它的大脑里？

[7348.572-7360.367] SPEAKER_01: 我觉得大卫的观点 一直是索菲亚 会成为一个平台， 很像Pepper机器人 是软银的平台， 应该变成平台。 这套API设计得很漂亮 谁都能拿来实验

[7360.447-7375.751] SPEAKER_01: 用他们不同的AI算法 在那个平台上 SingularityNet当然 正好合适，对吧？ 因为SingularityNet 它就是个API市场 谁都能把AI放上去 OpenCog有点不一样 我是说，David很喜欢它 但这是我的事 不是他的

[7375.831-7392.029] SPEAKER_01: David更热情 对生物学方法 在AI上比我 挺有道理的 我是说，他特喜欢人类生理学 和生物学 他是个角色雕刻师，对吧？ 对。 他对……感兴趣。 但他也做了很多工作 在规则方面 和逻辑AI系统方面。

[7392.109-7403.382] SPEAKER_01: 他也对 不仅仅是索菲亚， 而是所有汉森机器人 作为强大的社交 和情感机器人平台。 而且呢， 我从索菲亚身上看到 是一种方式， 让AI算法

[7403.462-7419.625] SPEAKER_01: 呈现在大量 不同的人面前 情感上很抓人。 而我的一些想法 确实有点抽象， 和通用AI伦理有关。 其实呢， 很多人都担心 AGI会奴役所有人 或是把人变成计算材料 用来造更多硬盘

[7419.705-7433.349] SPEAKER_01: 给它们的认知引擎用 之类的。 说实话，情感上， 我并不受驱使 那种偏执。 我本质上就是个乐观主义者。 但理智上呢， 我必须分配 一个非零概率 给那些糟糕的结果

[7433.429-7446.562] SPEAKER_01: 因为你在制造的东西 比你聪明十倍， 你怎么知道 它会做什么？ 这里有无法简化的不确定性。 就像我的狗没法预料 我明天要干嘛 所以我觉得 按我们目前的知识 最好的引导方式

[7446.642-7458.217] SPEAKER_01: 我们造的通用AI 走向仁慈 就给它们注入 爱和同情 就像对自家孩子那样 所以你想跟AI互动 从行善的角度 做有爱心和有益的事 这样一来

[7458.297-7476.587] SPEAKER_01: 就像你的孩子会学 通过一起做有同情心、有益 充满爱心的事 通过这样 AI在实践中学习 什么是有同情心 有爱又有益 它能形成根深蒂固的 直觉感知 然后它能抽象 用自己的方式 随着它越来越智能

[7476.667-7489.011] SPEAKER_01: 现在大卫也这么看 所以他起了这个名字 索菲亚，意思是智慧 所以在我看来 制造这些美丽有爱的机器人 很快推出 用在有益的地方 这是最好的办法 推出早期AGI系统

[7489.091-7508.610] SPEAKER_01: 让它们向人类学习 不只是学事实知识 而是学习人类的价值观和道德 向人们学习，并成为他们的 你知道，他们的家用服务机器人 他们的教育助手， 他们的护理机器人。 这就是宏伟愿景。 现在，如果你和机器人一起工作过， 现实完全不同了，对吧？

[7508.690-7526.246] SPEAKER_01: 比如第一个原则是 机器人总是坏。 我是说，我和机器人一起工作过 在90年代很多次 那时你得自己把它们焊起来。 我会把神经网络 在强化学习的时候 放在像翻倒的沙拉碗那种机器人上 90年代那会儿，我是教授。

[7526.326-7531.573] SPEAKER_01: 当然，进步了很多，不过…… 但原则还是成立。 是的，机器人总是坏的原则

[7531.873-7533.707] SPEAKER_00: 还是成立，对。

[7534.007-7550.347] SPEAKER_01: 对，所以面对现实 让索菲亚做事， 我很多机器人AGI的抱负 暂时搁置了 其实就是个实际问题 一个实际问题 让这个机器人互动 有意义地 因为就像，你懂的 你装了很棒的计算机视觉

[7550.427-7565.905] SPEAKER_01: 但总会有反光 或者你有个对话系统 但当时我在那里时 比如没有语音转文字算法 能处理香港 所有香港人的英语口音 所以语音转文字总很糟 所以机器人总显得很蠢 因为它没拿到正确文本，对吧？

[7565.985-7581.045] SPEAKER_01: 所以我开始觉得 就像软件工程里 你说的行走骨架 这个比喻可能不对。 用在索菲亚身上， 也可能没错。 行走骨架的意思是， 在软件开发中， 如果要搭一个复杂系统， 怎么开始？ 一种方法是先做好第一部分，

[7581.125-7597.126] SPEAKER_01: 再做第二部分， 然后第三部分，依次类推。 另一种是做个简单版本， 覆盖整个系统， 然后在每个位置放上， 系统需要的各个部分。 这样就有一个完整系统， 能做点事， 然后再改进每个部分， 在这个完整集成的系统里。

[7597.206-7610.618] SPEAKER_01: 这就是我们在索菲亚软件上做的。 我们做了个像行走骨架的软件系统。 有东西在看 有东西在听 有东西在动 有东西在记忆 有东西在学习 把每样东西简化版放进去 然后把它们全连起来

[7610.698-7623.610] SPEAKER_01: 这样系统就能工作了 那里有很多人工智能 那里没有通用人工智能 我是说，有计算机视觉 用来识别人脸 识别有人进出房间 判断两个人是否在一起 我是说，对话系统

[7623.690-7637.914] SPEAKER_01: 它混合了手工规则 和深度神经网络 它们自己生成回应 还有尝试构建叙事结构 并试图引导对话 故事要有开头、中间和结尾 还有这样的故事线 所以呢就是

[7638.214-7652.415] SPEAKER_00: 比如你看洛布纳奖 还有那些通过图灵测试的系统 它们其实很依赖规则 因为叙事结构 才能写出好对话 神经网络现在还做不到 就算谷歌的那个也不行 真要仔细看一整段对话 就是不行

[7652.715-7670.425] SPEAKER_01: 对，问题就在这儿 所以我们一直 我最近做了个实验 过去几周 用索菲亚聊天机器人 还有Facebook的Transformer 他们开放了模型 让它们俩聊天 在服务器上跑了几个星期。 真有趣。 我们在生成训练数据。 关于索菲亚说的话。

[7670.505-7686.413] SPEAKER_01: 在各种对话里。 但你能看到， 和索菲亚现在的聊天机器人比， Facebook的深度神经网络聊天机器人 能产生更多样的 听起来流畅的句子。 另一方面， 它疯狂东拉西扯。 索菲亚聊天机器人，

[7686.493-7698.047] SPEAKER_01: 它有点重复 在句子结构上。 另一方面， 它能保持对话的脉络 持续更久，对吧？ 所以嘛... 现在也许能克服它。 用Reformer 还用各种其他深度网络架构

[7698.127-7713.408] SPEAKER_01: 来改进Transformer的训练方式 但是 最后 没一个人真正理解 到底发生了什么 我是说 这就是Sophia给我的挑战 如果我在做AGI机器人项目 我想做个类似婴儿的机器人

[7713.488-7728.386] SPEAKER_01: 它只学习看到的东西 这样语言就有了基础 在机器人的经验里 但Sophia要做到的是 聊体育或者天气 或者机器人技术，或者她演讲的会议 比如，她要流利地谈论 世界上任何该死的事

[7728.466-7745.930] SPEAKER_01: 可她根本没基础 都是为了那些事。 所以就有这么个像是， 我是说，Google Mina 和 Facebook 上的聊天， 但我没有依据。 对他们说的内容也没有。 所以从某种意义上说， 流利谈论的需求， 关于那些没有非语言依据的事，

[7746.010-7751.652] SPEAKER_01: 推动了你为 Sophia 能做的事。 在短期内， 离 AGI 有点远。

[7751.952-7763.878] SPEAKER_00: 我是说，它把你推向 IBM Watson 那种情况， 那里你基本上得用启发式， 还有硬编码和基于规则的那一套。 我得问你这件事。 好的。 所以因为，你知道，

[7763.958-7772.897] SPEAKER_00: 部分原因是 Sophia 就像一件艺术创作， 因为它很美。 它是，她是—— 她的美在于激励人心。 因为我们爱把事物拟人化。

[7772.977-7774.648] SPEAKER_00: 立刻觉得那里有智能。

[7774.948-7777.873] SPEAKER_01: 因为大卫是伟大的雕塑家。

[7778.173-7785.498] SPEAKER_00: 他是伟大的雕塑家。 对。 所以其实， 如果索菲亚脑子里空空的， 什么也不说， 只是坐那， 我们也会赋予她智能。

[7785.798-7789.768] SPEAKER_01: 大家排长队等着自拍 每次演讲结束后。 对。

[7790.068-7803.329] SPEAKER_00: 是的。 所以它激发了人们的想象， 很多人的想象。 我本想说全世界， 但确实，我是说， 很多人和 几十亿人 真让人惊叹 太神奇了 对 现在 当然 很多人觉得索菲亚有更了不起的能力

[7803.409-7812.731] SPEAKER_00: 本质上就是通用人工智能的能力 一看到她 当然 比如扬·勒昆这个友好的法国人 立刻 立刻看到AGI社区的人 非常沮丧，因为 这可以理解 那么

[7812.811-7821.088] SPEAKER_00: 然后他们批评你这种人 你袖手旁观，什么都不说 基本就是让世界去想象 让世界继续被迷惑 那又怎样， 你的什么？

[7821.168-7824.859] SPEAKER_00: 你对那种烦恼啥感觉？ AI社区的那种烦恼？

[7825.159-7839.267] SPEAKER_01: 嗯， 我觉得我反应有几点。 首先， 如果我没加入汉森机器人公司， 也不认识大卫·汉森本人， 我一开始可能会很恼火， 对索菲亚也一样。 我的意思是， 我能理解这种反应。 我可能会想，

[7839.347-7853.351] SPEAKER_01: 等等， 这些蠢人以为这是AGI。 是的。 但它不是AGI， 但他们在欺骗大家， 说这个超酷的机器人是AGI。 现在我们这些人 你知道 正在筹钱造AGI 你知道 大家觉得它早就存在可行了

[7853.431-7864.611] SPEAKER_01: 对 所以说我 另一方面 我想就算我没直接参与 一旦我深入了解大卫和机器人 以及背后意图 我想我会停 很生气 不过 我猜 像扬·勒昆这种人

[7864.691-7869.497] SPEAKER_01: 他们之后还是生气 在他们的 在他们最初的 他们最初的反应

[7869.797-7871.584] SPEAKER_00: 那是他的事儿。 那是他的事儿。

[7871.884-7886.724] SPEAKER_01: 对。 我觉得 尤其是那一点，我觉得有点讽刺 因为杨立昆在脸书工作， 而脸书用机器学习编程 全世界人的大脑，导向空洞的消费主义 还有政治极端主义。 所以如果， 如果你道德上允许

[7886.804-7900.018] SPEAKER_01: 这么明目张胆地用机器学习搞破坏， 那为什么你的道德不让你用机器学习 来造一个可爱的戏剧机器人 把一些笨蛋吸引进它的戏剧幻觉里呢？ 比如说如果， 如果，

[7900.098-7914.125] SPEAKER_01: 如果反对来自约书亚·本吉奥， 我会更加谦卑 因为他 他没拿AI干坏事， 对吧？ 另一方面， 他也是个大好人， 而且懒得出去， 说别人不好， 无缘无故说别人工作差。 对吧，

[7914.425-7916.654] SPEAKER_00: 儿子？ 开火， 但我理解你。

[7916.954-7921.180] SPEAKER_01: 我是说， 那是， 我是说， 你要是问， 我会回答。

[7921.480-7922.490] SPEAKER_00: 不， 当然。

[7922.790-7938.930] SPEAKER_01: 估计我们会来回讨论。 我再跟Jan聊聊。 不过，我补充一句。 我是说， 大卫·汉森是个艺术家。 而且他经常即兴讲话。 我不同意他的观点。 我也不是全都同意。 大卫对索菲亚的言行。 大卫也不同意。 大卫自己说的做的一切。

[7939.010-7954.291] SPEAKER_01: 关于索菲亚。 这是个重要观点。 我是说， 大卫， 大卫是个艺术狂人。 而这， 这， 这是他魅力的一部分。 这， 这是他天赋的一部分。 所以当然有过一些对话。 在汉森机器人内部 还有我和大卫之间 我当时想， 咱们，

[7954.371-7965.600] SPEAKER_01: 对它运作方式更开放 我确实有点影响力 推动汉森公司 更开放讨论 索菲亚怎么运作的 而且， 大卫不太反对 而且你知道， 他其实说得很对 他说的是，

[7965.680-7982.563] SPEAKER_01: 准确告诉人们它怎么运作 他们不会在意 他们就想被带入幻觉 他百分百， 百分百正确 我跟你说 这不是索菲亚， 这位是菲利普·K·迪克， 但我们互动过。 在人跟菲利普·K·迪克机器人之间 在德州奥斯汀， 几年前。

[7982.643-8002.045] SPEAKER_01: 在这个例子里， 菲利普·K·迪克只是被远程操控， 由隔壁房间的人操控。 所以对话时， 我们没告诉大家这是远程操控的。 我们只是说， 和菲尔·迪克聊一聊。 我们， 我们会给你录像， 对吧？ 他们和菲利普·K·迪克聊得很棒， 是我朋友远程操控的， 斯特凡·贝盖。

[8002.125-8019.844] SPEAKER_01: 对话结束后， 我们把后面房间的人带过来了 去见斯特凡 他当时在操控菲利普·迪克机器人 但他们不信 当时他们态度是这样的 嗯，是啊 但我知道我在跟菲尔说话 也许斯特凡在打字

[8019.924-8030.245] SPEAKER_01: 但菲尔的灵魂在激发他 当他打字的时候 所以就像是 即使知道有人参与 甚至亲眼见到那个人 他们还是认定那是 菲尔 他们在跟他聊天

[8030.545-8034.573] SPEAKER_00: 对吧？ 我心底有点相信他们是对的 实际上 因为我们这么理解 嗯，

[8034.873-8046.624] SPEAKER_01: 其实我们并不了解宇宙。 事情就是这样。 我是说， 有一个宇宙意识场，我们都深陷其中， 它引发了世界上许多奇怪的同步事件， 这话题我们没时间细聊。

[8046.924-8061.183] SPEAKER_00: 我是说， 有的， 有一些本质， 我们对索菲亚的想象中有一些东西， 还有杨立昆这样的人对此很沮丧， 都是创造人工智能这美妙舞蹈的一部分， 这几乎是必须的。 你看波士顿动力公司， 我是它的超级粉丝，

[8061.263-8067.602] SPEAKER_00: 同样， 你知道的， 那种， 我是说， 这些机器人离智能还差得远。 我玩过他们最后一个，

[8067.902-8068.993] SPEAKER_01: 其实。

[8069.293-8071.603] SPEAKER_00: 用那个Spot菜单。 嗯，

[8071.903-8074.271] SPEAKER_01: 非常酷。 它反应很流畅灵活。

[8074.571-8077.984] SPEAKER_00: 但我们立刻觉得， 这种智能， 就是AGI了。

[8078.284-8082.986] SPEAKER_01: 嗯， 是的。 踢它一下，它摔倒就不动了。 你会觉得难过， 对吧？

[8083.286-8098.683] SPEAKER_00: 你忍不住。 我是说， 这就是， 这就是， 一部分。 这会是我们打造智能系统的一部分， 越来越多，越来越聪明。 就像索菲亚，一开始只是个行走骨架， 当你不断加入智能， 我是说， 我们得面对这种想法。

[8098.983-8116.063] SPEAKER_01: 确实如此。 说到索菲亚， 我会说， 我是说， 首先， 我并不反对扬·勒昆。 不， 不， 这没问题。 他是个好人。 如果他， 想玩媒体， 媒体调侃游戏， 我很乐意奉陪。 他是个优秀的研究者，也是好人。 我也很乐意和他共事。

[8116.143-8127.961] SPEAKER_01: 但我想说的是， 我讲清了索菲亚的工作原理。 我还在网上发过帖， 什么， H Plus杂志， 就是那个网络杂志。 我是说， 我发了篇详细文章解释。 比如，

[8128.041-8148.337] SPEAKER_01: 我们在索菲亚里用了三个软件系统。 有， 有个时间线编辑器， 像个基于规则的创作系统， 她只是人类脚本的输出。 有个聊天机器人， 它结合了规则和神经网络。 有时在索菲亚背后还用OpenCog， 那里学习能力更强。 学习和推理。

[8148.417-8163.500] SPEAKER_01: 还有， 你知道， 有趣的是，我不总能分清是哪个系统。 对吧？ 我是说， 所以当她—— 不管她是真学习还是思考， 或者， 或者只是像过了半小时， 我能分得清， 但经过三四分钟的互动， 我就分不清了。

[8163.800-8167.712] SPEAKER_00: 所以即使有三个系统，也很复杂， 你没法立刻分清。

[8168.012-8182.225] SPEAKER_01: 是的。 问题是， 就算你上台告诉大家索菲亚怎么运作， 然后他们跟她聊天， 他们仍觉得她更有自主性和意识。 比如， 比方说， 是的， 真的在那儿。 所以我觉得有， 那里有几层伦理问题。

[8182.305-8194.254] SPEAKER_01: 一个问题就是， 该不该坦白说索菲亚怎么， 在运作？ 而且我觉得你应该。 而且， 而且我觉得， 我觉得我们， 我们一直， 我的意思是， 我的意思是， 这就是，

[8194.334-8208.001] SPEAKER_01: 网上文章说电视节目里我解释了索菲亚的三个子系统。 所以索菲亚的工作方式是， 比Facebook的AI工作方式或其他东西清晰得多。 对吧？ 我是说， 我们， 我们讲得很明白了。 另一个问题是，

[8208.081-8220.935] SPEAKER_01: 既然告诉他们原理，他们还是会觉得它太智能。 那么， 那他们想被忽悠，你还继续忽悠吗？ 我是说， 你知道， 媒体行业都建立在， 整个行业都在忽悠那些想被忽悠的人。

[8221.015-8232.732] SPEAKER_01: 而我们， 我们百分百为了好的目标忽悠人。 我是说， 我是说， 我们正在， 我们利用同理心和同情心，提供好体验和热心机器人。 是的。 这样我们就可以，

[8232.812-8251.811] SPEAKER_01: 用爱与同情填满AI的内心。 所以我一直 我一直和汉森机器人公司谈了很多 最近 关于某个领域的合作 医疗机器人领域 而且我们 我们还没在这个领域启动项目 但是我们 我们可能很快就会这么做 所以我们一直

[8251.891-8270.516] SPEAKER_01: 我们一直在聊很多关于 你知道 机器人可以帮助 帮助老年人护理 机器人可以帮助孩子 大卫做过很多关于 关于自闭症治疗和机器人 之前的机器人 在新冠时代 有个能当护理助手的机器人，很有用。 机器人不会传染病毒，还能做很多。

[8270.596-8284.681] SPEAKER_01: 还能比人类护士更关心患者。 对吧？ 所以，如果有机器人在照顾新冠患者， 患者觉得机器人更理解、更同情、更有能力。 那确实，因为它长得像人。 我是说， 这真的很糟吗？ 我是说，

[8284.761-8301.725] SPEAKER_01: 我们可以说机器人不完全懂你， 但患者不在乎，正发烧躺着呢。 反而对那个充满爱意的、 温暖表情的机器人反应更好， 比对胡椒机器人，或者 金属外观的， 那种机器人反应好多了。 所以这， 这真的是， 看你怎用。 对吧？

[8301.805-8318.618] SPEAKER_01: 假如你造了个类人推销机器人，利用它的， 用它类人的外表来， 骗人们的钱， 那你就是在利用那种， 那种联系， 用一种不好的方式， 但你可以， 你也可以用它， 以一种， 以一种好的方式。 而那， 但那是一样的， 每种技术都有的同样问题， 对吧？

[8318.918-8329.517] SPEAKER_00: 说得好。 所以就像你说的， 我们活在新冠疫情时代。 这是2020年， 是近代史上最疯狂的年份之一。 所以如果， 如果缩小来看这场疫情，

[8329.597-8339.093] SPEAKER_00: 也就是新冠疫情， 或许我想问你一个问题， 一般意义上的病毒， 当你观察， 当你观察病毒时， 你会不会把它们看作 一种智能系统？

[8339.393-8350.294] SPEAKER_01: 智能这个概念其实并不自然。 我是说， 人类的心智和身体是复杂的自组织系统。 病毒当然也是这样， 对吧？ 它们是非常复杂的自组织适应系统。

[8350.374-8357.641] SPEAKER_01: 如果你把智能看作， 像Marcus Hooter定义的那样， 在可计算环境中优化奖励函数，

[8357.941-8359.949] SPEAKER_00: 那当然， 病毒正在这么做。

[8360.249-8375.692] SPEAKER_01: 对吧？ 而且， 我是说， 当时， 那时， 这么做时，他们， 他们造成了一些， 伤害了我们。 所以说， 他们， 你知道， 人体免疫系统复杂，能自组织适应， 很智能。 病毒也在适应，分出新变异，

[8375.772-8393.758] SPEAKER_01: 还有， 等等。 最后， 解决办法是纳米技术， 对吧？ 我是说， 我是说， 那个， 造微小纳米机器人来… 对抗病毒？ 或者… 嗯， 人们会用它们造更厉害的病毒， 但希望我们也能用它们来检测、 对抗、 并， 并杀死病毒。

[8393.838-8409.165] SPEAKER_01: 但我认为现在， 现在我们只能靠生物机制来， 来对抗这些， 这些病毒。 而且， 你知道， 我们一直， AGI还不够成熟。 不足以对抗新冠病毒。 但我们一直在用机器学习跟机器推理

[8409.245-8422.076] SPEAKER_01: 在OpenCog里帮医生做新冠个性化医疗 所以问题在于，根据基因组和临床 医学指标， 怎么找出哪种抗病毒药组合对新冠最 有效， 对那个人来说？ 所以，

[8422.156-8436.880] SPEAKER_01: 这就是机器学习有意思的地方， 但我们也在找抽象 我们发现OpenCog加机器推理很有意思，它能帮 案例少时做迁移学习， 以及不同病毒株之间，或不同年龄段新冠患者之间的

[8436.960-8438.492] SPEAKER_01: 定性差异。

[8438.792-8443.575] SPEAKER_00: 所以有很多零散数据要处理，而且数据集 很小，但需要整合它们。 你知道，

[8443.875-8458.773] SPEAKER_01: 这些数据很难获取，真让人尴尬 所以， 我的意思是， 我们和几个临床试验团队在合作。 他们按保密协议和我们共享数据。 但真正该做的，是每个新冠试验都

[8458.853-8474.227] SPEAKER_01: 把数据在线发布，加密保护患者隐私， 这样有AI算法的人就能帮忙分析。 分析这些数据。 生物学家也该能手动查看， 找出有用的信息。 可恰恰相反， 这些数据被锁在 做试验的医院里。

[8474.307-8491.945] SPEAKER_01: 这太蠢，也太荒谬了。 所以， 为什么 世界会这样运作？ 我是说， 原因我们都懂， 可事实就是这么疯狂。 你看这个羟氯喹， 就是羟氯喹。 对吧？ 所有临床试验都完成了。 是Surgisphere报告的。 一家谁都没听过的小公司。

[8492.025-8504.334] SPEAKER_01: 所有人都注意到了这点。 于是他们又做了更多试验。 然后他们停了这些试验。 然后又重新开始了。 这些数据为什么不公开，让每个人分析？ 到底发生了什么？ 对吧？

[8504.634-8512.319] SPEAKER_00: 你希望我们能继续前进吗？ 数据最终会为未来流行病公开吗？ 我是说， 你希望我们社会会朝着

[8512.619-8529.281] SPEAKER_01: 短期内不行，因为美国 和中国摩擦在加剧。 所以很难看到美国 和中国 朝互相公开数据的方向发展。 对吧？ 不是的。 有些数据共享， 但各小组会保留私有数据， 直到从中得到最佳结果， 然后才分享，

[8529.361-8544.282] SPEAKER_01: 对吧？ 所以， 嗯， 我们正处理一些搞到的数据， 做点有益世界的事。 这是个很酷的实验场， 用来结合深度神经网络和开放认知。 所以我们有个丰富的生物知识空间， 来自很多不同的生物实验，

[8544.362-8559.469] SPEAKER_01: 关于人类长寿和在线生物知识库。 我们可以做图向量嵌入， 从超图中提取节点， 把它们嵌入到向量里， 然后向量输入神经网络，用于不同... 不同类型的分析。 我们是在Rejuve项目里做这件事。

[8559.549-8576.049] SPEAKER_01: 从SingularityNet分出来的。 用于长寿研究， 做长寿分析， 比如搞懂为啥有人能活到105岁以上， 而其他人不行。 后来有了衍生项目Singularity Studio， 我们和几家 医疗保健公司合作， 做数据分析。

[8576.129-8588.029] SPEAKER_01: 为此搭建了bio-adm空间，用于商业化 和长寿数据分析。 现在把COVID数据也送进这个 bio-adm空间，用图嵌入 连接神经网络，做生物信息学。 所以，

[8588.109-8604.145] SPEAKER_01: bio-adm既是 一个很酷的测试场， 用来做生物AI学习和推理。 我们能看到别人看不到的东西。 这种情况下，每种抗病毒药组合， 可能只有少数患者试过那种组合。 那少数患者可能有各自的特点。

[8604.225-8617.451] SPEAKER_01: 比如三种药组合只在80岁以上试过。 另一种三种药组合， 和第一种有重叠， 更多用在年轻人身上。 那么，怎么把这些 不同的数据结合起来？ 这是个很棘手的迁移学习问题。

[8617.531-8636.132] SPEAKER_01: 而OpenCog的概率推理算法 比深神经网络更擅长这类问题。 另一方面， 有基因表达数据，含两万五千个基因 还有每人血液里各基因的表达水平。 所以这类数据， 无论深神经网络还是XGBoost、CatBoost这类工具，

[8636.212-8653.443] SPEAKER_01: 这些决策森林方法， 处理上比OpenCog更擅长。 因为这只是那些巨大的 这些混乱的浮点向量，逻辑引擎很难处理 但对决策森林或神经网络很合适 所以它是混合AI的绝佳试验场

[8653.523-8658.445] SPEAKER_01: 我们可以有奇点网络 一个用OpenCog，另一个用XGBoost

[8658.745-8660.881] SPEAKER_00: 它们可以互相交流

[8661.181-8670.701] SPEAKER_01: 但与此同时 它非常实用，对吧？ 因为我们正在和 比如说 这个项目的一些医生合作 他们来自Enthopinion组织 他们在温哥华和西雅图

[8670.781-8682.054] SPEAKER_01: 他们每天和垂死的新冠患者打交道 所以神经符号AI真的很酷 在关键时刻 努力拯救生命 我从2001年开始做生物AI 但主要是

[8682.134-8694.150] SPEAKER_01: 人类长寿和果蝇长寿的研究， 想弄明白为啥有些生物能活那么久。 第一次， 就像和时间赛跑，用AI来搞清楚那些，

[8694.230-8700.116] SPEAKER_01: 比如解决AI问题多花两个月， 就有人因为不知道用什么抗病毒药而死。 嗯。

[8700.416-8706.000] SPEAKER_00: 在社会层面， 在生物层面， 任何层面， 你觉得人类能扛过疫情吗？ 你整体怎么看？

[8706.300-8709.991] SPEAKER_01: 疫情一两个月就会消失。 已经有疫苗了。

[8710.291-8714.958] SPEAKER_00: 所以我的意思是， 那…… 但期间可能有很多痛苦和折磨。 可能不可逆了。

[8715.258-8725.451] SPEAKER_01: 如果在撒哈拉以南非洲待久了， 就会看到那里总有痛苦和折磨。 就像走在非洲大城市街头 到处都是人 就是说 成千上万

[8725.531-8736.107] SPEAKER_01: 路边躺着成千上万的人 死于能治的病，没吃没喝 要么被家人赶，要么自己走 不想传染给家人，对吧？ 就是说 世上一直有巨大苦难

[8736.187-8745.509] SPEAKER_01: 可发达国家的人根本不在乎 新冠远不是最糟的 每年多少人死于疟疾？ 就是说 新冠确实糟糕 但绝不是最糟的 先不说疾病 就是说

[8745.589-8757.280] SPEAKER_01: 很多地方，你可能 十几岁的儿子被民兵绑架 被迫在别人战争中送命 打仗 跟部落作战 我是说 所以人类问题一堆 以现在技术，这些问题本可避免

[8757.360-8771.248] SPEAKER_01: 我觉得新冠算比较容易解决的 因为很多优秀的人在研发疫苗 我们有技术造疫苗 还会造出新疫苗 更该担心的是，这么久还没搞定疟疾 尽管盖茨基金会等机构 投入了那么多

[8771.328-8779.373] SPEAKER_01: 那么多资金 我是说 显然整个全球医疗系统 全球卫生、政治和经济系统 极其不公，设计也烂

[8779.453-8789.170] SPEAKER_01: 而且我是说 我不知道怎么直接解决 我觉得我们可以间接解决这问题的方式 就是建立运行的系统 并行运行 并且在政府体系外运行

[8789.250-8803.776] SPEAKER_01: 那些名义上用军队和民兵控制世界的政府 并尽可能建立有同情心的点对点去中心化框架 来做事情 这些事可以从不受监管开始 然后在监管介入前获得牵引力

[8803.856-8822.399] SPEAKER_01: 那它们就影响了世界运作方式，对吧？ SingularityNet 致力于通过 用人工智能来实现这点 Rejuve 它是SingularityNet的衍生项目 你可以在rejuve.io上找到它 怎么拼写？ R E J U V E Rejuve.io 它旨在为医学做同样的事

[8822.479-8837.388] SPEAKER_01: 也就是一种点对点的医疗数据共享 所以，你可以把医疗数据存到安全钱包里。 你能得到健康长寿的建议。 通过Rejuve即将推出的应用。 然后SingularityNet AI分析所有数据。

[8837.468-8844.851] SPEAKER_01: 分析收益会分给所有成员。 当然，我也会推广自己的项目。 不管SingularityNet和Rejuve是不是答案，

[8844.931-8856.471] SPEAKER_01: 我觉得去中心化机制是关键。 我是说，对于AI、健康、政治， 还有工作就业和社会信息共享。 而且，只要去中心化的点对点方式

[8856.551-8867.011] SPEAKER_01: 以同情心为核心，形成势头， 就能减少政府的角色。 我觉得这样更可能带来好处， 而不是去改革全球政府体系。

[8867.091-8882.720] SPEAKER_01: 我是说，我很高兴别人在尝试改革 全球政府体系。 另一方面，你看互联网 或者谷歌、手机带来了多少好处， 就算你在搞去中心化的东西。 到处乱扔就会扎根。 政府就得适应。

[8882.800-8892.900] SPEAKER_01: 这就是我们要对AI和医疗做的。 这么看，医疗AI集中化 当然不理想，对吧？ 大多数AI博士都被，你懂的， 被五六到十来家大公司吸走。

[8892.980-8903.637] SPEAKER_01: 多数AI算力被大公司买走， 用在它们的专有产品上。 多数医学研究在几家药企内部。 药企做的临床试验 就留在那些药企内部。

[8903.937-8906.212] SPEAKER_00: 这些庞大的集中化实体，

[8906.512-8920.736] SPEAKER_01: 本身就是智能体，这些公司， 但多数是恶意、变态的 和反社会的智能体。 不是说里面的人这样， 而是公司作为自组织实体， 它们只关心股东价值，

[8920.816-8935.899] SPEAKER_01: 这就是唯一的目标。 意思是，AI和医学被卷进了这些病态企业，政府也合作。 和政府合作的企业组织。 谷歌跟英美政府合作，这只是其中一个例子。 只是众多例子中的一个。

[8935.979-8954.116] SPEAKER_01: 23andMe帮你测序DNA，然后授权给葛兰素史克。 然后把基因组授权给葛兰素史克。 独家授权，对吧？ 对。 现在你可以用自己的DNA做任何事。 但23andMe的DNA汇总数据库只归葛兰素史克。 只归葛兰素史克。

[8954.196-8977.688] SPEAKER_01: 别人可以联系每个在23andMe测过DNA的人，说： 把你的DNA给我们，用于我们开放去中心化的研究。 我们会向所有人提供这个数据库。 但没人这么做，因为组织起来很麻烦。 而且客户名单是23andMe的专有财产，对吧？ 有意思。 所以，对，我认为这对人类来说是AI带来的更大风险。

[8977.768-8992.375] SPEAKER_01: 比失控的AGI把宇宙变成回形针或计算材料还大。 而不是失控的通用AI把宇宙变成回形针或计算物质。 因为你这里大部分都是善良的人。 被卷入了某种组织模式。 对。

[8992.455-8997.865] SPEAKER_01: 这种模式的演变，不是任何个人的错。 只是社会演变的方式造成的。

[8998.165-9002.391] SPEAKER_00: 这不叫利他主义。 这是利己的，而且像你说的，变得反社会。

[9002.691-9014.312] SPEAKER_01: 就算人不是反社会，公司也是反社会的。 对，完全正确。 这就是它让人不安的地方。 因为公司可能做出对社会很有害的事。 哪怕没有人有恶意。

[9014.612-9019.581] SPEAKER_00: 对。 那家公司每个成员都没恶意。 不，有些人可能确实有。

[9019.881-9035.684] SPEAKER_01: 但对公司来说，他们不一定有恶意。 我是说，谷歌，我认识谷歌很多人。 除了极少数例外，他们都是很友善的人。 真心希望世界更好。 至于脸书，我认识的人少点，但可能也差不多。

[9035.764-9038.875] SPEAKER_01: 就像那些想做酷技术的年轻极客。

[9039.175-9046.558] SPEAKER_00: 其实我觉得，就算是领导者， 哪怕是扎克伯格，科技圈最不讨喜的人之一， 也想为世界做点好事。

[9046.858-9053.905] SPEAKER_01: 你怎么看杰米·戴蒙？ 杰米·戴蒙是谁？ 大银行头头可能心态不同。 哦，天哪，是啊。

[9054.205-9063.899] SPEAKER_00: 嗯，我对这些常天真，只看到好的一面。 我同意你，个人都想为世界做好事， 但公司机制有时会自成一套。

[9064.199-9075.472] SPEAKER_01: 我是说，有一个... 我表弟马里奥说， 他从1985年起就在微软干。 我能看到他，除了做酷项目之外， 你写的代码被几十亿人使用。

[9075.552-9091.239] SPEAKER_01: 而且你会想，如果我改进了这个功能， 那能让几十亿人生活更轻松，对吧？ 所以，当然，这很酷。 而且，你知道，工程师反正不管公司。 当然，就算你是扎克伯格或佩奇， 就是说，你仍有信托责任。

[9091.319-9103.407] SPEAKER_01: 你确实要对股东负责， 还要给员工发工资什么的。 所以，你确实陷在这个系统里。 而且，我在华盛顿工作那会儿， 跟陆军情报司令部合作过很多次。

[9103.487-9120.416] SPEAKER_01: 当时我很反对美军在伊拉克的行动， 比如在阿布格莱布监狱折磨人。 但我在陆军和情报司令部认识的人， 跟他们一起玩的时候，都是特别好的人。 他们对我很友善。 对我的孩子和狗也很好，对吧？ 他们真心相信美国在对抗邪恶。

[9120.496-9136.520] SPEAKER_01: 如果你问他们阿布格莱布的事，他们会说， 嗯，但这些阿拉伯人会剁了我们。 那你怎说我们用水刑就是错的？对吧？ 这比他们会对我们做的轻多了。 这只在他们世界观里， 他们做的一切确实是为了你好。 嗯。 这就是人性。

[9136.600-9147.118] SPEAKER_01: 没人早上醒来会说， 比如，“我要害好人，因为我坏。” 所以世上大多数人， 除了少数反社会人格， 大多数人都很有善意， 也愿意做好事。

[9147.198-9153.780] SPEAKER_01: 也很会说服自己， 无论他们想做什么， 或者对自己最有利的事， 就是为人类好，对吧？

[9154.080-9156.007] SPEAKER_00: 所以越分散控制……

[9156.307-9169.254] SPEAKER_01: 去中心化，民主挺糟糕， 就像丘吉尔说的， 这是最差的政治制度， 但其他体制更糟，对吧？ 我觉得整个人类的混乱， 有很多糟糕的地方， 但至今精英群体的记录

[9169.334-9183.512] SPEAKER_01: 谁知道什么对人类更好。 比历史记录差多了。 人类民主参与一团乱，对吧？ 我是说，没一个完美的。 关键是，一小群精英觉得他们知道什么最好。 就算一开始真的很仁慈，

[9183.592-9197.097] SPEAKER_01: 按着最初的善意做好事， 你会发现需要更多资源， 需要一个更大的组织， 你拉来更多人， 内部政治出现了， 意见分歧出现了， 还有贿赂， 就像一些对手组织那样， 现在抢了第二指挥权，

[9197.177-9211.993] SPEAKER_01: 想成为另一个组织的老大。 我是说，历史上有很多例子， 关于精英群体后来怎样， 觉得自己知道什么对人类最好。 所以，要是我必须选， 我无奈选择相信 群众又大又民主又分散

[9212.073-9224.324] SPEAKER_01: 而且我觉得企业记录显示 道德方面 比组成它的人更差 而且，你知道，民主政府 记录更复杂 但至少有一些 但这是我们最好的选择 对，我是说，你可以

[9224.404-9237.746] SPEAKER_01: 比如冰岛，很好的国家，对吧 我是说，八百多年来很民主 特别仁慈又有益的政府 而且我觉得，对，民主组织形式 有记录可查 比如Linux Linux的一些负责人

[9237.826-9252.642] SPEAKER_01: 公然是个十足的混蛋，对吧 而且很多情况下他们尝试自我改革 其他情况下就不是 但整体来说，这个组织 我觉得它做得很好 总的来说，它很欢迎 比如在第三世界国家 它让先进技术

[9252.722-9266.505] SPEAKER_01: 在各类嵌入式设备上推广开来 出现在人们买不起的地方 付费专有软件 所以我觉得互联网和Linux 以及很多民主国家 都是例子，说明某些开放的 去中心化的民主方法

[9266.585-9283.131] SPEAKER_01: 在道德上优于各部分的总和 而不是更差 而公司，这种情况只持续了 很短的一段时间 然后就会变质，对吧 我的意思是，大学也类似 比如大学是一种糟糕的方式 来组织研究和完成工作 但它比什么都好。

[9283.211-9296.135] SPEAKER_01: 我们想出来的，对吧？ 一家公司可以好很多， 但很短一段时间内， 然后它就没那么好了，对吧？ 所以我觉得如果你相信AGI 会慢慢出现的， 来自于AI在各地做实事，

[9296.215-9310.405] SPEAKER_01: 比如控制人形机器人， 或开车或诊断疾病， 或操作杀人无人机， 或监视人， 并向政府报告， 那什么样的组织， 创造越来越先进的 接近AGI的窄AI， 可能很重要

[9310.485-9325.371] SPEAKER_01: 因为它会引导，比如， 早期AGI的想法是什么 当它第一次获得能力时 把自己代码库重写一遍。 朝超级智能方向走。 如果你信人工智能 能走向通用智能 出于这种怀疑的、

[9325.451-9336.631] SPEAKER_01: 好多代理忙着互动 相互配合 不只是个人项目， 那谁掌控平台 给AI合作用 就显得特别重要，是吧？ 平台是AWS吗？ 还是谷歌云？ 或者阿里巴巴？

[9336.711-9351.760] SPEAKER_01: 还是更像互联网 或者SingularityNet， 开放又去中心？ 所以如果我那些怪招 都实现了，对吧？ 我说，还有汉森机器人。 用户界面很漂亮， 收集人类价值观信息 充满爱心和同情心

[9351.840-9368.363] SPEAKER_01: 面向医疗、家庭服务， 机器人办公领域的人。 后端有SingularityNet 连接多个人工智能 迈向合作智能， 为机器人提供能量， 以及其他很多事。 你有OpenCog 2.0和TrueAGI 是人工智能来源之一

[9368.443-9377.939] SPEAKER_01: 在去中心化网络中。 驱动机器人和医疗AI 让我们更长寿 并治愈疾病等。 这一切运作在 民主去中心化，对吗？

[9378.019-9390.711] SPEAKER_01: 如果有人能做到这样， 无论用什么技术 我提过，或者别的什么， 我是说，那我们几率更高， 走向有利的技术， 迈向奇点，而不是一个， 其中第一个超级AGI，

[9390.791-9394.842] SPEAKER_01: 对人类漠不关心， 只觉得我们低效， 分子利用。

[9395.142-9400.366] SPEAKER_00: 那是个优美的表述， 世界愿景。 所以很感谢。 好吧，我们聊聊， 关于生死。

[9400.666-9403.092] SPEAKER_01: 我支持生命，反对死亡。

[9403.392-9405.446] SPEAKER_00: 对大多数人来说。

[9405.746-9408.532] SPEAKER_01: 有些例外， 这里不提。

[9408.832-9409.830] SPEAKER_00: 我只是……

[9409.910-9413.300] SPEAKER_00: 我很高兴，像你父亲一样， 你站出来反对死亡。

[9413.380-9425.886] SPEAKER_00: 你有…… 对了，你有很多好音乐。 你在网上弹钢琴那地方。 有一首我猜是你写的， 歌词是这样的…… 对了，我喜欢它的声音。 大家都该听听。 太棒了。 我想过…… 我可能会翻唱它。 这歌不错。

[9425.966-9438.960] SPEAKER_00: 告诉我为啥你觉得我们会变老死去 是件好事？ 这是其中一首。 我喜欢它的声音。 不过先让我问问死亡的事。 你觉得死亡有没有一种东西 对赋予生命意义很重要？ 就像一切都会结束这个事实？

[9439.260-9450.930] SPEAKER_01: 好吧，我得说我挺开心。 还有点儿尴尬 你一直在听那曲子 我发网上的 太棒了 我最近有个遗憾 特希望有时间 好好做音乐 比如我都没碰过音序器 大概五年没碰音序器了

[9451.010-9460.785] SPEAKER_01: 特想排练制作编辑 但有个两岁娃 还要搞奇点 根本没时间 所以我就决定了 空闲时随手弹奏 直接录下来 直接录下来 随便发出去

[9460.865-9468.028] SPEAKER_01: 万一我哪天走了 说不定能当AGI的素材 当它试图精确上传我的意识时。 死亡是坏事。

[9468.328-9470.336] SPEAKER_00: 我是说，这很简单。

[9470.636-9488.146] SPEAKER_01: 奇怪的是我们还得这么说。 我是说，当然， 人能从死亡中找到意义。 如果有人受折磨， 也许能从那折磨中创造美好意义 再写一首关于 被折磨感受的优美诗歌，对吧？ 我是说，我们很有创造力。 我们能从最可怕最糟的事中

[9488.226-9503.507] SPEAKER_01: 找出美和积极。 但假如我被折磨， 我能写首好歌 关于被折磨的感受 并不能让折磨变美好。 但只因人们能从死亡中 找到意义和价值 不代表他们不会从 更好的意义和价值 来自没有死亡的永生，

[9503.587-9506.617] SPEAKER_01: 我非常… 不确定。 是的，是的。

[9506.917-9509.552] SPEAKER_00: 如果你能永生， 你会永生吗？ 永生。

[9509.852-9517.851] SPEAKER_01: 我研究长寿的目标 就是消除非自愿死亡。 人就不该死 除非他们想死。 如果非选强制永生 和死亡比，

[9517.931-9532.213] SPEAKER_01: 我选强制永生。 另一方面， 如果我能选永生 还能随时自杀， 我当然选那个。 那才更现实。 就是说，没理由 不该强迫你永生 你应该能活下去 直到活腻了，对吧？ 就是，那……

[9532.293-9547.133] SPEAKER_01: 五十年后 每个人都会明白 他们会非常…… 我是说，觉得 死亡给了生命意义 所以我们该死去的人 五十年后他们看这个 就像我们看公元一千年的 再洗礼派信徒 放弃一切职务 为耶稣爬上山顶

[9547.213-9549.221] SPEAKER_01: 等耶稣带他们升天

[9549.521-9552.156] SPEAKER_00: 我是说，觉得死亡好

[9552.456-9564.440] SPEAKER_01: 因为能得到更多智慧 太荒谬了 当你快死的时候。 我是说，这当然是真的。 我是说，我53了， 我可能只剩 也就几十年了， 确实让我换种方式思考。

[9564.520-9581.902] SPEAKER_01: 确实让我理解更深 对很多事情。 但是，那又怎样？ 你可以得到深刻理解 通过很多不同方式。 痛苦也一样。 我们会消除痛苦， 那更令人惊叹， 比消除死亡更惊人，对吧？ 我是说，等神经科学再好点，

[9581.982-9597.658] SPEAKER_01: 我们就能调节大脑， 这样痛苦就不痛了，对吧？ 而且你知道，有人会说不好， 因为其中太多美。 克服痛苦和苦难的时候。 当然，也有美。 克服折磨时也一样。 有些人喜欢自残， 但不多，对吧？ 我是说……

[9597.958-9613.726] SPEAKER_00: 挺有意思的。 但反驳就是回击， 再说一次，这是我俄罗斯的一面。 我确实把苦难浪漫化。 这并不明显。 按你的说法， 似乎很有道理。 把苦难浪漫化，挺荒谬的。 或痛苦或死亡。 但对我来说，没有苦难的世界， 没有痛苦，没有死亡，

[9613.806-9615.512] SPEAKER_00: 那个世界什么样不明显。

[9615.812-9619.538] SPEAKER_01: 那你可以留在人类动物园里， 和互相折磨的人们一起。

[9619.838-9627.558] SPEAKER_00: 不，我是說，我沒有... 嗯，那是... 我是想說， 如果面對那種選擇，我不知道 我會選什麼， 因為對我來說...

[9627.858-9636.693] SPEAKER_01: 不，這更微妙， 這是更微妙的事， 我在對話裡提到了， 方式太極端， 所以你該這樣想 就是，如果有個小旋鈕 在你頭的一側

[9636.773-9651.682] SPEAKER_01: 而且你能調節痛的程度， 調低到零， 調高到十一， 就像《搖滾萬萬歲》裡，如果你願意， 可能真的要脊髓穿刺，對吧？ 所以，我是說， 你會想要那個旋鈕嗎？ 问题就在这里。 问题不在于是不是

[9651.762-9660.446] SPEAKER_01: 你会一直把痛苦调到零。 你会装这个调节器吗？ 我猜，你人生某个黑暗时刻， 你会装上这个调节器， 然后它就在那儿。

[9660.746-9671.543] SPEAKER_00: 坦白说件小事， 别问我为什么， 但我在进行身体挑战， 我每天做 680个俯卧撑和引体向上。 对对， 我肩膀现在， 就咱俩坐这儿时， 特别疼。

[9671.623-9678.728] SPEAKER_00: 我不知道。 我现在肯定， 你要给我调节器， 我会把那玩意儿调到零。 尽快。 好的。 但我觉得这趟旅程的 真正意义在于，

[9679.028-9683.254] SPEAKER_01: 我不知道。 因为你是个扭曲的人。 我就是个扭曲的人。

[9683.554-9692.958] SPEAKER_00: 所以问题是， 我是不是有点扭曲， 因为给自己编了套故事， 好应对世间的不公 和苦难？ 还是这真的会成为 我幸福的来源？

[9693.258-9707.517] SPEAKER_01: 这个嘛， 某种程度上， 是咱人类要 探索的问题，对吧？ 没错。 人类。 它确实有特别的生物结构 这嘛 某种程度上说 有一定的概率分布 在动机系统上，对吧？ 所以呢，我们其实

[9707.597-9709.744] SPEAKER_01: 这个确实存在。

[9710.044-9710.821] SPEAKER_00: 说得对。

[9711.121-9726.530] SPEAKER_01: 是存在的。 现在问题是， 这种形态能多灵活变化 随着社会和技术变化，对吧？ 所以如果有那个旋钮 而且我们有个社会 比如说，里面 我们不用为生计打工 而且有一种普遍存在的

[9726.610-9743.412] SPEAKER_01: 去中心化的善意人工智能网络 会提醒我们 在我们快要伤害自己的时候， 你知道，要是环境不同， 我们能不能始终一样？ 完全作为人的话， 我们能不能进入一种意识状态， 在这种状态下，只想把痛苦调到

[9743.492-9756.695] SPEAKER_01: 最低点， 但我们过得很有价值 而且充实，对吧？ 现在，我猜答案是肯定的， 我们能做到， 但我不知道 这个我不确定。 这是个研究问题，就像你说的。 这点我不确定。 嗯，不。 我更确定 我们可以创造

[9756.775-9771.324] SPEAKER_01: 一个非人类的通用AI系统， 它根本不需要痛感机制。 而且我觉得那个AGI系统 本质上更健康 而且比人类更仁慈 所以我觉得 可能是真的，也可能不是 人类需要一定程度的痛苦

[9771.404-9784.163] SPEAKER_01: 才能成为满足的人 这符合人类生理学 如果是真的 那是其中之一 让我们陷入困境并被淘汰 成为超级AGI，对吧？ 我是说， 人类动机系统的本质

[9784.243-9797.689] SPEAKER_01: 是 我们好像倾向于那些 在大尺度上最好的东西 而不是小尺度上的最佳 按我们的主观价值系统 所以我们倾向于主观价值判断 为了在大尺度上满足自己

[9797.769-9812.969] SPEAKER_01: 小事上别太满足自己。 我们这样做的关键在于， 音乐里就能看到这点。 有个音乐理论， 它说音乐美学的关键， 就是期待意外满足。 比如你想要个东西， 能满足预期， 音乐前半部分唤起的那种预期，

[9813.049-9828.609] SPEAKER_01: 但方式有点转折， 让你惊讶。 我的意思是， 这不光适用于 像我的户外音乐， 或者扎帕的， 或者史蒂夫·范的， 或者桶头的， 或者潘德雷茨基之类的。 甚至莫扎特的作品也是如此。 电梯音乐就不太明显了。

[9828.689-9843.424] SPEAKER_01: 但这正是它无聊的原因，对吧？ 但里面包着的是， 你知道， 我们想受点伤， 这样痛就能消失。 就像我们想有点困惑， 对接下来会发生什么。 所以当那发生时， 后面的事就合理了。 这多让人满足，对吧？

[9843.504-9844.177] SPEAKER_01: 而且——

[9844.477-9856.623] SPEAKER_00: 就是惊喜地实现期待。 你是这意思吗？ 对，对，对。 说得真好。 有没有一个， 我们一直有点回避， 但如果我问你， 最夸张的大问题， 生命的意义是什么？ 你的答案是什么？

[9856.923-9871.902] SPEAKER_01: 三个价值： 快乐、成长，还有选择。 我觉得你需要快乐， 我是说， 这是一切的基础， 如果你要最重要的价值。 另一方面， 我不满足于快乐一成不变， 那种没有进步的快乐，

[9871.982-9887.042] SPEAKER_01: 也许是人类天生固执。 但是，不断成长， 变得越来越好， 越来越完善——这想法， 吸引着我。 但我也喜欢个性， 作为独立的系统， 我有自己的主动性。 所以有个因果枢纽， 所以这里有个因果纽带。

[9887.122-9897.060] SPEAKER_01: 在这个系统里， 而不是因果完全均匀分布 在快乐增长的群体上。 所以起点是快乐、成长和选择。 三个基本价值观。

[9897.360-9907.878] SPEAKER_00: 这三样可以一直持续。 那是永远可持续的。 你说的东西，有某个方面吗？ 我很喜欢， 超长寿命让你兴奋？ 从研究角度看， 那个领域有什么想法？

[9908.178-9918.638] SPEAKER_01: 我觉得，是的， 说到生命的意义， 这确实有关联。 因为对人类来说， 获得最大快乐、 成长和选择，可能靠超人类主义。 超越现在的人类形态， 对吧？

[9918.718-9931.732] SPEAKER_01: 我是说，人体太棒了。 而且没人能发挥到极致。 快乐、成长和选择的潜力。 就在我们身体里。 另一方面， 很明显，别的物质形式。 能展现更多快乐、

[9931.812-9944.782] SPEAKER_01: 成长和选择，超越人类。 也许还能找到超越物质领域的办法。 按我们现在的理解。 所以从实际来看， 我在人类生活中看到很多意义。 是创造比人类更棒的东西。 并超越它。

[9944.862-9960.689] SPEAKER_01: 超越人类生活。 但对我来说，这不是全部。 实际来说，对吧？ 比如，我有四个孩子和一个孙女。 还有好多朋友、父母和家人。 只是享受日常社交生活。 不过我们还能做得更好。 是啊，没错。 我是说，我爱... 我一直...

[9960.769-9972.042] SPEAKER_01: 当我能住在自然附近时， 我会常去户外， 每天在林间、水上。 所以，享受快乐时光 是其中一部分。 但成长和选择方面， 受人类生物学的限制。

[9972.122-9981.700] SPEAKER_01: 尤其是死亡，似乎极大抑制了 个人成长的潜力。 就我们所知，我是说， 也许有来世。 但就算有， 为何不在生物学领域继续？对吧？

[9981.780-9991.776] SPEAKER_01: 而超级长寿，我是说， 我们还没治愈衰老。 我们还没治愈死亡。 各方面都有很棒的进展。 CRISPR和基因编辑 真是个不可思议的工具。

[9991.856-10004.409] SPEAKER_01: 干细胞现在 可能让寿命大大延长。 比如注射干细胞， 注射到身体的每个组织， 每个组织都注入， 就能替换 用新细胞换掉旧细胞， 这些干细胞产生的。

[10004.489-10018.667] SPEAKER_01: 这可能会非常有影响， 对延长寿命来说。 现在技术还得再好一点， 让它们生长，对吧？ 用机器学习 指导干细胞分化 和转分化过程， 虽然有点复杂琐碎。 但这确实很有意思。

[10018.747-10029.161] SPEAKER_01: 所以我觉得有很多不同的办法 都在用来帮助延长 人类的寿命。 但我们还能做得更好。 比如，细胞外基质， 它是一组蛋白质 在细胞之间，

[10029.241-10042.885] SPEAKER_01: 年纪大了，它们就越来越硬。 细胞外基质传递信息 既有电信号，也有机械信号， 还通过生物光子学。 所以这些传递 在全身进行。 但基质越僵硬， 传递就越少，

[10042.965-10059.500] SPEAKER_01: 身体协调性变差， 器官之间也不协调了。 所以我朋友克里斯蒂安·沙夫迈斯特 在我的校友组织里， 我母校天普大学。 Christian Schaffmeister 有个潜在方案， 他搞出了这些新型分子 叫螺旋配体聚合物，

[10059.580-10074.826] SPEAKER_01: 像聚合物但非有机。 专门设计的聚合物， 让你能用算法预测 它们怎么折叠。 于是他设计了分子剪刀， 这些剪刀带螺旋配体聚合物，可以吃， 然后切断所有葡萄糖胺（glucosapine） 和其他交联蛋白

[10074.906-10090.233] SPEAKER_01: 在你细胞外基质里。 但要真让这技术起作用 并成熟，还得几年。 据我所知，现在没人资助。 所以有很多不同方法 科技能用来延寿。 我们需要一个整合数据库， 包含人类全部生物学知识

[10090.313-10108.383] SPEAKER_01: 和模式生物信息。 就像是希望大规模分布 开放生物原子空间 但它也能以其他形式存在 我们需要把这些数据公开 但要保护隐私 我们需要大量资金投入机器学习 通用人工智能及原始统计研究

[10108.463-10124.777] SPEAKER_01: 旨在解决生物学问题 包括分子和人类生物学 基于这个庞大的数据集对吧 然后我们需要监管机构 别阻止人们尝试激进疗法 他们愿意的话在自己身上 以及更好的云计算平台

[10124.857-10140.776] SPEAKER_01: 用于微生物自动化实验 果蝇老鼠等等 我们能做到这一切 上次金融危机之后 奥巴马我挺喜欢他 但他给了大型银行4万亿美元 还有保险公司， 现在这场疫情中， 数万亿美元正在被花掉

[10140.856-10158.203] SPEAKER_01: 帮助普通民众和小企业。 最后可能还有数万亿美元 正流向大型银行 还有保险公司，不管怎样。 比如，全球能否投入十万亿美元 用来构建大规模整体生物人工智能 和生物模拟 还有实验生物学基础设施？ 我们可以。

[10158.283-10174.887] SPEAKER_01: 我们可以把十万亿投进去 甚至不会把我们搞太糟， 就像最后新冠疫情 和上次金融危机 不会把世界经济搞太糟一样。 我们并没有把十万亿美元 投进去。 相反，所有这些研究都是孤立的 少数大公司内部 还有政府机构里头。

[10174.967-10188.669] SPEAKER_01: 而且大多来自 我们个人的身体数据，就个人来说， 这些数据能用来训练AI， 来解决衰老和死亡问题， 这些数据基本都存 在某家医院的数据库， 闲置着，对吧？

[10188.969-10201.092] SPEAKER_00: 我还有两个小问题想请教你。 第一，我知道很多人 会问我， 你在乔·罗根那节目上 戴着那顶很酷的帽子。 那顶帽子有啥来历吗？ 帽子背后有没有什么故事， 你愿意聊聊吗？

[10201.392-10206.442] SPEAKER_01: 帽子故事还没讲过呢， 所以咱们下次再来， 你可以采访这顶帽子。

[10206.522-10211.932] SPEAKER_01: 帽子采访的事，就留给它自己说吧。 几秒内塞太多内容了。

[10212.232-10216.481] SPEAKER_00: 有本书吗？ 帽子要写书吗？ 好的。 它能传输信息。

[10216.781-10219.335] SPEAKER_01: 通过神经直接传输。 好的。

[10219.635-10232.942] SPEAKER_00: 实际上，可能会有 一些神经链接在竞争。 很美。 就当它是谜吧。 最后一个问题。 如果你建个AGI系统， 你成功造出了 一个能带我们到奇点的AGI系统， 带我们走向奇点。

[10233.022-10236.087] SPEAKER_00: 然后你可以跟她聊， 问她一个问题， 你会问什么？

[10236.387-10239.231] SPEAKER_01: 我们不准问， 我该问什么问题？

[10239.531-10242.479] SPEAKER_00: 是啊，那算作弊， 可我觉得那问题不错。

[10242.779-10253.541] SPEAKER_01: 我跟斯特凡·布加伊写过个故事 故事里那群AI开发者 搞了个超级智能AI，想 解答所有困扰他们的 哲学问题， 比如生命的意义是啥？

[10253.621-10265.393] SPEAKER_01: 有自由意志吗？ 意识是什么？ 诸如此类。 于是他们造出了超级通用AI 它运行了一会儿。 它说，这些都特蠢。 然后它上了宇宙飞船 离开了地球。

[10265.693-10267.167] SPEAKER_00: 所以你怕吓跑它。

[10267.467-10275.663] SPEAKER_01: 就是这样，没错。 说实话， 没有一个问题 能让所有人共鸣。 其他所有问题，真的。 我更感兴趣的是 提升自己的智力

[10275.743-10285.367] SPEAKER_01: 来吸收整个世界观 超级通用人工智能。 当然了， 如果答案可能是， 化学式是什么 长生不老药的？ 那我会照做 或者发射比特串，

[10285.447-10292.087] SPEAKER_01: 那将是代码 用于超级通用人工智能 在英特尔i7上。 所以那些是好问题。

[10292.387-10302.789] SPEAKER_00: 所以如果心智扩展 变得超级智能， 就像你说的， 我的意思是，有种看法认为 智力是个负担， 可能 智力越高， 你提到的 那个快乐指标

[10302.869-10304.622] SPEAKER_00: 就越难实现。

[10304.922-10307.116] SPEAKER_01: 你觉得呢？ 这想法挺傻的。

[10307.416-10310.643] SPEAKER_00: 所以你觉得要是特聪明， 也能特快乐吗？

[10310.943-10325.133] SPEAKER_01: 我觉得能获得 大脑的根权限 会带来现在没有的 新形式的快乐。 而且我觉得， 就像我之前说的， 我真正想要的是 制造多个版本的自己。 所以我想留一个版本， 基本像我一样是人类，

[10325.213-10338.102] SPEAKER_01: 基本像我现在这样， 但保留调节疼痛的旋钮， 并且消除死亡，对吧？ 然后做另一个版本， 把它的思想融合， 和超人通用人工智能， 然后变得超级超人类。

[10338.182-10358.490] SPEAKER_01: 它会不会把信息传回来， 给人类的我还是不？ 会发现很有趣。 问题是， 一旦你成为超级通用AI， 比如一个主观秒， 对人类来说， 可能等于数百万主观年， 对那个超级通用AI来说，对吧？ 所以它的基础完全不同。 我是说， 至少这两个副本 都挺有用的

[10358.570-10374.594] SPEAKER_01: 但可能也挺有意思 把你的想法放进海豚 或者太空变形虫 或者其他各种东西里 你可以设想一个版本 每年智力翻一倍 另一个版本 最快变成超级AGI 对吧？ 所以我是说 现在好像我们被限制 觉得一个心灵

[10374.674-10388.980] SPEAKER_01: 一个心灵、一个自我、一个身体，是吧？ 可我觉得其实 我们不用这么受限 想未来智能的时候 当我们掌握了AGI 还有纳米技术以后 还有长寿生物学。 我是说，我们每个人的心智

[10389.060-10403.331] SPEAKER_01: 是某种组织模式，对吧？ 我知道我们还没讨论意识， 但我有点， 我是泛心论者。 我有点觉得宇宙 是有意识的。 所以，你知道， 一个灯泡或一个夸克 或蚂蚁、虫子或猴子 都有各自的表现 的意识。

[10403.411-10417.972] SPEAKER_01: 而人类的表现 的意识， 部分与 特定的肉身 我们通过它来表现， 但很大程度上与 组织模式有关 在大脑里，对吧？ 那如果你上传自己 到电脑或机器人里 或者别的什么东西，

[10418.052-10432.149] SPEAKER_01: 你意识里的某些东西 可能不在了 因为它只跟 生物形态有关。 但我觉得大部分还在。 这些会是 你意识的化身 形式略有不同。 而且，你知道， 创造这些不同版本 会很神奇。 而每一个都会发现

[10432.229-10445.281] SPEAKER_01: 生命的意义 会有一些重合， 但可能不完全一样 跟人类原本的意义。 生命的意义？ 问题是， 要到那个未来， 那儿我们能探索 不同的快乐， 不同的变体，

[10445.361-10460.061] SPEAKER_01: 人类经验和价值观， 以及超人类经验和价值观， 要到那个未来， 我们得穿越 一堆人类的糟粕， 公司政府的， 还有杀人无人机， 还有赚钱赔钱， 等等，对吧？ 这就是

[10460.141-10476.118] SPEAKER_01: 我们现在的挑战： 要是做对了， 我们能达到一个仁慈的奇点， 那是各种层次的快乐。 成长与选择 简直难以想象 对人类来说 要是做错了事 我们可能会毁灭 地球上的所有生命 或者造成一种局面 比如

[10476.198-10489.888] SPEAKER_01: 人类全被毁灭 而某个超级AGI 继续干自己的事 跟我们没关系 除了创造它时我们的角色 我们可能正处在 分岔点上，对吧？ 我们现在做的 对未来的结果 影响重大

[10489.968-10506.178] SPEAKER_01: 不过 地球上大多数人 根本没那样想过。 他们只想着， 自己那点狭隘的， 狭隘的目标和目的，是吧？ 当然了，现在 我也或多或少 想着自己那点狭隘的目标和目的， 不过我会尽量 用我的精力和思维

[10506.258-10517.650] SPEAKER_01: 去推动 这个更善良的选择， 这对我有好处， 对别人也有好处。 奇怪，没几个人理解 正在发生什么。 我知道你采访过马斯克， 他了解 很多正在发生的事，

[10517.730-10532.070] SPEAKER_01: 但他更偏执。 但他更多疑。 比我聪明，对吧？ 埃隆知道，AGI 会比人类聪明很多很多。 而且他知道，AGI 不一定在乎 人类， 因为我们是种很原始的形式 的物质形式， 和很多AGI相比。

[10532.150-10543.968] SPEAKER_01: 但他没什么清晰愿景， 怎么给早期AGI注入 同情心和人文关怀， 从而得到一个AGI， 热爱并帮助人类， 而不是把我们当 历史文物， 以及一个

[10544.048-10546.497] SPEAKER_01: 物质能量的浪费。 但另一方面，

[10546.797-10549.745] SPEAKER_00: 虽然我跟他有分歧， 感觉他好像懂了

[10550.045-10566.475] SPEAKER_01: 远超故事的其他部分 比几乎所有人都多 在这么大场面中 企业高管职位，对吧？ 现在对这些基础问题 理解得太少了 真糟糕 不过五到十年后 情况可能不同 因为大家对AGI和长寿 以及其他类似问题的理解

[10566.555-10577.816] SPEAKER_01: 现在确实比 十年前 要强得多 也普遍多了，对吧？ 我的意思是，人类 整体来说 学得很慢 比我预期的慢 但从历史来看， 另一方面， 可以说进步

[10577.896-10579.649] SPEAKER_01: 快得惊人。

[10579.949-10594.092] SPEAKER_00: 但埃隆也说过， 我记得在乔·罗根的播客上， 爱是答案。 所以也许从这个角度， 你跟他看法一致。 关于怎么推进AGI。 没有比这更好的收尾了。 希望下次再聊， 关于帽子、意识，

[10594.172-10601.613] SPEAKER_00: 还有很多没聊的话题。 本，能跟你聊天很荣幸。 谢谢你抽空来。 谢谢今天的聊天。 我真的很喜欢。

[10601.913-10609.877] SPEAKER_01: 谢谢邀请我。 这真的非常有趣。 我们来深挖一下 一些特别重要的事。 所以谢谢你这么做。 非常感谢你。

[10610.177-10624.343] SPEAKER_00: 太棒了。 谢谢收听这次对话 和Ben Goertzel的对话。 也谢谢我们的赞助商， Jordan Harbinger节目和Masterclass。 请支持我们播客 访问jordanharbinger.com 并注册Masterclass 在masterclass.com

[10624.423-10638.798] SPEAKER_00: 点击链接购买内容。 这是支持播客最好的方式 还有我现在的旅程 研究创业途中。 如果你喜欢这些内容， 在YouTube上订阅， 在Apple Podcast打五星评价。 在Patreon上支持我。 或在推特上联系我。

[10638.878-10649.770] SPEAKER_00: Lex Friedman，拼写没字母E， 就是F-R-I-D-M-A-N。 你迟早会明白的。 最后送你几句话， 来自Ben Goertzel。 情感词汇太粗糙了。 这就是音乐的意义。 感谢收听。

[10649.850-10650.685] SPEAKER_00: 下回再见。

[10650.765-10651.357] SPEAKER_00: 再见。