Podcast Script (zh)
[0.120-8.061] SPEAKER_01: 我再问一次：智力是什么？它支撑着 聊《危险边缘》时，你怎么看智力？ 这问题够复杂吗？能靠推理解决吗？
[8.141-10.834] SPEAKER_01: 这是你理解的智能？我觉得
[11.134-19.133] SPEAKER_02: 智力分两种：预测能力，比如我有 问题，我能预测接下来怎样？不管 答案，或者我观察市场动态告诉你
[19.213-25.819] SPEAKER_02: 接下来怎样，或在房间有人进来要 预测他们下一步，在高度动态的
[26.119-28.649] SPEAKER_01: 充满不确定的环境里
[28.949-36.716] SPEAKER_02: 变量越多越复杂，可能性越多， 但能否用少量数据学习模式，然后 准确预测下一步？这当然是种
[37.016-41.845] SPEAKER_01: 智力。那需要什么？需要理解 世界运作，才能延伸到未来，对吧？
[42.145-51.769] SPEAKER_02: 那你需要什么？需要理解世界运作 预测需要什么？看你怎么理解，我需要 找到函数——像深度学习：给足够多数据， 并告诉我重要的输出变量，
[51.849-65.005] SPEAKER_02: 我就能预测它。如果我能，你也会 准确一点，我更常做对。用更少数据和时间，那才聪明。 训练时间短，我就更聪明。 如果我能搞清什么值得预测。
[65.085-75.777] SPEAKER_02: 我更聪明了，就是在找哪条路能到目标。 那选目标呢？抱歉又提，但挺有趣，算是一种。 有趣的是，这时候就要说你被预设要做啥。我们谈。
[75.857-87.710] SPEAKER_02: 人类嘛，被预设要生存，所以主要目标，你知道。 驱动目标，需要做什么来实现，可能非常复杂。 而且复杂，对吧？不只是弄明白要逃离。
[87.790-98.006] SPEAKER_02: 凶猛老虎，但我们在社会里生存，比如，所以理解。 社会动态的细微差别很重要，关乎生存、找伴侣、繁殖，对吧？所以。
[98.086-112.752] SPEAKER_02: 我们总面对复杂变量、约束、规则，如果你愿意这么说。 那就是我们，或者说模式。 我们学习找函数预测事物，换句话说，表征模式。 高效预测未来，那是一种智能。
[112.832-120.750] SPEAKER_02: 它不需要记忆，只需找函数预测正确结果，不需要别的。 找函数预测正确结果，当然是智能，但然后。
[120.830-132.883] SPEAKER_02: 当我们说，我们互相理解吗？你会认为我比预测更智能吗？我能预测，但不能清楚表达过程，预测背后的理论是什么？ 你觉得我比那种预测能力更聪明吗？我现在能预测，但不算真的。
[132.963-136.736] SPEAKER_02: 我来聊聊经历的过程，还有预测背后的理论。
[136.816-151.656] SPEAKER_02: 你模式匹配不同，我无法让你懂，沟通断。你聪明但解释不了预测，我难认。 如果你没有我这样的正确模式匹配机制 我们就可能陷入沟通断裂，实际上要
[151.736-155.462] SPEAKER_02: 发现我很聪明，但对你来说是外星智能，你很
[155.762-162.600] SPEAKER_01: 聪明但没人知。好吧，我看到输出像这样，所以你说 咱们把两件事分开：你解释为啥能预测
[162.680-168.589] SPEAKER_01: 未来；二是让我觉得你聪明，让我 知道预测对了，你觉得好，但并不是
[168.889-179.024] SPEAKER_02: 让你觉得我聪明。换句话说，你可能会信 某种程度上，因为我预测能力，我看着手说，哇 哇，你说得对，你更正确，你在做有趣
[179.104-187.788] SPEAKER_02: 的事，那是智慧的表现。但接下来如果我说 你怎么做到的？你无法沟通描述，那我 可能叫你天才，说你做的事很奇怪，而且
[187.868-198.630] SPEAKER_02: 对我来说没趣，因为你我不真交流，所以现在 有趣的是，你处于奇怪位置：要像我一样被认可聪明 像我一样聪明 对 那你 对
[198.710-208.172] SPEAKER_02: 然后我们就能沟通，慢慢互相理解了。 然后我的尊重、欣赏和联系能力变了。 所以现在你不再是外星智慧，而是人类智慧了，因为
[208.252-218.622] SPEAKER_02: 你能和我沟通，所以当我们看待动物时 比如动物能做我们不太理解的事，我们不清楚它们 是怎么做到的，但它们没法真正和我们沟通，无法把经历
[218.702-228.396] SPEAKER_02: 用我们的话讲出来，所以觉得它们像外星智慧 它们不一定值得重视，所以我们对待方式不同 但这很难，谁知道到底发生了什么，所以快速
[228.696-238.796] SPEAKER_01: 阐述一下，解释你有智慧，解释推理 它、它、它…… 它只是你按自己的方式管理模型 这就是我的问题，问题是，证明就像我们的
[238.876-239.723] SPEAKER_01: 常见
[239.803-242.450] SPEAKER_01: 论点 嗯 你最初用的……
[242.750-252.386] SPEAKER_02: 归根结底，那才是证明。 我的意思是，甚至数学证明也一样。 因为归根结底，其他数学家 要说服别人相信你的证明。
[252.466-266.516] SPEAKER_02: 不然的话，其实之前也发生过… 这就是成功的标准。 对，已经有了好几个证明。 数学家们会花很长时间研究。 才能确定它到底证明了什么。 你永远搞不清它证明了什么。 直到数学界都承认它才行。 但这确实是真的。
[266.596-280.507] SPEAKER_02: 关键就在这，对吧？ 最终呢，你知道， 理解这个概念， 我们理解某件事， 其实是个社会性的概念。 也就是说，得说服足够多人。 我用合理的方式完成了。 用一种别人能懂的方式。
[280.587-295.787] SPEAKER_02: 还能重复，对他们也合理。 所以人类智慧就是这样关联的。 从这个意义上说，我们紧密相连。 我们其实从未真正逃脱 直到我们能说服…… 说服别人，我们的想法是有道理的。
[296.087-304.364] SPEAKER_01: 你觉得智能的基本问题 也是社会建构吗？ 所以，如果我们问AI系统， 它智能吗？ 答案最终是社会建构的概念。
[304.664-318.970] SPEAKER_02: 我认为…… 所以我在说两点。 我们可以试着定义智能 用特别客观的方式 也就是说…… 有这些数据。 我想预测这类事。 学习这个函数。 如果你做对了， 足够多次，我们就认为你很智能。
[319.050-320.745] SPEAKER_02: 但这更像是个博学者。
[320.825-333.656] SPEAKER_02: 我觉得是的。 这不表示它没用。 它可能很有用。 它在解决其他方法解决不了的问题。 而且比我们更可靠。 但接下来有个概念， 人类能不能为…… 对你做的决定负责？
[333.736-341.561] SPEAKER_02: 我们能自己做决定吗？ 我们能理解你经历的过程吗？ 现在，作为代理的你， 不管你是机器还是人，老实说，
[341.641-354.411] SPEAKER_02: 都有义务让我明白， 你是怎么得出那个答案的， 并允许我，或者一个社区， 或一群裁判来决定， 这合不合理。 顺便说，人类之间也会这样。
[354.491-358.461] SPEAKER_02: 你坐下来， 比如，你和员工坐下来， 问下一步该怎么做。
[358.541-374.103] SPEAKER_02: 然后有人说， 哦，我觉得你该买 而且我觉得得买这么多 或者随便卖啥都行 或者我觉得你该今明两天推出 或者推这个而不是那个 不管决定是啥 然后你问为啥 然后那人说， 我就是感觉挺好 但你不太满意
[374.183-380.742] SPEAKER_02: 现在，那人可能是… 你可能说，嗯，你以前对过 但这是在冒公司风险
[380.822-384.072] SPEAKER_02: 你能解释我为啥该信吗
[384.372-387.762] SPEAKER_01: 而且解释可能跟事实无关 你只是…
[388.062-391.405] SPEAKER_02: 得说服别人 它仍然可能错
[391.705-394.770] SPEAKER_01: 它依然可能错 得让人信服。
[395.070-408.133] SPEAKER_02: 但最终得让人信服。 所以我说它… 我们紧紧相连，对吧？ 可以说，我们的智慧是连着的。 咱们得互相理解。 比如，你跟我解释， 我是说，这点很重要，对吧？ 你给了我解释。
[408.213-409.722] SPEAKER_02: 可我不擅长。
[409.802-418.068] SPEAKER_02: 而且我不太会推理， 也不够客观， 还做不到逻辑一致。 我不善于衡量， 也不擅长算概率这些。 结果就是，整体上，
[418.148-419.715] SPEAKER_02: 我们做不好。
[420.015-427.793] SPEAKER_01: 这有多难？ 那个问题有多难？ 第二个。 先聊聊第一个。 在某个客观指标上表现好。 能解释步骤和推理过程。
[427.873-429.800] SPEAKER_01: 那个问题有多难？
[430.100-431.748] SPEAKER_02: 我觉得非常难。
[432.048-439.373] SPEAKER_01: 我是说，我觉得…… 嗯，对人类来说很难。 对人难的事，你知道， 电脑不一定难，反之亦然。
[439.453-443.040] SPEAKER_01: 所以，抱歉。 那对电脑来说，多难？
[443.340-450.642] SPEAKER_02: 我觉得对电脑很难。 我提到这个 或者说对人也不容易。 是因为我觉得退一步看， 并且想设计电脑来做这件事，
[450.722-460.416] SPEAKER_02: 要认识到一点， 我们不确定怎么做好。 对。 我们不确定有现成方法。 就算你想学它， 我们也不清楚用了哪些数据
[460.496-470.399] SPEAKER_02: 还有我们怎么判断才能学好它。 所以我的意思是 如果你看看科学事业， 科学应该讲客观推理和理性。 对。 所以我们想想谁最聪明，
[470.479-483.043] SPEAKER_02: 或者最聪明的一群人。 我们会想到那些学者， 他们闭着眼就能报个数字？ 我们会想到智库 或者科学家、哲学家， 他们仔细研究细节， 写论文， 并给出周密逻辑证明，
[483.123-485.897] SPEAKER_02: 使用科学方法。 我觉得是后者。
[485.977-502.117] SPEAKER_02: 我的观点是 你怎么训练别人做到这一点？ 这就是我说难的原因。 你怎么 培训人的过程是什么 才能做好那件事？ 这是个艰难的过程。 我们作为社会 我们非常努力让别人 理解我们的想法 然后说服他们相信某些事
[502.197-506.887] SPEAKER_02: 现在我们可以说服他们 我们讨论过这个 比如人的缺陷或弱点 我们可以用情感说服他们
[506.967-521.749] SPEAKER_02: 但让他们理解 连接并遵循逻辑论证 很困难 所以我们用了非常规方法 我们增加了更多目标 我们尝试像科学家一样做 我们像记者一样做 我们尽量去做，你知道 我们尽量去做，你知道 甚至各种艺术家 作为作家和教师
[521.829-524.673] SPEAKER_02: 我们经历很重要的培训
[524.753-529.280] SPEAKER_02: 来做这件事 然后我们可以问 嗯，为什么这么难
[529.360-532.250] SPEAKER_02: 但这很难 对人类来说，工作量很大
[532.330-535.522] SPEAKER_02: 当我们退后一步说 退后一步说，嗯
[535.822-544.448] SPEAKER_01: 这件事棘手，怎么开始解决？也许快速 暂停，你描述里透着乐观，那就是 能用理性解释。但你看那些推荐
[544.528-550.727] SPEAKER_01: 无论Facebook、谷歌还是广告公司 你知道，他们目标就是让你买东西。所以可能是
[550.807-559.827] SPEAKER_01: 理性，好广告展示你真正需要的东西 并解释为什么需要，也可能情感操纵 描述算法解释某个原因或决定
[559.907-566.954] SPEAKER_01: 用情感操控做事有多难？究竟是好是坏？ 事情？所以你更注重理性逻辑，清晰解释为什么好。
[567.034-572.955] SPEAKER_01: 好的，首先这是人做的事吗？其次你怎么看？ 推理和情感操控有什么区别？
[573.255-581.579] SPEAKER_02: 嗯，你管它叫情感操控，但客观来说，本质就是…… 就是说，有些特征会吸引你的注意力。
[581.879-585.303] SPEAKER_01: 我会给你更多这种。 操控这个词不好。
[585.603-600.245] SPEAKER_02: 对，我不是说它好坏，它确实能吸引你注意。 还能让你买东西，想到那些查看模式。 算法模式，你好像会花钱的那些特征。 然后说，我给你一些东西。 给你相似模式的，所以我要学那个功能。
[600.325-604.272] SPEAKER_02: 因为目标就是让你点或买，不管是什么。
[604.352-610.122] SPEAKER_02: 不知道，反正算法就是这样做的。 你可以争论好坏，取决于你的目标。 你的目标是什么。
[610.422-613.312] SPEAKER_01: 我觉得这对说服和讲故事很有用。
[613.612-616.421] SPEAKER_02: 为了说服人类。
[616.721-617.289] SPEAKER_01: 是的。
[617.589-623.393] SPEAKER_02: 好是因为你，又回到人类怎么。 人类行为是怎样的？什么？ 大脑怎么反应事物？
[623.473-637.697] SPEAKER_02: 我觉得更乐观的看法是，如果你在搜索 特定东西，你推理出需要它们。算法 会说，是否需要，取决于你的推理。 那是你的事。你可能会不健康沉迷。
[637.777-639.948] SPEAKER_02: 或者你有经过推理的
[640.028-656.156] SPEAKER_02: 解释， 说明为什么重要。算法会说，嘿，随便， 你的问题。我只知道你在买类似的东西。你对类似感 兴趣。好理由或坏理由。取决于你。我会继续展示 更多。我认为没有好坏之分，
[656.236-662.505] SPEAKER_02: 也没推理之分。算法只做该做的，就是说， 你似乎感兴趣。给你看更多类似。
[662.585-675.172] SPEAKER_02: 我觉得不光是购物，社交媒体上你读 这类东西。我不评判好坏。不推理。我 只说，给你看其他相似特征的东西，然后， 就这样。我不管了。我说，就是全部， 情况。
[675.472-686.234] SPEAKER_01: 你知道吗，大家对AI很苛刻。第一，性能标准是 极高。但社交媒体上，我们希望它们帮我们找到更好的一面。 并帮我们建设更好社会。你怎么看？
[686.314-689.622] SPEAKER_01: 我同意。这很有趣，对吧？因为一方面，
[689.922-693.230] SPEAKER_02: 我们坐在那里做简单的部分，就是找模式。
[693.310-709.078] SPEAKER_02: 我们不是在构建一个能被理解的理论， 而且能被别人理解，可以解释和论证。 一方面，人们会说，AI在做这个，为什么不做那个 事情？嗯，还有其他更难的事。思考为什么更难很有趣。
[709.158-720.967] SPEAKER_02: 为什么更难？因为你在解释，在语境中解释数据， 基于之前的模型。也就是理解什么重要、什么不重要。 什么不重要。还有其他驱动决策的抽象特征，什么是
[721.047-735.225] SPEAKER_02: 合理、不合理、好、坏、道德、有价值。 它是什么？那些东西在哪？没人用这种解释。 所以看到你点击一堆东西，我只看着简单特征， 原始特征，就是数据中的特征，比如用了哪些词
[735.305-738.938] SPEAKER_02: 或者材料多长，或者其他表面特征，比如颜色
[739.018-750.375] SPEAKER_02: 在材料里？比如，我不知道你为什么点这些， 或者如果是产品，价格多少，类别等等。 比如产品的话，价格、类别这些。 我就是反复喂你一样的东西。这很不同。
[750.455-762.529] SPEAKER_02: 而不是深入去问：这什么意思？你读的那些， 为什么读？你带了什么假设？这些假设 合理吗？材料本身有意义吗？它有没有带你得出深思熟虑的
[762.609-770.236] SPEAKER_02: 好的结论？再说，这过程涉及判断、诠释和评价 但现在的AI并没有真正参与其中。
[770.316-781.612] SPEAKER_02: 这更难，因为你要开始触及这些内容的意义 你要理解人类如何根据他们的价值观 和深层思维过程来解释内容。所以，意义不只是
[781.912-785.464] SPEAKER_01: 是陈述的深层永恒语义，还包括
[785.544-789.317] SPEAKER_01: 人们怎么思考和理解。我试图接触目标时，
[789.397-792.322] SPEAKER_01: 这很常见，我会分析谈论
[792.622-799.402] SPEAKER_02: 那些难以置信的英语核心内容多具攻击性。我试图讨论
[799.482-804.683] SPEAKER_02: 宗教人士用慎重的词表达他们想要什么，或希望我相信什么。
[804.763-817.188] SPEAKER_02: 就像哈德勒斯神父说的，更广的人群可能会解读。 所以，再说一次，意义也是一种社会构建。 对创作者来说，意义甚至不同。随着我们追求更严谨交流，
[817.268-827.542] SPEAKER_02: 我们努力锁定那个意义。所以从抽象艺术转向精确的 数学、精确的工程图纸等等。我们真正想说， 我想缩小解释空间，因为精确性
[827.622-836.004] SPEAKER_02: 沟通越来越重要，所以我必须 详细来说，我觉得就是这个难处。因为如果我只展示 一件人工制品，你只是粗略看，不管是文字还是
[836.084-843.003] SPEAKER_02: 画布上的笔触或照片像素，你可以坐在那儿 从不同层次用多种方式解读。
[843.083-854.591] SPEAKER_02: 但要想理解一致，我必须指定更多东西 这些并不直接存在于人工制品。现在我得说，嗯，你怎么解读 这张图像和那张？还有颜色，对你意味着什么？
[854.671-861.416] SPEAKER_02: 你带来什么视角？你之前对这些 人工制品有什么经验？基本假设和价值观呢？
[861.496-878.809] SPEAKER_02: 你如何推理，把逻辑串联起来，当你 坐在那儿说，嗯，如果是这样，我就得这个结论。而且 如果是那样，我就得那个结论。所以你的推理过程以及它们如何 运作，你之前的模型和内容，价值观和假设，所有这些
[878.889-882.534] SPEAKER_02: 现在都汇聚到解读中。让它们同步很难。
[882.834-892.795] SPEAKER_01: 但人类能凭直觉理解其中一些，无需任何预先... 因为他们有共同经历。 我们不是说两个人有共同经历。我是说，作为一个社会。
[893.095-907.946] SPEAKER_02: 没错。我们有共同经历，有相似大脑。所以我们 倾向于……换句话说，共同经历的一部分是共享的局部经历。 我们可能生活在同样文化和社会里，所以有 相似的教育背景，还有我们叫‘先前模型’的过往经验
[908.026-920.286] SPEAKER_02: 先前的经验，我们把它看作一个…… 广泛的相互关联变量，都跟相似事物相关，而且 以此为背景，开始相似地解读事物。但作为人类，
[920.366-934.881] SPEAKER_02: 我们有很多共同经历。我们有相似的大脑、目标和 相似情境下的情绪，因为都是人。所以之前你提的一个 问题是，生物信息系统和计算机信息系统本质上有什么不同？ 不同？
[934.961-941.381] SPEAKER_02: 嗯，人类天生有很多预设程序，大量程序化内容， 他们能交流，因为拥有很多共享的内容。
[941.681-957.287] SPEAKER_01: 他们和朋友共享空间，都知道怎么做。他们只是拿着 手机过来，简单做两件事：放个东西，然后 Det 队列。 就像在做计算机学习，看起来像在执行任务。 是的。 因为我们希望有人看到他们在做什么。 是的。 完全正确。
[957.367-963.787] SPEAKER_01: 我们希望当地人和我们一起研究。 但在我看来，这挺相似的…… 对咱们？ 嗯，是的。