Transcription
感谢您加入改变世界的“印度首个未来科技与可持续性播客”。今天，我非常荣幸地邀请到 Arna 先生。他是一位助理教授，任职于卡内基梅隆大学的机器学习系，同时也是神经科学研究所的联合教职成员，并兼任机器人研究所的客座教授。他的神经代理实验室致力于神经科学与人工智能的交叉领域，通过逆向工程动物智能来构建下一代自主代理。此前，他曾在麻省理工学院担任博士后研究员。他获得了斯坦福大学神经科学专业的博士学位，博士导师为 Dian yens 和 Surya Gangi。他还拥有斯坦福大学计算机科学硕士学位，主修数学，辅修符号系统。我们今天的讨论主题是“逆向工程动物智能以构建下一代自主代理”。Arna，我非常非常感谢您抽出宝贵时间参加播客。我想从大型语言模型开始，您认为大型语言模型存在哪些问题？您认为规模化是否能带来您所说的智能机器或通用人工智能，还是您需要一种完全不同的方法，就像您和您这样的研究人员正在探索的，比如神经人工智能方法？
是的，很高兴来到这里，这是一个非常棒的问题。当我思考这些问题时，我想说的是，原则上，规模化当然可以带来智能行为。根据通用逼近定理，如果你有一个无限宽的 MLP 和足够的数据，你可以拟合任何函数。因此，如果智能是一个函数，那么原则上它可以被拟合。但在实践中，情况则大不相同。我们经常处理有限的数据量，并且需要更小的样本量才能让通用逼近定理保证任何有用的东西。这就是归纳偏置发挥如此重要作用的地方。在实践中，即使拥有互联网规模的数据，一个两层的 MLP（通用逼近定理所提出的良好架构）也并不好用。因此，我们需要变得聪明，并想出像 CNN 或 Transformer 这样的良好归纳偏置，正如我们在语言领域所看到的。那些正在进行测试时推理的人，例如，可以绘制出继续改进 LLM 所需数据的曲线。关键在于，所需数据的量将远远超过我们所有人能够投入的资源，才能使其成为唯一的解决方案。因此，虽然原则上规模化绝对是通往智能的一种可能途径，但它本身并不是一条实用的途径，至少不是我们试图复制的那种通用智能，比如大脑所做的。我认为需要两件事。我先从一个相对较小的事情开始，那就是，也许对于语言或类似语言的任务，其中 token 是离散的，每个 token 都具有非常具有语义意义的属性。我们有单词，它们本身就很容易相互关联，这可能是 Transformer 作为归纳偏置的一个相当不错的选择，特别是注意力机制，多层和多头注意力。当涉及到其他领域，比如视觉或具身，就像在机器人领域，token 的概念开始变得重要，而且非常不同且更难。目前，在这些其他领域中，一种非常普遍的对模型进行 token 化处理的方式是随机裁剪图像块，这不像语言中的单词那样具有语义意义。而且，在这种情况下，规模化法则并没有像在语言领域那样有利。我们取得了一些进展，但最终，在视觉 Transformer 完成任务和学习表示方面，即使是与标准 CNN 相比更好地匹配大脑，在智能方面或匹配大脑方面都没有带来任何改进。我认为这根本原因在于需要新的架构和新的 token 化策略，至少如果我们想这样称呼它们的话。但实际上是需要这些其他领域，如视觉和具身，需要更好的规模化架构。像特斯拉这样的公司可以收集大量数据，他们拥有来自其汽车在世界各地行驶的数百年视频数据。所以数据不是这里的限制，而是当前的架构根本无法扩展。原则上可以，就像你说的，一个两层的 MLP 就够了。但在实践中，即使是这些 Transformer 架构似乎也不足以实际扩展，而这才是关键，即实际扩展。所以这是其中一个领域，比如，在视觉和机器人领域，具有正确架构的预训练仍然需要一些改进。这是第一点，我认为这很重要，它将是基础性的，而且我认为这是更短期的事情。第二点是长期的，我认为需要发生一种范式转变，那就是我们需要超越预训练。我将其视为一种回归，我总是将事物与大脑联系起来，以及大脑是如何演化的。例如，我开始思考预训练，人们抱怨说这些模型使用了大量数据进行预训练，但实际上，与人类相比，这个论点被忽略了。人类已经进化了，我们所有动物都进化了数十亿年，这是我们被掩盖的事情，它都在我们的基因组中。然后我们发展并学会与世界互动，平均而言相当完美。所以我认为这种大规模预训练实际上只是在做一种更快的解决方案。反向传播是寻找解决方案的好方法，我认为这是构建智能系统的第一步。换句话说，在实践中，扩展和预训练就是你所需要的一切，但抱歉，原则上是这样，但实践中并非如此。而且，这不仅在视觉和具身领域似乎是这样，我认为我们还需要超越预训练。归根结底，当你与世界互动时，你将不断遇到训练数据中没有的分布外的东西，而仅仅是继续添加到预训练数据中就违背了智能的意义，即利用你迄今为止在基因组和预训练中所获得的东西，然后进行推断。我认为更深层次的教训是，我们从神经科学中也学到了几十年的知识，即大脑在很大程度上是一个模块化系统。换句话说，存在相互作用的子系统，它们通过互动和发展相互更新。我认为这是目前构建自主代理最关键的缺失环节之一。预训练可能很棒，我认为大规模预训练可能是获得这些独立模块的方式，但我们仍然需要弄清楚，我们不仅需要为视觉模块和可能为运动模块找到更好的架构和损失函数，而且即使我们做到了，我认为仍然还有另一个阶段，那就是现在你需要让这些模块以有趣的方式相互作用。这催生了寻找代理的通用认知架构，这就是我们在这里试图弄清楚的，通过回归大脑，我们有一个蓝图，试图做这种逆向工程策略，即什么是代理架构的原则，这些原则在物种之间是保守的，而且，不同物种之间的差异产生了不同的能力。这根植于更广泛的智能科学，你正在构建机器，同时也在与大脑进行比较，以便在构建终身学习代理的过程中更好地理解这些通用架构。
很有趣，Arna。您能告诉我，当您谈论逆向工程动物智能以构建下一代自主代理时，您是如何进行的？您的方法是什么？您在模拟哪些动物？因为目前，我们已经完成了人类连接组项目，我们有了大脑类器官，谷歌已经绘制了人脑的立方毫米图。目前，在连接组领域，我们只绘制了果蝇。当您谈论逆向工程动物时，您是否在关注特定的动物？过程是怎样的？
这是一个非常好的问题。目前，我们主要关注那些我们可以获得全脑数据的动物。随着神经技术的发展，我们可以这样做的动物的数量和类型正在改变。所以，目前，在非常短的短期内，我们专注于果蝇，就像您提到的，它有它的连接组，还有斑马鱼。这些是鱼类，当它们是幼虫时，它们的头骨实际上是透明的，所以你可以看到它们的大脑，并在它们活动时对其进行成像。在我过去的许多工作中，我曾处理过小鼠数据、猴子数据甚至人类数据。我的博士研究主要是为了首先尝试理解是否存在一种逆向工程语言。也就是说，如果我给你大脑数据，我们能否推断出这些大脑数据正在发生什么？在高级层面，从功能上看，发生了什么？哪些算法与这些大脑数据最一致？打个比方，如果你试图逆向工程一台计算机，你可以想象在计算机运行程序时记录晶体管的电压。你收集所有这些数据，这实际上就是神经科学所做的。它将电极插入大脑的这些电子元件中，并获取这些电压。关键在于，你不能仅仅盯着这些数据来推断发生了什么，在很多情况下，只有在足够简单的情况下才能做到，但不能普遍做到。解决办法是实际拿走计算机，拿走你拥有数据的那个大脑，在旁边建造另一台计算机，运行那个程序，看看这些晶体管输出或芯片输出与你正在比较的真实系统之间是否存在任何相似之处。在计算神经科学中，我们正在构建一个模型，在这种情况下是一个人工神经网络，它由任务（如损失函数和数据集）以及架构和学习规则来参数化，我们对其进行优化。这是对进化的模拟，基本上是进化的代理。然后我们问，这些内部组件是否与大脑匹配？经验表明，我们不仅可以从人类或灵长类动物等有趣的动物身上学到很多关于大脑的知识，而且它也可以跨越物种界限，在啮齿动物身上也是如此。我的许多工作以及其他人的工作表明，存在一种通用的任务优化策略，如果你用正确的归纳偏置为正确的任务优化神经网络，你就可以以合理的准确度恢复与大脑匹配的系统的内部结构，跨越物种和大脑区域。
我们的大脑非常复杂，有 80 亿个神经元，100 万亿个突触。它们的放电和连接方式带来了我们所有的五种感官：视觉、听觉、触觉、嗅觉和味觉。这与动物有什么不同？而且，大脑数据非常嘈杂且混乱。机器学习更喜欢干净的数据。这些技术挑战是什么？您如何克服这些技术挑战？
是的，绝对是。这是一个很好的问题。这最终归结为定义一个比较指标，即什么才算模型与大脑的良好匹配。这分为两个阶段。第一阶段是，是的，绝对是。神经元具有固有的变异性。例如，研究大脑的一个难点是，与模型不同，你不能简单地传递相同的输入，它就会输出相同的东西。你不需要那样做，这是模型的优势，它更可靠、更可重现。在大脑中，我们没有这种情况。存在固有的随机性。所以我们实际上会考虑，神经科学家们会做艰苦的工作，收集大脑数据，他们会收集同一条件下的多个试验。这就是你如何获得神经元固有变异性的统计估计，即在每次试验中，神经元与自身内部的一致性如何。这就像一个基线，你进行校正，基本上是除以它。所以你知道，无论我期望的变异性如何，至少是相对于神经元内部的一致性。但在宏观层面上，更重要的是，还存在大脑之间的进化变异性。换句话说，如果我查看同一个大脑区域，即使我尽了最大努力将电极放在完全相同的位置，在其他动物的大脑中也是如此，我也不能保证它们会完全相同，即使大脑完全确定性，在最佳情况下，神经元的内部一致性为 1.0。我仍然不能保证它们不会有一些变异性，因为归根结底，这些大脑是进化的，会存在自然的个体差异。所以，我和我的合著者 Janelle Feather, Minaki Kosta 和 Ratan Mty 最近发布了一个名为“神经人工智能图灵测试”的东西。其关键原则是，给定一个进行内部一致性校正的度量标准，你考虑了神经元是可变的这一事实。你想要匹配的主要基线上限是，模型应该像大脑之间一样好。换句话说，大脑在输出、行为或策略方面会有变异性，在内部计算方面也会有。我们希望考虑这种变异性，衡量这种变异性，并说模型至少应该像大脑之间一样好。这就是我们如何同时考虑大脑固有的随机性以及大脑中可能出现的真正核心功能差异。所以我们知道，这不仅仅是因为我们搞错了模型，也是因为大脑在一定变异性范围内是相当不同的。
您能谈谈您的神经代理实验室以及您在构建这些具身代理方面的最新工作吗？您提到您曾与小鼠模型、猴子和人类合作，以及虚拟现实的作用，因为您相信您在虚拟现实中进行训练？我们很乐意听您讲。
是的，实际上，我将从虚拟现实开始，因为它为很多讨论奠定了基础。有一段时间，我一直在纠结是直接尝试构建真实的硬件机器人，还是在模拟环境中开发这些东西。随着时间的推移，我因为多种原因最终选择了模拟。首先，在科学领域，尤其是在这个领域，一切都如此未知，我称之为智能科学，即神经科学与人工智能和认知科学的交叉领域，试图理解智能是如何产生的，无论是生物学上的还是工程上的。在这里寻找的主要东西是快速失败。而且，动物的身体类型差异很大。有四足动物，它们的四肢与身体质量的比例不同，或者像我们一样是双足的。所以，你不可能建造出能够提供很多约束的东西。归根结底，大脑接收输入，什么是代理？它接收输入并产生动作输出。这些输出将通过身体进行过滤，身体将形成巨大的约束。而目前的硬件机器人技术还不够好，而且非常脆弱。我们甚至连好的算法都想不出来，每次我们做一些事情时，我们都会弄坏这些机器人。不仅如此，即使我们没有弄坏它们，硬件本身也相当有限，我认为这会对问题施加过多的约束。最后，在现实世界中，有世界的时钟时间，你无法加快它，你也无法快速失败。换句话说，在最好的情况下，你可能比进化快一点，但那太慢了。所以，最好将它们放在模拟环境中，使用生物力学上逼真的身体，这些身体可以在模拟环境中更容易地开发和控制。科学的关键在于你是否能控制许多变量，你可以在模拟环境中做到，但在现实世界中很难做到。然而，最终的真正考验是在现实世界中。所以我确实相信我们应该这样做，模拟到现实，等等。但就弄清楚基本原理而言，我认为模拟是最佳途径。还有一个额外的优势是，实际上，许多神经科学实验也在虚拟现实中进行。例如，现在人们想研究导航，他们不会真的去建造一个非常复杂的盒子，里面有很多不同的塔让老鼠进去。有些人可能会这样做，但总的来说，实际上更容易让老鼠在一个跑步机上，然后投射一个 VR 屏幕，然后编程不同的障碍物和事物。这非常好，因为它不仅给了实验者控制权，而且当我们去测试这些模型与大脑数据时，我们可以将其置于尽可能相同的场景中，因为那也是在 VR 中收集的。所以我们可以直接将其移植过来。这减少了过去实验到模型测试的差距，当时人们大多在现实世界中进行实验。所以，我认为 VR 非常重要。另一个方面是，最终，当我们构建这些代理时，很多 VR 中的测试首先是，我们是否得到了正确的行为？在我们甚至将其与大脑进行比较之前，它是否真的表现出我们知道动物表现出的可靠行为？例如，强化学习的一个大挑战，特别是端到端的强化学习，即从头开始训练，往往并不可靠。你训练了一个策略，然后要么需要很长时间，即使在最好的情况下，它确实收敛了，但使用不同的种子和不同的环境，它可能会表现出非常不同且不可预测的事情。而动物则可以产生非常可靠的刻板行为。例如，动物会学会最终放弃，不再消耗它们的能量资源。它们有内在的驱动力去学会相当可靠地放弃，在一定时间内。我们现在在 RL 代理中并没有真正看到这一点。例如，RL 代理的一个问题是试图弄清楚那些内在的驱动力是什么，因为很多 RL，不像围棋和象棋那样有明确的外部奖励，真实世界的环境没有那种奖励。它们依赖于进化赋予的内在驱动力才能做得好。我们只是试图首先逆向工程它，并获得可靠的行为，然后再做其他事情。基本上，在将这些代理的内部与全脑数据进行比较之前，我们只是想看看我们是否能获得可靠的行为，作为第一步。这本身就已经是一个挑战，对我们来说非常有趣。
模拟到现实世界的转移是如何发生的？那里的挑战是什么？因为模拟显然非常酷，可以进行调整和训练模型。从模拟到现实世界的转移挑战是什么？当你逆向工程动物以构建自主代理时，你模拟过的最疯狂的动物行为是什么？
这是一个很好的问题。所以，在第一部分，模拟到现实的主要挑战不仅是标准的机器人技术挑战，比如光照变化、阴影变化。例如，阴影在现实世界中非常重要，我们并不总是真正考虑模拟中的情况。太阳在某个角度会影响仅仅是视觉系统。但另一个方面是，更具体地说，我们所做的，我们使用的生物力学上逼真的身体具有非常高的自由度，比如几百甚至上千个自由度。我认为 Spot 机器人最多也就几十个自由度，这对于机器人来说已经很高了。但在模拟中，自由度要高得多。所以，如果我想把它放在一个四足动物身上，但我是在一个更像老鼠的身体上训练的，可能就会有差距。所以，首先，在某种意义上，你会想把那个算法，你匹配到大脑的算法，也尝试在一个模拟的四足动物身上，然后希望它能够转移，排除地形和光照等因素不同的第一个问题。所以存在这种身体到身体的转移差距。另一个方面是能量保存。现实世界的身体有电池寿命，这些东西很容易耗尽。所以你必须小心，这就是为什么我们想解决这些内在的驱动力，以防止对无法学习的事情进行纠缠。这是一个当前的算法挑战。是的，如果它在现实世界中这样做，它就结束了，它耗尽了它的资源，就这样了。所以，这就像实际的死亡场景和伤害自己，这在模拟中并不经常发生，除非你只是结束试验。然后你可以重新开始。但在现实世界中，你把它弄坏了，现在你必须买一个新的或修理它。所以，这种迭代要慢得多，而且可能更具灾难性。你问了第二个问题，关于你模拟过的最疯狂的动物行为。到目前为止，我们开始处理的是相当可控但仍然自然的事情，比如这种可靠的能量保存。目前我们正在进入的更疯狂的一个是，我实际上可以告诉你，与身体智能相关的，是试图更好地理解人类和动物如何在内部构建世界的心理模型，以便能够进行短期物理推断。我们如何构建对物理物体如何运作的具身理解，以便我们可以推断世界，并在其中行动、操作和规划？我的一位合作者，当时我在 MIT，Rishi Roger Lingam，在 M 的团队里，他训练猴子玩一种叫做“精神乓”的游戏。它们通过操纵操纵杆来玩，就像普通的乒乓球游戏一样。但是，在球击中球拍之前，它们必须调节操纵杆来拦截球并获得奖励，球会从屏幕后面消失。一个非常酷的事情是，在猴子的额叶皮层，更确切地说是在背内侧额叶皮层，他们发现猴子实际上是在模拟球的位置和速度，以便能够进行这种计算并做得很好。他们在玩这个精神乓游戏时，在实际大脑中发现了这种迹象。这仍然是一种奇怪的行为，让猴子玩电子游戏，但能够做到这一点，并且能够获得这种可靠的精神模拟，这真是太酷了。然后我们构建了视频基础模型和未来预测的组合，以构建这种潜在的未来预测。我们发现这很重要，因为实际上许多模型未能匹配这些数据，它非常具有约束性且非常有趣。
谁还在采取这种方法？有 Daniela Rus 教授和 Ramin Assani，他们正在与一家名为 Liquid AI 的公司合作，开发一种叫做 Liquid Foundation Models 的东西，他们正在逆向工程一种秀丽隐杆线虫，它只有 302 个神经元。那么，还有谁，研究人员和公司，在这一领域采取这种通过逆向工程动物来构建自主代理的方法？
我认为目前这个领域相当小。这是一个有趣的时期，目前行业中的大部分焦点是行业最擅长的，即收集大量数据并做得非常好，收集高质量的好数据，然后进行扩展。算法开发可能不太受关注。我确定也有一些。例如，正如我提到的，对于这些代理，我们希望模块随着时间的推移而更新。这有点像我刚才描述的简化版本，实际上是测试时推理。它不会更新权重或任何东西，它只是进行推理。但正是这种需要新范式的东西，你实际上是在进行更新，终身学习，实时地处理你遇到的新场景。我们理想的情况是权重也会更新，模块之间的连接可以动态重排。这是大脑做得非常好的事情，我们还没有找到好的算法解决方案。但它再次属于这种范式，即行业中的人们开始关注，仅仅做一些基本的事情，比如测试时推理，这并不是什么重大的算法进步。它只是将 RL 应用于这些问答对，但仅仅是进行推理而不是仅仅进行预训练，就已经产生了实际的回报。所以我认为，现在进一步推进这一点，并将其根植于大脑，我们正在获得这些数据，这在很大程度上是一个学术问题，而不是一个公司问题，因为很难在两到五年内展示产品市场契合价值。这些想法可能需要更长的时间，希望不会太长，但你无法保证。所以，现在我认为在学术界，关键不是做行业能做得更好的事情，而是与行业合作，特别是当他们能够投入资源时，但要真正专注于下一个重大事物。我认为，因为这是下一个事物，所以我们现在还没有看到它主导对话或行业。但当然，它必须是 AGI 的本质，即与世界互动。所以，构建好的代理是我们想要做的，这是不可避免的。但我认为我们如何实现这一目标将需要行业和学术界的合作。
是的，是的。那么，统计模型，数据输入数据输出，它们不是正确的方法，因为人类的思维和功能不是这样的。假设神经人工智能方法应该是正确的方法，您说这可能需要时间。您是否有时间表？您认为需要多长时间才能构建一个可能逆向工程，也许从一个动物开始，然后扩展它？因为我认为，如果我们能够做到这一点，逆向工程并构建模型，我们肯定能够扩展，而且我相信这将解决许多问题，您将不再需要数据，不再需要能源等等。您认为可靠的行为是什么？
这是一个很好的问题。所以，要确定一个时间表，你必须先确定目标。至少我自己的目标不是模拟每一个生物细节。你可以做到，那些从事连接组项目的人非常关心以生物物理学的细节来做到这一点。我认为这种事情，想想看，即使是果蝇本身的连接组，如果我没记错的话，也花了至少 20 到 25 年。技术正在改进这一点，你做一次，下次可能会更快。但我不会把它放在那里。但同样，这只是连接，而不是它们如何更新。所以，如果你要追求完全的生物物理细节，我并不是说你应该这样做，但如果你想这样做，那就是你的目标，我敢说，一个世纪就已经足够了。但要达到实用的 AGI，就像你和我一样，能够自主完成任务，比如说 24 小时，我认为你不需要对大脑进行生物物理学的建模。我认为你只需要像常识一样思考，我们做得好的行为是什么？让我们去构建它，并从大脑中获得灵感，但不要试图复制每一个细节。事实上，要真正理解大脑，就需要对其进行总结和抽象，并忽略掉进化可能放入但对智能并非完全必要的东西。所以我认为，对于一个能够运行的代理，如果目标是，我想构建一个非具身的数字代理，能够运行 24 小时，我认为几年是完全可以的。我认为这是一个公平的时间表。当然，可能会有阻碍因素使其更长，但至少两到三年我认为并不过分。我不会称之为 AGI，但我会称之为有用的、有能力的自主代理，它已经能在一定程度上超越其预训练数据，从而变得有能力。
Arna，您所采取的方法，您认为它会是通往有意识机器的更好途径吗？因为目前，我认为没有人能初步了解意识是什么。但是，当你谈论这些具身代理时，有了这些 LLM，我相信它们只会是僵尸，因为它们没有自我意识。您认为这种逆向工程动物可能导致有感知能力的自主代理吗？
这是希望所在。所以，原则上，我看不出有什么理由，像意识这样的东西，无论我们是否同意其定义，都不是物理表现或物理过程。在这种情况下，我看不出有什么，除非你发明了新的物理定律，否则它不可能被放入计算机。事实上，我记得大约 10 年前，我对计算的物理表现非常好奇，所以我写了一篇关于超计算的普遍否定答案的文章。有些人认为意识本身是一种非图灵可计算的数量，因此你永远无法编写一个算法来做到这一点，这将是障碍。但我在那篇文章中表明，你实际上需要进入目前已知的物理学范畴，没有什么会阻止你构建这些东西。所以你真的需要提出一些尚未被观察到的新物理定律，才能声称它不可能。像 Stuart Hameroff 和其他人当然是这样做的。所以，这是一种量子引力概念，没有任何实验依据。但只是说，如果你真的想在原则上声称，就像他们正在做的那样，你真的需要超越我们目前所知的物理世界。这就是他们正在做的。但我认为，我认为这是一个更大的步骤。这更像是奥卡姆剃刀原则，你看，物理世界是我们所知道的，我们知道如何到达那里。所以我真的看不出有什么理由，为什么大脑或意识这样的东西不能在机器中体现出来。核心问题是，我认为这部分是我认为进行神经人工智能或与大脑进行比较对于意识来说实际上是必不可少的，因为即使我们不同意定义，我们都同意它在大脑中，在生物大脑中。所以，如果我们想要就这个概念达成科学共识，而我们目前还没有，我们就必须在它上面达成一致。所以我们必须将机器与大脑数据进行比较，或者一些大脑中可观察到的东西。假设我们也同意这是我们的目标。所以我认为，构建智能代理是完全可以的，这些代理将来可能会被验证为有意识的。换句话说，我认为这些代理的工程将首先到来，无论它们是否有意识，无论我们是否同意。我们必须对大脑有一个科学的理解，因为不可避免的是，无论我们的定义是什么，我们都同意它在大脑中。所以我们必须理解它，这需要比构建智能代理长得多的时间。而且，仅仅因为它们表现出智能行为，当然并不一定意味着它们有意识。例如，目前 LLM 在生成文本方面比秀丽隐杆线虫或任何其他生物（除了我们）都更有能力。但我认为这并不意味着它们有意识。事实上，我个人认为它们没有意识，根据我个人的非科学定义。但核心问题是，例如，动物有生存的欲望和活下去的意志。所以，假设那是意识的科学定义的一部分，那么研究大脑以及它是如何机械化的，以及它的机制是什么，将是必要的，以便我们能够检查机器中的这些机制。所以，这就是我所说的，这可能比构建它需要更长的时间。
Arna，假设在假设的未来，你能够逆向工程并构建一个有感知能力的机器。你会问这个有感知能力的机器什么问题？为什么？
这是一个我对自己思考了很长时间的思维实验。这是一个很棒的问题。我希望通过这些机器来理解现实的本质。也许这只是因为我天生就是一个科学家，所以这是科学家对他们会用这种东西做什么的定义。但原因之一是，我不知道，我猜我想要更好地揭开现实的帷幕。我认为没有比引导智能更好的方法了。特别是，机器一直以来相对于我们的一项伟大能力是处理和体验大量数据并找到某种模式。现在，机器并不比我们好 100%。我认为现在人类科学家在某些方面比人工智能科学家做得更好，但这将会改变。而且，情况不总是这样。我认为一旦我们拥有了更强大的 AI 科学家代理，关键就是一起合作，更好地弄清楚我们为什么在这里，如果这是正确的问题的话。现实的本质是什么？诸如此类的事情。现在，我认为它们无法立即运行所有实验。我们仍然会受到物理世界的某种限制。但随着我们对某些物理过程的理解越来越好，我们可以模拟它们。所以，这与我们之前的模拟到现实的讨论有些关系，你可以进行现实到模拟。换句话说，一旦你理解了某件事，你就有了一个好的计算模型，你就可以把它放在计算机里，模拟得比运行这些实验更快。这也是神经人工智能的动机之一。一旦你拥有了一个相当忠实的脑区模型，你就可以进行成千上万次因果扰动和干预，从而比在真实的生物大脑中更快地了解事物。所以我认为这将是渐进的。我们总是会受到光速和其他物理量的某种限制。但随着我们开始更好地理解事物，我们将把它们放入模拟中并更快地运行它们，然后生成下一组预测等等。所以，我认为这种合作，以更好地理解现实，将是我想要询问和查询这些更强大的代理的事情，即使是现在。
是的，是的。有趣的是，现实的本质。我只想进一步探讨一下。我对虚拟现实很感兴趣。我们正在构建虚拟世界和元宇宙，而且我每年都能看到这种快速的进步。这些 3D 引擎能够构建如此逼真的世界。而且，我相信在接下来的十年或更长时间里，也许在结构和功能上，如果我们能够绘制或理解人脑，我们可能会更好地理解人脑，并可能构建触觉反馈或脑机接口，通过这些接口，我们可能能够模拟所有高感官，视觉、听觉、触觉、嗅觉和味觉。视觉和听觉，我们现在做得非常好。当你身处虚拟现实中时，它可能非常非常酷。我们使用全景空间音频，这就像我们听到声音一样真实。
还有这种触觉、嗅觉和味觉，你知道，你知道我们一直在推动，一直在推动，一直在推动，你知道。我确信随着科技的加速发展，你知道，我们应该能够模仿所有的五种感官，你知道。所以，所以有这样的对话，有像唐纳德·霍夫曼（Donald Hoffman）以及许多其他人，他们相信或者谈论这件事。唐纳德·霍夫曼、尼克·博斯特罗姆（Nick Bostrom）说现实本身是模拟的。唐纳德·霍夫曼有这样一个理论，你知道，空间和时间，它基本上不存在，就像一个虚拟现实的头部所说。你知道你谈到了现实的本质，你对这一群人有什么看法，你知道，像唐纳德·霍夫曼、尼克·博斯特罗姆、埃隆·马斯克（Elon Musk）、霍萨·巴赫（HOSA Bach）以及许多其他人，他们认为整个现实可能不过是一个虚拟的构造。
你知道，我想，我想是这样，我经常担心这可能就是我们，你知道，只是把最新的技术嫁接到现实上，对吧，就像在这种情况下是计算机，对吧。而且，嗯，我并不是要否定它，我只是，你知道，我没有足够的把握，你知道，换句话说，我对现实的本质了解不足，无法推测它。我只是想知道答案是什么，无论如何。但我认为，你知道，关于计算有一件奇怪的事情，它可能与所有其他事物不同，你知道，就像人们可能会说，一个钟表匠会认为月亮是由齿轮组成的，或者如果他们是奶酪制造商，会认为月亮是由奶酪组成的，对吧，诸如此类。
我认为，计算与之前任何一种发明不同的一点是，它实际上是一个相当基本的概念。换句话说，嗯，有一种图灵通用性的概念，就是说有等效的方法来做同样的事情，实际上你如何做它的物理实现并不重要，而是存在一种进行计算的能力和水平。我认为这种通用性，这种事物，始终是任何一种重要的、更普遍的原则的基本组成部分。所以我想，我想展望未来，当我们进入一个科学新时代时，我认为信息和计算之类的东西将在我们理解世界的方式中扮演越来越重要的角色，而且它们也应该如此。
所以换句话说，我想也许我们在，你知道，20世纪之前，我们并没有过多地考虑到它，嗯，当然有一些迹象，你知道，比如希腊人和波斯人，他们有算法，对吧，诸如此类。但他们不明白这属于一类更大的、等效的方法，可以做类似地复杂的事情，对吧，一个过程。但一旦计算过程的概念被形式化、构建并真正执行，我们才开始取得更大的进展。我认为计算和信息这些概念是基础性的，就像任何其他物理定律一样，它们将开始扮演更重要的角色。我们已经看到了这方面的萌芽，比如人工智能，你知道，它与一切事物都在交互，你知道，一切都像是“AI+BI”或“AI+商业”、“AI+X”，对吧。我认为这实际上只是将计算和信息更深入地融入自然科学这一更大原则的一个特例。我认为未来这将继续是一个不可避免的事情，我们将拭目以待它会走向何方，因为它们是非常基本的概念，但只是执行这些事情，当一个事物是一个基本概念，而你抓住机会真正地利用和理解它时，你就会处于一个非常有利的位置，去发现关于现实本质的新的和基本的东西，对吧，对吧。
作为一名教育者，你有什么建议想给那些想尝试你正在做的事情的年轻研究人员，你知道，这种神经科学、人工智能和机器人学的跨学科方法。是的，所以，嗯，我的主要建议是，真的不要追随最新的潮流，嗯，而是真正追随你的兴趣，并且，嗯，尝试倾听你内心的声音，什么真正自然地让你兴奋。嗯，我知道这听起来可能有点老套，但实际上在我的案例中，这确实是我在大学时得到的一条建议。我当时，嗯，你知道，正在努力弄清楚自己想做什么，而我实际上，你知道，我有一个理论背景，嗯，而且它是在数学和理论计算机科学等方面受过训练的。嗯，实际上，嗯，最近这对于一些人工智能安全工作变得很有用，比如，你知道，在理论上，你知道，它在，嗯，理解或推理尚未构建的事物方面非常出色，所以我认为对于人工智能安全来说，理论非常有用。所以我们只是展示了，你知道，像对齐这样的事情存在根本障碍，也许这不是实现安全的方法，如果我没有这个背景，我也不会预料到这一点。你知道，我并没有真正地，你知道，在我的日常工作中，它主要是经验性的，因为运行一个已存在的东西比证明一个定理或有很多假设要快，对吧，嗯，但当涉及到不存在的事物时，我认为理论可能是有用的。
当我，你知道，试图弄清楚自己想做什么的时候，我得到的一个建议是，我一直都知道我喜欢大脑，我总是被智能之类的东西所吸引。你知道，请记住，这大概是十年前或十二年前的事情了，那时深度网络实际上还没有普及，对吧，人们还在争论大脑中是否存在符号与分布式表征。我的意思是，现在这已经相当确定了，就像她使用神经网络的方式一样，但那时真的不清楚，那真是太酷了。所以，嗯，我一直对诸如自我本质和现实之类的问题很感兴趣，而且似乎很清楚，我们想要理解智能才能取得巨大进步，对吧，就像物理和化学是，嗯，对无生命事物的研究，并使我们在材料科学、工程和设备制造方面取得了巨大进步一样。我认为智能科学是下一个将带来甚至指数级巨大进步的事物，嗯，想象一下，如果你今天能将它融入技术并真正实现，我的意思是，它，嗯，很难想象它会走向何方，对吧。所以我只是听从了那个声音，就是说，你知道，你对智能感兴趣，你知道，我并不是特别纯粹地被计算机科学所吸引，你知道，我并不是那么热衷于只擅长编码，或者，嗯，只在一个基准上取得突破之类的。我确实很关心尝试使用计算，我知道计算是基础的，但我一直对使用计算来更好地理解我们的智能是如何以机械方式运作的感兴趣。我真的试图弄清楚那意味着什么以及所有这些。而且，嗯，这就是我从数学转向的原因，你知道，我认为数学对于建立你的逻辑推理非常有用，计算机科学对于，你知道，真正将这些东西付诸实践，实现事物，并真正测试它们，处理现实世界的错误非常有用。嗯，然后，然后最终在计算机科学硕士毕业后攻读神经科学博士学位，并且，并且忠于那个内心的声音，说如果我想了解大脑，我必须去看看那些真正在日常生活中处理它的人，他们有什么要说的。所以这条轨迹结果看起来是跨学科的，不是因为我想要它如此，而是因为在每一步我都听从了那个声音，而且，嗯，最终有必要从中学到那些工具并真正掌握它们。
我认为，你知道，现在大型语言模型是潮流，你知道，每个人都想在他们的工作中使用它们，我认为这很棒，而且我认为它们会加速很多，嗯，特别是对于今天的学生来说，对吧。我实际上鼓励我的学生在可能的时候使用它，但也要小心并在遇到它时进行验证，你知道，嗯，所以它不是思考的替代品，而是一种辅助工具，我认为这很棒。但我认为，你知道，你应该展望未来，未来是什么？你认为未来需要什么？如果有一种技能组合，你觉得它在告诉你未来需要什么，那么就听从那个声音并追随它，而不是追逐当前的潮流，对吧，对吧，完全正确，完全正确。
嗯，我最后一个问题是，你的“登月计划”是什么？神经智能体实验室接下来会做什么？你能为我们描绘一幅图景吗？你知道，未来会发生什么？你认为未来十年会发生什么？你知道，随着技术栈的融合，你知道，随着这些大型语言模型和这些可能受神经科学启发的人工智能真正结合在一起，我们可能拥有这些机器，你知道，我们正在追求的这个巨大目标——人工智能。你知道，无论何种方法，你知道，将我们引向那个目标，你认为它将如何影响我们的社会？你知道，因为至少从我的角度来看，我看到，你知道，以前有过一场军备竞赛，而今天则是这场人工智能，你知道，争夺主导地位的竞赛正在进行，你知道，而且我相信通往更美好未来的唯一途径是合作而不是冲突，所以如果你能把你的想法留给听众，那就太好了。
我完全同意最后那句话，即未来应该是合作而非竞争的。所以我一直，你知道，我学生时代受益的一件事是互联网的存在，我可以去查找任何我需要学习的东西，并自学，嗯，那真是太棒了。而现在就容易多了，现在你有大型语言模型，你可以查询事物并得到一些合理的回复，你知道，它可能不总是准确的，但它可以在某种程度上指导你的理解，并且是为你个性化的。我认为在未来，就在非常近的未来，这种情况也将继续下去，推断到未来，我实际上确实觉得现在事情可能看起来是竞争性的，但我认为实际上，随着信息变得更加自由和可访问，它将自然地趋向于合作。特别是当我们开始构建，你知道，什么是“登月计划”？“登月计划”就像是构建这些普遍有能力的自主智能体，不是长期的视野，不是长期的规划，而是真正的终身学习智能体，对我来说，这就是“登月计划”。
你知道，你基本上，你知道，最终通过这样做，不仅能更好地理解我们自己，不是通过复制大脑，而是仅仅理解其原理，就像飞机不复制鸟的羽毛，但它捕捉了伯努利原理一样。你知道，找出智能的伯努利原理，对于智能科学来说，将对构建这些自主终身智能体的一个重要方面至关重要。嗯，所以那就是，那就是，那就是“登月计划”，我认为在那里，我们的社会将会以一种相当难以想象的方式改变，但我认为其中一个方面是，如果你正在创造一个新物种，那么很自然地，我们作为一个物种会更加合作和团结，你知道，以确保它安全，并且安全部署。嗯，但同时，信息的获取也将变得越来越容易，现在这些，你知道，分歧或私有化，或对事物设置障碍，只会显得琐碎和幼稚，而且老实说，你知道，嗯，嗯，就像，你知道，像西西弗斯神话一样，他们总是试图去做，然后球又滚下山，他们又尝试，对吧，他们会尝试，但它将继续自由是不可避免的。嗯，至少我的希望是，那将导致全人类的更大繁荣。
谢谢你，阿兰，非常感谢你抽出时间参与播客。我希望你和你的团队能走向那个世界，在那里我们建造的机器不仅仅是数据饥渴和电力饥渴的，而是真正做我们所做的事情，你知道，模仿生物学。因为我想，我的意思是，如果我们有一天能够做到这一点，我的意思是那将是美妙的，但显然，我的意思是，你知道会发生什么，嗯，因为我的意思是，即使是动物，甚至是人类，我们都有自己的偏见和问题，你知道，我的意思是，所以我对此感到担忧。但是的，我确信，我的意思是，你知道，会有办法让这些智能体，自主智能体，更符合人性，我希望你所希望的，你知道，能够实现。再次感谢你抽出时间参与播客。对于我的听众，如果你喜欢你所看到和听到的，请按下订阅按钮，下次再见。谢谢你。非常感谢你。谢谢你。谢谢你邀请我。