Transcription
感谢您加入改变世界的《印度首个未来科技与可持续发展播客》节目。今天，我非常荣幸地邀请到康纳尔·戈尔丁先生。他是宾夕法尼亚大学内森·莫塞尔大学的整合知识生物工程学和神经科学教授，也是“机器与大脑中的安全学习”项目的联合主任。他是“严谨与神经匹配社区”的创始人。他热衷于将大脑视为计算设备，以及如何利用神经数据来推断因果关系。今天我们讨论的话题将是数据科学与神经科学的交叉点。康纳尔，非常非常感谢您抽出宝贵时间，并参与我们这个小小的播客节目。如果您能先简单介绍一下您的背景、您的经历和您的工作，那将非常有意义。非常感谢您邀请我，艾迪。能参加您的播客节目，我感到非常荣幸。我是宾夕法尼亚大学的教授。我一直对神经科学和机器学习中的重大问题感兴趣。对我来说，目前许多重大问题都与因果关系有关。在机器学习方面，我们在做预测方面做得非常出色，比如预测明天的天气，预测股市的某些方面，预测一个词是这个词还是另一个词。我们在这些方面做得非常好。但目前机器学习在描述世界如何运作方面做得不好。比如，在我们之间，我们使用的语言都与原因有关。比如，药物是否能让你活得更长？我们不问“服用药物的人是否活得更长？”这个问题，不，我们不问这个。我们想知道的是，“如果我服用这种药物，我是否会活得更长？”所以，对我来说，因果关系是一个巨大的未解难题。而且，这在多个方面都很重要。对我这个科学家来说很重要，因为我想了解的是大脑中的因果关系，大脑中的事物是如何相互影响的。但也关于世界上的因果关系，不是“哪些决定能让公司成功？”我不想知道很多成功的公司所相信的伪科学是什么。我想知道哪些东西实际上是有用的。所以，我认为因果关系是我们所做一切的基础。
您提到，您之所以坚持下去，是因为您对理解神经科学和机器学习中的重大问题的驱动力。您说机器学习已经基本到位，而神经科学的重大问题呢？您能详细说明一下吗？也许您也能谈谈神经科学研究中的因果关系，那将非常有益。让我们来谈谈重大问题。最终，我们希望从神经科学中获得什么？为什么社会会在全球范围内资助神经科学？原因有两个。第一，理解大脑有望帮助我们治愈疾病。脑部疾病可以说是人类最严重的疾病之一。我们都有亲朋好友年老时患有痴呆症，也许患有帕金森病，也许患有抑郁症，也许患有精神分裂症。人们遭受着各种各样的痛苦，而这些都是基于大脑的。因此，希望神经科学能帮助我们治疗这些疾病。然后是另一部分，我们真的想了解人类大脑是如何运作的。因为人类大脑在某种程度上就是我们自己。我认为，对我们大脑如何运作、我们思想如何运作的好奇心非常深刻，我们想了解它是如何运作的。现在，让我从疾病和理解的角度来谈谈因果关系。在疾病方面，我们想知道的是“某种东西是否有帮助？”我们不想知道的是“某种东西是否与好的结果相关？”比如在美国，富人比穷人活得长得多。富人也服用维生素补充剂。这些维生素补充剂可能完全没用。但因为富人购买维生素补充剂，而富人活得更长，所以看起来服用维生素是长寿的预测因素。所以，如果我们以一种简单的方式来看待这个问题，如果我们以一种简单的方式分析我们的数据，我们会说出关于医学的非常愚蠢的话。在脑部也是如此。现在，假设我们有两个脑区，我们发现它们在同一时间点被激活。为什么会这样呢？可能是第一个脑区激活了第二个脑区，或者第二个脑区激活了第一个脑区，或者你大脑中有其他事情正在发生，影响了第一个和第二个脑区。你可能会说，我很有钱，这有点像高社会经济地位。我很有钱，这使得两个脑区都被激活。你很有钱，让你服用维生素补充剂，让你活得更长，如果你在美国的话。但是，我们想要的是理解现实是如何运作的，这当然非常不同。
到目前为止，我们对人脑的理解有多少？你知道，有很多人在用各种方法来理解大脑，但我们目前对大脑的理解是什么？坦白说，我们并不了解太多。是的，我们确实知道，没有你的大脑，你就不会和我说话。但是，我们到底知道什么呢？我们对大脑的周边区域有很多很好的了解。我们知道神经如何从身体进入大脑。我们知道大脑的神经如何传出到身体。我们对脊髓反射有很多了解，比如我们敲击你的髌骨，你的膝盖会踢起来，我们对此了解得相当清楚。但我们越深入大脑内部，越深入你思考、记忆和推理的地方，我们就越不了解。我们了解得如此之少的原因是，我们谈论的是数十亿个相互交流的神经细胞，而我们不知道这些系统中的因果关系。因果关系非常复杂。一个神经细胞对另一个神经细胞做某事，然后又反过来影响第一个神经细胞。所以，很难理解。所以，你可以说，在神经科学方面，我们对周边区域的因果理解得很好。我们对你的眼睛相当了解，我们可能对你的脊髓了解得还可以，至少我们对你的肌肉了解得相当清楚。但我们不知道中间那部分，我们思考的地方，它到底是如何运作的。
有什么方法可以加速这个理解过程，或者理解人脑的过程吗？你知道，世界各地有不同的实验室在用不同的方法来理解大脑。有些人花了毕生精力去理解秀丽隐杆线虫，它是最基础的，只有大约300或2个神经元。有些人已经完成了果蝇的连接组项目，绘制了整个果蝇的图谱。有哪些有趣的方法和想法可以帮助我们更好地理解大脑？我们目前在技术方面处于什么位置？我们对人脑的结构和功能能力有什么看法？我们目前处于什么阶段？几乎所有神经科学的研究都是相关的。它是预测性的。你可以说，我取你大脑的一部分，把你放进扫描仪里，然后我可以用复杂的数学来预测你大脑那一部分的活动。这是否意味着我理解了大脑？一点也不。就像你不能说，就像ChatGPT一样。这是一个很好的类比。它非常擅长预测你的下一个词，是的，它非常擅长预测你的下一个词。它真的擅长弄清楚你为什么说下一个词吗？不，它完全不知道。它只是被训练来做预测。在现实中，大脑中有神经细胞相互作用。ChatGPT对此一无所知，但它在预测你的下一个词方面做得非常好。神经科学基本上也处于这个阶段。它们在预测你大脑的下一个激活状态方面做得非常好。它们无法告诉你它是如何发生的。因为它们做不到，所以可以说这并不是理解。如果你预测事物，并不意味着你理解了它们。如果你预测一个人会说什么，这并不意味着你完全理解那个人的想法。我认为这种将相关性与因果关系混淆的现象在神经科学中是普遍存在的。
你能详细解释一下相关性和因果关系吗？因为有时你觉得相关性和因果关系是一回事，对吧？是的，它们感觉完全一样。而且，有趣的是，如果你想要我们脑海中能想到的那种系统，那种相关性和因果关系是一回事的系统，比如我这里的电灯开关。你打开灯，我打开电灯开关，灯就亮了。你可以问，我怎么知道是电灯开关让灯亮了？我会说，当我按下它时，它就亮了。在许多我们能想到的简单系统中，相关性和因果关系或多或少是相同的。那么，这是怎么来的呢？原来，如果你让系统变得更大、更密集。比如在这种情况下，只有电灯开关和灯。我的房间里有咖啡杯和其他各种东西，但咖啡杯对电灯开关没有任何影响。只有一件事对电灯开关有影响，那就是电灯开关让灯亮起来。我们这里有一个非常简单的因果模型。但是，当我们把这些因果系统做得更大、连接得更紧密时，相关性就完全不再是因果关系了。困难之处在于，对于我能想到的所有简单系统，相关性和因果关系几乎是相同的。比如有一种药物，它会产生一种效果。如果我的头痛好转了，那很可能是因为我服用的头痛药。但那是因为我们设计的药物非常具体。它们只做一件事，就是让你的头痛消失，让你的发烧消失。但并非所有事物都会相互影响。但在你的大脑中，平均每个神经元有大约3000个输入和3000个输出。这意味着，与我们生活的世界不同，电灯开关只做一件事。在你的大脑中，每个神经元同时与3000个神经元交谈，并听取3000个神经元的信号。在这些系统中，相关性和因果关系变得非常非常不同，因为它们都相互影响。所以，如果你像你的大脑一样，产生自己的想法，因为你产生自己的想法，所以不再是单个神经元对另一个神经元做一些简单的事情。而是一种涌现现象，所有这些神经元共同创造出有趣的事物。这就是为什么我们生活在一个世界里，我们能想到的所有这些小事情似乎都有这些简单的因果链，但所有重要的事情都有这些复杂的因果链。在这些复杂的系统中，比如大脑、社会和公司，相关性和因果关系彼此之间非常非常不同。
康纳尔，您能否解释一下您在理解人脑时所采用的因果关系方法？您能谈谈吗？是的，想象一下你想知道大脑的一个部分是否会影响另一个部分。神经科学家通常会做两件事。第一件事，也是大多数神经科学家做的事，是测量你大脑一个部分有多少活动，然后测量我们大脑另一个部分有多少活动。两者都会给你提供时间序列。活动有时高，有时低。这些科学家通常会计算相关性。这两个脑区是否同时活跃？或者它们是否不活跃？如果它们同时活跃，他们就认为这两个脑区在相互交流。还有另一种方法，一种更好、更有意义的方法。我们进去，取那个区域，然后用微小的电信号刺激它。有一种叫做TMS的技术，它基本上是一个大而粗的磁铁，会发出“砰”的一声，然后你就会在大脑中产生额外的活动。然后的问题是，这种额外的活动会对那个区域产生什么影响？如果它对那个区域产生了影响，你就能知道那是一个因果效应，因为你基本上是在随机的时间点电击大脑。所以，你可以有信心地确定，大脑一个部分的电击会在另一个部分产生活动。在这些情况下，我们可以确信因果关系。我们可以真正理解一个区域对其他区域做了什么。现在，你可能会说，我怎么能确信大脑中的相关性不是因果关系呢？嗯，如果我们进行这些扰动实验，它们与相关性几乎没有关系。我们有很多神经元，它们不相关，但对彼此有因果效应。我们有很多神经元，它们之间相关，但如果我们刺激它们，它们对另一个神经元没有影响。所以，这意味着相关性和因果关系在大脑中真的真的不同。
您能多谈谈您提到的经颅磁刺激吗？您用微小的电脉冲电击某人的头部，然后您就知道，也许是因为这个脉冲，这个电脉冲在推动大脑的某个特定部分，并且基于此会产生某种反应。通过这些学习，您如何更好地理解大脑？您能推断、推导、构建出什么东西来？让我们来谈谈这些技术现在是如何运作的。我们把一个有很多线圈的线圈放在他们的头上，然后用一个非常强的电流通过它。这样就会产生，它就像一个电磁铁，你打开很短的时间。现在，我们在物理学中学到的东西是，当我们改变这些磁场时，我们就会产生电流。所以，我们的大脑中也有电流。我们有一个小的环形电流，有一些电流流过大脑。那么，电流在大脑中做什么呢？如果它们击中神经细胞，或者击中神经元的轴突或树突，它们就会在那里产生电压。这些感应电流会在一部分受影响的神经元中，使它们变得活跃，使它们发出脉冲。所以，突然之间，在那个脑区，可能有几千个，也可能有几百万个神经元现在活跃起来，而它们通常不会活跃。然后你就可以说，我们现在可以看到它们做了什么。因为我们可以说，我看看你大脑在没有这样做之前，然后我做了，我看到大脑有什么不同。我应该提到，在这方面，我在宾夕法尼亚大学的同事德斯蒙德·奥伊斯正在做这些实验。他把人放进脑部扫描仪，所以他可以看到大脑的哪个部位活跃，然后在扫描仪里，他基本上在某个区域产生这种额外的活动，然后他可以看到其他区域发生了什么。你也可以看到行为发生了什么。这样你就可以确定，某个脑区的额外活动对其他脑区有什么影响。是的，我应该提到，有两种版本。一种是你看有什么额外的活动。另一种是你这样做很长时间，神经元会感到疲倦，然后你就可以说，这有点像我们称之为虚拟病变，你可以说，基本上这个脑区因为我们过去经常电击它而变得非常活跃，所以现在它们无法再活跃了。所以，你可以问，当活动增加时会发生什么，也可以问，当某个脑区的活动减少时会发生什么。
康纳尔，这是否是更好地理解大脑的方法，比如大脑的语言是什么？因为你知道，有这些电脉冲、线路和放电，它们创造了我们所有的感官。你认为大脑中存在某种语言吗？你认为我们能理解这种语言吗？这是一个很好的问题。我们称之为语言，就像你说的，我们称之为代码，我们正在使用称为解码的方法来找出这种语言是什么。但是，事情非常复杂。有些代码对我来说很容易看到，比如代码是神经元有多活跃，或者脑区有多活跃。这是一个我很容易看到的代码。但你可以说，如果神经元传递信息的方式类似于摩尔斯电码呢？比如它们发出“嘀嘀嘀”的声音。在这种情况下，我很难看到。如果有一个时间代码，比如摩尔斯电码，特别是如果它分布在不同的神经元之间呢？所以，找出正确的代码非常困难。而且，大脑有860亿个神经元，每个神经元有3000个直接受影响的神经元。但如果我们跳两步，3000个就变成了900万。如果我们跳四步，我们基本上就触及了整个大脑。所以，神经元之间相互作用非常密集。我们用TMS这样的东西做的就像非常粗糙的工具。就像我拿走这里随机的一百万个神经元，让它们更多地放电。我为什么要期望这能说出正确的语言呢？就像你说的，所有的神经元都在说某种语言，而我只是用磁场让很多神经元活跃起来，那将是错误的语言，因此我甚至无法弄清楚它是如何工作的。这就是为什么，我的意思是，就像你之前提到的秀丽隐杆线虫，线虫并不是我们最终想理解的东西。我想理解的是人脑，我们都想理解人脑。但线虫的好处是，我认为我们可以弄清楚神经元说什么语言，我们可以弄清楚因果关系。因为有3002个神经元，我们可以同时看到它们所有。我们知道每个神经元在做什么，我们可以用激光去电击它们，每一个，以及它们的任何组合，来弄清楚它们是如何相互交流的。因此，秀丽隐杆线虫可能是我们想要理解人类思维的必经之路。
那么，您能分享一下其中的相似之处吗？比如，秀丽隐杆线虫只有302个左右的神经元，而人类则极其复杂，有数万亿个突触和800亿个神经元。有没有从秀丽隐杆线虫中学到的对理解人脑有帮助的东西？问题是，你说的学习是什么意思？几乎所有有用的东西，我们做的很多对人脑有用的事情，我们都是先在虫子上进行原型设计。就像你提到的连接组学。我们无法取猴子或人脑的碎片，并在小组织中重建所有细胞。它从哪里开始？它始于虫子。事实上，我们已经拥有了完整的连接组，连接组就是每个神经元如何连接到其他神经元的图谱。很多年前，我们已经拥有了秀丽隐杆线虫的完整连接组。现在，正如你所提到的，我们已经有了果蝇的连接组。而且，没有理由我们不能将这些技术推广到更大的动物身上。最大的问题是，为了让科学取得进步，我们需要知道我们何时正确，何时错误。在神经科学，在人类科学中，没有人会犯错。为什么没有人犯错？因为你无法发现自己错了。你测量了某样东西，然后你解释了某样东西。但你处于一个极其复杂的系统中，有数十亿个神经元。所以，很难知道，甚至无法提供证据证明你错了。但如果你无法发现自己错了，你就无法弄清楚什么才是真实的。秀丽隐杆线虫的好处是，我们可以弄清楚我们何时正确，何时错误，因为我们可以进行实验来检查我们是否正确。所以，对我来说，至少在神经科学的某些部分，下一步显而易见的是回到虫子身上，看看我们是否真的能理解虫子。一旦我们做到了，我们就可以朝着人类努力。因果关系是一个大问题。现在，有趣的是，让我们谈谈为什么因果关系如此困难。发现A是否影响B如此困难的原因是，总会有其他东西C同时影响A和B。在虫子身上，如果我们谈论神经元如何相互交流，我们看到所有的C。因为我们看到了所有其他的神经元，它们无法在A和B之间引入这种影响，因为我们看到了那些其他的神经元，我们可以纠正这一点。因此，在秀丽隐杆线虫中，这种“总有我们还没看到的其他东西会影响我们”的危险并不存在，因为我们同时看到了所有东西。但在人脑中，嗯，世界纪录，我们描述了这件事，我们称之为史蒂文森定律。每六年，人类记录的大脑神经元数量就会翻一番，这很棒。这是指数增长，就像摩尔定律一样，这很棒。只是，按照这个规则，我们需要几百年才能真正记录整个大脑。我们目前的世界纪录是一次记录几千个神经元。但几千个相对于我们大脑中数十亿个神经元来说微不足道。所以，基本上，因为我们只看到了其中一小部分，如果我们看到神经元A做了什么，神经元B做了什么，我们就永远不知道神经元A对神经元B做了什么，除非我们能够做到，而我们一次只能在一个实验中或在一个脑区中进行一次。所以，我们就像，这就像试图通过收听一个城市发送了多少条推文来理解人类社会是如何运作的，或者类似的比喻。就像我们目前试图理解大脑的方式一样，我们唯一测量的是城市发送了多少条推文，而我们试图理解社会是如何运作的，我们得出了关于社会如何运作的各种错误想法。就像，就像太阳早上升起时，人们会发送很多推文，然后太阳在我们星球上移动得更远。我们将错误地认为，是同一时区的其他推文制造了这些推文，而不知道时区是什么，因为我们不知道太阳的存在。在这种情况下，我们可以通过总是有一波活动围绕着世界来发现太阳的存在。但如果太阳不存在呢？就像很容易。但如果太阳是很多人相互交谈呢？所以，我认为人们认为自己接近理解人类的信念只是一种幻觉。我们可以预测事物，但我们不理解事物。
在对话的开头，您提到您也对大脑疾病感兴趣，您知道神经系统疾病被认为是不可逆转的。但是，有很多初创公司正在利用神经科学、神经技术、脑机接口来改变这种叙述。我们是否接近于开始逆转这些神经疾病，比如精神疾病、唐氏综合症等等？嗯，有很多事情我们甚至还没有接近，但我们正在取得非常成功的工作。比如，我们现在知道，体育活动对各种活动都有很好的影响。对于痴呆症和抑郁症，似乎仅仅是体育活动，比如出去散步，和朋友聊天，这些事情非常有效。我们知道对于抑郁症，体育活动，和朋友出去玩，有很多事情有很强的影响。在更狭窄的领域，有很多初创公司认为你可以进行脑机接口、脑刺激，用于生活方式方面的事情。这是一个很大程度上不受监管的领域，有很多骗局。我想说，我看到的大多数事情都是在利用天真的人，然后骗取他们的钱，而他们的承诺却很少。尽管如此，这个领域确实有新兴事物。比如，迷幻药作为创伤后应激障碍的治疗。有很多领域都有前景。这些领域的问题是，它们往往不够严谨。它们会进行试验，但这些试验可能没有得到适当的盲法。有很多非常困难的事情。比如迷幻药。好药的逻辑是，我们随机化事物，医生不知道病人是如何被随机化的，病人也不知道他们是如何被随机化的。试着对迷幻药做这件事，你怎么能给某人服用迷幻药，而他们不知道他们属于那个群体呢？所以，以严谨的方式进行这些事情非常非常困难，这会带来各种风险，就像骗局一样。
您对AGI有什么看法？您能先定义一下它吗？然后您认为这些大型语言模型，有些声称具有这些新兴属性，能够带来通用人工智能，或者说受大脑启发的途径吗？也许，首先，您能分享一下您对AGI的看法，定义一下AGI，然后谈谈构建AI的途径，如果可能的话，构建通用人工智能呢？
根据定义，人类拥有AGI，我们拥有通用智能。我们可以解决各种各样的问题。寻找AI中的目标是出了名的困难。我认为我最喜欢的一种逻辑是，如果一个系统在处理全新情况方面与人类一样好，我就会称之为AGI。而这个“全新情况”对我来说非常重要。比如，如果你有一个非常大的训练集，那么大多数事情都已经说过了，大多数事情都在我们的训练集中。AGI的许多惊人能力，当前大型语言模型的许多惊人能力，实际上是一种泄露。训练集包含我们将要测试的东西的一个版本，我们必须非常非常小心。但对我来说，我真的希望这些系统能够胜任人类以前从未遇到过的全新任务。这种情况一直存在，比如公司会制定新的战略，人类会决定采取新的行动。这就是我所寻找的。所以，那些非常超出领域的东西，以及那些随时间变化的东西。我认为人类大脑特别擅长处理未来，而我们目前拥有的AGI系统，AI系统，非常擅长处理旧问题，处理接近于它们训练集中的问题。这不仅仅是，你问LLM有多接近。我认为它们一点也不接近，我认为这是一个幻觉，它们如此接近。我们现在使用的是基本上是训练集，人类写过的所有东西，或多或少是那个数量级。今天世界上的大多数相关想法都已经被人类说过了。LLM擅长解决简单的编码问题，比如，猜猜看，世界上有很多人类已经完成的编码工作。所以，在那里做事情相对容易。问题是，这些系统在训练领域之外非常脆弱。你可以说它们擅长文字交流。比如，我告诉你披萨味道很好，它们理解披萨味道很好，披萨味道极好，我爱披萨。所有这些非常相似的陈述。它可以像这样泛化。所以，如果你想要，它有一个相当聪明的泛化功能。但这种泛化功能并不能让你走出领域。它不能在多步推理中有意义地进行推理。我们进行多步推理的方式是，你可以说，所有有趣的事情，我们真正有想法的地方，都是思维链。它解决思维链的方式是，它基本上说，让我们为每个想法使用一个LLM，然后迭代。人们认为这也是人类思考的方式。但我认为现在有一种幻灭感，我们不再，一旦我们更深入地思考LLM的工作方式，它们似乎并没有带来太多深刻的想法。我的个人模型已经演变了。当它们快速出现时，我曾想，天哪，这太棒了，这是我见过的最好的东西，这感觉有点像人类。但随着时间的推移，我对我如何看待LLM的模型发生了一些变化，从思考转向了聪明的网络搜索。现在，你可以说，我说的聪明网络搜索是什么意思？对于网络搜索，我需要使用正确的词语，随着时间的推移，谷歌开始允许我稍微灵活一些。但似乎更多了。你可以给出数学原因。你可以说，从某种角度来看，线性化，它做的事情非常类似于查找。我们可以更详细地讨论这一点。但如果它更像一个查找的东西，这意味着它实际上并没有做人类可能希望智能做的事情。它离智能非常遥远。真正的智能来自于将思维链在一起，而我认为目前的LLM在这方面做得并不好。
让我再提供一个观点。我总是喜欢看到事物的两面。我刚才给出的负面观点是，它有点像网络查找，并不那么令人印象深刻。积极的观点当然是，LLM现在所做的事情，我们三年前是无法想象的。我还想稍微说一下，我认为人们在这个世界上听信权威太多了。我的许多朋友，比如领导着深度学习项目的CA LMB，当时大家都认为这是个坏主意。那个项目汇集了像Yann LeCun和Yoshua Bengio这样的人。那个项目充满了这个领域的顶尖创新者。很多人觉得我们正在迅速进入AGI领域。我认为我相对怀疑，在这个领域我有点特立独行。尽管如此，即使是Yann LeCun这样的人，也并不认为AGI会很快到来。但同时，如果我们在几十年内进入这些领域，我会感到惊讶吗？我不会感到惊讶。如果它明年发生，我会感到非常非常惊讶。我很乐意就此打赌。总之，你看，在这个问题上，我们目前有很多不确定性。
是的，我认为这是一个很好的观点，因为有很多事情正在发生，我们显然不完全理解。因为在这些LLM的底层，你知道，他们说它有一些新兴属性等等。而你恰当地指出了，你知道，从积极的一面来看，这些LLM正在做一些很棒的事情，而且它们使技术民主化了。它们让任何想要尝试技术的人都能获得技术。你知道，你可以创造设计，你可以创造3D，你可以为游戏创造世界构建，你可以做游戏设计，你可以写代码。所以，是的，我认为它确实让技术变得非常非常容易获得。
您对人脑是计算机的看法如何？因为很多人把它作为一种类比，说人脑就是计算机。如果是的话，我们有办法逆向工程大脑吗？这会是构建我们所说的通用人工智能的正确方法吗？人类是人工通用智能。这会是通往AGI的途径吗？
它一直是一种并行观点。你知道，你可以说，我们如何才能实现智能？我们是通过模仿自然来实现，还是通过更多工程来实现？我认为历史一直是我们受到大脑的启发。现在，在今天的GPT系统中，有很多想法都来自大脑科学和认知科学。但同时，见解的数量相对较少。而且，架构也非常不同。你的大脑不像大型语言模型。你的大脑看起来非常非常不同。所以，我认为很多人认为大脑变得不那么重要了。我认为这是一个错误。我认为这个错误来自于他们不理解他们的系统有多么缺乏数据效率。你只能获得一生的经验，而人类在处理新情况方面比系统快得多。事实上，你可以恶意地说，神经科学可能在这个领域有用的原因是因为，如果我说我是一名神经科学家，人们会让我玩几年东西，然后他们才会说，你的系统不起作用。而如果你只是AI，就很难创新。因为人们希望你创新，并拥有最先进的SOA。这就是每个人都在关注的。但如果我明天需要SOA，我就无法创新。因为要获得最好的SOA，就需要尝试对现有事物进行微小的改变。所以，任何新想法，任何真正的创新，都无法生存。如果你说你做的是神经科学，他们至少会给你几年时间玩东西，这通常能让你真正创新。但就未来而言，现在非常不确定。你可以说，未来我们可能真的能拿到一个具体的大脑并模拟它。也许将来某个地方的兽医那里会有一个艾迪的大脑，我们可以最终模拟它，你可以在你的数字模拟中快乐地生活。我不太清楚为什么我们要这样做。有些人认为这是一种安全机制，可以防止AI，因为我们可以拥有模拟的AGI，它们可以非常非常快速地思考。这可能是一种方法。我个人认为，人们所感知的AI危险是巨大的，因此我一点也不担心。
你提到有一天我们能够模拟艾迪的大脑，并可能将其上传到数字基质上。你对那些声称我们实际上已经生活在一个模拟宇宙中的人有什么看法？这是一个很棒的论点。对于可能还不了解这个论点的人来说，很明显，以人类的能力，我们将在未来能够模拟比现在活着的更多的人。在这种情况下，我们无法知道，我们是生活在真实世界，还是生活在模拟中？在一个模拟人类比真实人类多得多的世界里，你被模拟的可能性几乎是，因为你不知道所有你认识的人中，你是哪一个。由此得出，也许我们已经生活在模拟中，因为模拟一直向下。而且，这个论点在逻辑上很有吸引力。我不确定它是否重要。你可以说，对于我们的决定，如果我们的世界来自模拟我们的元世界，或者我们的世界和它一样真实，那么正确的行为可能是一样的。如果你接受，在某个层面上，物理学在模拟我们，那么，我们是被物理学模拟，还是被计算机科学模拟，这重要吗？一层往上？那么，一层往上的计算机科学就是我们的物理学。所以，任何我们认为在道德上是好的事情，即使我们宣布我们生活在模拟中，也应该仍然是好的。所以，在某个层面上，我不确定它是否重要。但它感觉像是一些我们无法说太多的话的事情。因此，嗯，不行，你不能，如果一个不干预我们世界的上帝存在，我们不能，因为根据定义，世界将遵循那个外部上帝设定的物理定律。如果那是上帝，或者那是程序员，或者只是其他什么，对我们来说可能并不那么相关。但这些都是深刻而有趣的问题，对吧？
所以，是的，显然，它确实不重要。但我投资了虚拟元宇宙，我们一直在构建这些虚拟世界，而且每年的进步都令人难以置信。你知道，因为我们能够构建这些越来越接近现实的虚拟世界。你知道，我们正在构建这些照片级的真实世界。在这些照片级的真实世界中，我们正在集成AI层，这些非玩家角色变得越来越智能。如果有一天我们能够完全在结构和功能上绘制出人脑的图谱，并能够将其上传到量子计算机上呢？那么，理论上，是的，我们可以构建一个模拟，在这个模拟中，计算机中的生物将无法理解它们是在物理世界还是虚拟世界中。但是的，它实际上并不重要。
但我不明白的是，为什么有人会想这样做？比如，模拟人的好处是什么？感觉有点毫无意义。这似乎意味着有人投入了大量的计算资源，而计算资源可以说是有限的资源，至少在我们的宇宙中。投入大量的计算资源来模拟一个世界。有什么意义？
不，我完全理解。但是，你知道，我认为所有的大型企业都建立在模拟之上，因为通过模拟，我们能够更好地预测机器能做什么。所以，也许它是为了模拟，以便你能够构建模拟，以更好地理解人类是如何存在的。我真的不知道。也许人们构建模拟是为了尝试事物。但我们的世界感觉不像那样。我的生活感觉就像我面临着数百种不同版本的可口可乐，以找出哪种最适合我的味蕾。感觉这是一个拥有真正丰富性的世界，感觉它在某种意义上是有意义的，远远超出了测试。感觉如果有人写了这个世界作为测试，那么他们规划实验的能力真的很差。
完全公平。您能否分享一下您在编码实验室的最新进展？您也是CIFA学习机器与大脑项目的主任。您能否也谈谈您在那里的工作和研究更新？
是的，当然。在我的实验室里，我非常热衷于弄清楚秀丽隐杆线虫是如何运作的，并构建它的模拟。我认为，我们需要让神经科学真正定量化。在我看来，最干净的方法就是开始模拟其他系统。在我看来，这是唯一真正知道我们是否走在正确道路上的方法。因为我们可以通过查看领域外泛化来测试我们做得有多好。所以，我非常积极地推动一个大型国际联盟朝着这个方向发展。这就是我个人在我的实验室里非常感兴趣的，除了AI相关的问题。在CIFA LMB，我认为很多人现在正在思考的方向是这些交叉点。比如，我们如何让AI超越当前系统？我们如何生产一个理解因果关系的AI系统？这是我们过去几年一直在研究的。我认为，我们如何构建擅长与人类打交道的AI系统？比如，最终，很多人将AI视为进入人类领域。我个人认为它应该进入电钻领域。我的意思是，电钻有一些曾经非常人性化的东西，那就是体力劳动。但它被产品化并封装起来，使其成为我们想要的那个东西，那就是在墙上打洞。同样，我认为AI应该更多地进入工具领域，而不是人类领域。就像汽车一样，它们能有效地将我们带到世界各地。个人助理，比如非常擅长在我们想去亚洲旅行时预订航班。我期望它更多地像内置于工具中。就像电动马达出现时，它们并没有内置于电钻中。你会在工厂里有一个电动马达，然后围绕它建造整个工厂。这就是我们目前在AI领域所处的阶段。我们正在围绕我们拥有的AI系统构建东西，而不是以产品为中心。比如，人们需要找到他们的朋友在哪里，他们想有人说，“嘿，你知道你的朋友约翰就在300码外吗？为什么你们不去喝杯咖啡？你们都会喜欢的。”我们想要这些东西，但我们想要它们以有意义的方式产品化。我们不想要这种完全模糊的AI在我们周围生活，哦，天哪，我真的不想要那样。但我想要它用于某些事情，比如，也许人们不会说我的语言，我想要一个在我耳朵里的AI系统，实时翻译一切。这就是我的意思。
我们不想要的东西，比如智能，本身并没有价值。我们想要的是能够为我们做有用事情的人工智能系统，就像你和我谈论过的电脑游戏一样。我们想要它们让场景变得很棒，这是一种产品，是一种我想要的东西。给我一个逼真的森林，里面有森林里的一切。这是一个定义非常明确的东西，我们正在看到这种产品化的早期阶段。就像看Photoshop一样，你可以让那个抢镜的人消失，砰，非常容易。这是一个有意义的产品。我认为，如果有什么的话，我们会看到人工智能变得越来越不像人工智能，越来越像产品。我认为这是一个转型，加州的人是人工智能领域真正的创新者。我认为将会有下一轮，人工智能将更多地成为产品的组成部分。然后我们需要问，我们是否有可以推广的方式来思考人工智能如何成为以人为中心的有意义的一部分？我们如何将人工智能与人类对齐？但同时，我们如何获得关于人类的、可以推广到人工智能的见解？不是像你和我一样，我们以故事、因果关系、人际关系来思考世界。我们能否将这种因果关系思考世界的方式也带入人工智能系统？哦，那该多酷啊。我期待着那样的世界。你也是Community for Rigor和Neuromatch的创始人。你能概述一下这两家公司吗？是的，我认为这两项倡议都非常重要。让我先谈谈Community for Rigor。我们现在明白，我们做的很多科学研究并没有什么帮助，包括那些无法重复的科学研究。现在，如果你试图重复科学工作，并且你尽力按照论文中的描述去做，它通常无法重复。但这只是冰山一角。事实上，如果你再深入一点，你会发现很多论文混淆了相关性和因果关系。在那些确实能够重复的论文中，并且没有混淆相关性和因果关系的论文中，很多都是以前做过的研究，而作者从未真正意识到这一点。而在那些真正新颖的、没有混淆相关性和因果关系并且能够重复的论文中，很多都犯了其他基本的错误。Community for Rigor是一项由NAH资助的倡议，旨在帮助科学家在所有科学领域做得更好。顺便说一句，这包括机器学习。公司通常的做法是有一个训练集和一个测试集。我们都知道我们必须进行交叉验证，或者我们必须将数据分成训练集和测试集。但如果我的团队能够看到测试集并尝试算法，并随着时间的推移在测试集上进行创新，那么算法将比部署场景中的算法好得多。所以一旦你试图将其构建到产品中，它就会停止工作。这就是Community for Rigor。也许对你的一些听众来说，最有趣的是Neuromatch.io。Neuromatch.io主要举办暑期学校，在线举办暑期学校，但不是像MOOC那样。它是基于小组的，你有一个小组一起学习。我们为此构建了很棒的教学材料，我们也构建了助教小组。在一个大约15人的小组中，人们会真正地学习这些材料。所以，如果你想知道，它具有MOOC等事物的可扩展性的好处，但感觉就像一个小型大学项目。我们试图让它感觉有点像你在一所很棒的大学学习，比如宾夕法尼亚大学，但以一种能够让更多人接触到的方式。这样，我们每年夏天会服务几千名学生。我们教他们机器学习，教他们神经科学，教他们气候科学，以及很多其他课程。技术是我们不断构建的东西，我们生活在一个资本主义世界，利润至上。你知道，这导致了中心化技术，然后你知道，富者越富，穷者越穷。你的梦想世界是什么？你认为理想的世界是什么样的？我认为我们都同意，理想的世界是所有人都能够有意义地参与一项让每个人的生活都变得更好的事业。其中有一些方面我个人可以做些什么。我是一名神经科学家，我试图通过Neuromatch教很多人做好神经科学研究，通过Community for Rigor，我试图教科学家做好科学研究。我还不断提醒科学家我们为什么要做科学研究。我们不是因为做科学本身很棒而做科学。我们做科学的最终目标是让世界变得对人们更好。这就是为什么我们最终想要治愈疾病，我们想要制定政策，让人们能够参与影响他们生活的决策。现在，让我们说清楚，富者越富。富者并不越富。至少在全球范围内，不平等已经大大降低了。看看印度和中国的成功案例，以及许多国家的发展。虽然不平等在减少，但在最富裕的国家，进步并不大。但在某些方面，这是因为世界正在全球化。我认为连通性已经大大提高。现在，我的团队一直都有来自许多国家的人。我的实验室里就有伊朗人、印度人，还有来自大约20个国家的人。所以，世界正在变得更加紧密，这是一个美妙的发展，为来自世界各地的人们提供了机会。我认为，我们应该一起努力，让疾病不再可怕。人们会失去很多本可以花在其他事情上的宝贵时间。我想提到一个我认为不够多人考虑的领域，那就是友谊。什么让生活变得美好？我们有很多证据。拥有一个很棒的伴侣非常有意义。我的妻子让我非常快乐。拥有有意义的工作很重要。没有疾病很重要。没有成瘾很重要。有朋友也很重要。很多人都在考虑这些其他因素，但我认为友谊才是维系世界的重要纽带。我希望公司和技术人员能够更加关注人际关系的重要性。非常感谢您抽出时间参加播客。您留下了深刻的印象。我认为友谊和连通性。也许我错了，世界正在变得更好。资源的可及性越来越高。我们肯定会变得更好。也许我只是指一家公司或一个组织，或者正在努力实现AGI。也许这就是我想说的。是的，我认为我们正在进入一个。抱歉，你说的对。但你看，我们有解决办法，那就是反垄断。有监管。如果我们将大型科技巨头拆分，世界会更安全、更平等，拥有更好的可及性和更繁荣的创新生态系统吗？是的，人工智能权力的中心化是一个非常大的担忧。基本上，我能想到的所有人工智能发展得很糟糕的场景，都是人工智能集中在少数几家公司手中的情况。我喜欢这个电钻的比喻。如果我们把人工智能融入电钻，每个人都有了，我们就不需要通过那个垄断的、每个人都必须使用的普通铁路公司了。我们口袋里都有。我们都应该朝着一个人工智能是每个人都可以使用的工具的世界迈进，而不是人工智能被少数几家公司主导。是的，我们需要为此使用传统的工具。一旦我们有了这些大垄断者，我们就需要考虑如何为了所有人的最大利益而打破它们。谢谢你，Gad。我希望这个工具能够落到每个人手中。非常感谢您抽出时间参加播客。我的听众们，如果你们喜欢你们所看到的，请按下订阅按钮。下次再见，各位。非常感谢您，再见，再见。