Transcription
以下是与 Risto Michelinen 的对话，他是一位在德克萨斯大学奥斯汀分校的计算机科学家，也是 Cognizant 的进化人工智能副总裁。他专注于进化计算，但也涉足人工智能、认知科学和神经科学的许多其他领域。
快速提及我们的赞助商：Jordan Harbinger Show、Grammarly、Belcampo 和 Indeed。请在描述中查看它们以支持此播客。
顺便说一句，我想说的是，受自然启发的算法，从蚁群优化到遗传算法，再到细胞自动机，再到神经网络，一直以来都吸引着我的想象力。不仅因为它们在面对巨大困难时的惊人力量，还因为它们总是为思考计算开辟了新的途径。
在计算历史的长河中，朝着生物学方向发展，而不是逃离它，似乎是实现长期进步的关键。
这是 Lex Fridman 播客，这是我和 Risto Michelinen 的对话。
如果我们一遍又一遍地、一遍又一遍地、一遍又一遍地、一百万次地进行“地球实验”这个有趣的实验，并观察生命如何演变，您认为我们会看到多少种不同的演变结果？
现在，我们应该说您是一位计算机科学家。这实际上对计算机科学家来说并不是一个坏问题，因为我们正在构建这些东西的模拟，并且我们正在模拟进化。这在生物学中是一个很难回答的问题，但我们可以构建一个计算模型，运行一百万次，然后真正回答这个问题：当我们模拟它时，我们会看到多少变化？
嗯……这有点超出我们今天能做的范围。但我认为我们会看到一些规律性。进化也花了很长时间才开始，然后事情在最后真的加速了。
但有些东西需要被发现，而且它们很可能会一次又一次地被发现，比如操纵物体、对生拇指，以及某种交流方式，也许是口头上的，比如是否有语言，可能是某种其他声音，以及决策。但视觉也是如此。视觉已经进化了很多次，各种视觉系统都进化了。所以我相信我们会一次又一次地看到这些解决方案出现。它们可能看起来有点不同，但它们能完成工作。
真正有趣的问题是：我们会拥有灵长类动物吗？我们会拥有人类，或者某种类似人类的东西吗？而且，经过一段时间后，那会是进化的顶峰吗？我们不知道未来会怎样，但我们确实看到了大量的工具使用和构建我们的环境。所以我认为我们会得到一些进化产生一些能够操纵环境并进行建造的代理。
您认为人类有什么特别之处？比如，如果您正在运行模拟，并且您观察到人类出现，就像这些工具制造者，他们生火，开始四处奔跑，建造房屋，然后竞选总统，所有这些事情。您将如何检测到这一点？因为作为这个进化系统的创造者，您非常忙碌，您没有多少时间来观察，来检测是否有酷的东西出现，对吧？您将如何检测到人类？
嗯，您正在运行模拟，所以您也在其中加入了可视化和测量技术。因此，如果您正在寻找某些东西，比如交流，您将有探测器来找出是否正在发生，即使它是一个大量的模拟。我认为这就是我们会做的。我们大致知道我们想要什么：能够交流、合作、操纵的智能代理。我们将构建这些过程的探测器和可视化。
是的，这有很多，我们必须运行很多次，我们有充足的时间来弄清楚如何检测有趣的事情。但我也认为我们必须运行很多次，因为我们不太清楚它们会采取什么形状，而且我们的探测器一开始可能并不完美。
建造一个智能或智能通信的探测器似乎真的很困难。如果我们从外星人的角度观察地球，您确定他们能够将人类视为特殊事物吗？难道他们不会对其他事物感到好奇吗？我认为按体重计算，昆虫远远多于人类。还有蜂群，显然海豚是地球上最聪明的生物，我们都知道这一点。所以他们检测到的可能是海豚。可能是我们似乎正在发射的火箭，这可能是他们检测到的智能生物。可能是其他一些树木。树木已经存在很长时间了。我刚听说鲨鱼已经存在了 4 亿年，这比树木存在的时间还长。所以也许是鲨鱼。他们会根据年龄来判断，就像有一个持续存在的东西一样，如果你能存活足够长的时间，尤其是在大灭绝中，那可能就是你的探测器正在检测的东西。人类存在的时间很短，我们只是制造了很多污染，但其他生物也是如此。我不知道。您认为您能够检测到人类吗？您将如何以计算的方式去检测？也许我们可以把人类留在计算的意义上，检测有趣的事情。您基本上必须有一个严格的目标函数来衡量系统的性能，还是您可以找到好奇心和有趣的事情？
是的，嗯，我认为第一个测量将是检测您对环境能产生多大的影响。所以，如果您环顾四周，我们有城市，那是人造环境，那里住着很多人，大多数人都住在那里。所以这将是智能的一个好迹象，您不仅仅生活在环境中，而是按照自己的喜好来构建它。
是的，这确实很独特。我的意思是，当然鸟类会筑巢，但它们不会建造城市。白蚁会建造土丘和冰块之类东西，但人类建造城市的复杂性，我认为即使是外部观察者也会注意到。当然，这是人类会说的话。
而且，您当然可以说鲨鱼非常聪明，因为它们存在了这么长时间，而且它们没有破坏环境，而人类即将这样做，这并不是一件非常聪明的事情。但我们会克服的，我相信。而且我们可以通过进行一些实际上是良性的建设来克服它，甚至可能增强自然的恢复力。
您提到我们一遍又一遍地运行的模拟可能会开始。它开始得很慢。所以您认为，首先，我不确定您是否会考虑这类事情，但第零步，也就是生命的起源，有多么不可能？第二，在那之后，也就是创造我们今天在地球上看到的丰富复杂性的开端，发生任何有趣的事情有多么不可能？
有人正在研究那个问题。从原始汤开始，您如何真正获得自我复制的分子？他们非常接近。只要有一点帮助，您就可以做到。所以，当然，我们知道我们想要什么，所以他们可以设置条件，并尝试有利于进化的条件。我们可能需要很长时间才能重现它，可能不会那么长。从那以后，下一步……我认为在一些指导下，我们也可以做到。
但是，如果进化，真正令人着迷的是最终大脑的失控进化，它创造了人类，也创造了其他高等动物。那发生得非常快。这是一个大问题：那是否是可复制的？那是否可能发生？如果发生，它会朝着同一个方向发展吗？这是一个很大的问题，即使在计算方面也是如此。我认为，在计算方面，我们可以相对容易地进行一项实验，我们观察原始汤和早期多细胞生物的几个步骤。但是要获得像大脑这样复杂的东西，我们不太清楚条件是什么，甚至如何开始，以及我们是否能实现这种失控的进化。
从探测器的角度来看，如果我们观察这种进化，您认为大脑是什么？您认为是什么，让我们说，是什么让智能成为人类的特别之处？我们似乎能够推理，我们似乎能够交流，但其核心是我们可以称之为智能的广泛类别中的某样东西。所以，如果您戴上您的计算机科学家的帽子，您喜欢如何思考这个问题：什么是智能？
嗯，我的目标是创造智能代理，而不是定义什么是智能。这就是一种定义它的方式。这意味着它是一种具有有限的感官和有效能力与世界互动，然后还有一个决策机制的物体或程序。
有了这些有限的能力，它能生存吗？生存是最简单的目标，但您也可以给它其他目标。它能繁殖吗？它能解决您给它的问题吗？这比人类智能差很多。当然，根据这个定义，动物也会是聪明的。您甚至可能有一些其他形式的生命。
所以，在这种意义上，智能是一种生存技能，考虑到您拥有的资源，并利用您的资源，这样您就能继续存在。
您认为死亡、死亡率对代理是根本的吗？比如，我不知道您是否熟悉，有一位名叫欧内斯特·贝克尔的哲学家写了《死亡的否认》，他的整个想法，还有一些心理学家、认知科学家研究的恐惧管理理论，他们认为人类的特别之处在于我们能够预见自己的死亡。我们能够意识到，不仅仅是动物那样，总是本能地恐惧，对所有存在的危险做出反应，而是理解这段旅程最终会结束。而这本身就是人类创造性努力背后的力量。
是的，我认为这是非常有道理的哲学。我的意思是，动物可能不会以同样的方式思考死亡，但人类知道您的时间是有限的，您想让它有意义。您可以通过多种方式让它有意义。但我认为这与创造力以及人类需要做一些超越仅仅生存的事情有关。
现在，从这个简单的定义到下一个层次，我认为这可能是一个第二个决定，一个第二层次的定义，即智能意味着某事，而您所做的事情会留在您身后，而不仅仅是您的存在。您创造了一些东西，一些对他人有用的东西，一些对未来有用的东西，而不仅仅是为了您自己。我认为这是一个很好的智能定义，在下一个层次上。而且它也很好，因为它不需要它们是人类或生物的。它们可以是人工智能代理，它们可以实现这些目标。
因此，特定的代理，它们的存在对整个系统的影响是显而易见的。就像它们留下了一个痕迹，就像……是的，就像涟漪效应。但是，您又回到了蝴蝶扇动翅膀，然后您可以追溯很多核战争和人类历史上的所有冲突， somehow 与那只创造了所有混乱的蝴蝶有关。所以也许那不是，也许那是一种非常诗意的思考方式。那是我们人类以人类为中心的方式希望我们能产生这种影响，那就是我们智能的次要效应，我们对世界产生了持久的影响。但也许物理学和宇宙的整体也产生了非常持久的影响。
当然，您也可以这样想：如果……比如，美好的生活，如果您不在那里，别人会这样做吗？您是否真的做出了贡献，因为您有独特的东西可以计算，可以贡献？这确实是一个很高的标准，独特。
是的，是的。所以，您必须是莫扎特之类的才能达到那个水平，没有人会发展出那个，但其他人可能会解决这个方程，如果您没有这样做。但也在有限的范围内。我的意思是，在您的生命中或明年，您可以贡献一些独特的东西，其他人没有看到，然后那可能会改变事情的进展方式一段时间。所以，我认为我们不必成为莫扎特才能被称为智能，但我们有这种局部效应，它正在改变，如果您不在那里，就不会发生。而且，当然，它是一个积极的影响。您希望它是一个积极的影响。
您认为有可能在计算代理中工程化对死亡的恐惧吗？这有什么意义吗？有一个非常微不足道的事情，就像您可以直接编写一个参数，即生命何时结束。但更多的是对死亡的恐惧，对事物如何结束的认识，并以某种方式编码对这种恐惧的复杂表征，就像它越接近，您就越害怕。我的意思是，这种恐惧似乎有些深刻，以至于无法以微不足道的方式编码到我们的程序中。
嗯，我认为您指的是恐惧的情感。因为我们在认知上知道我们有有限的寿命，我们大多数人通过“嘿，世界就是这样，我充分利用它”来应对。但有时您可能会有一种不健康的恐惧，它让您瘫痪，您什么也做不了。在两者之间，既不关心，又因为恐惧而瘫痪，是一种正常的反应，这比逻辑多一点，而且是情感。
所以现在的问题是：情感有什么好处？我的意思是，它们非常复杂，而且情感有多个维度，它们可能确实具有生存功能，例如提高注意力。当您处于危险之中时，对死亡的恐惧可能是一种非常好的情感，您能够识别它，即使它不一定容易从逻辑上推导出来，而且您没有时间进行逻辑检测或推断。您可能会认识到情况很危险，这种恐惧就会出现，您突然就能感知到对您来说重要的事实。
我认为这就是情感的作用。它让您专注于对您的情况来说相关的东西。也许对死亡的恐惧也起着同样的作用。但如果它吞噬了您，而且是您在正常生活中会想到的事情，而您不必这样做，那么它就不健康，也不具生产力。
是的，但思考如何将情感融入计算代理很有趣。这几乎听起来像一句愚蠢的话，但也许它之所以愚蠢，是因为我们对情感、恐惧的机制的理解非常差。我认为其核心是另一个我们一无所知但却说了很多的词：意识。您在工作中，或者也许在咖啡休息时，会思考意识到底是什么？它对我们思考人工智能系统有任何用处吗？
是的，这是一个重要的问题。我认为您可以将这些代理构建成表现得像情感和意识一样的表征和功能。所以，我提到了情感是让您专注于并注意，过滤掉重要东西的东西。您可以拥有那种过滤机制，它会让您进入不同的状态，您的计算处于不同的状态，某些东西不会真正通过，而另一些则被放大。
现在，您将那个盒子标记为情感。我不知道这是否意味着它是一种情感，但它的作用非常像我们理解情感。我们确实做了一些这样的工作，模拟了试图从狮子那里偷取猎物的鬣狗，这发生在非洲。我的意思是，鬣狗非常聪明，但不是非常聪明。它们有一种比它们做的任何事情都更复杂的行为。它们可以联合起来，如果有大约 30 只左右，它们可以协调它们的努力，将狮子赶走，即使狮子非常强大，它们可以用爪子杀死一只鬣狗。但当它们一起工作并精确地安排这次攻击时，狮子就会离开，它们就会得到猎物。
可能存在一些像情感一样的状态，鬣狗会经历。首先，它们会呼唤增援，它们真的很想要那个猎物，但它们不够。所以它们会发出声音，会有更多的人，更多的鬣狗聚集过来。然后它们有两种情感：它们非常害怕狮子，所以它们想远离；但它们之间也有强烈的归属感。然后这是两种情感的平衡，而且它们也想要那个猎物。所以它既是令人反感的，又是吸引人的。但然后这种归属感最终如此强烈，以至于当它们移动时，它们会一起移动，它们作为一个整体行动，它们可以执行该功能。
所以，有一种有趣的行为似乎强烈依赖于这些情感，并使其成为可能。重要的反应。我认为您所描述的那个方面的一个关键方面是情感，它是一种社会交流机制，一种社会互动机制。也许人类甚至不会那么聪明，或者我们认为聪明的大多数事物如果没有社会互动成分，就不会那么聪明。也许我们的大部分智力本质上是在我们社会互动的发展中。也许为了创造智能代理，我们必须创造，是的，根本上是社会系统。
是的，我强烈相信那是真的。而且，是的，交流是多方面的。我的意思是，它们会发出声音并呼唤朋友，但它们也会互相摩擦，互相推搡，做各种手势等等。所以它们从不单独行动。而且我认为人们也很少单独行动，至少大多数时候是这样。而且社会系统对人类来说非常强大，我认为我们建立的一切都建立在这些结构之上。
一个关于这个理论的有趣理论，比如语言的起源，就是语言从何而来？这是一个合理的理论，首先是社会系统，您在社会中有不同的角色，然后这些角色是可以交换的。我抓你的背，你抓我的背，您可以交换角色。一旦您拥有能够理解可交换角色的行为的脑结构，那就是语言和语法的基础。现在您可以使用符号来指代世界上的物体，并且您拥有这种灵活的结构。所以，社会结构是语言发展的一个基本要素。
再次，然后您拥有语言，您可以指代现在不在场的事物。这使得您可以构建所有关于规划、建造等的好东西。所以，是的，我认为人类非常社会化，这使我们能够构建世界。而且，作为一个社会，我们可以做更多的事情，因为我们不必一个人做所有事情。您可以扮演不同的角色，共同取得更大的成就。这也是我们在今天的计算模拟中看到的。我的意思是，我们有多代理系统可以执行任务。
马可·多里科（Marco Dorico）有一个迷人的演示，我认为是这样的。这些小机器人必须在一个环境中导航，而且有些东西很危险，比如一个大裂缝或某种凹槽、一个洞，它们无法越过。但是，如果它们抓住彼此，它们就形成了一个更长的团队机器人，这样它们就可以越过那个。
是的，这是一个很好的例子，说明了我们如何能够一起实现我们单独无法实现的事情，就像鬣狗一样。它们单独不行，但作为一个团队就可以。而且我认为人类一直在这样做。我们在这方面真的很擅长。
而且，您描述的鬣狗系统听起来几乎像算法。人类的问题在于它们太复杂了，很难将它们视为算法。但对于鬣狗来说，它足够简单，以至于感觉……至少有希望，可以创建模仿它的计算系统。
是的，这正是我们研究它的原因，而不是人类。如我所说，它们很聪明，但不如狒狒聪明，狒狒会学很多东西，而且会更灵活。鬣狗在它们能做什么方面相对僵化，因此您可以将这种行为视为进化中的一个突破即将发生。是的，它们发现了一些关于社会结构、交流、合作的东西，而且它可能会溢出到其他事情上。在未来数千年里。
是的，我认为狒狒和人类的问题可能是大脑内部发生的事情太多了，如果我们观察系统，我们将无法衡量它。对于鬣狗来说，可能更容易观察实际的决策过程和所涉及的各种动机。
是的，它们是可见的，我们甚至可以量化它们的情感状态，因为它们会留下粪便。那里有可以与神经递质相关的化学物质，我们可以区分它们在过去 24 小时内可能经历过哪些情感。
说到鬣狗，您在工作中遇到的最美丽的、受自然启发的算法是什么？也许是在您工作早期，或者现在？
我认为进化计算是最神奇的方法。最让我着迷的是，用计算机，您可以获得比您投入的更多的东西。我的意思是，您可以编写一段代码，您的机器就会按照您告诉它的那样做。我的意思是，这发生在我大一的时候。它做了一些非常简单的事情，我只是惊叹不已，我被它得到数字并计算出结果所震撼，而我不必自己做。非常简单。
但是，如果您进一步推动它，您就可以拥有学习的机器，它们可能会学习模式。例如，深度学习神经网络已经可以学习识别物体、声音、人类难以处理的模式，有时它们做得比人类更好。这太迷人了。
现在，如果您再进一步，您就会得到像进化算法这样的东西，它们会发现事物，它们会创造事物，它们会想出您没有想到的解决方案。这让我惊叹不已。我们能够构建比我们更聪明的系统、算法，它们能够发现我们经常会错过的解决方案，这真是太棒了。这是因为我们人类有某些偏见，我们期望解决方案以某种方式出现，而您不会将这些偏见放入算法中，所以它们可以更自由地探索。而进化绝对是一个了不起的探索者。这就是真正令人着迷的地方。
是的，我认为我有点被嘲笑了，因为我目前没有孩子。但您提到了程序，我的意思是，您有孩子吗？所以也许您可以谈谈这个问题，但创造过程有一种魔力。就像我，对于波士顿动力公司的 Spot，但实际上是我曾经做过的任何机器人，它都感觉像是作为父亲会有的那种喜悦，也许不是同样的程度，但就像那种惊奇感。就像您知道您最初必须做什么才能让这件事启动。让我们从计算机科学方面来说，程序看起来是怎样的。但是，它做的事情比纸上写的程序要多，这 somehow 连接到整个宇宙的魔力。就像，我感觉每次我……就像，因为您真的创造了一些有生命的东西。即使它有自己的生命，有自己的智能，它也超出了您最初的想法。
是的，这正是它的意义所在。您创造了一些东西，它有能力过自己的生活，做一些好事，而您只是给了它一个起点。所以，从这个意义上说，我认为这可能是其中的一部分乐趣。您看到了。
但是您在这一点上提到了创造力，尤其是在进化计算的背景下。所以，我们并不经常认为算法具有创造性。那么您如何看待创造力呢？
算法绝对可以具有创造性。它们可以想出您没有想到的解决方案。我的意思是，创造力可以被定义为有几个要求：它必须是新的，它必须是有用的，而且它必须是令人惊讶的。这些当然适用于进化计算发现解决方案。
所以，也许举个例子，我们与麻省理工学院媒体实验室的 kelp harvest lab 合作。他们有一个称为“食物计算机”的水培环境，完全由计算机控制：营养、水、光照、温度，一切都受控。那么，如果您可以控制一切，该怎么办？农民对如何在自己的土地上种植植物有很多了解。但是，如果您可以控制一切，那就太多了。而且事实证明，我们实际上对此了解不多。
所以我们构建了一个系统，一个进化优化系统，以及一个关于植物如何生长的代理模型，让这个系统自己探索配方。起初，我们专注于光照：强度如何，波长如何，光照持续多久。我们设定了一些我们认为合理的界限，例如，至少有六个小时的黑暗，就像我们在世界上一样。而且，进化系统很快就将所有配方推向了那个极限。我们当时正在尝试种植罗勒。我们最初有大约 200 到 300 个配方探索，以及已知的配方。但现在我们正在超越这一点，一切都被推到了极限。
所以我们看着它说：“嗯，你知道，我们可以很容易地改变它，让它按您的意愿来。”而且事实证明，系统发现罗勒不需要睡觉。24 小时开灯，它就会茁壮成长，会长得更大，味道会更好。这不仅对我们来说是一个巨大的惊喜，也对团队中的生物学家来说是一个巨大的惊喜，他们曾预料到这是世界上存在的一些限制，是有原因的。
事实证明，进化没有同样的偏见，因此它发现了一些具有创造性、令人惊讶、有用且新颖的东西。
思考一下我们今天认为对地球上的生命系统至关重要的事物，它们实际上是至关重要的，还是它们以某种方式塑造了系统的约束？而我们所要做的就是消除约束，这很有趣。
您是否考虑过，我不知道您对将计算机接口与您联系起来了解多少，那里的想法是，我们的大脑非常有限。如果我们只是允许，如果我们插入，我们提供一种机制让计算机与大脑对话，那么您就扩展了大脑的计算能力。从非常高层次的哲学角度来看，可能性是无限的。但我不知道它有多无限。我们拥有的约束是我们智力的根本特征，还是这只是进化的一个奇怪的约束，比如我们的大脑大小、头骨和寿命以及感官？这只是进化的一个奇怪的微小怪癖。如果我们只是打开它，增加更多的感官，增加更多的计算能力，智能会呈指数级增长吗？您对此有什么感觉？约束，进化计算与环境约束的关系？
嗯，首先，我想评论一下改变人类大脑的输入。是的，以及大脑的灵活性。我认为有很多这方面的实验。例如，在动物身上进行的实验，麻省理工学院的 Megan Kasir 将听觉和视觉信息互换，并将其发送到大脑皮层的错误部分，动物仍然能够听到并感知视觉环境。而且，有些孩子出生时就有严重的疾病，有时不得不切除一半的大脑，但他们仍然长大，功能会迁移到其他部分。有很多这样的灵活性。
所以我认为，将大脑与不同种类的传感器连接起来是很有可能的，例如，一些我们甚至还不完全理解或拥有的东西，不同波长或其他任何东西。然后大脑可以学会理解它。我认为这是一种很好的希望，这些假体设备之所以有效，不是因为我们做得如此好，如此易于使用，而是因为大脑会适应它们，并学会利用它们。所以，从这个意义上说，如果有一个问题，我认为大脑可以用来纠正它。
现在，超越我们今天所拥有的，您能变得更聪明吗？这真的很难做到。给大脑更多的输入可能会压倒它。它必须学会过滤它并集中注意力，以便有效地利用信息。而且，通过某种外部设备来增强智能可能很困难。但我认为，弥补损失是完全可能的。
所以，我们的直觉允许我们想象我们可以弥补损失的东西。但超越我们所拥有的呢？我的意思是，我们已经是地球上最聪明的东西之一，如果不是最聪明的话。所以很难想象，如果大脑能够处理数量级更大的信息，如果它能够处理那部分信息，这可能是俄罗斯的事情。我认为是这样的，我认为限制是超能力所在。您知道，永生和通过将计算机与大脑连接来极大地增加信息带宽，不会产生更大的智能，它可能会产生更低的智能。所以，我不知道。关于稀缺性是适应性或性能的关键，我不知道。但这可能只是因为我们非常有限。
不，正是如此。您会利用您所拥有的，但您不必直接将其连接到大脑。我的意思是，我们已经有了像手机这样的设备，我们可以随时查找信息。这可以使我们更有效率。您不必争论我不知道那场棒球比赛发生了什么，或者其他什么，因为您可以立即查找。而且，从这个意义上说，我们可以学会利用工具，而这正是我们长期以来一直在做的事情。
而且，大脑已经像视觉一样从水管里喝水了。我们实际处理的信息比我们实际处理的信息要多得多。所以大脑已经擅长识别什么重要了。而且，我们可以将这种从视觉切换到其他波长或其他模态。但我认为，相同的处理原则可能仍然适用。但是，是的，这种获取信息的能力，以及更相关的信息，我认为可以增强我们所做的事情。我的意思是，今天的孩子们在学校学习 DNA，我的意思是，我们几年前才发现的东西，现在已经成为常识了，而且我们正在以此为基础。而且我们没有看到信息过载的问题，我们可以吸收和学习。也许人们在他们所知道的方面会变得更狭窄，他们在某个领域。但我们积累的这些信息会被传递下去，人们会从中学习，他们会以此为基础。所以，我们还没有达到饱和点。我们仍然拥有这个允许我们进行选择并决定什么有趣的流程。我认为即使有了今天更多的信息，它仍然有效。
思考维基百科成为一个传感器很有趣。就像，来自维基百科的信息洪流。就像您直接将其集成到大脑中，以至于您在思考，您正在观察世界，所有维基百科的内容都直接输入您的大脑。就像我看到一盏灯，我立即就有了谁发明了电的历史，并且非常迅速地整合了进去。所以，如果您能够整合这些信息，您思考世界的方式可能会非常有趣。
您对 Neurolink 方面的早期步骤有什么看法？我不知道您是否有机会看到，但有一只猴子通过脑机接口玩 Pong。那里的梦想是，您基本上正在取代您用来玩视频游戏的拇指。梦想是能够进一步增强您与计算机交互的接口。您对此印象深刻吗？您担心吗？作为人类，您有什么想法？
我认为这很棒。我认为我们能够做到这一点真是太好了。我的意思是，您有读取脑电图的设备，而且人类可以学会仅凭思想来控制事物。从这个意义上说，我不认为这有什么不同。我的意思是，这些信号会传递到肢体，传递到拇指。现在，同样的信号通过传感器传递到某个计算系统。它仍然可能需要根据人类的条件来构建，以免压倒他们，而是利用那里已有的东西，并感知容易生成的正确模式。但是，我认为这确实是可能的，而且很棒，而且可能效率高得多。
您提到令人惊讶是创造力的一个特征。除了您已经举过的几个例子之外，有没有什么让您印象深刻的，来自您参与过的各种进化计算系统？例如，解决方案的出现，不一定是最终的解决方案，但也许是即使被丢弃的东西？有没有什么让您想起来？
这种情况经常发生。我的意思是，进化非常有创造力，非常擅长发现您通常无法预料的解决方案。它们经常利用您没有想到的东西，比如软件中的一个 bug。有很多很棒的论文，社区一起写了一篇关于进化计算的令人惊讶的轶事。其中很多确实是在某种软件环境中，存在一个漏洞或一个 bug，而系统利用了它。顺便说一句，对于想阅读的人来说，这很有趣。它叫做“数字进化的令人惊讶的创造力：进化计算和人工智能生命研究社区的轶事集”。里面有很多来自这个社区所有开创性人物的故事。
您有一个与您有关的故事，至少在 tic-tac-toe 记忆炸弹方面。您能描述一下那个情况吗？
是的，那比我们的罗勒不需要睡觉的惊喜要小得多。但那实际上是我的学生在神经网络进化计算课上完成的。有一个作业，也许是最终项目，人们构建了游戏 AI。那是一个 AI 课程。然后，这个团队进化了一个神经网络来做出这些举动。他们设置了进化，他们真的不知道会发生什么，但结果是他们做得非常好。进化赢得了比赛。而且，大多数时候，它获胜是因为其他团队崩溃了。
然后我们看看，发生了什么？原来，进化发现，如果它做一个非常非常远的移动，比如数百万格远，其他团队的其他程序就会扩展内存来考虑这一点，直到它们耗尽内存并崩溃。然后，您通过让所有对手崩溃来赢得比赛。我认为这是一个非常深刻的例子，它可能适用于大多数游戏，即使从博弈论的角度来看。有时要获胜，您不必在游戏规则内做得更好，您必须想出打破对手大脑的方法。就像人类一样，不是通过暴力，而是通过某种黑客手段，让大脑无法……您基本上是……您会怎么说？您正在超出大脑能够运作的范围，超出您对手的期望。
我的意思是，是的，卡斯帕罗夫也指出了这一点。当深蓝与卡斯帕罗夫对弈时，它的下法与卡斯帕罗夫的预期不同。这与……你知道，没有相同的偏见有关。而这确实是 AI 方法的一个优势。
您能从高层次上说一下进化计算算法的基本机制吗？使用某种可以称为进化方法的东西，它是如何工作的？它与生物学有什么联系？
是的，很多这些算法确实从生物学中获得灵感，但它们是……您试图将其本质化，并提取您认为重要的元素。所以在进化计算中，它是变异的创造，然后是对其进行选择。所以，变异的创造，您必须有一些机制来创造新的个体，它们与您已有的个体非常不同。这就是创造力部分。然后，您必须有一些方法来衡量它们做得有多好，并使用该衡量标准来选择谁进入下一代，然后您继续。
所以，首先，您必须有一些数字表示，可以被修改。所以，我认为人类，我的意思是，生物系统有 DNA 和所有这些东西。所以您必须在计算机程序中有类似的编码。
是的，这是一个大问题，您如何编码这些个体。所以有一个基因型，那是编码，然后有一个解码机制，它只给出表型，也就是实际的个体，然后它执行任务，并在环境中进行评估，看看它有多好。所以，即使是这种映射也是一个大问题，您如何做到这一点。但通常，表示形式是数字字符串，或者是某种树。这些是我们非常了解的计算机科学的东西，我们试图这样做。而且，你知道，DNA 在某种意义上也是一个序列，它是一个字符串。所以，它并没有那么遥远。但 DNA 也有许多其他方面，我们不一定考虑，比如折叠和相互作用，而不仅仅是序列本身。很多这方面还没有被捕捉到，我们也不知道它们是否真的至关重要。
进化，生物进化产生了奇妙的东西。但如果您看看它们，并非每个部分都是不可替代和必不可少的。有很多包袱，因为您必须构建它，而且它必须经历各种阶段。我们仍然有阑尾，我们有尾骨之类东西，它们实际上并没有那么有用。如果您现在尝试解释它们，那将毫无意义，非常困难。但如果您将我们视为生产性进化，您就可以看到它们来自哪里。它们曾经可能很有用，现在不再有用，但它们仍然存在。
所以，这个过程很复杂，您的表示应该支持它。而这相当困难，如果我们受限于字符串或树，那么我们能构建什么就非常有限了。而进化计算中仍然缺少的一件事，特别是我们所看到的生物学中的重大转变，就是您从例如单细胞到多细胞生物，最终到社会。存在选择的层次和单元的层次的转变。而这正是我们在进化计算中尚未捕捉到的。
这是否需要对表示进行戏剧性的扩展？这就是最有可能的吗？
是的，但它相当……我们甚至在生物学中也没有很好地理解它来自哪里。所以，最好看看生物学中的重大转变，试着更详细地描述它们。这些过程是什么？一个单元不再单独评估，而是作为群体生物的一部分进行评估，即使它现在可以繁殖，但它不能单独繁殖，而且它必须有它的环境。所以，存在一个至少是选择的推动，以及如何做到这一点。
是的，如何实现这一飞跃，这是算法的一部分。
是的，是的。我们还没有在计算中真正看到过。而且，当然，也有尝试进行开放式进化，那些可以增加复杂性并开始在更高层次上进行选择的东西。但它仍然不像生物学中从单细胞到多细胞再到社会那样。
所以，基本上，与只有一个代理相反，这些代理突然自发地决定在一起，然后您的整个系统就会将它们视为一个代理。就像某种奇怪的合并构建。
但是，您也提到了选择，我认为您提到了。所以，基本上，有一个代理，如果它做得不好，它就不能生存。所以，有一些衡量它做得好与不好的标准。那么突变在过程中起作用吗？它有什么作用？
是的，所以，再次回到进化计算的计算机制。所以，创造变异的方式，您可以同时采用多个个体，但您也可以做得更多，您交换表示的一部分，您进行某种重组。例如，它可以是交叉。在生物学中，您有 DNA 字符串被切割并重新组合在一起。我们可以做类似的事情。而且，似乎在生物学中，交叉是生物进化中的真正主力。在计算中，我们倾向于更多地依赖突变，那就是对部分染色体进行随机更改。您试图变得聪明，并针对某些区域，并使突变也遵循某些原则，例如，您收集性能统计数据和相关性，并尝试进行您认为有帮助的突变。这就是进化计算在过去 20 年里的发展方向。我的意思是，进化计算已经存在了 50 年，但许多近期的成功来自于突变，来自于使用统计数据。就像机器学习的其余部分一样，基于统计数据。我们使用类似的工具来指导进化计算。从这个意义上说，它……
已经从生物进化中分化出来了一点，我认为我们可以重新审视这一点，拥有更弱的选择、更多的交叉、庞大的人口、更多的时间，也许会从中产生一种不同的创造力。我们对今天的进化竞争非常不耐烦，我们现在就想要答案，而且很快，如果有人表现不好，就杀了他。是的，嗯，生物进化并非如此运作，嗯，它更加耐心，是的，更加耐心。所以我想我们需要在我们的算法中加入某种形式的交配，某种形式的约会机制，比如婚姻，这样才能改进组合机制，而不是让所有突变来完成所有工作。是的，而且有很多成功的方式，你知道，通常在每一次竞争中，我们只有一个目标，你知道，玩好这个游戏，与他人相比，但在生物学中，有很多成功的方式，你可以建立生态位，你可以变得更强壮、更快、更大或更聪明，或者你知道吃这个或吃那个，或者你知道，所以有很多方法可以解决生存的同一个问题，这就会产生创造力，嗯，它允许更多的探索，最终你会得到可能更具创造性的解决方案，而不是试图直接或多或少地从初始种群直接达到你的最大适应度，你衡量它，那只是一个指标。所以，广义上说，在我们谈论更新的进化之前，你是否认为在某些情况下，进化计算比深度学习更有效？机器学习广义上来说，甚至可能是监督机器学习。我不知道你是否想划出任何界限、区别和边界，它们在哪里相互碰撞，或者在当前情况下，一个比另一个更有效。是的，当然，它们非常不同，它们处理不同类型的问题，深度学习在数据量大的领域非常成功，这意味着不仅是关于情况的数据，还有正确的答案，所以标记的例子，或者它们可能是预测，可能是天气预测，其中数据本身就成为标签，今天发生了什么，天气如何，明天会怎样，所以它们是非常有效的深度学习方法，用于这类任务，但还有其他类型的任务，我们真的不知道正确的答案是什么，例如玩游戏，但许多机器人任务和世界上的行动，决策制定，嗯，以及实际的实际应用，如治疗和医疗保健或股票市场投资，许多任务都是这样的，我们不知道，也永远不会知道最优答案是什么，在那里你需要不同类型的方法，强化学习就是其中之一，强化学习也来自生物学，代理人在一生中学习，它们吃浆果，有时它们会生病，然后它们就不会生病，变得更强壮，这就是你学习的方式，进化也是一种这样的机制，只是时间尺度不同，因为你有一个种群，而不是个体在其一生中，但整个种群作为一个整体可以发现什么有效，在那里你可以承受那些不起作用的个体，它们会，你知道，每个人都会死，然后你有下一代，它会比上一代更好，所以这是这些方法之间最大的区别，它们适用于不同类型的问题，嗯，而且，特别是，强化学习和进化计算之间经常有一个有趣且重要的比较，最初，强化学习是关于个体在一生中的学习，而进化更多的是工程，你不在乎一生，你不在乎所有被测试的个体，你只在乎最终结果，进化产生的最后一个，最好的候选人，从这个意义上说，它们也适用于不同类型的问题，现在这个界限开始有点模糊了，你可以将进化用作在线方法，也可以将强化学习用于创建工程解决方案，但这仍然大致是区别，从你想使用什么算法的角度来看，如果你有每次试验都有成本的东西，强化学习可能是你的选择，现在如果你有一个领域，你可以使用代理，所以试验的成本不高，你想有惊喜，你想更广泛地探索，那么这种基于种群的方法可能是一个更好的选择，因为你可以尝试那些你在进行强化学习时负担不起的事情，没有什么比观看进化计算或强化学习教模拟机器人走路更有趣了，也许可以问一个更高级的问题，但你是否觉得机器人领域的这些应用对进化计算很有趣？是的，是的，非常有趣，而且确实有那些迷人的视频，这实际上是你可以对比差异的一个例子，即强化学习和进化计算之间的区别，是的，所以如果你有一个强化学习代理，它会试图保守，因为它想尽可能长时间地行走并保持稳定，但如果你有进化计算，它可以承受那些失控的代理，它们摔倒在地，它们可以迈出一步，然后它们跳起来，然后再次摔倒在地，是的，最终出来的东西就像一种受控的摔倒，是的，你再迈出一步，再迈出一步，你就不再摔倒了，而是奔跑，你跑得很快，所以这是一种发现很难一步一步地增量发现的东西的方式，因为你可以承受这些进化上的死胡同，尽管它们并非完全是死胡同，因为它们可以作为垫脚石，当你把其中两个放在一起时，你会得到一个效果更好的东西，这是这种发现的一个很好的例子，是的，学习走路很有趣，我与麻省理工学院的拉斯·泰德隆谈了很多，那里有一个机器人学家社区，他们就是热爱运动的优雅和美丽，是的，而且双足机器人行走很美，但也非常危险，因为你基本上一直在摔倒，如果你想做优雅的运动，而发现这一点，嗯，这是如此好的一个例子，即发现一个好的解决方案有时需要一种信念的飞跃和耐心以及所有这些东西，我想知道你必须发现这些东西的其他领域，是的，是的，另一个有趣的方向是学习，对于虚拟生物学习走路，我们进行了一项模拟研究，显然，你创造的不仅仅是它们的控制器，还有它们的身体，你有圆柱体，你有肌肉，你有关节和传感器，你创造的生物看起来非常不同，有些有多个腿，有些根本没有腿，然后目标是让它们移动，走路，跑步，有趣的是，当你同时进化控制器和身体时，你会得到看起来自然的运动，因为它们是为该物理设置优化的，而且这些生物让你相信它们是活的，因为它们的行走方式是你期望具有这种设置的某人会行走的方式，是的，那里也有一些主观的东西，对吧？我一直在思考这个问题，尤其是在人机交互的背景下，你知道我提到了波士顿动力公司的Spot机器人，人机通信方面，让我们把它放在另一个背景下，人与狗的语境，就像一条活着的狗一样，有，首先是眼睛，你们都看着同一件事，狗也用眼睛交流，就像，如果，如果你和一只狗想处理某个特定的物体，你会看着那个人，狗会看着你，然后看着物体，再看着你，所有这些事情，但也有动作的优雅，我的意思是，当然还有尾巴以及所有这些交流机制，这一切看起来都很自然，而且常常是快乐的，而对于机器人来说，要做到这一点，真的很难弄清楚，因为这几乎是不可能硬编码的，你可以为了演示目的而硬编码它，所以，就像那样，但它本质上是编排好的，就像你观看波士顿动力公司的某些视频，它们在跳舞，所有这些都是由人类编排的，但是要学会通过你的动作来展示一种自然和优雅，这很迷人，当然在物理空间中，这很难做到，以你所说的规模来学习，但希望的是，如果你能够有效地模拟机器人，那么你就可以在模拟中做到这一点，然后转移到物理空间，是的，而且有时我认为这需要机器人一方的心理理论，是的，在机器人一方，它们理解你在做什么，因为它们自己也在做类似的事情，而这是一个大问题，我们谈论了普遍的智能以及智能的社交方面，我认为这就是我们人类理解其他人类所需要的，因为我们假设它们与我们相似，我们有一个模拟，我们很久以前就做过，肯·斯坦利做过，两个机器人正在竞争，就像你说的，它们在觅食以获取能量，然后当它们非常强壮时，它们会撞到另一个机器人并获胜，如果它们更强壮，我们看着进化发现越来越复杂的行为，它们首先去最近的食物，然后它们开始规划轨迹，以便获得更多，但然后它们开始注意另一个机器人在做什么，最后有一个行为，其中一个机器人，最复杂的那个，你知道，感知到食物块在哪里，并确定另一个机器人距离很远，附近还有一块食物，所以它假装，现在我正在使用拟人化的术语，但它朝着那些其他碎片移动，以便另一个机器人去获取它们，因为它知道最后一块食物很近，而另一个机器人将不得不长途跋涉，失去能量，然后输掉整个竞争，所以那里出现了一种类似心理理论的东西，知道另一个机器人会做什么，引导它走向不良行为以获胜，所以我们也可以在模拟中发生这样的事情，但这是心理理论的完全自然出现，但我觉得如果你给心理理论一个出现的空间，更容易，那么你可以走得很远，我的意思是，进化的一些事情，你知道，你加入一点设计，它真的会有帮助，而且我认为我倾向于认为一个非常简单的心理理论将对代理之间的合作以及人类机器人交互产生很大的影响，我的意思是，它不必超级复杂，我曾有机会在自动驾驶汽车领域观察汽车与行人互动，或者行人与汽车互动，我的意思是，你会认为有一个非常复杂的心理理论在起作用，但我有一种感觉，它还没有被很好地理解，但我有一种感觉，它非常愚蠢，它非常简单，那里有一个社会契约，人类司机和过马路的人之间，过马路的人相信汽车里的人不会谋杀他们，而且还有一些关于回到那个死亡的事情，有一种道德和伦理的舞蹈，你将你自己的道德映射到车里的人身上，即使他们开车的速度快到你认为如果他们不停下来就会杀了你，你也相信如果你走到他们面前，他们会踩刹车，我们做的那种奇怪的舞蹈，我认为这是一个非常简单的模型，当然，很难内省它是什么，而人机交互中的自动机器人必须建立那个，目前的机器人远不如你所描述的，它们目前害怕一切，它们不是那种摔倒并学会奔跑的，它们更像是，请不要碰任何东西，不要伤害任何东西，尽量远离人类，将人类视为弹道物体，你不能，你用一个大的空间包络，确保你不会与之碰撞，这就是埃隆·马斯克如何看待自动驾驶汽车，我倾向于认为自动驾驶汽车需要人与机器之间进行一次美丽的舞蹈，这不仅仅是一个碰撞避免问题，而是一个奇怪的舞蹈，是的，我认为你，这些系统需要能够预测会发生什么，其他代理会做什么，然后有一个关于目标是什么的结构，以及这些预测是否满足目标，而且你可以用一个相对简单的设置走得很远，但称之为心理理论，我认为你不需要，我的意思是，行人是否有思想并不重要，它是一个物体，我们可以预测它会做什么，然后我们可以预测未来的状态是什么，以及它们是否是理想的状态，远离那些不理想的状态，走向那些理想的状态，所以这是一个相对简单的功能方法，我们真的需要心理理论吗？也许，也许当你开始互动，你想让另一个代理做某事，并且共同地，以便你们可以共同协作实现某些目标，那么，那么它就变得更复杂了，我的意思是，即使是行人，你也必须知道他们的注意力，实际注意力，就他们的目光而言，但也是，我的意思是，视觉科学的人们一直在谈论这个问题，仅仅因为我看着它，并不意味着我在关注它，所以弄清楚这个人正在看什么，他们摄取了哪些感官信息，而心理理论部分在于他们真正关注的是什么，认知上，以及他们在想什么，他们正在进行什么计算，而且你可能有几个选择，你知道，对于过马路的行人来说，它不必是一个变量，有几个离散的状态，但你必须很好地估计大脑处于哪种状态，对于行人来说，同样对于机器人来说，如果你正在协作捡起一个物体，你必须弄清楚，人类是否，就像，有几个离散的状态，人类可能处于这些状态，你必须通过观察人类来预测它，这似乎是一个机器学习问题，弄清楚人类在做什么，它不像仅仅计划那样简单，因为他们移动了手臂，手臂将继续朝这个方向移动，你必须，你必须真正有一个关于他们在想什么以及动作背后的动机的模型，而我们在这里谈论的是相对简单的物理动作，是的，但你也可以将其提升到更高的层面，例如预测人们会做什么，你需要知道他们的目标是什么，他们想做什么，他们是在锻炼，他们是想去某个地方，但甚至更高层次，我的意思是，你正在预测人们在他们的职业生涯中会做什么，他们的生活主题是什么，他们想出名，富有还是做好事，这需要更多的信息，但它能让你预测他们的行动，他们可能做出的选择，那么进化计算如何应用于神经网络的世界呢？因为我看到你和其他人在这方面做了很多工作，在神经进化领域，所以首先你能说这个领域是什么吗？神经进化是神经网络和进化计算的结合，以多种不同的形式，但早期版本只是使用进化，就像随机梯度下降或反向传播一样，来构建神经网络，因为进化可以像任何其他数字字符串一样进化神经网络的参数权重值，你可以做到，这很有用，因为在某些情况下，你没有需要反向传播的目标，它可能是一个正在运行迷宫的代理，或者是一个玩游戏的机器人，或者其他什么，你又不知道正确的答案，所以你没有备份，但这样你仍然可以进化你的神经网络，神经网络非常擅长这项任务，因为它们识别模式并泛化，在已知情况之间进行插值，所以你想要在这种任务中有一个神经网络，即使你没有监督目标，所以这是一个原因，这是一个解决方案，而且最近，现在我们有了所有这些深度学习文献，事实证明，我们可以使用进化来优化这些设计的许多方面，深度学习架构已经变得如此复杂，以至于人类几乎没有希望理解它们的复杂性以及什么才是好的设计，而现在我们可以使用进化来为你提供设计，它可能是优化超参数，比如层数等等，或者网络的拓扑结构，有多少层，它们如何连接，但也有其他方面，比如你在学习过程中在网络中使用什么激活函数，或者你使用什么损失函数，你可以泛化，生成它，甚至数据增强，深度学习实验设计的各种方面都可以这样优化，所以这是两种机制之间的互动，而且当我们更深入地研究认知科学以及我们一直在谈论的话题时，你可以在两个时间尺度上拥有学习机制，所以你确实有一个进化，它会产生婴儿神经网络，然后在它们的一生中学习，并且你有这两个时间尺度的互动，我认为这可能非常强大，现在在生物学中，我们并非天生就拥有所有能力，我们必须学习，我们有一个发育期，人类的发育期非常长，大多数动物也有某种发育期，而且很可能的原因是进化和DNA不够详细或不够丰富来描述它们，我们无法描述如何设置大脑，但进化可以决定一个起点，然后有一个学习算法来构建最终产品，这种智能的互动，嗯，进化为学习它提供了良好的起点，用于特定目的，通过与环境的互动，这可以成为构建大脑和构建行为的非常强大的机制，我喜欢你从智能回溯，所以优化起点，也许，是的，好的，这里有很多有趣的事情要问，这基本上是神经网络和进化计算之间的这种舞蹈，可以归类为自动化机器学习，在那里你优化超参数或拓扑结构，或者广义上的超参数，但拓扑结构真的很有趣，我的意思是，这并没有真正有效地完成，或者在机器学习的历史上没有完成，通常有一个固定的架构，也许有一些组件你在玩，但基本上像生物体一样生长一个神经网络，这是一个非常迷人的空间，你认为生长一个神经网络有多难？也许哪些神经网络更适合这种想法，而不是其他？我见过很多关于循环神经网络的工作，是否有某些架构更友好？这只是一个有趣的、小规模的实验集，还是你有希望我们能够生长出强大的神经网络？我认为我们可以，到目前为止的大部分工作都是采用现有的、人类设计的架构，并试图进一步优化它们，而且你完全可以做到，几年前我们做了一个实验，我们采用了图像字幕竞赛的获胜者，嗯，架构，然后把它分解成碎片，然后把碎片作为我们的搜索效果，看看是否能做得更好，我们确实通过搜索人类已经设计的网络设计，做得更好，性能提高了15%，或者其他人，嗯，但这是从人类产生的起点开始的，但我们可以做更普遍的事情，它不必是那种网络，难点在于几个挑战，其中一个就是定义搜索空间，你的元素是什么，以及你如何将它们组合起来，而空间真的非常非常大，所以你必须以某种方式约束它，并有一些关于什么会起作用的直觉，因为否则一切皆有可能，另一个挑战是，为了评估你的设计有多好，你必须训练它，我的意思是，你必须真正尝试一下，而这目前非常昂贵，我的意思是，深度学习网络可能需要几天才能训练好，想象一下有一个100个个体的种群，并且必须运行100代，这在计算上还不太可行，它会的，但也有很大的碳足迹，所有这些，我的意思是，我们使用大量的计算来做这件事，所以智能方法和智能，我的意思是，我们必须做一些科学研究，才能弄清楚正确的表示是什么，正确的算子是什么，以及我们如何评估它们而无需完全训练它们，而这正是当前研究的重点，我们在所有这些方面都取得了进展，所以，是的，有些架构更适合这种方法，但我也认为我们可以创建自己的架构和表示，甚至更好，你认为有可能做到，就像一个微小的婴儿网络，成长为一个能够做到最先进的，即使是像MNIST这样简单的数据集，并且就像它一样，它成长为一个巨大的怪物，它是世界上最伟大的手写识别系统吗？有这样的方法，Esteban Rail 和 Cochlear 等人一直在研究进化一个较小的网络，然后系统地将其扩展到一个更大的网络，你的元素已经存在，并且扩大它将给你更多的力量，所以再次，进化给了你那个起点，是的，然后有一个机制给了你最终结果，一个非常强大的方法，但是，你知道，你也可以模拟实际的生长过程，就像我之前说的，进化一个起点，然后进化它，或者训练网络，这方面的工作还不多，我们需要某种模拟环境，所以会有互动，嗯，监督环境并不那么容易使用，抱歉，神经网络之间的互动，你正在创建的神经网络与世界互动，并从这些互动序列中学习，也许与其他人的交流，[笑声]太棒了，我们想做到这一点，但仅仅模拟那个级别的任务就非常困难，非常困难，我喜欢这个想法，我的意思是，进化在地球上强大的事情之一是捕食者和猎物出现了，就像有更大的鱼和更小的鱼，想到你可以有相互竞争的神经网络，一个黄色的网络能够摧毁另一个，就像神经网络的战争在竞争解决MNIST问题一样，我不知道，是的，是的，而且我们实际上也模拟了猎物，这很有趣，发生了什么，但是Minnie Roger Poland做到了，而Kay Holcomb是一位动物学家，所以我们再次，我们模拟了鬣狗，模拟了斑马，很好，起初，你知道，鬣狗只是试图捕猎它们，当它们偶然发现斑马时，它们就吃了它，很高兴，然后斑马学会了逃跑，鬣狗学会了合作，实际上有两个从不同方向接近，现在斑马生成了它们下一步的行为，它们分裂成不同的方向，就像瞪羚在被捕猎时一样，它们通过朝不同方向移动来迷惑捕食者，这出现了，然后更多的鬣狗加入了，并试图包围它们，然后当它们包围它们时，它们可以一起伤害斑马，并吃掉多个斑马，所以有一场捕食者和猎物的军备竞赛，它们逐渐发展出更复杂的行为，其中一些我们实际上在自然界中看到了，而且这种共同进化，这种竞争性进化，这是一个迷人的话题，因为有一个承诺或可能性，你将发现一些你不知道的新东西，你没有内置它，它来自这场军备竞赛，很难维持军备竞赛，很难有足够的模拟来支持所有这些复杂的行为，但至少在几个步骤中，我们已经在猎物场景的传播中看到了它，是的，首先，从进化架构的角度来思考这个背景是很迷人的，我研究特斯拉自动驾驶系统很长时间了，它是运行在现实世界中的一个特定的人工智能系统实现，我发现它很迷人，因为它在现实世界中的使用规模，而且我不确定你是否熟悉这个系统，安德烈·卡帕西领导着机器学习团队，有一个多任务网络，多头网络，有一个核心，但它是在特定任务上训练的，并且有很多不同的头部是在此基础上训练的，从进化计算或神经进化中是否有任何经验教训可以应用于这种在现实世界中运行的多头野兽？是的，这是一个非常好的神经进化问题，原因是当你有多个任务时，它们相互支持，所以假设你正在学习对X射线图像进行分类，不同的病理学，所以一个任务是分类这种疾病，另一个是这种疾病，另一个是这种疾病，当你从一种疾病中学习时，它会强制执行某些类型的内部表示和嵌入，它们可以作为其他任务的有用起点，所以你将多个任务的智慧结合到这些表示中，而且事实证明，当你同时学习其他任务时，你在每个任务中的表现会比只学习一个任务要好，这本身就是一个迷人的想法，是的，是的，人们一直在这样做，我的意思是，你利用你所知道的领域的知识，在新领域，而且，当然，神经网络可以做到这一点，当进化进来时，那就是，如何最好地组合这些任务？现在有架构设计，允许你决定在哪里以及如何组合嵌入，内部表示，以及组合多少，嗯，而且这方面有很多研究，我的团队埃利奥特·麦迪逊也在这方面做过研究，特别是，什么是支持多个任务的良好内部表示，我们正在了解它是如何构建的，以及它里面有什么，所以它在一个支持你所说的多个不同头的空间里，而且我认为这基本上也是生物智能的工作方式，你不是为了一个任务而构建一个表示，你试图构建一个通用的东西，不仅是为了让你在一个任务或多个任务中做得更好，也是为了未来的任务和未来的挑战，所以你学会学习世界的结构，而这有助于你在各种未来的挑战中，所以你试图设计一个支持特定问题类别的任意一组任务的表示，而且，而且事实证明，这也是一个惊喜，埃利奥特发现的是，那些任务不必非常相关，你知道，你可以通过学习语言来提高视觉能力，或者通过学习DNA结构来提高语言能力，不，世界以某种方式押韵，世界甚至押韵，即使是非常不同的领域，我的意思是，在这个小话题上，让我问你，因为你在竞争科学方面也从事过语言和视觉，两者之间的联系是什么？从工程角度来看，人类语言系统或人类视觉系统，或者AI领域的语言和视觉的等价物，哪个更难构建，或者它是最好的，是你所说的多任务想法，它们需要深度集成，是的，绝对是同时学习两者，我认为这是未来一个迷人的方向，所以你有包含视觉成分和口头描述的数据集，例如，这样你就可以学习一个更深层次的表示，一个对两者都更有用的表示，但仍然是一个有趣的问题，最终哪个更容易，我的意思是，识别物体，甚至理解句子，这相对容易，但挑战在于理解世界，视觉世界，3D，物体在做什么，以及预测会发生什么，关系，这使得视觉变得困难，而语言，显然，它是，它是什么意思，它被说了什么，而意义不仅仅在于谁对谁做了什么，有目标，计划，主题，你最终必须理解整个人类社会和历史才能完全理解这句话，有很多这样的短句的例子，当你带来所有世界知识来理解它时，而这才是现在的大挑战，我们离那还很远，但即使将视觉世界与句子结合起来，也会让你对正在发生的事情有更深的理解，而且我认为这就是我们即将走向的方向，我的意思是，我们有ImageNet很长时间了，现在我们有所有这些文本集合，但将两者结合起来，然后学习对正在发生的事情的语义理解，我认为这将是未来几年的下一步，你开始看到这一点，随着所有关于Transformer的工作，人工智能社区开始涉足这个想法，拥有现在正在处理图像、视觉的语言模型，然后将两者联系起来，我的意思是，现在这些都是小小的探索，我们真的在试水，但也许有一天我们会一头扎进水里，一切都会被视为同一件事，我仍然想知道什么更根本，是视觉，还是我们没有正确地看待视觉，也许是因为我们是人类，我们认为事物是美丽的等等，而且因为我们有相机，它们拍摄像素是2D图像，我们没有充分地将视觉视为语言，你知道，也许乔姆斯基一直是对的，语言对一切都很重要，甚至对认知，甚至对意识，就像基础层都是语言，不一定是英语，而是一种奇怪的抽象表示，语言表示，是的，我们之前谈到了社会结构，这可能是语言的基础，而这是更根本的部分，然后语言被添加了进来，语言很可能从社会互动中出现，是的，这是一种非常好的猜测，通过视觉动物，大脑的很大一部分致力于视觉，而且当我们思考各种抽象概念时，我们通常将其简化为视觉，以及图像，你知道，去白板，你画出非常抽象的概念的图画，所以我们倾向于求助于它，这是一个基本表示，它可能甚至早于语言，我的意思是，动物很多它们不会说话，但它们确实有视觉，而语言是一个有趣的进化，从咀嚼中，你开发了一个能够发声的器官来操纵它们，也许这是一种意外，也许这是一种可用的东西，然后允许我们进行交流，或者也许是手势，手语可能是原始语言，我们不太清楚，但语言比它传播的媒介更根本，我认为它来自那些表示，现在在当今世界，它们如此紧密地结合在一起，很难说哪个是根本的，你看看大脑结构，甚至视觉皮层，它应该只是视觉，但如果你在思考语义概念，你在思考语言，视觉皮层会亮起来，它对语言计算仍然有用，所以它们有共同的结构作为基础，所以利用你需要的，是的，当你理解一个场景时，你理解关系，嗯，这与理解单词和概念之间的关系并不遥远，所以我认为这就是它们如何整合在一起，是的，还有梦境，我们想闭上眼睛，里面仍然有一个世界在运作，而且可能视觉系统也整合在其中，我喜欢思考外星人，并思考，对我来说，外星人智能生命的可悲之处在于，如果它访问地球，或者如果我们有一天来到火星，或者也许是另一个太阳系，另一个星系，我们人类将无法探测到它，或者与之交流，或者欣赏它，它就在我们眼前，而我们太以自我为中心而看不见，不是以自我为中心，而是我们的工具，我们的思维框架将无法探测到它，就像电影《降临》一样，斯蒂芬·沃尔夫勒姆和他的儿子，我认为他们参与开发了外星人与人类交流的语言，你有没有想过那种事情，如果人类和外星人能够相互交流，比如如果我们见面了，我们可以做SETI，这是从很远的距离交流，但也是我们自己，如果你和一个外星人做一个播客，你认为我们会找到一种共同的语言和一种共同的交流方法吗？我认为从计算的角度来看，提问的方式是，你是否有非常根本不同的生物，代理人，它们是否能够找到一种共同的语言？是的，我确实想过，我的意思是，我认为很多从事计算的人，尤其是人工智能领域的人，之所以进入这个领域，是因为他们对科幻小说着迷，以及所有这些可能性，我的意思是，《星际迷航》产生了我们现在拥有的各种设备，它们首先设想了它，这是真实的，它是激励人心的，去思考这些事情，嗯，所以我，再次，作为一个计算科学家，并试图构建智能代理，我想做的是拥有一个模拟，其中代理人实际上进化出交流，不仅仅是交流，我们已经做到了，人们已经做了很多次，它们交流，它们发出信号等等，但实际上发展出一种语言，而语言意味着语法，它意味着所有这些社会结构，以及在此之上的语法结构，我们在各种条件下这样做，并实际尝试确定什么条件是必要的，然后我们就可以开始问这样的问题，在那些不同的模拟环境中出现的语言，对我们来说是可理解的吗？我们能否以某种方式进行翻译，我们可以把它变成一个具体的问题，所以，进化语言的机器翻译，就像进化出来的语言，我们可以翻译吗？就像我有一个进化语言的谷歌翻译，是的，如果我们这样做足够多，我们也许就能知道外星语言可能是什么样的，空间或者那些语言可能在哪里，因为我们可以设置不同的环境，不需要重力，你知道，你可以拥有各种各样的社会，它们可能没有捕食者，它们可能每个人都是捕食者，各种情况，然后看看那些语言可能在哪里，以及它们的困难是什么，在 aliens 来到这里之前这样做会非常好，是的，这是很好的练习，嗯，在类似的联系中，你知道，你可以把人工智能系统看作是外星人，有没有方法来进化一种交流方案，有一个领域你可以称之为可解释的人工智能，让人工智能系统能够交流，所以你有一个，但你进化了一堆代理，但其中一些能够和你说话，是的，也进化一种让代理能够向我们人类交流它们的世界的方式，你认为有没有可能的机制可以做到这一点？我们可以肯定地尝试，如果我们，如果它是一个进化计算系统，例如，我们奖励那些功能性的解决方案，那种交流是有意义的，它让我们能够一起再次实现共同的目标，我认为这是可能的，但即使从你提到的那篇论文中，轶事，也很可能，嗯，代理人学会了，你知道，撒谎，欺骗，做所有那些事情，是的，我的意思是，我们甚至在非常低的层面上看到它，比如细菌进化，有欺骗者，谁能说他们说的话就是他们想的呢？但是，但是这就是我说的，必须有一些共同的目标，这样我们才能评估这种交流是否至少有用，你知道，它们可能只是为了让我们感觉良好，或者让我们做我们想做的事情，比如不要关掉它们，或者别的什么，但是，但是，所以我们必须更好地理解它们的内部表示，才能真正确保这种翻译是政治性的，但它可能是有用的，而且我认为这是可能的，有一些例子，可视化是自动创建的，这样我们就可以看到系统在做什么，而语言也并不遥远，我的意思是，它是一种交流和记录你正在做什么的方式，以一种可解释的方式，我认为这是一个迷人的话题，是的，做到这一点，你让我意识到，这是一个很好的科学问题，谎言是否是一种有效的机制，让你在社交网络中整合自己并取得成功，在一个社交世界里，一个社交世界，我倾向于认为诚实和爱是我们人类在智能代理网络环境中进化的优势，但也有可能不诚实和操纵，甚至，你知道，暴力，所有这些事情可能更有益，这是关于善与恶的老问题，但我倾向于，有一些，我的意思是，我不知道这是否是充满希望的，也许我是在自欺欺人，但感觉因果报应是一种东西，就像长期来看，那些仅仅对他人友善的代理，有时毫无理由地，在一个资源不那么受限的社会中会做得更好，就像人们开始变得奇怪和邪恶地对待彼此，当资源非常低，相对于人口的需求时，尤其是在生存、住所、食物等基本层面，但是，但是，我倾向于相信，一旦你建立了这些东西，那么，嗯，不相信，我想我希望人工智能系统会诚实，但想到图灵测试，你知道，最终会通过图灵测试的人工智能系统将是那些非常擅长撒谎的系统，这是一个可怕的概念，是的，我的意思是，我不知道，首先，从一个研究语言的人的角度来看，显然不是人工智能领域的唯一专家，但一个梦想着该领域未来的人，你希望，你认为未来会有我们最终会建立的人类水平或超人类水平的智能吗？肯定希望我们能做到，我认为一个重要的观点是，我们正在构建人工智能来帮助我们，它是一种工具，就像汽车或语言或沟通一样，人工智能将帮助我们提高生产力，而这始终是一个条件，它不是我们构建并让它运行，然后它成为一个独立的实体，它不关心我们，现在，当然，在遥远的未来，这可能是可能的，但在可预见的未来，当我们构建它时，因此，我们总是处于限制它能做什么或不能做什么的位置，而你关于撒谎的观点非常有趣，即使在这些高层社会中，例如，当一些鬣狗聚集在一起时，它们仍然冒着风险去偷猎物，总有一些鬣狗会退缩，不参与这种冒险行为，但它们后来加入聚会，在猎物之后，然后加入派对，甚至有些可能无效，并给他人带来伤害，就像我说的，即使是细菌也会作弊，我们在生物学中也看到了，总有机会，如果你有一个，我认为这是因为，如果你有一个社会，为了让社会有效，你必须有这种合作，你必须有信任，而且，如果你有足够多的能够相互信任的代理，你可以取得很多成就，但如果你有信任，也有机会给骗子和说谎者，而且我认为这永远不会消失，希望它们是少数，这样它们就不会碍事，我们在这些高层模拟中研究过，在功能不再起作用之前，需要多少比例，你可以指出，你可以容忍几个骗子和几个说谎者，社会仍然可以运作，而且这很可能发生，当我们构建这些自主学习的系统时，那些真正成功的系统是诚实的，因为这是完成事情的最佳方式，但可能也有智能代理发现它们可以通过打破规则、作弊来实现目标，所以与拥有固定的人工智能系统相比，例如，我们构建了一个AGI系统并部署了数百万个完全相同的系统，可能会有巨大的好处，从进化计算的角度引入大量的变异，就像各种形式的多样性是有益的，即使有些人或一些机器人是，所以，就像，拥有它是很有益的，因为你无法总是预先知道什么是好的，什么是坏的，但，但那是一个迷人的，绝对，多样性是我们的主食，我的意思是，如果你在逃跑，你会看到多样性是你必须拥有的一个基本的东西，而且绝对，它并不总是好的多样性，对吧？它可能是一些具有破坏性的东西，我们在这些鬣狗模拟中，我们有自杀式的鬣狗，它们只是跑去被杀死，但它们构成了那些真正快速但停止在被杀死之前，并最终变成这群人的基础，所以可能有一些东西。
在它与其他事物重新组合时很有用，对吧？所以，我认为只要我们能容忍其中一些，它就可能变成更好的东西。你可能会改变规则，因为做一些以前违反规则的事情要有效得多。是的，而且我们已经看到社会随着时间的推移，沿着这些方向发生了相当大的变化，社会中曾经有一些规则，我们现在认为不再公平，即使它们曾经被认为是恰当的行为。是的，嗯，事物正在改变，我认为从这个意义上说，我认为能够容忍其中一些作弊行为是一个好主意，因为最终我们可能会变成更好的东西。所以，是的，我认为这是对互联网上的巨魔和用户的留言，你们在人类生态系统中也有一个美丽的使命。所以，我感谢你们的浇灌数量，是的，适量的数量。所以，有一个关于人工智能的整个领域，我不知道你是否与这个领域有关联，你是否关注它。你认为这是真的吗？你认为你参与的进化竞争中的代理人是生命吗？你认为这是怎么回事？有没有什么有趣的系统，我们会创造得越来越多，让我们重新定义，也许重新思考生命的本质，不同层次的定义和目标？然后，我的意思是，在某种程度上，人工智能可以被认为是多代理系统，它们建立一个社会，再次实现一个目标。这可能是机器人进入建筑物进行清理，或者在地震后进行清理，或者其他什么。从某种意义上说，你可以将此视为一个人工智能问题。或者，你也可以真正将其视为生命的模拟，以及理解生命是什么以及生命如何在地球上进化的工具。正如我在人工智能会议上所说，会议中有一些分支，人们非常担心分子设计和生命的起源，就像我说的原始汤，最终你会得到一些自我复制的东西，他们真的在努力构建它。所以，这是一个非常广泛的话题。我认为人工智能是一个很好的工具来理解生命，并且存在可持续性方面的问题。物种，我们正在失去物种，情况有多糟？它是自然的吗？是否存在一个临界点？我们去哪里？我的意思是，就像鬣狗的进化一样，我们可能已经理解了它们进化的一个关键点，它们发现了合作和协调。你知道，人工智能模拟可以识别这一点，并可能鼓励这样的事情。所以，而且，社会本身也可以被视为一种生命形式。我的意思是，我们不是在谈论生物进化，我们有所有社会进化，也许其中一些相同的现象出现在那个领域。通过人工智能模拟和理解可以帮助我们建立更好的社会。是的，并且从理查德·道金斯关于模因的观点来看，也许是生物体的想法，而不是社会中的人类，从它几乎就像重新定义是什么在进化，也许有趣的人类不是有趣的东西，而是我们思想的内容才是有趣的东西，而这正在繁殖，而且实际上正在以更快的速度繁殖和进化，这可能比生物进化对地球生命轨迹有更大的影响。是的，这些思想的进化。是的，而且正如我之前所说，我们 somehow 能够跟上生物学上的进化，这是很迷人的。是的，我们属于一个我们可以跟上这个模因进化文献的时代，你知道互联网。我们理解 DNA，我们理解基本粒子。我们不是从那里开始的，我的意思是，一千年前，我们的生物进化并没有发生太大变化，但不知何故，我们的思想能够扩展。因此，人工智能也可以被视为我们创造的一个这样的步骤，它是我们的工具，它是我们创造的模因进化的一部分，即使我们的生物进化进展不快，而我们人类可能只能理解这么多。我们到目前为止还在跟上，或者我们认为我们到目前为止还在跟上，但我们可能需要人工智能系统来理解，也许宇宙的物理学就像弦理论一样运作，也许它在更高的维度上运作，也许我们完全因为我们的认知局限性而无法真正内化这个世界运作的方式。所以，我们的极限，我们正在触及我们自己思维的局限性，我们必须创造这些下一级生物，比如人工智能系统，它们能够更深入地理解，真正理解生活在一个多维世界中的意义，这个世界超出了三维空间和一维时间。是的，翻译。而且，一般来说，即使我们不了解所有细节，我们也可以处理这个世界，我们可以使用计算机。是的，即使我们大多数人不知道下面的所有结构，或者驾驶汽车，我的意思是，有很多组件，尤其是新车，你并不完全了解，但你有界面，你有它的抽象，这允许你操作和利用它。我认为这是完全足够的，我们可以以此为基础，人工智能也可以发挥类似的作用。我必须问一下关于美丽的人工智能系统或进化计算系统，细胞自动机对我来说，就像我记得它是我生命早期的一个游戏规则改变者，当我看到康威的生命游戏时，他最近不幸去世了。从如此简单的规则中可以产生如此多的复杂性，这真是太美了。我就是不知道为什么简单性是如此强大的例证，而且也令人谦卑，因为我觉得我个人从我的角度来看，几乎不了解这个世界，因为我的直觉完全失败了，复杂性如何从如此简单的东西中产生，我的直觉失败了，我认为这是我最大的问题。你觉得这样的系统美丽吗？你有没有想过细胞自动机，因为细胞自动机并没有真正拥有，而且许多其他人工智能系统不一定有目标，也许也许这是错误的说法，它几乎就像它只是在进化和创造，而且甚至没有一个好的定义来创造一些复杂、有趣和令人惊讶的东西，你说的所有这些词。你觉得其中一些系统美丽吗？是的，是的，同样，进化也没有目标，它正在响应当前的情况，然后是生存，然后如果它创造了更多的复杂性，因此我们有了我们认为的进步，但这并不是进化本身所要做的。是的，这真的很迷人，一个简单的规则集或简单的映射如何从一个简单的映射中产生复杂性。所以，这是一个关于涌现和自组织的问题。而且，生命游戏是最简单的之一，而且非常直观，因此它强调了非线性相互作用和这种复杂性可以从中涌现的可能性。生物学和进化也是如此，我们有简单的表示，DNA，如果你真的想想它，它并不那么复杂。它是一个长序列，有很多，但它是一个非常简单的表示。类似的进化计算，无论我们有什么字符串或树表示，任何操作，你知道操纵它们的代码量真的很少，当然生命游戏更少。所以，复杂性如何从如此简单的原则中涌现，这是绝对迷人的。挑战在于能够控制它、引导它和指导它，使其变得有用。就像生命游戏很有趣，进化出来的所有形式都很有趣，但我们真的能让它对我们有用和高效吗？因为如果你真的把生命游戏中的每一个细胞都看作一个活着的生物体，那么为了创造任何有趣的东西，必须发生大量的死亡。是的，所以我想我们人类，凡人，生命很快就结束了，我们想赶紧确保我们确保我们让进化走上一个稍微更有效率的轨迹，而不是其他选择。这是我们之前谈过的一个问题，进化计算非常不耐烦。我们有一个目标，我们想要它立刻，而生物学有大量的时间和深远的时间和微弱的压力和庞大的人口。一个很好的例子是新奇搜索，进化计算，你实际上并没有指定一个健身目标，你真正想要的东西，但你只是奖励与你以前见过的不同的解决方案。是的，仅此而已。是的，你知道你实际上以这种方式发现了有趣和有用的东西。我想丹尼和乔·莱蒙做过一项研究，他们试图在机器人上进化行走行为，这实际上是我们之前谈过的，你的机器人实际上以各种方式失败，并最终发现了一种非常有效的行走方式。而且，这是因为他们奖励了不同的东西，你才能够发现一些东西。我认为这是至关重要的，因为为了真正与你已有的东西不同，你必须利用该领域中的东西来创造真正不同的东西。所以，你已经编码了你世界的基本原理，然后你对这些基本原理进行更改，你就会进一步远离。所以，这可能就是这些涌现系统中所发生的事情，基本原理就在那里，当你遵循这些基本原理时，你就会进入一些点，其中一些实际上是有趣和有用的。现在，即使在那个机器人步行模拟中，也有大量的垃圾，但其中有一些是宝石，然后你必须在外面识别它们并使它们有用。但我认为，如果你以正确的方式编码这些生产系统，编码该领域的结构，你就会得到这些解决方案和发现。感觉这也许也是一种很好的生活方式。所以，让我问一下，你对今天的年轻人有什么关于如何生活，或者如何在职业生涯中取得成功，或者忘记职业生涯，只是在生活中取得成功的建议吗？从进化计算的角度来看。是的，是的，绝对要探索多样性，探索。我的意思是，个人参加音乐、历史、哲学、数学、工程等课程。你知道，数学、工程学。看到它们之间的联系。旅行，你知道，学习一门语言。我的意思是，所有这些多样性都令人着迷，而且我们今天触手可及。你必须付出一点努力，因为它并不容易，但回报是美好的。是的，关于新体验的目标函数有一些有趣的事情。所以，试着弄清楚，我的意思是，今天可能有哪些新体验？所以，就像优化新体验一段时间可能是一种非常有趣的方式，可以扩展你拥有的体验集。然后从这个角度来看，就像通过生活最充实的人生轨迹是什么？当然，这就像我再次来自俄罗斯，我不知道，但选择有一个选择，我认为从我至少的头脑来看，稀缺性具有赋权作用。所以，如果我只有一点点东西，而且只有一样东西，我会非常感激，直到我最近来到德克萨斯州，我一直在吃美味的肉。我一直在禁食，所以我需要再次这样做。但是当你禁食几天后，第一口食物的味道是不可思议的。所以，探索的缺点是，也许，也许你可以纠正我，但不知何故，你无法深刻体验任何一个特定的时刻。但这可能是一种心理作用，这可能只是一个非常人类的缺陷。我不是说你肤浅地探索，我的意思是你可以深入探索。所以，你不必探索一百件事，但也许可以花足够长的时间深入研究几个话题，你就能获得理解。你自己必须在某个时候决定，这已经足够深入了，我已经从中获得了我能获得的东西，现在是时候继续了。这可能需要几年时间。人们有时会换工作，他们可能会在某个职业上待上十年，然后换到另一个职业。你可以做到，你并没有被确定地束缚在原地，但你知道，为了实现一些东西，你知道，一万小时让你成为某件事的专家需要一万小时。所以，你不必成为专家，但即使要获得理解并获得以后可以使用的经验，你可能需要花费，正如我所说，这并不容易，你必须为此付出一些努力。现在，在某个时候，当你拥有了这种多样性和这些探索经验时，你可能会发现一些你无法摆脱的东西，就像计算机一样，就像人工智能一样，你知道，你就是必须去做，你知道，我，你知道，然后这可能需要几十年，你正在追求它，因为你发现这真的很令人兴奋，你可以带来你的经验，而且这也没什么不对。但是你问年轻人有什么建议，那就是探索部分。然后在此之后，如果你真的能够专注于并建立职业生涯，你知道，即使在那里你也可以多次切换。但我认为多样性探索是拥有成功职业生涯的基础，就像集中精力并在重要的事情上付出努力一样。但是当你做了你的功课后，你就能更好地做出选择。所以，探索先于承诺，但两者都很美丽。所以，再次从进化计算的角度来看，我们看看所有必须死亡的代理人，以便在模拟中得出不同的解决方案。你认为从那个个体代理的角度来看，这一切的意义是什么？就人类而言，你只是一个不幸的代理人，有一天会过早死亡。你认为那个代理人出现的理由是什么？最终将不复存在。这一切都有意义吗？是的，在进化中，一切都有意义，一切都是一个潜在的方向，一切都是一个潜在的垫脚石。并非所有都会成功。有些是进一步改进的基础。即使是那些可能消失的，它们也是生物学中的潜在能量，潜在的解决方案。我们看到很多物种自然死亡，你知道，就像恐龙一样，我的意思是，它们曾经有过一个很好的解决方案，但从长远来看，它并没有成为一个很好的解决方案。当环境发生变化时，你必须有多样性，其他解决方案变得更好。这并不意味着它是一个尝试，它没有成功，或者没有持续下去。但它们仍然是恐龙和山脉，至少它们是亲戚，而且它们有一天可能再次有用，谁知道呢？所以，从个人的角度来看，你必须想到一个更大的图景，它是一个巨大的创新引擎，而这些元素都是其中的一部分，可能是它们自身的创新，也可能是其他可能出现的原材料或垫脚石。但从个人的角度来看，我仍然觉得我非常重要，即使我只是巨大机器中的一个小齿轮。那么，这只是一个个人主义社会中愚蠢的人类观念吗？你是否觉得成为巨大机器的一部分很美丽？是的，我认为这很有意义。我认为它为你的生活增添了目的，你是一个更宏大事业的一部分。 [笑声] 话虽如此，你是否思考过你个人的死亡？你是否思考过死亡？你是否害怕死亡？当然，比我年轻时更害怕，那时我跳伞、滑翔伞，你知道，所有这些事情。你变得更聪明了。生命轨迹有其原因，年轻人很多方面更无畏，这是探索的一部分。你知道，他们是那些想知道山那边有什么，或者如果我游到很远的海洋会发现什么的人。我的意思是，老年人并不一定这样想，但年轻人会这样想，而且有点违反直觉。所以，是的，这是，而且从生物学上来说，就像你知道，你只有有限的时间，你能用它做什么重要的事情？所以，你已经完成了你的探索，你致力于某个方向，你可能成为其中的专家。我能用我有限的资源做什么重要的事情？我认为很多人，包括我自己，在职业生涯后期都会这样想，就像你说的，留下一点痕迹，一点影响，即使在代理人消失之后。是的，这就是目标。好吧，这是一次迷人的谈话。我认为没有更好的方式来结束它。非常感谢。首先，我对奥斯汀德克萨斯大学社区的活力感到非常鼓舞。看到它让我感到非常兴奋。整个领域在哲学上似乎都很深刻，而且也是人工智能社区的前进方向。所以，非常感谢你今天向我解释了这么多很酷的事情，以及浪费了你宝贵的时间。很荣幸，谢谢。感谢收听这次谈话，并感谢乔丹·哈宾格秀、格拉玛利、贝尔坎波和Indeed。在描述中查看它们以支持此播客。现在，让我用卡尔·萨根的话来结束。灭绝是规则，生存是例外。感谢收听，希望下次再见。