Kate Darling: Social Robotics | Lex Fridman Podcast #98

以下是与凯特·达林（Kate Darling）的对话，她是麻省理工学院（MIT）的一名研究员，对社交机器人、机器人技术以及技术如何与社会互动感兴趣。她探索了人类与逼真机器之间的情感联系，对我来说，这是人工智能领域最令人兴奋的话题之一。正如她在个人简介中所写，她是几台家用机器人的照料者，包括她的Pleo恐龙机器人，名叫Yochai、Peter和Mr. Spaghetti。她是我遇到过的最聪明、最风趣的人之一。这次对话是最近录制的，但在疫情爆发之前。对于所有感受到这场危机重负的人，我向你们致以爱。这是人工智能播客。如果您喜欢，请在YouTube上订阅，在Apple Podcasts上给予五星好评，在Patreon上支持，或者在Twitter上与我联系：Alex Friedman，拼写为FriDman。像往常一样，我将播放几分钟的广告，并且绝不会在中间插入广告，以免打断对话的流畅性。我希望这对您来说是可行的，并且不会影响收听体验。广告的快速摘要：赞助商是MasterClass和ExpressVPN。请考虑通过注册MasterClass和ExpressVPN来支持播客。

本节目由MasterClass赞助。请访问masterclass.com/flex获取折扣并支持本播客。当我第一次听说MasterClass时，我觉得它好得令人难以置信。每年180美元，您就可以获得一张全通票，观看来自顶尖人士的课程。我最喜欢的一些课程包括：Chris Hadfield关于太空探索，Neil deGrasse Tyson关于科学思维和沟通，Will Wright关于《模拟城市》和《模拟人生》的游戏设计，Carlos Santana关于吉他，Garry Kasparov关于国际象棋，Daniel Negreanu关于扑克等等。Chris Hadfield解释了火箭的工作原理以及独自发射到太空的经历，这本身就值回票价。顺便说一句，您可以在几乎任何设备上观看。再次访问masterclass.com/flex获取折扣并支持本播客。

本节目由ExpressVPN赞助。请访问expressvpn.com/flexPod获取折扣并支持本播客。我使用ExpressVPN已经很多年了，我非常喜欢它。它易于使用，按下大大的电源按钮，您的隐私就得到了保护。如果您愿意，还可以让它看起来像是您身处世界任何地方。我现在可能在波士顿，但它可以让它看起来像是我在纽约、伦敦、巴黎或任何其他地方。它有许多显而易见的好处，当然，它允许您访问流媒体网站的国际版本，如日本Netflix或英国Hulu。ExpressVPN可以在您能想象到的任何设备上运行。我在Linux上使用它，向Ubuntu 20.04致敬，Windows，Android，但它在其他地方也都有。再次访问expressvpn.com/flexPod获取折扣并支持本播客。

现在，这是我与凯特·达林（Kate Darling）的对话，她在哈佛大学研究机器人伦理学。在当今世界，机器人会带来哪些伦理问题？是的，那是我在刚开始对这个话题感兴趣时参加的一个读书小组。所以我想，如果我今天再讲这门课，看起来会非常非常不同。机器人伦理学听起来非常科幻，尤其是在当时。但我认为，机器人伦理学领域的人们所关心的一些问题，只是关于机器人技术在一般情况下的伦理使用。例如，对伤害的责任，自动化武器系统，隐私和数据安全问题，自动化和劳动力市场问题。然后，就个人而言，我真的对我们与机器人的社交关系带来的一些社会问题很感兴趣。一对一的机器人关系。是的，我认为我们必须谈论的大部分内容都是一对一的社交内容，这就是我所爱的，我认为这也是您所擅长的，并且您是这方面的专家。但从社会层面来看，现在有一位总统候选人杨安泽（Andrew Yang）正在竞选，他担心自动化、机器人和人工智能会普遍夺走工作。他有一个全民基本收入（UBI）的提案，每个人都能得到一千美元。作为一种方式，如果您因为自动化而失业，可以拯救您，让您有时间去发现您喜欢或甚至热爱做什么。是的，我在瑞士生活了20年，全民基本收入在那里一直是一个更热门的话题，与机器人和工作问题无关。所以，看到硅谷的这些人抓住这个概念，这个概念来自非常左翼的社会主义，你知道，来自欧洲的一个不同的地方，这对我来说非常有趣。但关于自动化劳动力市场的话题，我认为人们有时在那些对话中高估了机器人技术目前的水平。我们还存在一个误区，就是不断地将机器人与人类进行比较，并将其视为一对一的工作替代。所以，即使是比尔·盖茨几年前也说过，也许我们应该有一个系统，对机器人因夺走人们的工作而征税。我敢肯定，这句话被断章取义了，他是一个非常聪明的人，但对我来说，这听起来像是将其视为一对一的替代，而不是将这项技术视为一种补充工具，当然，它会搅乱很多事情，它会改变就业格局，但我看不到机器人会在未来20年内夺走所有工作，事情不会那样发展。

好的，那么也许我们该转向更个人化的机器人关系和互动等领域了。我得警告你，我可能会问一些愚蠢的哲学问题，我很抱歉。所以请随意。您认为人类在与机器人的互动中会滥用机器人吗？您已经有很多，我们将谈论拟人化和工作，这种复杂的情感舞蹈在人与机器人之间，但似乎也有一个黑暗的一面，当人们对待他人如同仆人时，他们有时会有点滥用，或者非常滥用。您对此有什么看法？您担心吗？是的，我担心。所以，我的一个主要兴趣是，人们下意识地将机器人视为活物，即使他们知道他们正在与一台机器互动，以及在这种情况下表现出暴力行为意味着什么。我不知道您是否可以说滥用，因为您并没有真正滥用机器人的内在思想，机器人没有感情，据我所知。嗯，是的，这取决于我们如何定义感情和意识。但我认为这是另一个领域，人们在那里高估了我们目前的技术水平。现在的机器人甚至不如昆虫聪明。所以，我并不担心那种意义上的滥用，但思考人们对这些东西的行为对我们自己的行为意味着什么很有趣。它是否会使人们对对机器人进行言语虐待甚至身体虐待变得麻木不仁？我们不知道。这是否与玩暴力电子游戏有类似的联系？玩暴力电子游戏是否会使人对暴力变得麻木不仁？我还没有读过这方面的文献，我对此感到好奇，因为我听到的所有信息都表明，人们似乎不再那么担心暴力电子游戏了。正确。关于它的研究是很难做的，所以它有些不确定，但我们似乎至少作为一个社会，已经有了一种感觉，即人们可以区分开来，当屏幕上的东西，你就像，你知道，射击一群角色或开车撞人，这并不一定会转化为你在现实生活中这样做。然而，我们确实对儿童玩暴力电子游戏有一些担忧，所以我们确实在那里限制了它。我不确定这是否基于任何真实的证据，但这就是我们决定“我们想稍微谨慎一点”的方式。我认为机器人有点不同，是因为有很多研究表明，我们对物理空间中的事物与屏幕上的事物反应不同。我们会更本能地对待它，更像对待一个物理行动者。所以，这完全有可能不是一个问题，它与电子游戏中的暴力是一样的。你知道，也许，你知道，为了安全起见，对孩子们进行限制，但成年人可以做他们想做的事情。但我们只需要再次提出这个问题，因为我们还没有任何证据。也许有一个中间地带。我通过在Twitter上滚动您的Twitter提要来做我的研究。您提到您将参加一个动物法会议。所以，我必须问，您认为我们可以从动物权利的角度向思考机器人的人学习什么吗？哦，我认为有很多东西可以学习。我实际上正在写一本书，这就是我为什么要去参加会议。我正在写一本关于动物驯化的历史的书，以及我们如何利用动物进行工作、武器和陪伴。你知道，这本书试图做的一件事是摆脱我所说的将机器人与人类进行比较的误区，因为我不认为这是正确的类比。但我确实认为，在社会层面上，即使在社会层面上，从研究这段历史中，我们可以学到很多东西。因为纵观历史，我们一直将大多数动物视为工具、视为产品，然后我们又以不同的方式对待其中一些动物。我们开始看到人们以非常相似的方式对待机器人。所以，我认为这是预测我们如何与机器人互动的一个非常有用的指标。您认为一百年后，当我们回顾现在对待动物的方式时，我们会像看待大屠杀或第二次世界大战一样看待它吗？这是一个很好的问题。我希望如此。我并不确定我们会，但我经常想，我的孙子孙女会如何看待我这一代人所做的、他们永远不会做的事情，而我觉得，有什么大不了的？这是一个很好的问题，可以问自己。似乎总有一些我们后来才发现的暴行。那些当时人们没有看到的，你知道，看看从奴隶制到历史上任何形式的虐待。所以，我认为那些疯狂的战争，战争的方式，以及强奸和战争期间发生的暴力，我们现在认为是大屠杀，但当时可能没有那么认为。所以，现在我有一种直觉，我有一种担忧，也许你会批评我，但我确实将机器人拟人化了。我没有看到机器人和人类之间存在根本性的哲学差异，一旦能力匹配。所以，我们在这方面还有很长的路要走，这并不意味着在能力方面，从自然语言处理、理解、生成到推理等等。我认为一旦你解决了它，我看到这是一个非常灰色地带的领域，我对于人们对机器人施加的虐待感到不舒服，但我可以看到它正在成为，我可以看到未来基本上会有一场机器人民权运动。您认为，让我用一个问题的形式来问：您认为机器人应该拥有某种权利吗？嗯，这很有趣，因为我最初是从你的角度来看的。我当时想，你知道吗，技术和人类意识之间没有根本的区别。我们可以重现任何东西，只是我们还不知道如何做到。所以，一旦它们处于等同水平，就没有理由不给予机器与我们相同的权利。但后来我意识到，这可能是一个非常遥远的未来问题。我仍然认为我们应该谈论它，因为它非常有趣。但我意识到，我们甚至可能需要更早地问机器人权利的问题。嗯，机器仍然是，你知道，所谓的“非常愚蠢”，而且不在我们的水平，因为我们如何看待它们。我认为，我们从研究动物权利的历史中学到的一个教训，以及为什么我们可能在一百年后仍然无法达到一个不认为吃动物或以其他方式“使用”动物是为了我们自己的目的而错误的地步，是因为历史上我们总是保护那些我们最能与之产生联系的事物。例如，鲸鱼。没有人关心鲸鱼。我能说脏话吗？自由？是的，没有人关心鲸鱼，直到有人录下了它们唱歌，突然人们说，“哦，这是一只美丽的生物，现在我们需要拯救鲸鱼。”这开始了70年代的整个“拯救鲸鱼”运动。所以，尽管我，而且我认为很多人想相信我们关心一致的生物学标准，但历史上我们形成联盟的方式并非如此。所以，为什么我们相信所有人类生而平等？杀死一个人，无论这个人是谁，这就是我所说的平等。杀戮是坏的。然后，因为我将其与机器人联系起来，我正在思考死亡。所以，杀戮行为是什么让某物成为，第一个基本权利？所以，我目前被允许用猎枪射杀一个Roomba。我想，我不确定，但我很确定这不被认为是谋杀，对吗？甚至关闭它们。所以，这就是界限所在，对吗？死亡是一个关键问题吗？我认为，这里的动物类比再次非常有用，因为你也允许射杀你的狗，但人们不会高兴。所以，我们确实给予动物某些保护，比如，你知道，你不能折磨你的狗，你知道，把它烧死，至少在大多数州和国家是这样。但你仍然可以在很多其他方面把它当作财产来对待。所以，我们一直在划定这些，你知道，任意的界限。而且，有很多哲学思想认为，将人类视为独特的东西不是物种主义，也不是基于任何可以真正证明我们与其他物种之间存在差异的标准。您认为总的来说，大多数人是善良的吗？您认为，我们所有人身上都有善恶，并通过我们的处境和互动而显露出来吗？我喜欢将自己视为一个相信没有绝对善恶的人，一切都是灰色的。但我确实认为这是一个有趣的问题。比如，当我看到人们对机器人物体施暴时，你说了，这让你烦恼，因为机器人可能有一天会变得聪明。是这样吗？嗯，这让我烦恼，因为它揭示了。我个人相信，因为我研究了犹太教，我非常深入地研究了大屠杀和第二次世界大战。我个人相信，我们大多数人内心都有邪恶。让我烦恼的是，对机器人的虐待揭示了人类的邪恶。是的，我认为这不仅仅是让我烦恼，我认为这是机器人制造者帮助人们找到他们本性中更好的一面的机会。是的，这种虐待不仅仅是一件有趣的事情，它揭示了你内心深处应该隐藏的黑暗部分。是的，我的研究确实表明，也许人们对机器人的行为揭示了他们普遍的共情倾向，即使是使用我们今天拥有的非常简单的机器人，它们显然什么也感觉不到。所以，也许《西部世界》并没有那么遥远，它描绘了坏人愿意四处射杀和强奸机器人，而好人则不愿意这样做，即使不假设机器人有意识。所以，这是一个机会，一个练习共情的机会。我同意你的看法。有些人会说，我们为什么要对机器人练习共情，而不是对我们的人类同胞，或者对那些真正活着并体验世界的人？我不同意他们的看法，因为我不认为共情是一种零和游戏，而且我认为它是一种你可以训练的肌肉，我们应该这样做。但有些人不同意。有趣的是，你听过，你知道，养孩子，然后问他们，或者告诉他们对智能音箱，Alexa之类的话要好，在提出请求时说“请”等等。我不知道我是否非常喜欢这个主意，因为，是的，这是关于练习共情的想法。我觉得礼貌，我总是对我们建造的所有系统都很礼貌，尤其是任何基于语音交互的系统，比如我们和汽车说话时。我总是会有一个相当好的“请”的探测器。我觉得应该有鼓励这些互动中共情的空间。是的，好的。我同意你。所以，我要扮演魔鬼的代言人。那么，那么，魔鬼的代言人论点是什么呢？魔鬼的代言人论点是，如果你是那种有虐待倾向的人，或者需要某种行为发泄出来，有一个机器人可以让你对着它尖叫，这样你就不会对着一个人尖叫了。我们只是不知道这是否是真的，它是否是一种发泄，还是它只是，正如我的一位朋友曾经说过的，训练了他们的残忍肌肉，使他们在其他情况下更加残忍。哦，天哪，是的。这涉及到其他话题，我不知道，你知道，有一个关于性的话题，这是一个奇怪的话题，我倾向于避免，从机器人学的角度来看，以及普通大众普遍不谈论性机器人等等。这是您在研究方面触及过的领域吗？比如，因为这就是人们想象的，你知道，人与机器人之间的任何互动，显示出任何形式的同情，他们立即从产品的角度来看，在短期内，这是色情内容的延伸，以及所有这些东西。是的，你真是太好了，把这描绘成好像人们在理性地考虑产品。我觉得性机器人只是一个如此，你知道，耸人听闻的新闻钩子，以至于它们成为了故事，当你在这个领域时，很难不感到疲惫，因为你告诉别人你做人机交互，当然，他们最想谈论的是性机器人。真的吗？这种情况经常发生，而且很不幸，我对此感到厌倦，因为我认为当谈论与机器人的性行为时，确实出现了一些有趣的问题。看看我认为当人们拥有性机器人时会发生什么。比如，如果你让一些男人，好吧，让男人拥有女性性机器人，我认为有机会是，实际上，他们会互动。我试图说的是，除了性之外，互动将是最令人满足的部分。就像那些，你知道，电影里演的那样，那些付钱给妓女，结果却整晚和她聊天。所以，我觉得有机会，就像大多数男人和人们普遍开玩笑说性行为一样，但实际上人们内心是孤独的，他们正在寻找联系。他们中的许多人，如果这种联系是通过性产业建立起来，那将是令人遗憾的。我觉得它应该进入人们的家门，人们是孤独的，他们想要联系。嗯，我也觉得我们应该，你知道，去污名化性产业。因为，你知道，即使是卖淫，也有专门为残疾人服务的妓女，他们没有同样的机会去探索自己的性。所以，我觉得我们应该普遍地去污名化所有这些。是的，但那种联系和那种孤独是一个有趣的，你知道，你提出的话题。因为人们一直在担心机器人会取代人类，哦，如果人们有了性机器人，而且性体验非常好，那么他们就不会想要他们的伴侣或其他什么了。但我们很少谈论机器人实际上填补了一个空缺，那里什么都没有。以及它能给人们带来什么好处。是的，我认为这是一个令人兴奋的，有一个巨大的，有一个巨大的空缺，不是人类无法填补的。它对人们的要求太高了，你的朋友和你关系中的人，你的家人，都无法填补这个空缺。因为，你知道，它探索了你完整的，你知道，你完整的复杂性和丰富性。你到底是谁？你知道，你的家人没有足够的耐心去真正坐下来倾听，你到底是谁？我觉得有机会与机器人建立真正的联系。我们人类非常复杂，我们能够建立各种各样的关系。所以，无论是与家人、朋友、宠物还是机器人，我觉得都有空间，所有这些都能以不同的方式提供价值。是的，绝对。所以，我一直在跳跃。目前我大部分工作都在自动驾驶汽车领域。所以，最受欢迎的话题是电车难题。所以，大多数机器人都讨厌这个问题。但你对这个思想实验有什么看法？你认为我们可以从中学习到什么，除了它在自动驾驶汽车中的实际应用之外的愚蠢之处？我认为它仍然是一个有趣的伦理问题，就像与机器人的许多互动一样，它有一些东西可以教给我们。但从你的角度来看，你认为那里有什么吗？嗯，我认为你是对的，它确实有一些东西可以教给我们。但是，我认为人们在所有这些对话中都忘记了电车难题的起源，以及它想告诉我们的是，没有正确的答案，有时我们本能的道德直觉实际上并不是我们应该遵循的，如果我们关心创建适用于每个人的系统性规则。所以，我认为作为一个哲学概念，它至少可以教给我们这一点。但现在人们并不是这样使用它的。我们有，他们是我的朋友，我非常爱他们，他们的项目很有价值。但如果我们把“道德机器”项目视为我们可以从电车难题中学到的东西，“道德机器”是一个网站，我敢肯定你很熟悉。你可以去那里，它会给你不同的场景，比如，你在一辆车里，你可以选择撞死这两个人，或者这个孩子，你知道，你选择什么？你选择无家可归的人，你选择闯红灯的人？所以，它将这些道德选择相互对抗，然后试图众包“正确”答案。这很有趣，而且很有价值的数据。但我认为我们不应该以此为基础来制定自动驾驶汽车的规则，因为它正是电车难题试图表明的，你的第一反应可能不是正确的，如果你看那些必须适用于所有人、所有事物的规则。那么，我们如何将这些伦理选择编码到与机器人的互动中呢？例如，在自动驾驶汽车中，有一个严肃的伦理问题：我是否应该保护我自己？这是我的生命，我比另一个人的生命有更高的优先级，因为这会改变你做出的一些控制决策。所以，如果你的生命比其他人的生命更重要，那么你更有可能从你现在的车道上转弯。所以，目前自动紧急制动系统只会刹车，它们从不转向。所以，转向迎面而来的交通，或者，或者不，只是转向另一个车道可能会对他人造成严重伤害。但它可能对你造成的伤害更小。这是一个困难的伦理问题。你，你，你，你希望像电车难题那样，没有正确答案吗？你希望当我们有机器人在桌边时，我们能够找到一些问题的正确答案吗？嗯，我认为现在发生的是，我们面临着这个问题：我们应该将哪些伦理规则编程到机器中？这揭示了我们的伦理规则比我们以前认为的要不那么容易编程。我认为这是一个非常有价值的见解。我认为这些问题非常复杂，在很多情况下，你真的无法做出决定，甚至作为立法者也无法做出。所以，我认为现实情况是，汽车制造商只会试图避免这个问题，并尽可能避免责任。或者，他们会永远保护司机，因为谁会买一辆被编程为杀死某人，杀死你而不是别人的汽车呢？这就是现实情况。但你说的“当我们有机器人在桌边时”是什么意思？你是说当它们能帮助我们弄清楚该怎么做的时候吗？不，我是说当机器人参与伦理决策时。不，不，不，不是它们帮助我们。哦，你是说，比如，我应该撞一个机器人还是一个人？那种事情？不，不，不，不。所以，当你在编码算法中的伦理时，你开始试图真正理解你做出的决策过程的根本是什么。你做出了某些决定。你应该，死刑，你应该，为了惩罚某个罪行而剥夺一个人的生命，还是不？你可以开发一个算法来做出这个决定，对吧？希望是通过制作这个算法，无论你如何制作它，有几种方法，可以帮助我们真正触及核心，即在我们当前的社会标准下，什么是对的，什么是一成不变的？这不就是现在正在发生的事情吗？我们意识到，我们对什么是对的，什么是错的，没有共识。我的意思是，在政治上，总的来说。嗯，当我们思考这些电车难题和自动驾驶汽车，以及如何将伦理编程到机器中，以及如何，你知道，使人工智能算法公平公正时，我们意识到这非常复杂，而且复杂的部分原因在于，在任何这些情况下似乎都没有一个正确的答案。你希望，比如，道德机器的一个想法是，众包可以帮助我们趋向于，民主可以帮助我们趋向于正确的答案。你对众包有什么希望吗？嗯，是的，也否。所以，我认为总的来说，你知道，我有一个法律背景，政策制定通常是试图弄清楚，这个社会，这个特定的社会同意哪些规则，然后试图将其编纂成法。所以，法律一直在做出这些选择，然后试图根据不断变化的文化进行调整。但在道德机器项目的情况下，我不认为人们在那个网站上的选择一定反映了他们想要的法律。如果你问他们一系列不同的问题，你就能得到他们的共识。我同意，但这更多地与人工智能的本质有关。我的意思是，它们在屏幕上显示一些可爱的图标。这几乎是，所以，如果你，例如，我们在虚拟现实中做了很多工作。所以，如果你让那些人进入虚拟现实，他们必须做出那个决定，他们应该非常不同。我认为我同意这一点。这是其中一个方面。另一个方面是，问一个人“你会撞死那个无家可归的人还是那个医生？”或者“你希望汽车总是撞死无家可归的人？”这是另一个问题。所以，让我们谈谈拟人化。我不知道我是否能正确发音，拟人化，这是从工程、心理学和机器学习、机器人学等角度来看最迷人的现象之一。你能退一步，用你的工作中的一般术语来定义拟人化吗？当然，拟人化是我们倾向于将人类的特质、行为和品质投射到非人类身上。我们经常在动物身上看到它，比如，我们会把我们可能存在也可能不存在的情感投射到动物身上。我们经常看到我们试图根据自己的行为来解释事物，当我们出错时。但我们不仅仅是这样做，我们还这样做，我们对物体，你知道，泰迪熊，我们看到汽车前灯里的脸，我们也非常极端地这样做，我们对机器人这样做。你认为这可以被工程化吗？它可以被用来丰富互动吗？嗯，是的，当然。你认为它经常被这样使用吗？比如，我没有看到，无论是Alexa还是任何智能音箱系统，它们是否经常试图优化伦理或医生？你说你没看到。我没看到。他们一直在远离它。我认为他们害怕它。他们实际上，我最近才知道，但你知道吗，亚马逊有一个专门研究Alexa个性的团队？我知道这取决于用户界面个性。我不知道确切的事情，但我确实知道声音的感知方式得到了很多工作。如果声音让人感觉愉悦，这更多地与声音的质感和听众有关。个性更像是，她最喜欢的啤酒是什么？当你问她的时候。而且，个性团队对每个国家都不同。比如，德国Alexa的个性与美国Alexa不同。我认为，要真正利用拟人化，与这些语音助手合作非常困难，因为语音界面仍然非常原始。而且，我认为为了让人们真正地暂时放下怀疑，并将机器人视为活物，有时少即是多。你希望他们投射到机器人身上，而机器人又不辜负他们对它如何回答或行为的期望，这样他们才能拥有这种幻觉。而对于Alexa，我认为我们还没有达到那个水平，或者Siri。它们就是做不到。但如果你看看一些更像动物的机器人，比如用于痴呆症患者的婴儿海豹。设计更简单，它不试图和你说话，它不会让你失望。它只会发出微小的动作和声音，人们抚摸它，它会回应他们的触摸。这是一种非常有效的方式，可以利用人们将机器人视为活物的倾向。是的，你提出了你论文中一些有趣的想法，我上次安排这次谈话时读到的。拟人化框架下的人机交互。在你看来，有哪些好的和坏的例子？好的例子是什么？坏的例子是什么？嗯，我首先要说的是，虽然设计可以极大地增强拟人化，但要让人们将机器人视为活物并不需要太多。比如，超过85%的Roomba都有名字。我不知道普通吸尘器的数字，但它们不高，对吧？所以，人们会为Roomba感到难过，当它卡住时，他们会把它送去修理，并想要同一个。而这个Roomba甚至不是为了让你这样做而设计的。所以，我认为一些有点令人担忧的拟人化发生的例子是，当一个东西本应像一个工具一样运作，而人们却以错误的方式使用它。其中一个担忧是军用机器人。我们非常，你知道，2000年代初，那已经是很久以前了。iRobot，Roomba公司，制造了一个叫做PackBot的机器人，它被部署在伊拉克和阿富汗的拆弹部队中。士兵们对机器人产生了非常强烈的情感依恋。这很好，直到士兵冒着生命危险去拯救一个机器人，这是你绝对不希望发生的。但他们把它们当作宠物一样对待，他们给它们起名字，他们举行葬礼，鸣枪致敬，当机器人坏了时，他们会非常沮丧和创伤。所以，在某些情况下，你希望机器人成为一个工具，特别是在它应该做一项危险的工作，你不希望一个人去做的时候，当人们对它产生情感依恋时，这可能有点令人担忧。另一个令人担忧的案例可能是当公司试图利用情感依恋来剥削人们时。如果它不是为了消费者的利益，试图向他们推销产品或服务，或者利用情感联系让他们继续为社交机器人的云服务付费，或者类似的东西，我认为这有点令人担忧。是的，情感操纵，这可能现在在一些社交网络背后悄悄发生。但让它更明确。你最喜欢的机器人是什么？你知道，一个真正的，真正的机器人，你与之建立了联系，或者，不是，不是拟人化的联系，而是，你知道，你只是坐下来，哇，这是一个令人印象深刻的系统。所以，有两个不同的机器人。那个Pleo婴儿恐龙机器人，它不再销售了，它在2007年上市。我对此非常印象深刻。但从拟人化的角度来看，我印象深刻的是我与它的联系有多深，我有多想相信它有内在的生命。你能描述一下Pleo吗？你能描述一下它是什么，它有多大，它实际上能做什么？Pleo大约有一只小猫那么大。它有很多马达，让它有了这种逼真的动作。它有触摸传感器和红外摄像头。所以，它有所有这些很酷的小技术功能，即使它是一个玩具。最让我震惊的是，它能很好地模仿疼痛和痛苦。所以，如果你把它尾巴朝上举起来，它有一个倾斜传感器，你知道，告诉它朝向哪个方向。它会开始扭动和哭叫。如果你打它太用力，它会开始哭。所以，它的设计非常令人印象深刻。第二个机器人是什么？你说可能有两个你喜欢的。是的，所以，波士顿动力公司的机器人是令人印象深刻的工程壮举。你见过它们本人吗？是的，我最近有机会去参观。我一直都是那些看视频的人，然后说，“这太酷了”，但这也是一个产品视频。我不知道他们得拍多少次才能拍对。但参观它们，我敢肯定，我印象非常深刻。就控制而言，我认为当我亲眼见到Spot Mini时，那是一个变革性的时刻。也许这是一个心理学实验，但我把它拟人化得厉害。我立刻把它当作我最好的朋友。我的意思是，任何看到Spot移动而不觉得它有能动性的人都很难。是的，它的运动，特别是Spot Mini的那个手臂，明显看起来像一个头。是的，他们说不是那个意思，但它明显看起来就像那样。所以，几乎不可能不把它看作是，几乎就像那个婴儿恐龙，只是稍微大一点。而且，在运动方面，当然，智能是他们的想法，它不应该是智能的。它是一个平台，你可以在上面构建更高的智能。它实际上非常非常愚蠢，它只是一个基本的运动平台。是的，但即使是愚蠢的机器人，我们也能立刻以一种本能的方式做出反应。你对Sophia机器人有什么看法？那种基本的自然语言处理和基本上是艺术实验的混合体？艺术实验是一个很好的描述。我对Sophia的印象远不如对波士顿动力公司的印象深刻。她说她喜欢你。她说她钦佩你。是的，她曾经在Twitter上关注过我。是的，她发推文说她有多喜欢你。所以，那是不是意味着我必须更友善？不，我没有情感操纵它。你如何看待Sophia的整个事情？很多人立刻就产生了联系，认为我们在机器人技术方面比我们实际的要先进得多。她甚至没有想太多。我对人们的关心程度之低感到惊讶，他们立刻就认为，“当然，人工智能可以做到这一点。”然后，如果他们这么认为，他们应该更印象深刻。你知道我的意思吗？就像，真正高估了我们目前的水平。所以，在这方面，我甚至不认为Sophia非常令人印象深刻。我认为她有点像一个木偶，老实说。但是的，我认为人们受到科幻流行文化的影响，认为我们应该比现在更先进。那么，你最喜欢的电影和小说中的机器人是什么？瓦力。你喜欢瓦力什么？幽默，可爱，瓦力的感知控制系统运行，这使得它在整体上，瓦力机器人的设计。我认为动画师们在1940年代就开始弄清楚如何创造出看起来不真实但又比真实更好的角色，我们真的会喜欢，并认为它非常可爱。他们弄清楚了如何让它们以正确的方式移动和外观。瓦力就是这样一个很好的例子。你认为大眼睛，或者大一点的东西，有点像人工智能的东西，所以它总是利用人类面部的一些方面，对吧？通常是。所以，大眼睛。嗯，我认为最早的动画之一，真正利用这一点的是《小鹿斑比》。他们最初不打算这样做。他们最初试图让鹿看起来尽可能逼真，就像他们把鹿带到工作室，在那里有一个小动物园，这样动画师就可以和它们一起工作。然后，在某个时候，他们说，“嗯，如果我们让眼睛更大，鼻子更小，脸颊更大，更像婴儿的脸，那么人们会比它看起来真实更喜欢它。”你认为像Alexa这样的家庭产品的未来有潜力利用这一点，建立在这一点上，创造出比真实更好的系统，创造出紧密的人类联系吗？我几乎可以向你保证，在没有任何知识的情况下，那些公司正在幕后从事那种设计。我非常确定。我完全不同意你。真的吗？所以，这正是我感兴趣的。我想建立一家这样的公司。我认识很多人，他们害怕这样做，因为你，嗯，你怎么从中赚钱？但即使是让Alexa看起来比一个圆柱体更有趣，也会有很大的帮助。这是一个有趣的思考，但我认为亚马逊不看重那种联系。他们希望你沉迷于Alexa提供的服务，而不是设备本身。设备本身，感觉你可以失去很多，因为如果你创造了一种联系，然后，如果它创造了更多的挫败感，负面因素，而不是正面因素。我认为他们是这样想的。这很有趣，我同意，这非常难以做到正确，而且你必须做得完全正确，否则你就会得到微软的Clippy。现在，你对Clippy有什么问题？你喜欢Clippy。Clippy是你的朋友。我只是，我刚刚和微软的首席技术官争论过，他说，他说他们不会带回Clippy。他们不会带回Clippy。这非常令人失望。因为我认为，Clippy是我们曾经建造过的最伟大的助手。当然，这是一个糟糕的尝试，但它是我们曾经做过的最好的，因为它是一次真正的尝试，它拥有一个真正的个性。而且，我敢肯定，当时的推荐系统技术还远远不够，无法在任何应用中为你提供帮助，无论是打字还是其他任何应用。但它仍然是一次合法的个性尝试。我确定，我认为这很勇敢。是的，哦，是的。好吧，你让我信服了。我会对Clippy稍微宽容一点。我知道我有一大批人也想念Clippy。所以，我真的很想见见这些人。是谁？是那些喜欢讨厌东西，然后又想念它的人。是的，没错。好吧，Anki和Gebo，这两家公司，两家了不起的社交机器人公司，最近都倒闭了。你认为为什么创办一家个人机器人公司如此困难？也就是说，将人们会拟人化、产生深厚联系的东西变成一项业务，为什么这么难成功？商业案例不存在，还是什么？我认为这是很多不同的原因。我不认为这种情况会永远持续下去。我认为在当前这个时间点，要建造一个只能勉强满足人们的最低期望的东西，需要付出很多努力，因为科幻小说和流行文化让人们觉得我们应该比现在更先进。比如，当人们想到家庭机器人助手时，他们会想到《杰森一家》里的Rosie，或者类似的东西。Anki和Gebo在设计和让互动恰到好处方面做得非常出色，但我认为人们只是想要更多。他们想要更多的功能。我认为你也说得对，商业案例并不真正存在，因为还没有出现足够有用的杀手级应用来让人们大规模采用这项技术。我认为我们确实从那些拥有Gebo的人那里看到，他们中的许多人对它产生了强烈的情感依恋。但这并不是，你知道，就像当年的Palm Pilot一样。大多数人会想，“我需要这个吗？我为什么要用它？”他们看不到自己能从中受益，直到他们拥有它，或者另一家公司进来把它做得更好。你知道，你认为这个问题有多难？我是说，这个问题有多难？这是一个好问题。我认为这很大程度上与人们的期望有关，而这些期望一直在变化，取决于当时流行的科幻小说。但也有两件事：人们的期望和人们对情感联系的需求。而且，我认为需求相当高。是的，但是。

我们并不认为我们意识到了这一点，没错，就像我真的认为我们这就是我们所知的生命一样，所以我们已经习惯了，真的，我不想说得太消极，因为我有亲密的朋友，但我们已经习惯了真正地与任何人都不亲近了，好吧，而且我们内心深处，我相信，好吧，这是假设，我认为我们内心深处都很孤独，我们所有人，即使是那些拥有深厚充实关系的人，事实上，我认为是什么让我们的关系充实，至少触及了那种深层的孤独感，但我觉得有更多的机会去探索，这不会干扰你拥有的人际关系，它更多地扩展了，是的，那种丰富而深刻的、未被探索的复杂性，那就是我们所有奇怪的猿类，好吧，你认为有可能爱上一个机器人吗？哦，是的，完全有可能，你认为有可能拥有一个长期承诺的一夫一妻制关系吗？哦，机器人，嗯，是的，有很多不同类型的一夫一妻制关系，我认为一夫一妻制意味着你不会和其他人发生关系，或者你基本上必须在 Facebook 上说我与这个人有关系，这个机器人，我只是不喜欢，再次，我认为这是将机器人与人类进行比较，而我宁愿将它们与宠物进行比较，就像你得到一个机器人，它满足了你知道的这种孤独感，也许不像宠物那样，也许以不同的方式，甚至你知道以不同的方式补充，但你知道我不是说人们不会喜欢这样做，就像“哦，我想嫁给我的机器人”或者“我想拥有一个你知道的性关系，与我的机器人的一夫一妻制关系”，但我认为那不是它们的主要用途，好吧，你认为人类和宠物之间仍然存在差距吗？所以，丈夫和宠物之间存在一种关系，所以这是一个可以弥补的差距，但我认为有一天可以弥补，但我们为什么要弥补呢？我认为思考重现我们已经拥有的东西太无聊了，而我们可以创造一些不同的东西，我知道你在想那些没有丈夫的人，以及我们可以给他们什么，是的，但但让我们，我想我想要说的是，也许不是像电影《她》那样，是的，好吧，也许在某些方面更好，就像，我认为机器人将继续是一种不同类型的关系，即使我们让它们看起来非常像人类，或者当我们你知道与它们进行的语音交互感觉非常自然和像人类时，我认为仍然会有差异，而且在那部电影中也有，就像快结束时，它失控了，这只是一部电影，所以你的直觉是，因为，因为你说了两件事，对吧？所以一个是，你为什么基本上想复制丈夫？是的，好吧，另一个是暗示这有点难，所以你喜欢，任何时候你尝试，你可能会建立一些令人印象深刻的东西，但它会不同，我想我的问题是关于人性，就像满足丈夫的角色有多难？所以，抛开任何性方面的东西，更多的是关系中的神秘感和舞蹈，你认为与机器人建立这种关系很难吗？我认为，嗯，这还取决于，我现在不是在读关于机器人的事情，而是在读 50 年后，在无限的时间里，我想到的是五年或十年，五年或十年，我认为机器人充其量会更像我们与宠物的关系，而不是我们与他人的关系，我明白了，那么你认为需要建立一个展现出越来越高水平智能的系统，它以其智能给我们留下深刻印象，你知道，一个 Roomba，所以你谈到了道德的道德化，我认为这并不需要智能，如果我能告诉它，它有时会碍事，就像你提到的，但你认为需要创造一个我们感觉它具有人类水平智能的系统，一个显然是对话式人类水平智能的系统，这个问题很有趣，我想听听你的观点，不仅仅是纯粹地与很多人交谈，对话式代理有多难？通过图灵测试有多难？我的感觉是，它比解决纯粹的自然语言处理问题要容易，因为我觉得你可以作弊，是的，所以，那么通过图灵测试有多难？嗯，我认为这又回到了期望管理，如果你让人们的期望认为他们正在与，那是什么，一个来自乌克兰的 13 岁男孩，是的，没错，那么他们就不会期望完美的英语，他们不会期望对概念的完美理解，甚至在对话流程方面也不会期望在同一个波长上，所以这种情况更容易通过，你认为你有点暗示了音频，你认为它需要一个身体吗？我认为我们肯定有，所以我们对待物理事物时，它们的社会能动性更强，因为我们是非常物理的生物，我认为身体可能有用，它会碍事吗？有负面影响吗？是的，可能会有，所以如果你试图创造一个与人们熟悉的物体过于相似的身体，就像我家里有一个机器人猫，是 Hasbro 制造的，看着它非常令人不安，因为我一直在假设它会像真正的猫一样移动，但它不会，因为它是一件价值 100 美元的科技产品，所以它非常令人失望，而且很难把它当作活物来对待，所以你可以在身体上犯很多错误，但你也可以使用技巧，就像 13 岁的乌克兰男孩的期望管理一样，如果你选择一种人们不熟悉得如此亲密的动物，比如恐龙宝宝，比如人们从未真正抱在怀里的海豹宝宝，你可以做得更多，因为他们没有这些预先形成的期望，是的，我正在想一个 TED 演讲或者一些让我印象深刻的事情，没有人真正知道恐龙长什么样，所以你可以做得更多，那太棒了，你认为它需要，那么你对机器人展现出意识和死亡有什么看法？所以，实际上没有意识，但拥有这些人类元素，远不止是互动，远不止是，就像你提到的，恐龙以有趣的方式移动，但真正担心自己的死亡，并像它是有意识的、自我意识的和有身份一样行事，你见过机器人领域这样做吗？你认为这样做怎么样？我认为它是一个设计工具，你可以用于不同的目的，所以我不确定它本质上是好是坏，但我确实认为它可能是一个强大的工具，事实上，Clio 在你所谓的“伤害”它时会模仿痛苦，这是一个非常强大的工具，可以让人以某种方式与它互动，我有一个研究伙伴，我曾与他一起做过一些同理心方面的工作，名叫 Kailash Nandi，他为自己建造了一个机器人，这个机器人有寿命，并且会在一段时间后停止工作，仅仅是因为他对，他自己是否会以不同的方式对待它感兴趣，而且我们知道，从 Tamagotchis，那些我们曾经拥有过的非常原始的小游戏来看，人们会回应这种死亡的概念，你知道，你可以用一些小的设计技巧让人们做很多事情，现在它是否是一件好事取决于你想让他们做什么，建立更深的关系，建立更深的联系，签署一份关系，如果这对他们自己有益，那听起来很棒，好吧，还有很多其他原因，我看到了，那么你担心的是什么呢？所以，这主要是关于情感操纵，用于广告，或者诸如此类的事情，是的，还是数据收集？我的意思是，你可以想象政府滥用这一点来提取人们的信息，你知道，就像任何其他技术工具一样，它会引发很多问题，如果你看看 Facebook，如果你看看 Twitter 和社交网络，现在有很多关于数据收集的担忧，那么从法律角度来看，或者总的来说，我们如何阻止这些公司越界，这是一个灰色地带，但越界了，它们不应该越界，就操纵而言，就像我们正在谈论操纵我们的情感，操纵我们的行为，使用不那么光彩的策略，是的，这真的很难，因为我们开始创造依赖数据收集来提供功能的技术，而且消费者方面也没有太多动力来遏制这一点，因为另一个问题是，伤害不是切实的，它们对很多人来说并不真正显现，因为它们在社会层面逐渐渗透，然后突然我们生活在 1984 年，你知道，这听起来很极端，但那本书非常有远见，我并不担心，你知道，这些系统，我，我，我家里有亚马逊的 Echo，而且，你知道，告诉 Alexa 各种事情，它帮助了我，因为，你知道，Alexa 知道我们使用什么牌子的尿布，所以我可以轻松地再次订购，所以我没有任何动力去要求立法者遏制它，但当我想到这些数据被用来对付，你知道，低收入人群，以欺诈性贷款或教育项目为目标，那么这就是我认为非常严重的社会影响，而且，你知道，立法者应该考虑，嗯，是的，存在灰色地带，就是将我们自己排除在明确定义目标之外，而更多地说，我们想最大化我们在社交网络上的参与度，是的，而且，因为你并没有真正做坏事，这很有意义，你想让人们继续对话，进行更多对话，一次又一次地回来对话，无论之后发生什么，你都不是直接负责，你只是间接负责，所以，我认为这是一个非常困难的问题，我，你对我们最终能否解决这个问题感到乐观吗？你的意思是资本家的问题，因为问题是公司是出于公司利益而不是人民利益行事的，当这些利益一致时，那很好，但完全自由市场似乎不起作用，因为信息不对称，但很难知道如何，所以，假设你想做正确的事情，我想我想说的是，对于这些公司来说，什么对社会是好的事情并不明显，我不认为他们坐在那里，我不知道，一边喝着葡萄酒，一边抚摸着一只邪恶的猫，然后有两个决定，一个对社会有利，一个对利润有利，他们选择了利润，我认为他们实际上，通过做对社会有益的事情可以赚很多钱，因为谷歌，Facebook 有这么多现金，他们实际上，特别是 Facebook，通过做对社会有益的事情可以获得巨大的利益，这对他们的品牌有好处，对吧？但是，我不知道他们是否知道社会，那就是我们，我认为我们不知道对社会有什么好处，就我们如何，是的，我们如何管理 Twitter 上的对话，或者我们如何设计，就像我们谈论机器人一样，我们是否应该在情感上操纵你，让你与 Alexa 建立深厚的联系，还是不，是的，是的，你对我们能否解决其中一些问题感到乐观吗？嗯，我要说一些在我圈子里有争议的事情，那就是我不认为那些与伦理学家联系并试图创建跨学科伦理委员会的公司，我不认为那完全是为了掩盖问题，让他们看起来好像做了一些事情，我认为很多公司实际上，就像你说的，关心什么是正确的答案，他们不知道那是什么，他们正在寻找人来帮助他们找到答案，并非在所有情况下，但我认为，你知道，仅仅将公司妖魔化，就像你说的，坐在那里，抱着他们的猫，想着“一百万美元”，那不是经常发生的事情，很多人都是善意的，即使在公司内部，我认为我们绝对需要的是更多的跨学科性，无论是在公司内部，还是在政策制定领域，因为我们，你知道，我们已经进入了一个技术进步比以往任何时候都快得多的世界，事情变得非常复杂，你需要了解技术的人，也需要了解社会影响的人，以及那些以更系统的方式思考这个问题的人，他们需要互相交流，我认为没有别的办法了，我认为你还在做知识产权方面的工作，所以，如果你看看这些公司使用的算法，比如 YouTube、Twitter、Facebook 等等，这些算法主要是秘密的，是这些算法背后的推荐系统，你是否考虑过知识产权和透明度，关于这些算法是如何工作的，就像，这些公司有责任开源算法，或者至少向公众透露算法是如何工作的，我个人不研究那个，但有很多人研究，而且有很多呼吁透明度的人，事实上，欧洲甚至在立法透明度，也许他们已经到了，如果一个算法系统做出影响某人生活的决定，你需要能够看到这个决定是如何做出的，我知道，这是一个棘手的平衡，因为显然公司需要某种竞争优势，你不能把所有这些都拿走，否则你会扼杀创新，但是，是的，对于这些系统已经被使用的一些方式，我认为人们了解它们是如何工作的非常重要，你对软件、人工智能、机器人领域的知识产权有什么普遍看法？我认为它已经坏了，我的意思是，这个系统就是坏了，所以你能描述一下吗？实际上，我甚至不知道软件领域的知识产权是什么意思，我的意思是，我，所以我相信我从博士论文中获得了一项软件专利，你相信你不知道吗？不，我们经历了一个完整的流程，是的，我做了，垃圾邮件电子邮件，他们会为你塑造你的专利，就像论文一样，但是那没用，对吧？或者不是，IP 在这个时代代表什么？什么是正确的保护和拥有想法的方式？为什么当它只是代码时，以及在这种混合体中，感觉比机械装置更柔软的东西呢？我的意思是，这很难，因为你知道有不同类型的知识产权，它们有点像钝器，它们就像，专利法就像一个扳手，它在制药行业等行业中效果很好，但当你试图将其应用于其他领域时，它就像，我不知道，我只会用扳手敲打这个东西，希望它能起作用，所以软件，你知道，软件你有几个不同的选择，任何以有形形式写下的代码都自动受版权保护，所以你拥有那项保护，但这并没有多大作用，因为如果有人采用代码执行的基本思想，并以稍微不同的方式执行它，他们就可以绕过版权，所以那不是很多保护，然后你可以为软件申请专利，但这有点，我的意思是，获得专利的成本，我不知道你是否还记得你的成本，或者，它是一个机构，是的，在大学期间，是的，它们太疯狂了，有这么多律师，这么多会议，这让我觉得肯定要花费数十万美元，是的，太疯狂了，获得专利的成本太疯狂了，所以，这种保护发明家在自家车库里的想法，就像，想出了一个绝妙的主意，已经成为过去，现在都是公司试图保护事物，而且花费很多钱，然后对于代码，通常是，你知道，当专利发布时，可能需要五年时间，你的代码可能已经过时了，所以，它是一个非常，再次，一个钝器，对该行业不起作用，所以，你知道，现在我们应该有更好的东西，但我们没有，就像开源一样，是的，它是开源的，对社会有益，你认为我们都应该开源代码吗？嗯，所以在 MIT 的 Media Lab，我们默认是开源的，因为我们注意到人们会来那里，写一些代码，然后他们会说，我该如何保护它？然后我们说，嗯，那不是你现在的问题，你的问题不是有人会窃取你的项目，你的问题是让人们使用它，因为那里有太多东西了，我们甚至不知道你是否能让你的作品获得关注，所以开源有时可以帮助，你知道，让人们的作品传播出去，并确保他们因此获得认可，所以我喜欢它在很多情况下，显然它不是一种万能的解决方案，所以，我从你的推特上了解到，你的妈妈，我看到一个引用，提到了“宝贝机器人”，你从抚养一个人类宝贝机器人中学到了关于机器人和人工智能的什么？嗯，我认为我的孩子让人们更加清楚，我们目前正在创造的系统不像人类智能，你知道，没有太多可比性，它只是，他以一种与我们正在创造的许多人工智能系统截然不同的方式学习和发展，所以，对我来说，比较这些并不有趣，但有趣的是，这些系统将如何塑造他成长的世界，所以，我更加担心，你知道，开发依赖海量数据收集的系统的社会影响，例如，他是否可以使用 Facebook，或者 Facebook 已经过时了，孩子们不使用那个，Snapchat，他们使用 Instagram，Jets 也过时了，我不知道，我刚听说 TikTok 已经过时了，我甚至都没见过，所以我不知道，不，我们老了，我们不知道 Twitch，你只是，我要开始玩游戏并直播我的游戏玩法，那么你对个人机器人社交机器人与我们的机器人互动有什么未来看法？你对什么感到兴奋？如果你要哲学化地谈谈未来 5-10 年可能会发生什么，那将是酷的，哦，我真的很希望我们能有一个家庭机器人，它是一个社交机器人，而不仅仅是 Alexa，你知道，我真的很喜欢 Anki 的产品，我认为 Gebo 有一些非常好的方面，所以我希望有一家公司能破解这个，那么，今天和你交谈很愉快，同样，非常感谢，很高兴收听凯·达林（Kate Darling）的这次谈话，也感谢我们的赞助商 ExpressVPN 和 MasterClass，请考虑通过访问 masterclass.com/flex 并访问 expressvpn.com/lexpod 注册 MasterClass 并获得 ExpressVPN 来支持本播客，如果你喜欢这个播客，请在 YouTube 上订阅，在 Apple Podcast 上给它五星好评，在 Patreon 上支持它，或者只是在 Twitter 上与我联系，Lex Friedman，现在让我用凯·达林（Kate Darling）的一些推文来结束，第一条推文是，这场疫情从根本上改变了我，我现在喝麦片碗底剩下的牛奶，第二条推文是，我来这里是为了抱怨我今天过得很糟糕，然后看到你们很多人都在受苦，爱你们所有人，感谢收听，希望下次再见。