Transcription
[掌声] 大家好，听众朋友们，欢迎收听本周的 No Priors。我们今天请到的是 Physical Intelligence 的联合创始人 Chelsea Finn。这家公司致力于将通用人工智能引入物理世界。Chelsea 与该领域的顶尖研究人员和思想家团队共同创立了 Physical Intelligence。她是斯坦福大学计算机科学和电气工程系的副教授。在此之前，她曾在 Google Brain 工作，并在伯克利任职。Chelsea 的研究重点是人工智能系统如何通过与世界的互动来获得通用技能。
所以，Chelsea，非常感谢您今天做客 No Priors。
是的，谢谢您的邀请。您在机器人领域做了很多非常重要且有影响力的工作，包括您在谷歌、斯坦福等地的工作。所以，我非常想先听听您在机器人领域的背景和经历。是什么最初吸引您进入这个领域？以及您做过的一些工作？
这是一条漫长的道路。一开始，我对机器人可能对世界产生的影响感到非常兴奋，但同时，我也对开发机器人的感知和智能这个问题非常着迷，而机器人和机器人都体现了这一切。而且，有时你还可以做一些很酷的数学题，让你的大脑保持活跃，让你思考。所以，我认为所有这些都让在这个领域工作非常有趣。
我大概十多年前开始更认真地从事机器人工作，在我攻读伯克利博士学位初期。我们当时在研究神经网络控制，试图训练从图像像素直接映射到机器人手臂电机扭矩的神经网络。当时，这并不流行，我们已经走了很长一段路，现在它在机器人领域以及普遍被很多人看好。
从一开始，我就很清楚，我们可以训练机器人做一些很酷的事情，但让机器人在许多场景下、对许多物体都能做到其中一件事，是一个重大挑战。所以，十年前，我们训练机器人拧瓶盖，用抹刀将物体放入碗中，或者进行精确插入，或者将衣架挂在衣架上。这些都是很酷的事情，但实际上让机器人在许多环境、对许多物体都能做到这一点，是挑战的很大一部分。我一直在思考如何制作更广泛的数据集，在这些更广泛的数据集上进行训练，以及不同的学习方法，无论是强化学习、视频预测、模仿学习，所有这些。
所以，我从谷歌大脑待了一年，在我攻读博士学位和加入斯坦福之间。我成为了斯坦福大学的教授，在那里建立了一个实验室，并在这方面做了很多工作。然后，最近，大约一年前，我创立了 Physical Intelligence。我因此休了斯坦福的假，能够实现我们联合创始人共同拥有的愿景，并拥有大量资源，这非常令人兴奋。我也还在指导斯坦福的学生。
这太棒了。我想我们和另外四位联合创始人一起创立了 Physical Intelligence，这是一个令人难以置信的团队。您能多谈谈 Physical Intelligence 在做什么，以及您采取的方法吗？因为我认为这是整个领域和方法的一个相当独特的切入点。
是的，我们正在尝试构建一个大型神经网络模型，最终可以控制任何机器人，在任何场景下做任何事情。我们愿景的一个重要部分是，过去机器人领域专注于深入研究一个应用，开发一个机器人来做一件事，然后最终被困在这个应用中。要解决一件事，然后试图摆脱它并扩展，这非常困难。相反，我们着眼于长远，试图解决物理世界中这个更广泛的问题。
我们正在大量思考泛化和通用性。与其他机器人公司不同，我们认为能够利用所有可能的数据非常重要。这不仅仅是利用一个机器人上的数据，而是利用任何可能有六个关节或七个关节，或两只手臂或一只手臂的机器人平台上的数据。我们已经看到了很多证据，表明您实际上可以跨越这些不同的载体转移大量丰富的信息，这允许您使用数据。而且，如果您迭代您的机器人平台，您不必丢弃所有数据。我们过去经历了很多痛苦，当我们得到新版本的机器人时，您的策略就不再适用了，而且要回到您在之前的机器人迭代中的状态，这是一个非常痛苦的过程。
所以，是的，我们正在努力构建通用机器人，本质上是开发将为下一代现实世界机器人提供动力的基础模型。
这太棒了，因为我想这与语言模型领域有很多相似之处，在那里，深度学习、Transformer 架构和规模的结合，确实证明了您可以在不同领域之间实现真正的泛化和转移。您能多谈谈您正在采用的架构或方法，或者您是如何考虑您正在开发的基础模型的基石的吗？
一开始，我们刚刚起步，我们试图扩大数据收集的规模。与语言不同，我们没有像维基百科或机器人运动的互联网。我们非常兴奋地在现实世界的真实机器人上扩大数据收集。这种真实数据是过去推动机器学习进步的动力，而其中一个重要部分是，我们实际上需要收集这些数据，这看起来是在物理世界中远程操作机器人。我们也在探索其他扩大数据的方法，但核心是扩大真实机器人数据。
我们在去年十月下旬发布了一些东西，展示了我们在扩大数据方面的初步努力，以及我们如何学习非常复杂的任务，如折叠衣物、清洁桌子、建造纸板箱。我们现在在这个旅程中的重点是大量思考语言交互和泛化到不同环境。所以，我们在十月份展示的机器人是在一个环境中，它在该环境中拥有数据。我们确实看到了一定程度的泛化，它能够折叠以前从未见过的衬衫，折叠以前从未见过的短裤。但是，泛化的程度非常有限，而且您也无法以任何方式与之互动，您无法提示它，告诉它您想做什么，除了它在训练数据中看到的相当基本的事情。所以，能够处理各种提示和各种环境是目前的一个重点。
在架构方面，我们正在使用 Transformer，并且我们正在使用预训练的视觉语言模型。这使您能够利用互联网上所有丰富的信息。几年前，我们有一个研究成果，我们表明，如果您利用视觉语言模型，您实际上可以让机器人完成需要从未在机器人训练数据中出现过但在互联网上存在过的概念的任务。一个著名的例子是，您可以将猫的罐头传递给泰勒·斯威夫特，或者一张泰勒·斯威夫特的照片。机器人从未亲眼见过泰勒·斯威夫特，但互联网上有很多泰勒·斯威夫特的图片，您可以利用这些数据中的所有信息，然后利用预训练模型的权重将其转移到机器人上。所以，我们不是从零开始，这也有很大帮助。
所以，这大概是关于方法的一些情况。我很乐意深入探讨。
这真是太棒了。那么，您认为实现泛化的主要基础是什么？是扩大数据规模？是扩大计算规模？
是两者的结合，还有其他形式的后训练。我只是有点好奇，当您思考人们现在关注的共同点时，我很好奇您认为需要填补什么。当然，在语言模型领域，人们花了很多时间在推理模块和其他类似的东西上。所以，我很好奇您认为目前缺少哪些组成部分？
我认为最重要的事情，也是比较枯燥的事情，就是收集更多多样化的机器人数据。所以，对于我们去年十月发布的版本，我们在三个建筑物里收集了数据。互联网，例如，以及所有为语言模型和视觉模型提供动力的东西，比这要多样化得多，因为互联网上的图片是由许多人拍摄的，文本是由许多不同的人写的。所以，只是尝试在更多样化的地点收集数据，并使用更多物体、更多任务。所以，扩大数据的多样性，而不仅仅是数量，非常重要。这确实是我们目前的一个重点，实际上是将我们的机器人带到许多不同的地方并收集数据。
作为副产品，我们也了解了让机器人能够在许多不同地方运行和工作的必要条件。这是一个很好的副产品，因为如果您真的想让机器人在现实世界中工作，您就需要能够做到这一点。所以，这是第一件事。但我们也正在探索其他事情，利用人们的视频，再次利用网络数据，利用预训练模型，思考推理，尽管是更基本的推理形式，以便例如将一件脏衣服放入洗衣篮，如果您能识别出衣服在哪里，洗衣篮在哪里，以及您需要做什么来完成这项任务，那是有用的。或者，如果您想制作三明治，而用户心中有特定的要求，您应该通过该要求进行推理。如果他们对腌黄瓜过敏，您可能不应该在三明治里放腌黄瓜。诸如此类的事情。所以，有一些基本的事情。尽管最重要的事情是更多样化的机器人数据。
然后，我认为您迄今为止所采取的许多方法都非常强调发布机器人领域的开源模型和软件包。您认为这是长远之道吗？您认为它是开源核心？您认为最终是专有模型？或者您是如何看待的？以及在行业背景下？因为感觉现在有几家不同的机器人公司，每家公司都采取不同的方法，要么是纯硬件，要么是硬件加软件，它们专注于特定的硬件占地面积，有软件，如果是纯软件的话，还有闭源与开源。所以，我很好奇 Physical Intelligence 在这个光谱上的位置。
绝对。我们实际上一直非常开放。我们不仅开源了一些权重并在技术论文中发布了详细信息，我们实际上还与硬件公司合作，并将机器人设计提供给硬件公司。有些人实际上……当我告诉人们这一点时，他们有时会非常震惊，比如“IP 呢？保密性呢？”等等。我们实际上做出了一个非常故意的选择。这有几个原因。
一是我们认为这个领域才刚刚开始，这些模型将变得更好，机器人也将变得更好，一年后，三年后。我们希望支持研究的发展，我们希望支持社区，支持机器人，这样，当我们有望开发出这些通用模型的技术时，世界将为之做好准备。我们将拥有更好、更强大的机器人来利用这些模型。那些拥有专业知识并理解使用这些模型所需条件的人。
另一个原因是，我们拥有一支非常出色的研究人员和工程师团队，以及非常出色的 AI 研究人员和工程师。他们希望在开放的公司工作，尤其是研究人员，在那里他们可以为自己的工作获得认可，分享他们的想法，谈论他们的想法。我们认为拥有最好的研究人员和工程师对于解决这个问题是必要的。
我将提到的最后一件事是，我认为这个赌注最大的风险是它不起作用。我并不真正担心竞争对手，我更担心没有人能解决这个问题。
哦，有意思。为什么您会担心呢？
我认为机器人领域非常困难。过去有过许多许多失败。而且，不像你在图像中识别物体时，容错率非常低。你可能会错过抓取一个物体，或者在接触和不接触一个物体之间没有区别，这非常小，而且对你的机器人能否成功操纵物体的结果有巨大的影响。而且，这只是一个例子。在收集数据方面存在挑战，任何涉及硬件的事情也很难。
我想我们现在有几个在物理世界中使用的机器人的例子，从喷气式飞机的自动驾驶仪到配送中心的某种形式的拣选和包装机器人或其他类型的机器人。以及制造业，尤其是在汽车行业，有不同的机器人。所以，在一些更受限的环境中，人们以不同的方式使用它们。
您认为这些模型的影响将首先体现在哪里？因为正如您所说，有些事情的容错率非常低，而有很多领域实际上是可以的，或者也许您可以充分约束问题，使其与模型的性能相匹配，这样它就能正常工作。您认为 Physical Intelligence 将在短期内产生影响，或者总体上机器人领域和这些新方法将如何得到证实？
作为一家公司，我们非常专注于长期问题，而不是任何一个特定的应用，因为专注于一个应用可能会出现故障模式。我不知道第一个应用会在哪里。我认为有一件事实际上很有挑战性，那就是通常在机器学习中，很多成功的应用，比如推荐系统、语言模型、图像检测，模型的输出的很多消费者实际上是人类，他们可以检查它，而且人类擅长这件事。机器人很多非常自然的应用程序实际上是机器人自主地做某事，而不是人类消费命令的机械臂位置，例如，然后检查它，然后进行验证等等。所以，我认为我们需要思考一些新的方法来容忍错误，或者在可以容忍错误的情况下，或者在人类和机器人可以一起工作的情况下。我认为这是在尝试部署这些方面将出现的一个重大挑战。
我们一直在进行的语言交互工作实际上就是由这个挑战驱动的，我们认为人类能够提供关于他们希望机器人如何行为、他们希望机器人做什么、他们希望机器人在特定场景下如何提供帮助的输入非常重要。
这说得通。我想在某种程度上，至少在我们目前的世界里，另一种形式的泛化是人类形式。所以，有些人专门关注人形机器人，比如特斯拉和其他公司，他们假设世界是为人类设计的，因此是与人类共存的完美形态。然后，其他人则采取了截然不同的方法，比如我说我需要一些在某些方面更适合家庭，或者适合工厂或制造业的东西，等等。您对人形机器人与非人形机器人的看法是什么？
一方面，我认为人形机器人非常酷，我在斯坦福的实验室里有一个。另一方面，我认为它们有点被高估了。一种实用的看待方式是，我认为我们现在普遍在数据方面相当受限。有些人认为，有了人形机器人，你也许可以更容易地收集数据，因为它符合人类的形态，所以模仿人类可能更容易。我确实听过人们这样说。但如果你真的尝试过远程操作一个人形机器人，它实际上比远程操作一个静态的机械臂或一个带轮子的移动机械臂要困难得多。
优化数据收集能力非常重要，因为如果我们能达到拥有比我们想要的还要多的数据的程度，那么剩下的就取决于研究、计算和评估。所以，我们正在优化这一点。我们正在使用廉价的机器人，我们正在使用我们可以非常容易地开发远程操作界面的机器人，在这些机器人上，你可以非常快速地进行远程操作，收集多样化的数据，收集大量数据。
是的，很有趣。曾经有一个病毒式传播的假金·卡戴珊视频，她和机器人一起购物，机器人跟着她搬所有购物袋。当我看到那个视频时，我真的想要一个机器人跟着我到处走，帮我拿东西，我觉得那会很有趣。所以，我希望有一天我能使用您的软件让机器人跟着我做事情。
令人兴奋的未来。您如何看待这些方面的模型开发与非模型开发？我认为这是另一些人正在做出的权衡，或者是在两者之间做出的选择。
AI 社区的很多人都非常专注于语言模型、视觉语言模型等等。而且，围绕推理之类的东西有很多炒作。哦，让我们创造出最智能的东西。我觉得实际上人们低估了运动控制所需的智能。我们多年的进化才让我们能够像现在这样使用我们的手。而且，许多动物即使经过了多年的进化，也做不到这一点。所以，我认为，能够做一些基本的事情，比如做一碗麦片，或者倒一杯水，实际上需要大量的复杂性和智能。所以，在某些方面，我认为实体智能或物理智能实际上是智能的核心，而且可能被低估了，与一些不太具实体性的模型相比。
在过去几年里，我非常喜欢的一篇机器人领域的论文是您的 Aloha 论文，我认为它是一种非常巧妙的方法。在过去两三年里，有哪些研究引起了如此多的活动？因为我觉得现在有很多人开始在这个领域创业，因为很多人觉得现在是时候了。我有点好奇，您认为是什么研究是这种转变的基础，以及人们认为这是一个好地方的原因？
至少对我们来说，有几件事我们觉得是转折点，感觉这个领域比以前发展得快得多。一个是 SE can 的工作，我们发现你可以将语言模型作为高级部分进行规划，然后将其与低级模型结合起来，让模型完成长期任务。一个是 RG2 的工作，它表明你可以完成我之前提到的泰勒·斯威夫特例子，并且能够接入大量的网络数据，从而在机器人上获得更好的泛化。第三个是我们的 RTX 工作，在那里我们能够跨机器人载体训练模型，并显著地……基本上，我们收集了不同研究实验室拥有的所有机器人数据，这是一个巨大的努力，将其汇总成一个通用格式并进行训练。而且，当我们训练这些数据时，我们实际上发现我们可以获取一个检查点，将该模型检查点发送到另一个实验室，位于全国一半的地方，该实验室的研究生可以在机器人上运行该检查点，而且它通常比他们自己实验室专门迭代的模型做得更好。这是另一个重要的迹象，表明这些东西实际上开始奏效了，而且你可以通过汇集不同机器人上的数据来获得好处。
而且，正如您所提到的，我认为 Aloha 工作以及后来的 Mobile Aloha 工作表明，你可以进行远程操作，并让模型训练相当复杂的灵巧操作任务。我们还有一个后续论文，关于鞋带的系法。这是一个有趣的项目，因为有人说如果他们看到机器人系鞋带，他们就会退休。
他们退休了吗？
他们没有退休。我们需要强迫他们退休，无论那个人是谁，我们都需要跟进。
是的，所以我认为这些是一些例子。所以，是的，我认为我们在该领域看到了巨大的进步。我也觉得，在我们创立 PI 之后，这似乎也向其他人表明，如果专家们真的愿意为此下注，那么可能有什么事情会发生。
PI 今天发布了一个你们称之为分层交互式机器人（HIRobot）的东西。您能多谈谈吗？
这是一个非常有趣的项目。我们正在关注两件事。一是，如果你需要做一个更长期的任务，也就是说一个可能需要几分钟才能完成的任务，那么如果你只训练一个单一的策略来根据图像输出动作，比如你试图制作三明治，你训练一个只是输出下一个电机指令的策略，这可能不如那些真正思考完成任务步骤的策略好。这是第一个组成部分，这就是层次结构的作用。
第二个组成部分是，很多时候，当我们训练机器人策略时，我们只是说，我们会获取我们的数据，进行标注，说“这是拿起海绵”，这是“把碗放进垃圾桶”，这个片段是“折叠衬衫”，然后你得到一个可以遵循基本指令的策略，比如“折叠衬衫”或“拿起杯子”之类的。但归根结底，我们不希望机器人只能做到这一点，我们希望它们能够与我们互动，我们可以说，“哦，我是素食者，你能给我做一个三明治吗？哦，我对腌黄瓜过敏，所以可能不要放进去。”也许还能在中间插话，说“哦，暂停放西红柿之类的。”
从只能遵循“拿起杯子”之类的指令，到能够处理这些提示和这些情境化的修正等等，这之间存在一个很大的差距。所以，我们开发了一个系统，基本上有一个模型，它以提示作为输入，并进行推理，能够输出机器人应该遵循的下一步。这可能是，它会告诉它，下一步是拿起西红柿，例如。然后是一个低级模型，它以“拿起西红柿”作为输入，并输出下一个大约半秒的电机指令序列。这就是它的要点。
我们这样做很有趣，因为我们实际上让机器人制作了素食三明治，或者火腿奶酪三明治，或者其他什么。我们还做了一个杂货购物的例子，还有一个清洁桌子的例子。我对此感到兴奋，首先是因为看到机器人能够响应不同的提示并完成这些具有挑战性的任务很有趣。其次，因为它似乎是解决这个问题的正确方法。
在技术能力方面，我有点想知道的是，如果我看看自动驾驶的世界，有几种不同的方法。其中一种方法更以“Whos”为中心，它实际上是将除视觉以外的各种其他类型的传感器结合起来。我们有激光雷达和其他一些东西来增强车辆的自动驾驶能力。您认为我们在机器人使用的传感器方面处于什么阶段？有什么缺失的吗？有什么我们应该添加的吗？有什么类型的输入或反馈是我们需要的，但还没有被纳入的吗？
我们仅凭视觉，甚至仅凭 RGB 图像，就已经走了很远。我们通常会有一个或多个外部的、我们称之为基础摄像头，它们观察场景，还有安装在机器人每个手腕上的摄像头。我们可以用这些走得很远。我希望……如果我们能给我们的机器人装上皮肤。不幸的是，目前很多触觉传感器要么比皮肤坚固得多，要么贵得多，要么分辨率非常低。所以，硬件方面有很多挑战。我们发现，实际上，在手腕上安装 RGB 摄像头非常有帮助，而且可能提供与触觉传感器相同的信息。因为当我想到一个人身上包含的传感器时，当然，正如您所说，有触觉传感器，对吧？然后有热传感器，实际上还有各种各样人们通常不太在意的东西。
绝对。我只是好奇，在机器人领域，有多少是真正必需的，有多少不是？我们应该考虑哪些事情？比如，如果我们从人类或动物身上推断出来，或者其他……
这是一个很好的问题。比如，制作三明治，你可以说机器人应该能够尝三明治，知道它是否好吃，或者至少闻一下。
是的，我过去曾多次向谢尔盖提出关于气味的论点，因为它有很多好处。尽管我们以前从未尝试过。
是的，在某些方面，冗余是很好的。例如，我认为像音频这样的东西，人类，如果你听到一些意想不到的事情，它实际上可以在很多情况下提醒你。它可能与其他传感器非常冗余，因为你可能会看到东西掉下来，例如。这种冗余可以带来鲁棒性。
对我们来说，目前关注这些传感器并不是优先事项，因为我们认为瓶颈在于别处，在于数据方面，在于架构方面等等。我还要提到的一点是，我们现在的大部分策略都没有任何记忆。它们只看当前的图像帧，甚至记不住半秒钟前的事情。所以，我宁愿在添加其他传感器之前，先为我们的模型添加记忆。我们可以在没有其他传感器的情况下，在许多应用中拥有商业上可行的机器人。
您认为这需要多长时间？
我不知道。
机器人领域的某些方面使其比自动驾驶更容易，而某些方面使其更难。一方面，它更难，因为你不仅仅是在一个高维空间中。即使是我们的静态机器人也有 14 个维度，每只手臂 7 个。在许多情况下，你需要比驾驶更精确。我们一开始也没有那么多数据。
另一方面，在驾驶方面，我觉得你需要解决整个分布才能有任何可行的东西。你必须能够处理一天中的任何时间，任何可能的行人场景，或其他汽车的交叉路口。而在机器人领域，我认为有很多商业用例，你不需要处理这个巨大的分布。而且，安全风险也没有那么大。这让我感到乐观。而且，我认为自动驾驶领域的所有结果都非常令人鼓舞，尤其是我在旧金山看到的很多“Whos”。
看到它们的使用量不断增加，真是令人印象深刻。我发现自动驾驶领域令人震惊的是，大约十到十五年前，有大约两打初创公司开始做自动驾驶。而且，这个行业基本上已经整合了，至少在美国是这样。当然，中国市场有点不同，但它已经整合到“Whos”和特斯拉，它们基本上是两个现有公司，一个是谷歌，一个是特斯拉，一个汽车制造商。然后可能有一两个初创公司已经剥离并上市，或者仍在该领域工作。然后大部分都消失了。十到十五年前存在的玩家群体，基本上就是后来获胜的玩家群体。除了整合之外，这个行业并没有太多活力。
您认为主要的机器人公司是今天存在的公司吗？您认为是否存在某种现有优势？
一年前，情况会完全不同。而且，我认为我们最近有了这么多新玩家。我认为自动驾驶之所以是那样，表明十年前可能有点太早了。而且，我认为这可能……我认为深度学习自那时以来已经走了很长很长的路。所以，我认为这也是一部分。而且，我认为机器人领域也是如此。如果你问我十年前，甚至五年前，老实说，我认为那会太早了。我认为技术……还没有到位。我们可能仍然太早了，我们也不知道。这是一个非常困难的问题，而且自动驾驶有多么困难，我认为这证明了在物理世界中构建智能有多么困难。
在主要参与者方面，我非常喜欢初创公司环境的很多方面，以及我在谷歌时很难做到的很多事情。谷歌在很多方面都是一个很棒的地方，但例如，将机器人带出校园，基本上是不可能的，仅仅是出于代码安全原因。而且，如果你想收集多样化的数据，将机器人带出校园是有价值的。当你是一家小公司时，你可以移动得更快，当你没有……限制、繁文缛节之类的事情时。那些真正的大公司拥有大量的资本，所以它们可以持续更长时间。但我认为它们移动得也会更慢。
如果您要给今天考虑创办一家机器人公司的某人一些建议，您会建议他们做什么，或者您会让他们关注什么？
我认为给想创业的人的主要建议是尽快学习尽可能多的东西。而且，我认为实际上是快速部署、学习和快速迭代。这可能是主要的建议。而且，尝试……实际上是让机器人出去，从中学习。而且，我也不确定我是否是提供创业建议的最佳人选，因为我自己也只当了 11 个月的企业家。但是的，这就是我给出的建议。
这很酷。您正在经营一家非常令人兴奋的初创公司，所以我认为您完全有能力向该领域的人提供建议。
我听说有许多不同的团体正在使用人们的观察数据作为训练集的一部分。这可能是 YouTube 视频，也可能是他们专门为此目的录制的视频。您如何看待这在训练机器人模型方面的背景？
我认为数据可以有很多价值，但仅凭数据本身是无法走得很远的。而且，我认为你可以做一些非常好的类比。例如，如果你观看一场奥运游泳比赛，即使你有力量，仅仅是他们移动自己肌肉以完成他们所完成的事情的练习，对于能够做到这一点至关重要。或者，如果你想学会打网球，你无法通过观看职业选手来学会。现在，也许这些例子看起来有点牵强，因为它们谈论的是专家。我之所以做这些类比，是因为我们人类在很多事情的低级运动控制方面已经很专业了，而我们的机器人还没有。而且，我认为机器人实际上需要来自自己身体的经验才能学习。所以，我认为能够利用这种形式的数据，特别是来扩展机器人自己的经验，是非常有前途的。但实际上拥有机器人本身的数据也至关重要。
在某些情况下，这只是您围绕该机器人生成的一般数据，还是您实际上会让它模仿某些活动？或者您如何看待数据生成？因为您提到了一些关于转移和泛化的问题。问一些关于什么可以泛化，什么不可以，以及哪些类型的数据是橙色的等等，这很有趣。
我的意思是，当我们收集数据时，它就像“牵线木偶”，就像 Aloha 的工作。然后你可以记录实际的电机指令和传感器，比如摄像头图像。这就是机器人获得的经验。然后，我认为自主经验也将发挥巨大作用，就像我们在语言模型中看到的那样。一旦你有了初始语言模型，如果你能用强化学习让语言模型通过自己的经验进行引导，那将非常有价值。
是的。然后，关于什么可以泛化，什么不可以，我认为这一切都取决于分布的广度。很难量化或衡量机器人的自身经验有多广泛。而且，没有办法对任务的广度进行分类，比如一个任务与另一个任务有多么不同，一个厨房与另一个厨房有多么不同。但是，我们可以通过查看建筑物数量或场景数量等内容来大致了解这种广度。
然后，我想我们谈了很多关于人形机器人和其他格式的事情。如果您展望未来，在机器人未来到来的 N 年里，您认为可能会出现哪些形态？您认为会有一个单一的形态，还是有几个？它是一个丰富的生态系统，就像生物学一样？您如何看待所有这些将产生的成果？
我不知道确切。但我认为我的赌注会是某种真正广泛的机器人平台。我认为我的联合创始人谢尔盖喜欢称之为机器人硬件类型的“寒武纪大爆发”。一旦我们拥有能够驱动所有这些不同机器人的技术，也就是智能。而且，我认为这有点像我们在厨房里有所有这些不同的设备，它们可以为我们做所有不同的事情，而不是只有一个设备可以为我们烹饪整顿饭。所以，我认为我们可以设想一个世界，那里有一个机器人手臂，在厨房里做事情，它有一些为之优化的硬件，也许也为那个特定用例优化其成本。还有另一个硬件，是为折叠衣服或洗碗等事情设计的。这些都是猜测，当然。但我认为这样的世界……是的，我认为这与很多人在《钻石时代》一书中思考的不同。书中有一种观点，就是“物质管道”进入家庭，你拥有这些 3D 打印机，它们为你制作一切。在一种情况下，你下载了原理图，然后你 3D 打印了东西，然后那些在某种程度上盗版了其中一些东西的人，最终几乎基于进化的过程来构建硬件，然后选择某些功能作为优化机制。
您认为那样的未来是可能的吗？还是您认为更多的是，你把基础模型做得很好，你有几个形态，你知道，如果你有足够的可泛化性，你就不需要那么多专业化了？
我认为那样的世界非常可能。而且，我认为如果你优化特定用例，你可以制造更便宜的硬件。而且，也许它也会快得多。所以，是的，显然很难预测。
是的，这很难预测。因为少数硬件平台的一个论点就是供应链。大规模生产所有子组件将更便宜，因此您将收缩到更少的东西，因为除非有巨大的成本优势，否则这些更少的东西将更容易扩展、可复制、易于制造等等。如果你看看一般的硬件方法。所以，这是一个关于这两种张力之间权衡的有趣问题。
虽然，也许我们会有供应链中的机器人来制造您想要的任何定制设备。所以，是机器人一直到底。这就是我们的未来。
是的。嗯，非常感谢您今天加入我。这是一次非常有趣的谈话，我们涵盖了各种各样的事情。我非常感谢您的时间。
是的，这很有趣。
在 Twitter 上关注我们 @no prior pod。如果您想看我们的脸，请订阅我们的 YouTube 频道。在 Apple Podcast、Spotify 或您收听的任何地方关注我们的节目。这样您每周都能收到新一集。并注册电子邮件或在 no- pri.com 上查找每集的文字记录。
[音乐]