Transcription
以下是与埃隆·马斯克的对话。他是特斯拉、SpaceX、Neuralink 的首席执行官，也是多家其他公司的联合创始人。本次对话是人工智能播客系列的一部分。该系列包括学术界和工业界的顶尖研究人员，其中包括汽车、机器人、人工智能和科技公司的首席执行官和首席技术官。本次对话发生在我们的麻省理工学院团队发布关于特斯拉自动驾驶仪使用期间驾驶员功能警惕性的论文之后。特斯拉团队联系我，提议与马斯克先生进行播客对话。我接受了，并拥有提问的完全控制权以及公开披露内容的决定权。我最终没有删除任何实质性内容。在此次对话之前，我从未与埃隆公开或私下交谈过。他本人及其公司对我个人的看法，以及对我作为麻省理工学院教授所实践的科学方法的严谨性和完整性，均无任何影响。特斯拉从未在经济上资助过我的研究，我也从未拥有过特斯拉汽车，也从未拥有过特斯拉股票。这个播客不是一篇科学论文，而是一次对话。我像尊重我交谈过的所有其他领导者和工程师一样尊重埃隆。我们在某些方面达成一致，在另一些方面则存在分歧。我的目标，一如既往地进行这些对话，是理解嘉宾看待世界的方式。本次对话中一个特别的意见分歧点是，基于摄像头的驾驶员监控将会在多大程度上改善结果，以及它在人工智能辅助驾驶中的相关性将持续多久。作为一名致力于并着迷于以人为本的人工智能的人，我相信，如果有效实施和整合，基于摄像头的驾驶员监控很可能在短期和长期内都带来益处。相比之下，埃隆和特斯拉的重点在于改进自动驾驶仪，使其统计安全优势能够压倒对人类行为和心理的任何担忧。埃隆和我可能在所有事情上都不一致，但我深切尊重他所领导的努力背后的工程和创新。我在这里的目标是激发行业和学术界就人工智能辅助驾驶进行一场严谨、细致和客观的讨论，最终使世界变得更安全、更美好。现在，这是我与埃隆·马斯克的对话。自动驾驶仪最初的愿景、梦想是什么？当它在2014年首次构思并开始安装时，汽车中的硬件，其宏观的系统层面的愿景是什么？愿景、梦想是什么？——我不会将其描述为愿景或梦想，这仅仅是因为汽车行业显然有两个巨大的革命。一个是向电气化的转型，另一个是自主性。我清楚地意识到，在未来，任何不具备自主性的汽车，其用途将与马匹差不多。这并不是说马匹没有用处，只是在这一点上，有人拥有一匹马是罕见的，而且有些特立独行。汽车将完全自动驾驶是显而易见的，这只是时间问题。如果我们不参与自主革命，那么与自主汽车相比，我们的汽车对人们来说将毫无用处。我的意思是，一辆自主汽车的价值可能是一辆非自主汽车的五到十倍。——从长远来看。——这取决于你对长远的定义，但让我们说至少在未来五年，也许十年。——所以，自动驾驶仪早期有很多非常有趣的设计选择。首先是在仪表盘上，或者在Model 3和中控台显示屏上，显示组合传感器套件看到的内容。选择背后的想法是什么？有过争论吗？过程是怎样的？——显示屏的全部目的是提供车辆对现实感知的健康检查。所以车辆从一堆传感器获取信息，主要是摄像头，还有雷达和超声波、GPS 等等。然后，这些信息被渲染成矢量空间中的一堆物体，具有车道线、交通信号灯和其他汽车等属性。然后，在矢量空间中，将其重新渲染到显示屏上，这样你就可以通过看向窗外来确认汽车是否知道发生了什么。——是的，我认为这对人们理解、与系统融为一体并了解系统能力来说是一件极其强大的事情。那么，您有没有考虑过显示更多内容？如果我们看看计算机视觉，比如道路分割、车道检测、车辆检测、物体检测，在系统底层，边缘存在一些不确定性。您有没有考虑过揭示系统中的不确定性部分，那种————与图像识别相关的概率，或者类似的东西？——是的，所以现在，它显示了附近的车辆，一个非常清晰的图像，人们确实证实了我前面有一辆车，系统也看到了我前面有一辆车，但通过显示一些不确定性，可以帮助人们建立对计算机视觉的直觉。——嗯，在我的车里，我总是用调试视图来看这个。有两个调试视图。一个是增强视觉，我相信您已经见过了，我们基本上在识别出的物体周围画框和标签。然后我们称之为可视化工具，它基本上是矢量空间的表示，总结了所有传感器的输入。它不显示任何图片，基本上是以矢量空间显示了汽车对世界的看法。但我认为这对普通人来说非常难以理解，他们不知道自己在看什么。——所以这几乎是一个人机交互的挑战，通过当前显示的这些内容，是为了让公众普遍理解系统的能力。——如果你对计算机视觉的工作原理一无所知，或者其他任何东西，你仍然可以看屏幕，看看汽车是否知道发生了什么。然后，如果你是一名开发工程师，或者像我一样拥有开发版本，那么你就可以看到所有的调试信息。但这对于大多数人来说将是完全的胡言乱语。——您认为如何最好地分配精力？所以，我认为自动驾驶仪有三个非常重要的技术方面。所以是底层算法，比如神经网络架构，它训练的数据，然后是硬件开发，也许还有其他方面。所以，看，算法、数据、硬件。你的钱和时间都是有限的。你认为分配资源最重要的方面是什么？或者你认为这三者之间是平均分配的吗？——由于我们所有的汽车都有八个面向外部的摄像头、雷达以及通常的12个超声波传感器、GPS 和 IMU，我们自动获得了海量数据。而且我们有大约40万辆汽车在路上拥有这种级别的数据。实际上，我认为你对此跟踪得相当紧密。——是的。——是的，所以我们有近50万辆汽车在路上配备了完整的传感器套件。我不确定有多少其他汽车在路上配备了这种传感器套件，但我很惊讶如果超过5000辆的话，这意味着我们拥有99%的数据。——所以有巨大的数据流入。——绝对，巨大的数据流入。然后，我们花了大约三年时间，但现在我们终于开发出了我们自己的全自动驾驶计算机，它可以处理比我们目前汽车中使用的英伟达系统多一个数量级的数据，并且要使用它，你只需拔掉英伟达电脑，插上特斯拉电脑即可。事实上，我们仍在探索其能力的边界。我们可以以全帧率、全分辨率运行摄像头，甚至不裁剪图像，而且其中一个系统仍然有余量。全自动驾驶计算机实际上是两个计算机，两个系统级芯片，它们是完全冗余的。所以你可以破坏该系统的任何部分，它仍然可以工作。——冗余，它们是彼此的完美复制品，还是————是的。——哦，所以这纯粹是为了冗余，而不是像一个争论机器那样的架构，它们都在做决定，这纯粹是为了冗余。——更像是双引擎商用飞机。系统在两个系统都运行时表现最佳，但它能够仅靠一个系统安全运行。所以，目前，我们可以运行，我们甚至还没有达到性能的边缘，所以没有必要在两个 SOC 之间分配功能。我们实际上可以在每个上面运行一个完整的副本。——所以你还没有真正探索或达到系统的极限。——[埃隆] 不，还没有，极限，没有。——所以深度学习的魔力在于它随着数据的增加而变得更好。你说有巨大的数据流入，但驾驶这件事，——是的。——真正有价值的学习数据是边缘案例。我听说你曾说过自动驾驶仪的脱离是一个重要的时刻。还有其他边缘案例吗？或者你能谈谈这些边缘案例，它们的哪些方面可能很有价值，或者如果你有其他想法，如何发现越来越多的驾驶边缘案例？——嗯，有很多东西需要学习。当然存在边缘案例，比如有人在使用自动驾驶仪时接管了控制，然后触发器会发送到我们的系统，说，好吧，他们是为了方便而接管，还是因为自动驾驶仪工作不正常而接管？还有，比如我们正在尝试弄清楚，穿越交叉路口的最佳样条是什么。那么那些没有干预的才是正确的。所以你就会说，好吧，当它看起来像这样时，就做以下事情。然后你就会得到导航复杂交叉路口的最佳样条。——所以有那种常见情况，你试图捕捉特定交叉路口在一切顺利的情况下的大量样本，然后是边缘情况，正如你所说，不是为了方便，而是有些事情没有完全顺利。——所以如果有人从自动驾驶仪开始手动控制。而且，真正看待这件事的方式是，将所有输入视为错误。如果用户必须输入，那么就意味着有些东西，所有输入都是错误。——从这个角度来看，这确实是一个有力的说法，因为它很可能是错误的，但如果你想下高速公路，或者这是一个自动驾驶仪目前设计不做的导航决定，那么驾驶员就会接管，你怎么知道区别呢？——是的，这会随着“自动导航”而改变，我们刚刚发布了它，而且没有转向确认。假设控制是为了变道，或者驶离高速公路，或者进行高速公路立交桥，在刚刚发布的版本中，绝大多数情况都会消失。——是的，我认为人们并不完全理解这是一个多么大的飞跃。——是的，他们不理解。如果你开车，你就会理解。——所以当你进行自动变道时，你仍然必须把手放在方向盘上。自动驾驶仪的发展过程中，在其历史中，有这些巨大的飞跃，有什么让你印象深刻的巨大飞跃？我想说的是，这个，“自动导航”而无需确认是一个巨大的飞跃。——这是一个巨大的飞跃。——是什么——它还会自动超车慢车。所以它既是导航，又是寻找最快的车道。所以它会超车慢车，驶离高速公路，并走高速公路立交桥，然后我们有交通信号灯识别，最初是作为警告引入的。我的意思是，在我驾驶的开发版本中，汽车会在交通信号灯处完全停止和启动。——所以这些就是步骤，对吧？你刚刚提到了一些是迈向完全自主的初步步骤。你认为阻碍完全自动驾驶的最大技术障碍是什么？——实际上，我们刚刚发布的“全自动驾驶计算机”，特斯拉，我们称之为 FSD 计算机，现在已经投入生产，所以如果你订购任何 Model S 或 X，或者任何配备全自动驾驶套件的 Model 3，你都会得到 FSD 计算机。拥有足够的计算基础很重要。然后是神经网络和控制软件的完善。所有这些都可以通过无线更新提供。真正深刻的是，也是我将在我们举行的以自主性为重点的投资者日上强调的，是目前正在生产的汽车，其硬件目前正在生产，具备完全自动驾驶的能力。——但“有能力”是一个有趣的词，因为————[埃隆] 硬件是。——是的，硬件。——随着我们完善软件，能力将急剧提高，然后可靠性将急剧提高，然后它将获得监管部门的批准。所以基本上，今天购买汽车就是对未来的投资。我认为最深刻的是，如果你今天购买特斯拉，我相信你购买的是一项增值资产，而不是一项贬值资产。——所以这是一个非常重要的声明，因为如果硬件足够强大，通常是很难升级的。——是的，没错。——那么其余的就是软件问题————是的，软件的边际成本几乎为零。——但是，你对软件方面的直觉是什么？剩下的步骤有多难才能达到那种体验，不仅仅是安全，而是人们会喜欢的完整体验？——我认为人们在高速公路上非常喜欢它。对于生活质量来说，使用特斯拉自动驾驶仪在高速公路上是彻底的改变者。所以，这只是将功能扩展到城市街道，增加交通信号灯识别，导航复杂的交叉路口，然后能够导航复杂的停车场，这样汽车就可以驶出停车位并找到你，即使它在一个完全迷宫般的停车场里。然后，它可以把你放下，自己找个停车位。——是的，在可玩性和人们真正从中获得很多好处方面，停车场是一个令人烦恼的地方，当你不得不手动操作时，所以从自动化中可以获得很多好处。那么，让我开始将人类稍微引入这个讨论。所以，让我们谈谈完全自主，如果你看看目前在路上测试的四级车辆，比如 Waymo 等，它们在技术上是自主的，它们实际上是二级系统，只是设计理念不同，因为在几乎所有情况下都有安全驾驶员，他们在监控系统。——对。——你认为特斯拉的全自动驾驶在一段时间内仍然需要人类的监督吗？所以它的能力足够强大可以驾驶，但仍然需要人类来监督，就像其他全自动驾驶汽车中的安全驾驶员一样吗？——我认为至少在未来六个月左右的时间里，它将需要检测到方向盘上的手。实际上，这是一个监管方面的问题，自动驾驶仪需要比人类安全多少，才能允许不监控汽车。这是一个可以进行的辩论，然后，但你需要大量数据，这样你才能有高信心，统计学上来说，汽车比人类安全得多。而且增加人类监控不会对安全产生实质性影响。所以它可能需要比人类安全200%或300%。——你如何证明这一点？——每英里的事故。——每英里的事故。——是的。——所以碰撞和死亡————是的，死亡是一个因素，但死亡人数不足以在规模上具有统计学意义。但碰撞足够多，碰撞比死亡人数多得多。所以你可以评估碰撞的概率。然后是受伤的概率。以及永久伤害的概率，死亡的概率。所有这些都需要比人类好得多，至少可能好200%。——你认为有能力与监管机构就此话题进行健康的讨论吗？——我的意思是，毫无疑问，监管机构对产生新闻的事物给予了不成比例的关注，这是一个客观事实。而且它也产生了大量新闻。所以，在美国，我认为每年有近4万起汽车死亡事故。但如果特斯拉有四起，它们可能会比其他任何人都受到一千倍的新闻关注。——所以这背后的心理学实际上很有趣，我认为我们没有足够的时间来谈论它，但我必须和你谈谈人类方面的事情。所以，我和我们在麻省理工学院的团队最近发布了一篇关于驾驶员在使用自动驾驶仪时的功能警惕性的论文。这是我们自自动驾驶仪首次公开以来一直在进行的工作，收集驾驶员面部和驾驶员身体的视频，已经三年多了。所以我看到你在推特上引用了摘要中的一句话，所以至少可以猜测你浏览过它。——是的，我读了。——我可以和你谈谈我们的发现吗？——当然。——好的，根据我们收集的数据，驾驶员似乎保持着功能性警惕，我们查看了18000次自动驾驶仪的脱离，18900次，并标注了他们是否能够及时接管控制。所以他们就在那里，在场，看着道路来接管控制，好吧。这与许多人从自动化警惕性文献中预测的相反。现在的问题是，你认为这些结果在更广泛的人群中是否成立？所以，我们只是一个小样本。批评之一是，可能有一小部分驾驶员非常负责任，他们的警惕性下降会随着自动驾驶仪的使用而增加。——我认为这一切都将被淘汰，我的意思是，系统改进得如此之快，以至于很快就会成为一个无关紧要的问题。警惕性，如果某件事比人安全很多倍，那么增加一个人，对安全的影响是有限的。事实上，它可能是负面的。——这真的很有趣，所以人类可能，一部分人口可能表现出警惕性下降的事实，不会影响整体统计数据，安全数字？——不，事实上，我认为它将变得，非常，非常快，也许甚至在今年年底，但我会说，如果不是明年最晚的话，我都会感到震惊，人类的干预将降低安全性。降低，比如想象一下你在电梯里。现在过去有电梯操作员。你不能独自乘坐电梯并操作杠杆在楼层之间移动。现在没有人想要电梯操作员，因为自动电梯在楼层停靠比电梯操作员安全得多。事实上，让一个拿着杠杆可以在楼层之间移动电梯的人会相当危险。——所以，这是一个非常有力的声明，也是一个非常有趣的声明，但我也必须从用户体验和安全角度来问，我算法上的一个热情是基于摄像头的检测，只是感知人类，但检测驾驶员的注意力，认知负荷，身体姿势，在计算机视觉方面这是一个迷人的问题。而且行业中有许多人认为你必须拥有基于摄像头的驾驶员监控。你认为驾驶员监控是否有益处？——如果你的系统可靠性达到或低于人类水平，那么驾驶员监控是有意义的。但如果你的系统明显更好，比人类更可靠，那么驾驶员监控就没有多大帮助。而且，就像我说的，如果你在电梯里，你真的想让一个随机的人拿着一个大杠杆在楼层之间操作电梯吗？我不会相信。我宁愿有按钮。——好的，你对系统的改进速度很乐观，从你对全自动驾驶汽车计算机的看法来看。——改进速度是指数级的。——所以，早期另一个非常有趣的决定与此相关，是自动驾驶仪的运行设计域。所以，自动驾驶仪可以在哪里开启。所以，对比我们正在研究的另一个车辆系统是凯迪拉克 Super Cruise 系统，它在运行设计域方面，非常局限于特定类型的高速公路，经过充分测绘，经过测试，但它比特斯拉汽车的运行设计域要窄得多。——这就像 ADD（两人都笑）。——是的，这很好，这是一个很好的说法。是什么样的设计决策，这种不同的哲学思考，有优点和缺点。我们看到广泛的运行设计域是特斯拉驾驶员能够更多地探索系统的局限性，至少在早期，他们理解，以及仪表盘显示，他们开始理解能力是什么，这是一个好处。缺点是你让驾驶员基本上可以在任何地方使用它————任何它能自信地检测到车道的地方。——车道，是否有哲学，是否有挑战性的设计决策被做出？或者从一开始就是故意的，有目的的？——坦率地说，让人们手动驾驶一辆两吨重的死亡机器是相当疯狂的。这很疯狂，就像，将来人们会说，我真不敢相信有人被允许驾驶这些两吨重的死亡机器，而且他们可以随心所欲地驾驶。就像电梯一样，你可以用那个杠杆随意移动电梯，如果你愿意，可以在楼层之间停下来。这很疯狂，所以，将来人们驾驶汽车会显得很疯狂。——所以我有很多关于人类心理学、行为等方面的问题————这无关紧要，完全无关紧要。——因为你相信人工智能系统，不是相信，而是硬件和深度学习从数据中学习的方法，将使其比人类安全得多。——是的，没错。——最近有几个黑客，他们通过对抗性样本欺骗了自动驾驶仪，使其以意想不到的方式运行。我们都知道神经网络系统对输入中的微小扰动，这些对抗性样本非常敏感。你认为行业有可能防御这种情况吗？——当然（两人都笑），是的。——你能详细说明一下这个答案的信心吗？——神经网络基本上就是一堆矩阵运算。但你必须非常复杂，必须是一个真正理解神经网络的人，并且基本上逆向工程矩阵是如何构建的，然后创建一个小东西，恰好导致矩阵运算稍微偏离。但很容易通过拥有，基本上是否定识别来阻止它，这就像如果系统看到类似矩阵黑客的东西，就将其排除。这很容易做到。——所以学习有效数据和无效数据，基本上是在对抗性样本上学习，以便能够排除它们。——是的，你基本上想同时知道什么是汽车，什么绝对不是汽车。你训练的是，这是一辆汽车，这绝对不是一辆汽车。这是两件不同的事情。人们对神经网络一无所知，他们可能认为神经网络涉及渔网之类的东西（莱克斯笑）。——所以，正如你所知，超越特斯拉和自动驾驶仪，目前的深度学习方法在某些方面似乎仍然离通用人工智能系统很远。你认为目前的方法会带我们走向通用人工智能，还是需要发明全新的想法？——我认为我们缺少一些通用人工智能的关键想法。但它会很快到来，然后我们需要弄清楚该做什么，如果我们甚至有选择的话。人们无法区分，比如，允许汽车识别车道线并导航街道的狭义人工智能，与通用人工智能之间的区别，这真是令人惊叹。就像你的烤面包机和你的电脑都是机器，但一个比另一个复杂得多。——你对特斯拉能够创造世界上最好的烤面包机有信心————世界上最好的烤面包机，是的。世界上最好的自动驾驶……是的，对我来说，现在这似乎是游戏、设置和比赛。我的意思是，我不想让我们自满或过度自信，但这就是，这就是字面上的样子，特斯拉远远领先于所有人。——你认为我们将来会创造一个我们可以爱，并且它也会以深刻而有意义的方式爱我们的 AI 系统吗？就像在电影《她》中那样？——我认为人工智能能够很好地说服你爱上它。——这和我们人类有什么不同吗？——你知道，我们开始进入一个形而上的问题，情感和思想是否存在于一个不同于物理的领域？也许存在，也许不存在，我不知道。但从物理学的角度来看，我倾向于从物理学角度来看待事物，你知道，就像物理学是我主要的训练领域，从物理学的角度来看，基本上，如果它以一种你无法分辨真假的方式爱你，那么它就是真实的。——这是爱的物理学观点。——是的（笑），如果你无法证明它不是，如果你没有任何可以应用的测试来让你分辨，那么就没有区别。——是的，这类似于将我们的世界视为模拟，可能没有测试来区分真实世界——是的。——和模拟，因此，从物理学的角度来看，它可能和同一件事一样。——是的，可能有一些方法可以测试它是否是模拟，可能有一些，我并不是说没有。但你肯定可以想象，模拟可能会纠正，一旦模拟中的一个实体找到了检测模拟的方法，它就可以暂停模拟，开始新的模拟，或者做许多其他事情来纠正那个错误。——所以，也许你，或者别人创造了一个 AGI 系统，你只能问她一个问题，你会问什么问题？——模拟的外面是什么？——埃隆，非常感谢你今天的谈话，很高兴。——好的，谢谢。