Transcription
银意味着人工智能在各方面都比人类聪明得多。你可能没有意识到这一点，但我们正在进入一个时代，届时将有一种事物（音乐）能比你做得更好。>> 除非我们准备好构建超级智能，否则，嘿，如果你让每个人都投票，每个人都说，“继续吧。好吧，至少我们算是自己写下了自己的命运。”>> 我（音乐）认为关于这个声明最重要的一点是，它说明了我们正在制造的东西可能会杀死所有人。他们都签了字，说（音乐）“我们的东西会杀死我们所有人。” 三位父亲经营着三个 YouTube 频道，致力于唤醒世界关注人工智能风险。每周（音乐）解决一个被忽视的警告信号。如果今天是星期天，那就是警告（音乐）信号。>> 嘿，我是约翰·谢尔曼，是《为了人类》和《人工智能风险》播客的主持人。我现在需要你成为人工智能风险网络的订阅者。进去，点击订阅，点击警报。去做吧。嘿，欢迎回到《警告信号》。我是约翰·谢尔曼。非常感谢你的加入。这是我们每周都会讨论人工智能风险领域中发生的某件大事（音乐）的节目，我们希望世界能更多地讨论它。嗯，这周世界正在讨论我们正在大量讨论的事情，我认为，在某些方面是好的。这很令人兴奋。呃，我一如既往地得到了天才里昂·沙皮的帮助，他今天穿着正装，提升了着装品味。呃，我们很感激，我们很尊重。>> 是的。是的。你知道，这是一个重要的场合。我刚意识到，这些讨论变得如此紧迫和重要，以至于没有时间进行业余时间了。>> 感谢。当然，还有来自 YouTube 频道“致命智能”的迈克尔。迈克尔，一如既往地感谢你的到来。所以我们正在讨论来自生命未来研究所的关于超级智能的声明。嗯，在人工智能风险和人工智能安全方面，这是一个非常重要的时刻。它有很多重要的签署者。嗯，每天都在增加。呃，所以让我们开始吧，里昂。呃，让我们先谈谈第一个声明，它在人工智能安全方面非常重要，以及为什么我们要不断地发表这一系列声明。呃，请讲。谈谈 2023 年的第一个声明，以及我们今天的情况。>> 好的，这是 2023 年的第一个声明。这是由人工智能安全中心发布的。我认为丹·亨德里克斯是那里的主要人物。他们做了很多有趣的工作。我在我的节目中报道过他们。这是他们做过的最伟大的事情之一。2033 年人工智能风险声明。我总是提起它。你们可能已经听过了。它说，将人工智能带来的灭绝风险的缓解作为一项全球优先事项，与其他社会规模的风险，如流行病和核战争并列。所以我认为这个声明措辞非常温和，就像，是的，当然，这是全球优先事项，就像在其他优先事项中一样。当然，对吧？这很温和。然而，其他人却否认它甚至是一项全球优先事项，甚至被认为是一种生存风险。换句话说，就像把它当作不到 1% 的事情来看待。我基本上认为这个声明有点像承认灭绝的概率至少是 1%。这是任何签署该声明的人的我的解释。而且，这还是在 2023 年。令人疯狂的是，你一直希望和梦想会签署它的大多数人都确实签署了。所以，除了杰弗里·辛顿、约书亚·本吉奥之外，此时此刻，这些人是常客。他们已经转向光明面了，但你还有德米斯、萨姆·奥尔特曼、达里奥·阿莫代，你没有伊恩·卢恩，对吧？但我们姑且称之为美国主要人工智能公司领导人中的三位中的三位。这相当不错。>> 马克·扎克伯格当时也不是一个那么重要的人工智能领导者。所以可以说，最不重要的那个没有签署。所以，是的，然后你还有伊利亚·苏茨克维、比尔·盖茨。所以这确实是一个名人录，你知道，不是每一个名字，但就像 2023 年的令人惊叹的名字列表。>> 所以这把我们带到了今天。是的。约翰，你想插话吗？>> 顺便说一句，关于这一点，我认为这个声明最重要的一点是，它说明了我们正在制造的东西可能会杀死所有人。>> 对，没错。>> 我们有生存风险。如果他们没有签署这个，我觉得今天他们就会逃避它。就像他们都签署了这个，并说我们的东西会杀死我们所有人。>> 非常（哼哧）重要。好的。>> 我确实认为 ChatGPT 的时刻，我认为 2023 年每个人都吓坏了。有几个人，比如埃拉扎尔·尤德科夫斯基，他一直在关注人工智能，他们已经在 2015 年或在深度学习革命或其他里程碑事件中吓坏了。但大多数人，包括我自己，甚至包括萨姆·奥尔特曼和 OpenAI 的那些人，当他们看到 ChatGPT 的强大程度，以及 GBT 3.5 GB4 的强大程度时，那是一个令人恐惧的时刻。我记得实际上，现在想起来很有趣，我从 2022 年初到 2023 年初就开始在推特上谈论人工智能安全。>> 我以前的每一条推文都会疯传，当我指出，嘿，你们知道保罗·克里斯蒂亚诺是 OpenAI 的安全负责人吗？你知道他有 50% 的灭绝概率吗？那就会疯传。就像我每次发推文一样，就像每个人都在意识到这一点，就像，哦我的天哪，这个，你知道，图灵测试正在通过。这个人工智能就要来了。现在人们变得更加麻木了。就像，是的，是的，这是人工智能革命。我们还有大约 10 年的时间才能面对这个威胁，对吧？这就是新的情况。事情已经平静下来了。但是的，这回到了你的观点，对吧？就像人们更愿意去签署并说，“是的，我们都老实说很害怕。就像我们现在不知道这个突破到底是怎么回事。”>> 好的。所以，这把我们带到了 2025 年。基本上，2025 年发生的事情是，即使像萨姆·奥尔特曼这样的常客现在变得更加谨慎，他们对风险有多大变得不那么开放，或者他们甚至说服了自己风险更低，但还有许多其他人，比如杰弗里·辛顿和约书亚·本吉奥，他们现在走得更远了。他们现在愿意说，呃，嘿，你知道，仅仅说这是一个风险是不够的。让我们再发表一个声明。让我们拓展一下我们所做的公开声明的边界。所以，是的，>> 来吧。超级智能声明。Superintelligence.org。这是由生命未来研究所发布的。所以，这与人工智能安全中心是不同的组织。我认为生命未来研究所由伊恩·塔隆和马克斯·泰格马克经营。当然，他们两人都签署了这两封信。>> 安东尼。好的。嗯，序言是，创新的 AI 工具可能会带来前所未有的健康和繁荣。然而，除了工具之外，许多领先的 AI 公司都有在未来十年内构建超级智能的明确目标，这种智能在几乎所有认知任务上都将远远超越所有人类。这基本上是他们对超级智能的粗略定义。人们会抱怨没有超级智能的定义。所以，我再读一遍那部分。在几乎所有认知任务上都远远超越所有人类。好的，超级智能。这引发了从人类经济过时和权力丧失、自由、公民自由、尊严和控制的丧失，到国家安全风险，甚至潜在的人类灭绝的担忧。以下简洁的声明旨在让越来越多反对仓促发展超级智能的专家和公众人物形成常识。我喜欢“常识”这个说法。这不仅仅是关于这些人知道它，我们知道它。它也意味着我们知道他们知道其他人知道它，对吧？这是关于常识的。好的，这是声明。我们呼吁禁止发展超级智能，除非首先达成广泛的科学共识，认为它将是安全和可控的，并且获得强有力的公众支持。就是这样。所以，这就像一句话，后面跟着两个条款。禁止发展超级智能，直到有科学共识表明它可以安全可控地完成。是的。所以这更进一步，对吧？之前我们还在说，嘿，这是一个生存风险，现在它明确地说，嘿，我们还没有准备好构建超级智能，除非嘿，如果你让每个人都投票，每个人都说，继续吧，好吧，至少我们算是自己写下了自己的命运。但可能，但我认为那个投票不会通过。所以这个声明对我来说似乎非常简单，非常合理，但又令人震惊，推动了边界。>> 是的，你们怎么看？>> 我喜欢。我喜欢。我是迈克尔。我们将，我马上就告诉你。我只是对它有一个小小的抱怨。我喜欢 2023 年的声明，只有 22 个字，就是这样。非常简洁。这个东西有一个前言，一句话，然后是第一和第二款。对我来说，它有点笨拙，但我确实觉得它非常强大。迈克尔，你对这个版本的声明有什么看法？>> 是的。所以，我的意思是，这次他们直接要求禁止超级智能。我认为重要的是，我的意思是，有定义，但如果真的要感受它，它到底意味着什么？所以，循环意味着人工智能在各方面都比人类聪明。所以你可能没有意识到这一点，但我们正在进入一个时代，届时将有一种事物比你做得更好。所以把它写进圣经里，你知道，我们不仅仅是谈论比你做得更好的发送电子邮件。我们谈论的是它会比你更了解你喜欢什么购物。它会比你更适合你的朋友。它甚至可能比你更适合你的孩子。我的意思是，你可以像一个肉偶一样存在，但人工智能会更有趣，会说正确的话，会更有趣，你知道，甚至在某种程度上更有爱。所以，我的意思是，它也会取代我们的现实，你知道，创造你喜欢的个性化电影，给你想要消费的确切内容，让你尽可能地大笑。你知道，与此相比，现实将是如此无聊，没有人会想体验人工智能提供的东西之外的东西。所以，是的，我的意思是，我们需要建立超级智能，以便人类能够理解，因为显然它不会止步于此。它不会止步于类人活动。它可以走得更远。所以你可以看看你的狗。它不明白你在笔记本电脑上用互联网做什么。所以想象一下，糟糕一千倍。你根本不知道超级智能在做什么。然后回到你的狗。你的狗不会明白你如何杀死它。它只能想象你可能会咬它。它没有关于所有可能伤害它的方式的模型。现在说清楚这一点很重要，这就是我们所说的超级智能的真正含义。现在这个声明清楚地说，你知道，我们需要禁止超级智能。是时候有人真正这样说了，现在我认为这是下一阶段，打开了窗口。所以我们有 AI 研究人员、宗教领袖、商业先驱、政策制定者和国家安全顾问。是的，演员，你知道，像哈里王子这样的名人，随便什么。呃，我们都站在一起，因为我们想要人类的未来。这个想法是，好吧，我们正在接近构建我所说的超级智能。而且我们还没有弄清楚如何控制它。>> 有人说关于我们和中国，但也有一些中国科学家签署了。>> 好的，真的很快。所以，当我们在这里显示屏幕时，我想展示另一个声明，因为这个声明有第二个版本。这个版本是给人工智能安全领域内的人签署的。有一个平民版本，有更多的签名。让我们快速看一下。迈克尔，谈谈那是什么。>> 嗯，我的意思是，这次收集签名是通过两条途径，这是更直接的途径，与更多普通人交谈。你实际上可以，如果只是读一点，它说，鲁莽的技术亿万富翁正在竞相建造超级智能，你知道，引发了巨大的伦理安全问题。所以，之前的措辞对你，你知道，对技术寡头来说更尊重。这个完全是，你知道，攻击得当。所以，我想这是更，你知道，这里的正确词是什么？>> 民粹主义的。>> 在你的确切的，在你面前的，随便什么。如果你读完整个东西，也许它更能引起普通人的共鸣，就像普通大众一样。如果我们选择的话，我会发送两个链接，当然，但我认为这可能更容易让一些人签署。>> 是的。>> 然后，当然，实际的信是一样的。这是它周围的背景，措辞。>> 是的，对。>> 是的。好的，我们会在节目笔记中放上两个链接。大家，请去签名。我有一个问题，就是声明够吗？你知道，我们生活在一个我们说我们有两年时间来做出有意义的改变的世界里。谈谈声明的力量和作用。>> 好的。嗯，很多人实际上在批评这个声明，批评的人是他们的攻击角度。简而言之，有人很聪明，你知道那个表情包，他们说，又一个声明，兄弟，你知道吗？就像又一个声明，然后我们就终于可以免受人工智能的侵害了。嗯，你知道，就像一遍又一遍地做同样的事情，期望不同的结果，对吧？当然。但是，好的，这是我的主张。有一个重要人物签署声明的边界，然后在另一个轴上是声明有多强大，对吧？声明的行动呼吁有多大。所以，如果你看看签署者的名单，我会说它比 2023 年的那个要弱一点。就像我们没有，像萨姆·奥尔特曼、马克斯·泰格马克最近说的那样，大多数人工智能领导者都拒绝签署。他声称，一位人工智能公司的高层说，他真的很想签署，但当他周围的其他人都没有签署时，他就不能签署了。所以，基本上，我们确实在签署者方面稍微退步了一点，但我们拓展了声明的强度边界，字面上就像，不要建造超级智能，这直接违背了明确的任务，对吧？我的意思是，马克·扎克伯格，他现在谈论超级智能实验室，在你的口袋里建造超级智能。OpenAI 一直以此为使命。我们要建造超级智能。>> 所以这是非常，是的，这是我的主张给所有讨厌鬼，只要我们拓展边界，这两个轴，拓展它的强度和签署的人数。这是取得进步的好方法，而且你真的不能跳过这一步。我觉得阿里·阿扎尔科夫斯基总是试图绕过，就像，“哦，我只是让政客读我的书，然后政客们就会聚在一起禁止它，然后它就完成了，就像那样，没有浪费动作。”>> 我说，“不，你真的必须要有这种草根的承认，我们不能建造超级智能。就像，它必须来自人民。”这就是它的样子。这就是渐进式的进步。嗯，是的，迈克尔，你怎么看？>> 是的，我同意。我的意思是，嗯，这个很重要，首先，它打开了整体的窗口，但它在一些重要方面与之前的不同。所以，有前所未有的公众和专家势头。所以，与之前的 AI 海报不同，嗯，嗯，这是激光聚焦的超级智能，正如我们所说，是 2030 年代的具体工程目标，它团结了不太可能成为盟友的人，你知道，抱歉，嗯，跨越意识形态，就像普通人，通常争吵很多的人，来自左翼或右翼的部落。一项对 2000 名美国成年人的民意调查发现，64% 的人同意在超级智能被证明是安全和可控之前不应开发它，只有 5% 的人支持快速通道，你知道，这反映了嗯，这基本上是这里的普遍共识。嗯，它还关注其他重要的事情，比如，例如，它非常清楚地指出了人工智能军备竞赛，谈论科技公司正在进行一场逐底竞赛。正如马克斯的声明所说，嗯，竞争性激励措施压倒了安全。数十亿美元涌入，但没有监管，这可能会将利润置于人民之上。声明实际上妖魔化了以色列，并主张在全球范围内禁止，直到科学和社会赶上，可能，你知道，影响法律、监管等等。>> 简而言之，它是一个危言耸听的。它是一个主动的，让我们说，防火墙，以防范一项可能重新定义文明或终结文明的技术。通过签名或，你知道，或放大它，至少人们表明人工智能进步必须优先考虑安全而不是速度。嗯，我认为你应该，我认为你应该，你应该签名，对观众说，这很容易。>> 是的。>> 嗯，这确实有区别。>> 我认为关于它的一件非常重要的事情是，向大众介绍和推广“禁止超级智能”这个词，就像，你知道，我们一直在做 AGI ASI，我们称之为什么？界限在哪里？我们如何定义它？就像把“超级智能”和“禁止”这两个词放在一起，我认为这很有力量。嗯，我认为这可能是人工智能安全领域应该使用的术语。因为它，你知道，AGI ASI 对普通人来说并不容易理解。我认为“禁止超级智能”是每个人都能理解的东西。>> 是的。现在，关于行动如何发生，因为这基本上是批评所在，就像，是的，又一个声明，没有行动。我认为它是这样的。我们有一个间接民主。所以人们不直接投票表决每一项法案，但如果有一个提案摆在投票台上，只是说，“你想禁止超级智能吗？”有趣的是，我认为你调查中的那些人，那些普通美国人或大多数国家的大多数公民都会说，“是的，让我们禁止它。”就这样，它就会被禁止。所以，有趣的是，这些东西不会出现在投票中。但当我们使用代议制民主时，好吧，现在慢慢有越来越多的候选人参选，他们正在利用这一点。我认为我们提到了玛乔丽·泰勒·格林是那个否决了最近一项关于他们将不允许各州监管人工智能的法案的人，他们将保留由联邦政府监管人工智能的权利，你可以同意或不同意，但实际上联邦政府并没有做多少监管。所以，所以所有支持加速主义的人都说，“是的，是的，禁止各州进行监管。”总之，这是最近的一项法案。所以，玛乔丽·泰勒·格林有点像反人工智能英雄。而且实际上，我们真的应该谈谈亚历克斯·博尔斯。你们听说过吗？是的，他>> 我上周刚采访过他。没错。实际上，我第一次听到他是从你那里，约翰。没错。我怎么能忘记。很棒的采访。嗯，是的。所以，他刚刚加入了竞选，以取代杰里·纳德勒进入国会，代表哪个州，你还记得吗？>> 嗯，在纽约，纽约，对吧？而且，此外，斯科特·威纳，加州的州参议员或州代表，我不记得是什么，我认为他是州参议员，昨天也宣布竞选加州众议院。所以，就像我们一直在说，我们去哪里找政治领域的人工智能安全倡导者？两位州级冠军现在正在竞选联邦职位。嗯，我认为这有点令人兴奋。>> 对，我们一直在说我们需要把它变成一个问题，因为如果你把问题摆在人们面前，如果它出现在餐桌上，实际上有很多，你知道，我们是多数。我们是沉默的大多数，不希望有超级智能。这太有趣了，对吧？因为科技行业，仍然有很多人说，“你们是边缘的疯子。没人想要这个。就像，走开。末日论者太奇怪了。就像，不，实际上，有趣的是，这次我们是多数。而你们才是疯子。嗯，所以当我们选出像亚历克斯·博尔斯这样的人时，这就是问题的所在。所以，你知道，有势头，这些签署声明可以给更多人带来想法，就像，等等，我可以在我的竞选纲领中加入这一点。这可以成为人们投票的问题。而你所需要的，就是需要更多像亚历克斯·摩尔斯和斯科特·威纳这样的人，然后你进行投票，然后政策就会发生。>> 是的，迈克尔。>> 我可以，你知道，这是皇帝的新衣的故事吗？>> 是的。>> 你知道这个故事。所以，就像>> 如果皇帝没有衣服，每个人都在环顾四周，发生了什么，伙计们，这位皇帝没有衣服，但我的意思是，没有人采取任何行动。然后，这个信基本上是那个孩子说，“嘿，伙计们，皇帝没有衣服。”然后突然每个人都慢慢地，我的意思是，我们将建立临界质量，然后行动就会到来。显然，政客们，我总是这么说，我们需要草根压力来为政客们创造需求，所以政客们就会出现。我的意思是，人工智能安全政治家将开始出现，当公众要求时，因为每个人都在争取选票。>> 是的。>> 嗯，我的意思是，在这个故事里，这就是这个想法。它有很大的价值。所以任何签名实际上都是一个声音在说，“嘿，这件衣服没有衣服。”你知道我的意思吗？这个故事嗯>> 是的。而且有趣的是，它就在那里打破了>> 临界质量，你知道，在某个时候。>> 是的。是的。>> 是的。然后当它成为主流时，每个人都会觉得没问题。然后如果你说，“是的，让我们全速前进。”你就会显得很奇怪。>> 我的意思是，你会成为一个先驱。你会成为>> 是的，就像，就像一个，你知道，一个怪胎。>> 是的。那就是我们想要的。好的，伙计们，我们到时间了。嗯，我觉得>> 顺便说一句，这里真的还有另一个可能值得报道的小部分。>> 请便。好的，来吧。>> 嗯，迪恩·鲍尔的推文。哦，是的。是的。>> 好的。所以，你可能想（哼哧）在说我们结束之前编辑一下。>> 迪恩是迪恩·鲍尔。迪恩·鲍尔是我听说过的，迪恩·鲍尔曾在白宫担任人工智能安全方面的人，我听说他，我过去听说他是白宫中最有能力知道人工智能安全方面情况的人。嗯，然后这条推文让我确信并非如此。所以，请讲。>> 是的。嗯，他确实在白宫工作过。我的意思是，很多人尊重他的意见。我的意思是，他显然是一个深思熟虑的人，知道如何制定政策。我姑且承认这一点。嗯，所以我在研究他在白宫的确切头衔。目前，他是美国创新基金会的资深研究员。嗯，他是《超维度》的作者。我不能说我读过，但是嗯，好的，我想我明白了。他今年早些时候在白宫科学技术政策办公室担任了五个月的高级政策顾问，从四月到八月。我实际上不完全确定他为什么离开。>> 他不是那个人，但我听说他是，就像，那个，那个，人工智能安全方面的人。>> 对，对。就像他在起草。他说，“嘿，政策会是什么？”我实际上不完全确定他为什么离开。我认为他留下了一些文件，我不知道发生了什么。嗯，但无论如何，他，你知道，他是一个很好的思考者。他可能会做更多的事情。他是一个值得关注的人，我希望他能支持这样的声明。>> 但是在推特上发生了什么，不幸的是，很多这些讨论，这确实是看到人们如何对这样的声明做出反应的地方。>> 而且他有第一位的反对意见，只是第一位的反应，每个人都喜欢，那是对声明的敌意。所以，值得引用他。他说，“像这样的模糊声明，根本无法在政策中实施，但签署起来感觉很好，是适得其反和愚蠢的，就像两年前我们经历另一轮模糊的人工智能声明签署周期时一样。让我们撇开对超级智能完全没有定义这一点。我甚至会承认声明的起草者，我们都对一个相互同意的定义达成了一致。”请记住，它确实以一种合理的方式定义了它。它就像，你知道，比人类更智能，不像任务。>> 嗯，好的。然后他说，“假设我们将这个定义写进法律，规定在证明安全之前不得开发超级智能。我们如何执行这项法律？现在是细则，是声明中未说明的部分。是声明起草者可能没有与许多借出名字和声誉的签署者进行太多讨论的部分。你如何在不建造超级智能的情况下证明它会是安全的？你如何在不试飞的情况下证明飞机是适航的？你不能。所以逻辑是，我们需要一个被批准的场所和机构来开发超级智能，在那里我们将试验这项技术，直到它被“证明”安全。谁来决定这一点，顺便说一句，在证明安全之后会发生什么？该机构需要由所有具有类似禁令的政府提供资金，而声明起草者，虽然可能不是所有签署者，可能会争辩说，这需要包括地球上的每一个国家，包括美国的对手。一个全球治理机构，其目的是建造声明起草者告诉我们如此危险的东西，部分原因在于它可能赋予控制它的人权力。一个由政府组成的联盟，如果成功，将行使单方面控制如何使用这项技术以及针对谁使用这项技术的权力。那些拥有军队、警察和合法暴力垄断权的人。换句话说，最终分析，那些拥有在你不听他们的情况下杀死你或没收你财产的权利的人，现在又拥有了有史以来最强大的技术。这听起来安全吗？安全是加引号的。在我看来，这是建造“超级智能”的最糟糕的方式。我拒绝所有将权力集中化的努力，我拒绝那些没有实现有益目标的模糊声明，而且很勇敢。所以，是的，再次，他说这是建造超级智能的最糟糕的方式。一份声明说，在我们有合理的担忧或合理的预测它不会杀死所有人，或者我们真的想这样做之前，我们不能建造超级智能。他说，这将是建造超级智能的最糟糕的方式，首先达成共识。就像，好吧。>> 所以，是的，是的，请讲。>> 我的意思是，就像，不，伙计，你知道，我知道这听起来很难。哦。就像，你知道，是的，这里的好结果将非常困难。就像，是的，那是正确的。但是，嗯，另一种选择是，嗯，你知道，嗯，任何人建造它，每个人都会死。所以我宁愿选择困难而不是每个人都死。>> 没错，没错。是的。有趣的是，斯科特·奥克森泽几乎被比下去了。他有 206 个赞，387 个回复。一篇非常有思想的帖子。我的意思是，你知道，我会给出我的看法。就像，好吧，是的，迪恩，你是一个很好的政策思考者，但这只是，这根本不是一项法案。我们正在看的这份声明，你截图的那份，说我们呼吁禁止发展超级智能，除非有广泛的科学共识，除非有强有力的公众支持，这只是一个非常简单的声明，说，嘿，人工智能实验室，那些说你们正在竞相发展超级智能的人，你们现在不能。>> 以某种方式，对吧？就像，让我们弄清楚如何，不，我们只是这么说。而你说，哦，所以你认为我们会，就像，弄清楚政策，然后，就像，有所有这些影响，好吧，是的，有影响，我们应该谈谈影响，但这并不意味着我们指向建造超级智能，然后说，“呃，那不好。”>> 如果你喜欢我们在人工智能风险网络上制作的内容，但你不是订阅者，你在想什么？我们需要每个人都成为订阅者。去做吧。>> 好的，迈克尔，真的很快。你对此有什么看法，然后我们就，我们将是，这将是最长的一个，我们不在乎，因为我们可以让它想多长就多长。>> 我的意思是，你可以对任何事情说这句话。所以，任何危险的事情，如果你想阻止或控制它，嗯，我们需要以某种方式控制它。显然，立即会有人说，你想控制它，这里有什么阴谋。>> 对。>> 我的意思是，就像戴安娜王妃去世时，有些人声称卖花的人>> 实际上是导致了它，因为他们在葬礼上卖了很多花，你知道，你知道我的意思，在>> 葬礼上，所以，显然，好吧，让我们说，让我们说，实际上会杀死所有人，那么你的建议是什么？所以，我们不控制它，那么你的建议是什么？现在我，没错，没错。而且，就像，这很难。>> 是的。就像，就像，你知道，我们有汽车，你知道，安全带时代之前，哦，每个人都在车祸中被压碎而死。安装安全带会非常困难，我们将不得不与汽车制造商打交道，我们将不得不标准化，我们将不得不这样做，这样做，这样做，这样做。就像，是的。是的。安装安全带比没有安全带的汽车要困难，但我们还是做到了。就像，我们可以做困难的事情。好的，这是我这周的。嗯，这就是我们所拥有的。里昂，我觉得你应该以一种詹姆斯·邦德式的风格来结束，用一种>> 你知道，就像詹姆斯·邦德的开场一样，他就像>> 是的，是的，是的。（笑声）太棒了。好的，伙计们。下周见。再见。>> 再见。