Transcription
这些公司有点像孩子在玩玩具。我们需要拿走他们的玩具，这样他们就不能伤害自己和他人。>> 每个人都在回想那些“大到不能倒”的银行。>> 好的，[笑声] >> 我们来做一个四格漫画。今天的四格漫画。>> 四格漫画。青年风险专家。太棒了。太棒了。>> 三位父亲经营着三个 YouTube 频道，致力于唤醒世界认识到人工智能的风险。每周解决一个被错过的警告信号。如果今天是星期天，那就是警告信号。嘿，我是约翰·谢尔曼，"为了人类"和"人工智能风险"播客的主持人。我现在需要你成为人工智能风险网络的订阅者。进去，点击订阅，点击闹钟，快点。你好，欢迎回到"警告信号"。我是约翰·谢尔曼，你们的主持人，人工智能风险网络的总裁。很高兴你能加入我们。我一如既往地与"致命智能频道"的迈克尔和我朋友"末日辩论频道"的隆一起。嗯，我们每周都会聚在一起，谈论人工智能风险领域中一件大事，但可能在整个世界中应该是一件更大事的事情。哦，我听到了，我喜欢。我喜欢。我们都爱孩子。我们都是父亲。我们喜欢孩子。>> 是的。哦，我们有第一个孩子出现在"警告信号"中。看，这就是我们所做的一切。这就是我们所做的一切。我的特别记者来谈论对我们青年的风险。>> 今天我们来做一个四格漫画。>> 四格漫画青年风险专家。太棒了。太棒了。真的，真的，我们都是父亲，为我们的孩子创造一个更美好的未来，这确实是我们每天花费如此多时间并从事这项工作的原因。所以，是的，很高兴看到，隆。嗯，本周我们将谈论我们亲爱的朋友萨姆·奥尔特曼，以及一些正在发生的疯狂事情。我们将谈论关于萨姆的两件事，然后我们将稍微谈谈安特罗皮克公司发生的一些事情。首先是关于 OpenAI 的首席财务官，她出来说，如果他们的数据中心投资失败，他们需要联邦政府的救助来支持他们。嗯，他们希望我们支持他们的投资。我先问隆。嗯，关于他们对这项可能危及我们所有人生命、可能夺走我们所有工作的投资如此自信，如果出了问题，我们可能就“大到不能倒”了，你有什么看法？所以，从我在社交媒体上看到的情况来看，事件的顺序是这样的：上周，嗯，比尔，或者布拉德·格森纳，我想，他是 OpenAI 的一位投资者，在一次播客中问萨姆，那本来只是一个友好的播客。嘿，萨姆，你谈论在这里挥霍数十亿美元，在那里挥霍数千亿美元。你们目前每年收入约 140 亿美元。这些巨额的万亿美元投资从何而来？在那次播客中，萨姆引起了轰动，因为他给出了一个轻蔑而刻薄的回答，就像，“听着，布拉德，你知道，你可以随时卖掉你的股票。有很多人想买你的股票。”就像他没有真正回答问题一样。但后来，他们试图缓和气氛，布拉德说，你知道，这都是开玩笑的。就像，我相信有一个很好的答案。然后下一个重磅消息，你知道，人们真的在寻找重磅消息，似乎是这样。嗯，是他们的首席财务官萨拉·弗里尔，她在一次采访中说，她用了“支持”这个词，后来她试图收回。她说，“嘿，我们需要，”不是我们需要，而是就像，“是的，也许美国政府将在某种意义上成为支持。”就像她，你知道，她含糊其辞地谈论了这件事，她说，“我不应该说‘支持’。这只是一个普遍的观点，即当你有一个巨大的公司进行所有这些投资时，它确实会吸引经济中的很大一部分，而我们实际上在几周前在‘警告信号’中谈论过。”所以，这就是社交媒体上事件的顺序，每个人都喜欢嘲笑他，因为你知道加里·马库斯出来说，嘿，OpenAI 现在正在拖累你。你知道你自己的退休储蓄现在将用于救助 OpenAI，而每个人都在回想那些“大到不能倒”的银行。>> 是的。>> 好的。[笑声]>> 是的。>> 是的。是的，我的孩子们非常坚持要监管银行可以投入你的资本。>> 他们是。我的天哪。现在我们有我的狗了。这太棒了。我们开始吧。你知道，行进的乐队从这里经过。>> 是的。是的。好的。嗯，但是，是的，我实际上认为这里有一个合理的分析，那就是萨姆认为这些投资是有意义的，而且可以说，就赚取大量短期利润而言，它们是有意义的。他说，“看，如果我们花一万亿美元或一万亿美元，等一下，我不能说话。我得>> 保持一点记者干预。我这里有这些犬类记者。博，他们在做什么？>> 好的，所以，所以萨姆说，“嘿，如果我有一万亿美元来做所有这些投资，我会得到回报。我知道如何将这万亿美元转变为消费者和我的 AI，并从中赚钱。唯一的问题是，我是否真的想等到我的收入更高，还是我现在就能拿到钱？”他正在接触很多投资者说，“现在给我钱。”而投资者说，“好吧，如果发生什么事呢？对吧？如果你被车撞了呢？就像，我们需要一些保证。”而这正是政府介入的想法，就像，“好吧，听着，你知道，如果所有这些数据中心都已准备就绪，就像有人会处理它，所以你会拿回一些钱。”什么>> 我想成为。>> 而且，我认为值得指出的是，孩子很像人工智能。它有自己的智能。你很难让它一直做你想让它做的事情。嗯，你知道，就像埃莉·艾瑟说的那样，如果你认为让 AI 保持一致很难，那就去试试让猫保持一致。至少一个人类孩子可以接受一些指导，但正如我们所见，他们有自己的想法，他们会做他们想做的事情。>> 让我的孩子们在接受采访时保持安静是很棘手的。这是真的。嗯，而且，你知道，幸运的是，他们会有好的本能，对吧？所以，当他们长大后，我就可以假设他们很可能默认会与我的文化保持一致。>> 是的。是的。抱歉，迈克尔。迈克尔，告诉我关于萨姆需要支持的事情。>> 我的意思是，嗯，这看起来非常像 2008 年的危机。嗯，关键是政府对少数公司成功的风险的暴露越来越多。而在七月份，特朗普政府公布了这项人工智能行动计划，以快速建设数据中心，为人工智能开发创建硬件，并取消人工智能的联邦法规，以赢得人工智能竞赛。嗯，早在八月份，奥尔特曼就声称，嗯，他们将在数据中心建设上花费数万亿美元，而且不是在非常非常非常近的未来。所以美国想要更多的国内生产，而 OpenAI 每年都需要越来越多的计算能力。而政府介入人工智能基础设施的概念会引出一个问题。谁来救助这些政府？如果事情失败了，谁来救助他们？嗯，在最近的一次播客中，嗯，与泰勒·科恩一起，奥尔特曼说，当某件事变得足够大时，无论他们是否在账面上，联邦政府在某种程度上都是最后的保险人，正如我们在各种金融危机和保险公司搞砸事情中所看到的那样。所以，我们从“大到不能倒”那里得到了很多感觉，嗯，你可能会很快看到这种事情发生。而且别忘了，萨姆·奥尔特曼就是那种人，我不知道我是否应该深入探讨这一点，但我的意思是，嗯，你知道，我们有很多例子，他如愿以偿。所以，你知道，萨姆·奥尔特曼，嗯，所以有人说董事会应该能够解雇他，然后他们试图解雇他，但他们做不到。萨姆说，嗯，他将提供 20% 的计算能力用于超级对齐。然后，你知道，他解散了超级对齐团队，他没有说人工智能监管很重要。然后他正在朝着完全相反的方向努力。我的意思是，他说对他的权力进行制衡很重要。然后他解雇了所有反对他的人。他只是制造忠诚。董事会成员现在都爱他。其他人都不在了。这太有趣了。没有一个早期的人在 OpenAI 的文化中生存下来。>> 然后他开始筹集数万亿美元来建造计算能力。嗯，他谈论计算能力过剩，他过去说我们需要在硬件足够强大之前非常快速地构建人工智能，因为那时我们将无法控制它，然后同时他正在筹集数万亿美元来创造，比如说，计算能力过剩。>> 所以，嗯，我可以继续说下去，我的意思是，他过去是一个非营利组织，现在突然变成了一个营利性组织，而且，是的。>> 我的意思是，总而言之，这个人简直是超人，几乎是马基雅维利式的。嗯，嗯，他会找到通往顶峰的道路，嗯，你知道，在那种意义上，他能挺过一切，这相当令人印象深刻。>> 是的，而且就像这个人一样，当你有两种可能的结局时，它似乎总是以坏的结局告终，对吧？但让我们来谈谈他需要这个支持来做什么。所以，让我们假设我是一个美国的社区，他们说我们想在你周围建造所有这些数据中心。这些数据中心将消耗你的水、你的电力，嗯，它们将夺走你的工作。它们甚至可能直接杀死你和你的家人。哦，对了，如果我们为这件事所做的投资不起作用，我还需要你来买单。简直是疯了。就像，谁会同意这样做？>> 我的意思是，嗯，我认为我们应该更精确地思考这个场景。所以，这并不是说你只是被留下一堆无用的东西的账单。我的意思是，你得到的是数据中心，而且可以假设数据中心将在某种程度上是有用的。我的意思是，噩梦般的场景是每个人都说，“哦，我们有我们需要的计算能力。”但这似乎非常不可能。所以，我认为“救助”这个说法并不完全正确，因为你有这个抵押品，对吧？你有这些芯片。嗯，所以，我认为这件事被夸大了。就像，我认为人们只是不断地将今天的幼稚会计与场景的实际发展混淆。就像，你知道，另一个混淆是当人们说，“我的天哪，OpenAI 正在亏损这么多钱。”就像，嗯，它并不完全是亏损，它只是不断地进行巨额投资。就像，如果你做正确的会计，他们有，你知道，正利润。>> 所以，同样，当你谈论政府救助时，这更像是大多数人在这场所谓的“救助”情况下都能拿回大部分钱。这也让我想起，还记得 FDIC 救助硅谷银行的时候吗？那真的不是救助。就像，至少每个人都拿回了 100% 的钱。嗯，是的，就像，除了股权投资者，但那不一样。>> 我看到一个场景，对吧？就像，埃隆本周说，如果我们只用所有的特斯拉作为数据中心，并通过特斯拉传播，或者如果我们把太阳能供电的卫星放在太空中，然后把数据中心放在太空中呢？所以，这些数据中心的建设将需要 5 到 10 年。而我认为 5 到 10 年后用于数据中心的这项技术将与今天相同，这似乎很疯狂。所以，这些是长期投资，而技术正在快速变化。如果出现某种进步，你知道，使得计算需求变小，而且是不同类型的芯片，或者不同类型的技术，或者其他什么，而且这种情况发生在两三年、五年内，那么美国的大部分地区都将被这些巨大的、可能无用的棺材覆盖，或者，你知道，需要完全改造以用于某种完全不同的用途。所以，我认为技术在数据中心建成和现在之间发生巨大变化的可能性非常合理，以至于有很多无用的垃圾被建造起来并占据空间。>> 对吧？所以，我同意经济作为一个整体正在被用于人工智能的成功，但一个人工智能公司比其他公司提前投资并不会改变这个事实，因为我认为经济中的大多数人，大多数人，股市中的大多数散户投资者都说，“是的，让我们把钱投到人工智能上。”你明白吗？所以，萨姆真的只是他那个时代的产物。他正在充分利用它。>> 所以，他在一个活动中与勇士队教练和一位为“停止人工智能”工作的公共辩护律师在一起，这位律师即将进行审判，他让公共辩护律师上台，给他，把纸条放在他手里。>> 很多年前，你可能>> 哦，抱歉。>> 对不起。>> 请继续。我们来传唤。你能从舞台上下来吗？>> 哇，已经开始戏剧化了。>> 嗯，相当令人震惊的事件。你知道，当有公众人物出现，有人突然站起来走向舞台时，这显然是一个戏剧性的事件。迈克尔，你对此有什么看法？从某种意义上说，一旦发生这种情况，这次审判将是人类历史上第一次，一个由普通人组成的陪审团将被问及人工智能对人类的灭绝威胁。这将为“停止人工智能”和生存风险带来大量宣传，嗯，让萨姆·奥尔特曼在那里很重要，因为如果我们只是停顿一下，想想萨姆·奥尔特曼到底是谁，好吧，他是 OpenAI 的首席执行官，自 2019 年以来，但他一直是人工智能竞赛中三个主要参与者之一的领导者，他的决策可以说直接影响着全人类的未来，所以如果 OpenAI 成功地引起了世界的关注。>> 但他将成为有史以来最重要的人之一。嗯，他过去曾多次表达对生存风险的担忧，但他却采取了完全不一致的行动，嗯，好吧，他经常被指控虚伪、狡猾、操纵。嗯，在他最近一次最戏剧性的时刻，包括他试图让 OpenAI 董事会解雇他，正是因为他们认为他们无法信任他。>> 而这是一个他设法推翻的决定，并最终利用它来建立一个由忠诚者组成的新董事会，就像我之前说的。>> 所以，是的，这个人真的可能是我认为人类历史上最重要的人，如果他创造了通用人工智能。现在，重要的是我们要看到他在法庭上，嗯，[清嗓子]你知道，公众能够听到这些概念，这些担忧，我认为这对我们来说是一个巨大的胜利，对于我们的阵营，对于我们。>> 是的，而且只是为那些可能不理解的观众提供一些关于这个案子的背景，你知道，这到底是怎么回事？所以，基本上，"停止人工智能"的四个人正在接受审判，因为他们阻挡了 OpenAI 设施的前门。他们这么做了。警察来了。警察说，“你们要走吗？如果不走，我就逮捕你们。”他们说，“不。”他们问了三次。然后他们逮捕了他们。他们把他们带到监狱，处理好，然后释放。所以，这可能是一次简单的审判。但是“停止人工智能”试图做的是让法官说，“我们实际上将在这里进行一次真正的审判，关于这个必要性辩护。”而“停止人工智能”说的是，这就像一个婴儿在热车里。嗯，你知道，如果婴儿在热车里，你不会坐下来讨论法律是什么。你打破车窗救婴儿。所以他们说，通过阻挡 OpenAI 的前门，这是必要的，因为 OpenAI 正在直接威胁他们的生命，而他们正在以必要性辩护的姿态这样做。所以，法官是否会说，“是的，我们将允许专家证词，我们将允许萨姆·奥尔特曼在这次审判中作证，”这是一个悬而未决的问题，但有一些机会，它实际上真的会发生。我认为传唤是一个非常好的迹象。所以，隆，你认为萨姆可能不得不宣誓并谈论他正在做什么？嗯，从程序上看，我认为这绝对不是理想的，因为这就像，你知道，他们叫萨姆·奥尔特曼来为 OpenAI 不像把孩子留在热车里辩护。你知道，为 OpenAI 所做的一切辩护。在某种程度上，太好了。嗯，应该有一些方法可以传唤萨姆·奥尔特曼来为 OpenAI 所做的事情辩护。我一直在说，这一直严重缺失。奇怪的是，这是第一次发生，是因为这些人正在他的办公室前进行非暴力抵抗。就像，那显然是一个必须这样发生的破碎的系统。还有另一个令人讨厌的元素，那就是送达传票的人。我们看到了那个视频。迈克尔发了推特。嗯，也许你们可以把它剪进去，那就是送达传票的人，我猜是旧金山公共辩护律师的雇员，冲上舞台，在公开场合冲向萨姆，然后我猜萨姆的便衣保镖站出来，接过了传票，保护了萨姆。但是，看，我的意思是，当有人冲向你时，你会想起所罗门·鲁西身上发生的事情，对吧？他被刺伤了眼睛，非常严重。就像，你不想让你的社会陷入一种情况，即你走上舞台，有人冲向你。就像，你知道，萨姆·奥尔特曼有权害怕自己的生命，对吧？即使事实证明它在身体上是无害的，而他必须经历这种事情，这确实是社会的退化。所以，我对那部分不满意。现在，很多人说，“好吧，萨姆一直在，”你知道，“回避传票，这是唯一的时间。”但是，你知道，我绝对反对冲上舞台。我认为我不会推荐他们冲上舞台。嗯，现在也有一个好的一面。我可以扮演另一方，那就是，“看，萨姆在哪里为他的行为负责？对吧？他拒绝进行任何辩论。就像，人工智能的首席执行官们，你知道，他们没有参加“末日辩论”，他们没有一对一地与任何人辩论。他们去了自己的友好媒体，在那里陈述了自己的观点。我们缺少一个社会机构，人们必须在那里为自己的行为辩护。法律法庭应该是你为自己是否造成了大量伤害而辩护的地方。所以，我的整体分析是，嗯，这很糟糕，它以这种方式发生。就像，这种场合和这种方式呼唤萨姆很糟糕，但是，你知道，你也可以玩这个游戏，因为就像你称之为廉价的伎俩来让萨姆出来一样。你知道什么也是廉价的伎俩吗？萨姆一直以来所做的？他授权建造人工智能，而没有任何具体的法律规定，因为政府太慢而无法阻止他。所以，他一直在利用政府的弱点，而现在，“停止人工智能”一方正在利用旧金山相当积极地传唤人工智能首席执行官。所以，我觉得就像，好吧，廉价的伎俩对廉价的伎俩。就像，你玩这个游戏。>> 而且，我认为我们在这里一直强调的一点是，就像我们开始谈论暴力和人工智能风险以及所有这些事情一样，非暴力是唯一的道路。非暴力是处理人工智能风险的唯一可接受的方法。而且，指出“停止人工智能”迄今为止一直是完全 100.0% 非暴力的也很重要。>> 嗯，百分之。>> 所以，你知道，有人在努力制造和投射暴力到“停止人工智能”上，而那些人实际上正在用最终的暴力威胁我们的家人，也就是灭绝，无论那会是什么样子。所以，我认为指出这一点很重要，即有些人想把暴力投射到这一点上，而当你有一个人走向舞台时，这肯定会让人联想到过去发生的事情，但我确实认为指出这一点很重要，即事实上，到目前为止，这一切都是完全非暴力的。迈克尔。>> 是的，我只想补充一点，虽然我之前说了所有关于萨姆·奥尔特曼如何嗯，你知道，他如何驾驭政治、权力游戏、影响他走向顶峰，但对我来说，我不认为他是一个马基雅维利式的实体，对吧？问题是他碰巧在驾驶末日机器的轮子，而我真的相信问题在于激励结构。所以，我会说，如果萨姆发生了什么事，比如说他退休了或者别的什么，那种能成为全能型人才的人，能满足所有条件来领导 OpenAI 的人，将会是另一个非常相似的人，他们可能在表面上的表演上有所不同，但实质将是相同的，因为像杰弗里·辛顿这样的人将无法在这种角色中生存。>> 而且，如果比如说，我们以某种方式强制执行，只有他才能领导 OpenAI，那么我认为 OpenAI 将很快被淘汰。它将被另一个马基雅维利式的公司淘汰，然后我们将收到另一个公司和另一个公司的警告信号，而奔向悬崖的竞赛将继续保持强劲，什么都不会改变。但是，说了这一切之后，也重要的是要澄清，那些人不是圣人，如果一个领先的实验室的首席执行官辞职了，并且比如说，开始全职倡导人工智能安全之类的，那么这将产生巨大的连锁反应，世界将会倾听，所以这些权力，这些人确实拥有权力，他们可以通过个人故事来改变潮流，但没有任何东西足以阻止末日。我认为只有全球协调和草根驱动的政策变革才能产生影响。这些公司有点像孩子在玩玩具，而现在他们的玩具就像核弹一样强大，而房间里缺少的是成年人。嗯，在这种情况下，你知道，就是监管约束，结构。>> 而且，嗯，这并不是说，我的意思是，我们需要拿走他们的玩具，这样他们就不能伤害自己和他人。>> 而且他们可以玩一些安全的东西。>> 是的，我喜欢。而且，隆确实是房间里的成年人，试图阻止[笑声]这些孩子做事情。如果你喜欢我们在人工智能风险网络上制作的内容，但你不是订阅者，你在想什么？我们需要每个人都成为订阅者，快点。在我们结束之前，让我们稍微谈谈安特罗皮克公司的事情，在那里我们有嗯，你知道，安特罗皮克的好人，从安全方面招募人员，让他们去为像其他人一样正在建造通用人工智能的公司工作。隆，你对安特罗皮克公司的企业嗯，嗯，我想你可能会说，他们的招聘行为有什么看法？>> 本周的新闻是，乔·卡尔·史密斯从开放慈善基金会转到了安特罗皮克。安特罗皮克有点像这个巨大的章鱼，这个房间里的 800 磅大猩猩，以前你有一个担心人工智能风险、人工智能危险的文化，试图发出警报，试图暂停人工智能，然后安特罗皮克出现了，就像，你知道，理智的做法是什么，大家，我们都应该把它建好，然后同时研究安全，当我们建造它的时候，我们会发布这些担忧的论文，但我们也会建造它，我们将保持领先地位，我们将拥有所有这些数据中心，我们将成为比赛的一部分。我们将成为坏人的一部分，但同时，但同时，我们也会研究安全。我称他们为“最差中的最好”，因为这有点像说，“嘿，你知道大家都在开车冲下悬崖，而你们想踩刹车吗？你知道我们应该做什么？和我们一起开车，但我们也稍微踩刹车。所以，我们将一起开车，稍微踩刹车，即使刹车太弱了，无法让汽车停下来。”而安特罗皮克的问题在于，他们有一个漩涡，他们用金钱和社会地位吸引着所有人。所以，就像所有这些邻近的人都在看着这个局面，就像，你知道，停止人工智能将是理想的结果，因为我们正在冲下悬崖，而且没有撤销按钮。但是安特罗皮克说，不，不，不，看，你不想有一个平衡的立场吗？你不想部分比赛，部分停止吗？而所有反对它的人都在说，为什么你要在安特罗皮克工作？就像，这总体上很糟糕，他们所做的。这没有意义。这非常非常诱人。就像，有很大的社会压力让你说，来吧，赚很多钱，因为显然他们付很多钱。你知道，他们的估值是，我不知道，2000 亿美元，你知道，高薪，高股票。过来吧。我们会付给你很多钱。你可以写这些论文。你会有所有的尊重。你可以去参加会议。嗯，每个人都会认为你是一个认真的玩家，而不是那些在场边的人。所以，基本上，他们已经抢走了场边的人。场边越来越少的人说，“到底是怎么回事？你们为什么要这样做？”而且，你知道，人们不再过多地谈论安特罗皮克是幕后操纵者，但这是非常有害的。>> 是的。是的。迈克尔，有什么想法吗？>> 是的，我有一些想法。所以，正如 D 所说，像安特罗皮克这样的大公司正在搜罗那些直言不讳的、支持人工智能的人，比如研究人员或活动家，用丰厚的薪水，比如六位数，来从事安全方面的工作。然后，你知道，保密协议或团队压力就会起作用，突然间他们就不再在 Twitter 上大声疾呼了。这就像在扼杀抵抗。你没有开枪就让他们安静下来。但是对于安特罗皮克来说，情况更糟，因为当安特罗皮克在 2021 年成立时，我的意思是，它是由一群前 OpenAI 的大脑创立的，比如达里奥和他的妹妹。而那时，它就是关于安全的，你知道，嗯，他们对 OpenAI 的快节奏比赛不满意，而且，它据说是根植于他们的 DNA 的。嗯，他们都致力于那些可靠的、可解释的、可推理的系统，但是，嗯，他们有，你知道，宪法人工智能，嗯，你知道，负责任的规模化政策，所有这些听起来都非常花哨，嗯，安全，但是他们实际上所做的是“安全洗白”，这与大型烟草公司相似，你知道，他们付钱给专家说香烟是无害的，他们知道它们正在造成文化，而且它会产生额外的效果，因为他们最初是反叛者，而现在你，你知道，嗯，他们一直在发出警报，他们警告反乌托邦和末日，但他们仍然在比赛，资助，你知道，嗯，安全表演，红队，公开地挑剔，以损害，你知道，声誉，但真正的游戏是下一个大模型的红利。而且，这就像一个在旁边卖酒的小中心。[笑声]而且，你知道，它足以让公众放心，让支票继续流动，但它并没有踩刹车，而且它非常危险，因为人们购买了光环，以为有人在看着悬崖。>> 是的。>> 所以，实际上更糟。我觉得有人>> 是的。不，你知道，我只会稍微修改一下。我不会说他们是安全的，因为我不会说他们声称，嘿，我们所做的是安全的。他们不断地发布研究，说，“嘿，我们发现了很多东西。”为什么？等一下。拉兹，等一下，宝贝。嗯，等等。>> 好的，从这里开始，我们也。>> 是的，>> 他们不断地发布论文。是的，随时都可以。>> 是的。不，请便。>> 哦，你好。>> 是的。一点也不。>> 所以，他们不断地发布研究论文，说你应该担心。这可能不会顺利。>> 但他们也继续传递这样的信息：没关系，因为我们会想出办法的。哦，抱歉。现在我的孩子们在尖叫。>> 这个。我认为这是完美的。我认为这是结束节目的正确方式。我认为这是这个[笑声]有趣的节目的完美结束方式。>> 让一个孩子来发出警告信号。我要让多莉发出一个警告信号。多莉，我有一个[音乐]在这里。>> 多莉会进来发出一个警告信号。准备好了吗？>> 很好。你有一个，迈克尔。>> 我认为那很谨慎而且专业。>> 等一下。嗯，是的，所以，我将在这里完成我的观点。所以，好的。所以，他们给人一种印象，就是没关系，我们发现了所有这些问题，因为我们正在富有成效地解决所有问题。就像，我们会想出办法的，但是如果你放大来看，就像，等等，问题非常巨大，而且看起来难以解决，而且你可能什么也想不出来。所以，你为什么一直关注你试图想出办法，而实际上我们应该退一步，就像，你知道，竖起一个警告标志说，“嘿，我们还没准备好去那里。”>> 难以解决。>> 停止工作。一个停止工作令。好的。>> 是的，>> 隆，你做最后一个，你做你的警告信号，我们将结束这个，这个，这个，这个激动人心的节目，我们今天有了。>> 好的，听起来不错。哦，来了。完美。完美。完美。杰瑞，谁将编辑这个节目？我[笑声]为这些文件中的任何内容道歉。杰瑞，杰瑞会发出一个警告信号，就像这样。>> 好的，下周见。