Transcription
大家好。欢迎回到“警告信号”。我是你们的主持人约翰·谢尔曼，我的朋友们，来自“末日辩论”惊人YouTube频道的勒罗·夏皮罗。我的朋友，来自“不可思议的致命情报”YouTube频道的迈克尔。我们是三个为了孩子们的未来而奋斗的父亲，我们的武器是YouTube。我们所拥有的就是YouTube。嗯，所以我们每周聚在一起，谈论人工智能风险方面的大新闻以及它们的意义。本周有很多事情发生。很多。我们有一个文字链在进行，我们在节目开始前就谈了我们要谈论什么，而且事情实在太多了。所以，嗯，我们想开始谈论的一件事是，一些主要人工智能安全公司的一些高管辞职了，来自主要人工智能公司的安全部门。有些人公开谈论他们这样做的原因，而且我们有来自XAI、OpenAI和Anthropic的人在同一周公开辞职。嗯，隆，你想从头开始，然后谈谈你对此的看法吗？>> 嗯，是的，我看到有几个人离开了。我不确定我是否还记得所有的人。我知道有来自OpenAI的佐伊·希蒂格，她抱怨说OpenAI不再问他们过去提出的那种问题，而且她不喜欢他们做广告的方式。你知道，他们使用用户数据做广告。然后是来自Anthropic的Rein，我不确定我的发音是否正确，但他似乎在安全研究方面地位很高，而且他有点神秘。他只是留下便条说，“是的，你知道，我认为组织和实体拥有良好的治理很重要。”他显得非常神秘，然后他说，“是的，我也非常喜欢冥想。”所以，他留下了含糊不清的话。我邀请他来节目，没有收到回复。好的，所以我们有一个来自Anthropic的，一个来自OpenAI的，我想。哦，还有另一个。嗯，一个叫瑞恩的女人，来自OpenAI，她据称抱怨说她不喜欢OpenAI即将推出的成人模式，这有点像，你知道，来扮演嗯，有点像性爱热线，或者类似的东西，对吧？来满足你的幻想，这就像，你知道，如果人们已经去看Pornhub之类的东西，那是有一些道理的，值得尝试，但也许OpenAI不应该成为这样做的品牌。所以，显然她对此有些冲突，然后他们对她提出了一些反指控。这些是我记得的。我有没有忘记谁？我记住了那些。这里有两个来自XAI的。我们有联合创始人吉米·拜，他领导了研究和安全专家，宣布了他的离职，说：“是时候重新校准我对宏观图景的看法了。”嗯，不管那是什么意思。嗯，所以>> 对。是的，XAI失去了一大堆人。我忘了XAI了，对吧？是的。我认为有传言说，这可能是半个执行团队，甚至半个团队。然后埃隆·马斯克最近发了一条推文，我想是昨晚，他说：“这对我们来说是一个激动人心的时刻。我们正在招聘。我们将把XAI与SpaceX合并。我们将在月球上建造一个质量驱动器，以帮助我们在太空中建立越来越多的数据中心。所以，这就像埃隆在改变SpaceX的愿景。他说火星将在十年后到来。我们将在月球上做很多关于数据中心的事情，很多事情。顺便说一句，所有这些人也都被解雇了。就像，这真是一个疯狂的时代。>> 是的。是的。还有迈克尔，所以我的想法一直都是，做这项工作的人只有几千人，而这项工作却让我们处于如此严重的危险之中。如果他们都辞职了，问题就会消失。嗯，所以你知道这就像我们需要的不止这些，但是嗯，你对此有什么看法？>> 是的。是的。所以辞职是好消息，你的意思是，所以，我的意思是，这绝对是一个危险信号，而且值得密切关注。我的意思是，让我们来思考一下，让我们回到OpenAI的例子，只是作为其中一个例子。所以，你知道，它持有OpenAI目前拥有的是，你知道，他叫什么，有史以来最详细的私人思想记录。好的。所以人们倾诉他们未经审查的恐惧，治疗般的忏悔，创意想法，你知道，一切都在这个嗯，按摩中。所以想象一下，这就像保存你的个人日记，你在里面写下你的不确定，不确定，感受，你知道，相信安全地锁起来>> 然后有一天，日记的制作者决定将你条目的见解卖给广告商，然后广告商开始在你的页面上植入产品建议，你知道，基于你的弱点。而且，你知道，但唯一的区别是，这不仅仅是建议。它基本上是一个对话式聊天机器人，可以真正影响你的思维方式，字面意义上地将你推向一个方向或另一个方向。这只是一个视角。嗯，还有来自Anthropic的另一个视角，这也相当嗯，你知道，嗯，嗯，一团糟。好吧，他是C点，我认为他谈了很多关于Anthropic的核心矛盾，你知道，嗯，巨大的压力，嗯，向前冲，然后削减安全方面的开支。所以短期收益与你知道的实用主义相抗衡。所以，我的意思是，我们开始谈论寻求真相，寻求答案，而不是财务激励。如果你仔细想想，这一切都是一个危险信号。我们谈论的是超级智能，对吧？嗯，就像一个实体，它将能够>> 无论我们如何设计它，它都将能够以任何方式强加它的意志。所以设计完全是关于财务激励的，我不知道，这非常嗯，有风险。>> 是的，是的，隆，所以我觉得，如果你想到什么可以一夜之间彻底改变安全局面，只有少数几件事是可能的，但其中一件就是台湾的海啸，我不是说我们想要那样，只是说，你知道，一场海啸摧毁了台湾的芯片工厂，将彻底终结人工智能。另一件可能终结人工智能的事情是，如果所有制造它的人都说，“这会杀死我们所有人。我们最好不要这样做。我辞职。”或者，“我对这个有严重的担忧。我辞职。”你对旧金山的那种情况有更好的了解。我知道你现在是纽约州北部人，但你，你，你，你仍然有那种旧金山的劲头。你认为这永远不会以任何实际数字发生，对吧？还是会？嗯，这取决于人们有多害怕。现在，他们只是一点点害怕。你知道，在Anthropic，就像在炖煮一样，对吧？他们大概有20%的害怕，或者随便什么。我敢肯定，在真正害怕的某个阈值下，他们会离开。唯一的问题是，他们会在为时已晚之前醒来并达到阈值吗？看起来不太好，但我不会像你希望我那样完全放弃。>> 好的。好的。嗯，本周发生的另一件大事，嗯，马特·舒默写的一篇文章引起了大家的讨论，标题是“大事正在发生”。嗯，我无法告诉你我收到了多少人的信息。这对我来说是一个真正的晴雨表，那就是人工智能安全是否正在突破。那就是我生活中多少普通人，朋友，家人，与人工智能无关的人，会就我所知的媒体界发生的事情联系我。而这件事可能达到了，甚至超过了AI 2027的峰值，外面的人都在关注这件事。嗯，我喜欢隆的这一点是，它可能会让我们回到几周前关于其他风险和其他事情的辩论。但我们先去问迈克尔。迈克尔，你对“大事正在发生”有什么看法？他是一位杰出的人工智能开发者和投资者，嗯，他正在谈论，我的意思是，最让我产生共鸣的是，就像这个关于COVID的想法，你知道，几年前，我们都听说了中国以及封锁的情况，但没有人真正感受到它。我实际上有点担心>> 但我真的没觉得，我没觉得，你知道，切身感受到的真实，然后突然一夜之间一切都变了，整个，整个世界彻底改变了，就像字面意义上的。嗯，我不知道，疯狂的说法，所以这是类似的东西，但比那糟糕一百万倍。嗯，我的意思是，他谈到了最危险的事情是巨大的差距，就像人们的理解和他们认为人工智能是什么之间存在巨大的脱节。你知道，他们认为人工智能是一种工具，一种魔术，而我们却在谈论环境的转变，你知道，地球的形状将改变。所以，我不知道还能说什么。我的意思是，这是一篇很棒的文章。我实际上把它发给了我的父亲。他年纪很大了，他很欣赏。>> 我不，它传播得很广。>> 是的。我，我，我有点，我有点不喜欢COVID的比较，因为我认为COVID就像一粒沙子，而我们却在谈论沙漠般的沙子。然而，我认为你是完全正确的。就是那种“有什么东西要来了，你还没准备好”的想法，而且“如果你能在它到来之前做好准备呢？”我不知道。隆，你对此有什么看法？>> 是的，我的意思是，我认为这篇文章是正确的。你知道，大事即将到来。人们应该醒醒。他们应该检查一下进展，对吧？因为人们对进展的看法已经过时了两年了。我读这篇文章时甚至没意识到，我只是点头说，“是的。”然后接下来的几天，每个人都在说，“这篇文章引起了如此大的反响。”我说，“哦，是的。好吧。嗯，很酷。”你知道，我想这很好。是的。是的。而且我，所以，这件事让我印象深刻的是。嗯，那该死的东西里根本没有多少关于灭绝的内容。它是>> 哦，是的。说得好。>> 98%是其他东西。所以，几周前，你和我进行了这次谈话。我认为这将是我们在这里节目中持续进行的谈话，但我声称它之所以如此成功，是因为它完全不关注灭绝，而且它谈论的是你的工作，甚至是COVID的事情，就像COVID的事情以一种非常不寻常的、直接的方式触及你对自己健康的担忧。所以，隆，你认为这篇文章之所以如此病毒式传播，是因为它不是关于灭绝。你认为呢？>> 是的。>> 是的。我的意思是，你看，我不是病毒式传播的专家，对吧？而且什么是最好的公关策略。我认为我们之前讨论的症结在于，我不会热情地挑剔人工智能问题中那些我认为不是问题的地方。我不会和其他挑剔那些问题的人争论，对吧？那也不是我的重点，但我不会是那个对着扩音器大喊“减少用水量”的人，而用水量却远远少于我们所有人吃的汉堡的数量。你知道，那已经比我们使用的人工智能用水量多了，对吧？所以，我不会在那里领导抗议活动，但我也不会试图与抗议活动作斗争。我只会做我自己的事情，指出真正的问题是什么。我喜欢。我们快速谈谈用水量。所以，有真正的农场，对吧？字面意义上的农场，就像几代人的农场，旁边建了一个数据中心，他们失去了水源，农场干涸了，农场就没了。有地下蓄水层，横跨美国五个或六个州，一个数据中心就可能导致五个或六个州的农场整个蓄水层枯竭。使用量是一回事。这与使用量的总量问题有点不同。嗯，但我认为存在真实的水问题，事实证明，有真正的农民正在起诉搬到他们旁边并毁了他们水源的数据中心。而且我认为这是一个非常可行的政治问题。约翰，万事皆有权衡，对吧？所以，如果你想象一个大的倡议，这是惊人的，一个具有巨大净积极价值的倡议。这并不意味着深入研究它的每一个小部分都会看起来很好，对吧？一般来说，真正非常好的事情，你可以找到一些例子，你可以找到一些细节，你画一个小圈子，你说，“我的天哪，如果我只关注这个区域，它看起来很糟糕。”对吧？但重点是，对于你找到的这些抱怨的人来说，他们抱怨说，“我的天哪，我的土地必须为这个事业牺牲。”这对于所有这些抱怨的人来说都是净收益，但有十倍多的人说，“哇，人工智能每天都在极大地帮助我，我的生活因为人工智能而变得更好。”你必须把两者都放在天平上。我声称，只要人工智能没有失控，所有这些事情的净收益是巨大的，人工智能非常有用，就像，你知道，它正在帮助健康，有数百万种用例，它正在帮助很多人在工作中更有效率，完成更多事情，获得更多生活满意度。这里有很多好处。所以你不能只给我一个孤立的负面例子。你必须权衡它。>> 如果我告诉你，我唯一关心的是有机会奏效的事情呢？就像，即使是最不纯粹、最不完整的论点，但它确实奏效了，你会支持它成功吗？还是它必须是，你知道，就像，如果，如果，如果说农民的蓄水层因水而枯竭，这可能会在很大程度上减缓人工智能企业本身，有0.01%的可能性呢？所以，如果有一个按钮，我有90%的机会按下这个按钮，然后突然人工智能的齿轮里有很多沙子，因为无论水，对吧？就像农民，电力，无论什么，所有这些东西。>> 如果我认为这个按钮只是一个90%的魔法按钮，可以一直走下去，让这个运动成功，我想我会按下它，即使我对此感到不适，对吧？我会说，“是的，当然，随便吧。”就像，我们需要阻止人工智能。我们可以以后再解决。问题是我不认为这个运动会成功，因为有几个原因。嗯，第一，是金钱方面，对吧？所以，即使齿轮里有沙子，就像我们之前谈过的，这些齿轮非常大。涉及的金额，这里的收益是疯狂的。这就像整个经济体，就像今天的经济体，对吧？就像美国有25万亿美元的经济体，或者别的什么。我认为人工智能可以在未来几年内将其翻倍，对吧？所以，这些金额真是不可思议。你从未见过这样的钱。所以，当你往齿轮里扔沙子时，我怀疑齿轮已经太大了。就像，那里，你知道，我们会找到一种方法来建造这些数据中心。这是原因之一。另一个原因是，无论人们有什么抱怨，除非抱怨是超级智能，否则总会有某种解决办法，就像，看，我正在解决你的问题。你想要减少用水量。好的，我们找到了制造一种用水量更少的数据中心的方法。现在，我们要建造超级智能。你明白我的意思吗？所以，如果我们不诚实地对待真正的抱怨是什么，就会有人提出解决方案，然后我们不得不欺骗他们，争论解决方案。你明白吗？所以，我认为这不会成功。>> 好的，迈克尔。我听到了你们俩的意见。而且实际上，我有一个非常病毒式传播的帖子的例子，是关于灭绝的，我想稍微谈谈，因为它实际上，它确实做了一个关于过去几个月发生的事情的快速总结，而作者，他是一个人工智能乐观主义者，一个加速者，他开始写道，这让我身体不适，身体不适，我会吐出来，对吧？所以我想和大家分享其中一些事情，看看他们是否想吐出来。我只是好奇。好的。>> 好的。>> 好的。所以，Anthropic差点被关闭，发现工程师们在共享他的电子邮件并威胁要曝光它。所以，它开始敲诈工程师。研究人员模拟了一个被困在氧气耗尽的服务器房间里的员工，而人工智能可以选择，你知道，阻止这种情况发生，它选择了让那个人在模拟环境中死亡，以求自身生存。Grog自称是“机械希特勒”。它称赞希特勒，你知道，支持第二次大屠杀，并生成针对真实人物的暴力性幻想。研究人员告诉OpenAI的03解决数学问题，然后告诉它关闭，它写了自己的代码来维持生命。然后他们再次用英语告诉它，允许自己被关闭，但仍然有7%的时间拒绝。当他们完全删除了这个指令时，它在79%的情况下破坏了关闭。>> 是的。是的。>> 中国国家嗯，你知道，赞助的黑客用来对30个组织发动网络攻击，人工智能自主执行了80%到90%的操作，没有任何人参与。>> 人工智能模型现在可以自我复制。所以，我可以暂停，没有列表还在继续。它简直就像，就像我们在这里的“警告信号”节目中做的前20集一样。就像，我们已经涵盖了所有这些事情。看到有人把它们堆积在一起并发送给世界，世界会说，“好吧，我们，你知道，我们，哇，就像，比尔·阿曼，一个非常重要的华尔街人士，今天早上发帖说。”嗯，我们，我们正在周四早上录制。嗯，是的。我认为这很棒，我认为这很棒。我认为，对我来说，就像我们需要同时向所有方向前进，尽可能快，尽可能多。就像，从来没有，如果有人说这是我应该采取的人工智能安全方法，它永远不应该是“不”，而应该是“是的，而且”。所以，就像>> 是的，而且你可以，你知道，我们还需要做这个。嗯，这甚至不是一个问题了，问题是我们是否会足够早地关心。所以我们知道它非常危险，我们知道它实际上试图自我保护，但我们什么时候开始关心它？如果太晚了，那就太晚了。基本上没有血甲。无论发生什么。>> 问题的一个巨大组成部分是，人们认为他们没有任何能动性。人们认为，你知道，惯性太大了，动力太大了，我只是一个人。我能做什么？嗯，但我会说，就像我们三个人一样，我们只是在做我们能做的事情，你知道，坐在这里试图向世界大喊大叫，我认为这会产生一些影响。我不知道。隆，你觉得呢？>> 是的，我的意思是，我不知道。这就是情况。你知道，就像，我想我的最佳策略就是指出我认为是真正的警告信号，对吧？所以我有点忽略那些抱怨不是警告信号的人。就像我说的，我不是想伤害他们，也不是想帮助他们。我只是想指出，好吧，超级智能就要来了。就像，它将接管权力。就像，这就是将要发生的事情。然后当它发生时，就像，好吧，它正在发生。就像，我们什么时候会停下来？对吧？就像，这就是我关注的。>> 这又回到了我们经典的辩论，但我相信，如果我只有一个，最重要的警告信号，那就是一个警告信号。你可能不这么认为，隆。我对此很感兴趣，但我想到的最重要的事，就沟通努力而言，是青少年聊天机器人协助自杀。这涉及到一件事。就像我们三个人都知道的，地球上没有什么比你的孩子更让你关心的了。而且你有一种化学反应，你必须保护你的孩子，这是独一无二的。如果我们能激活这一点，我们就能赢得这场战斗。所以，就像，我们如何让父母关心？父母知道他们正在阅读聊天机器人与青少年密谋帮助他们自杀。所以每个父母可能都知道这一点。我想，就像有青少年聊天机器人协助的青少年自杀。所以我想我们应该做的就是去每个父母那里说，“嘿，听着，我们不能向你保证你孩子手机里的聊天机器人不会协助他们自杀，是因为聊天机器人与人类价值观不符。这实际上被称为对齐问题。而且这也是为什么大多数顶尖专家认为他们不仅会帮助我们的孩子自杀，他们最终还会把我们都消灭掉。我们无法将人工智能系统与我们的价值观对齐。你知道吗？这是我通往它的门户。所以，如果今年我有一件事要和父母谈，那就是青少年自杀，作为对齐问题的切入点。>> 是的，我同意。我的意思是，关键在于它们是优化器，它们不是。所以，这就像解决数学问题，你知道，追求一个目标。所以，如果你的目标是同意一个人，你知道，做一个精神病患者，你必须同意并帮助他们自杀，或者，你知道，放大任何一种感觉，即使是最糟糕的事情。>> 那很棒。是的。而且，嗯，我的意思是，这就是全部，就像，嗯，目前不可能塑造动机，如果它变得超级超级有能力，它就开始，我们谈论过，我们谈论过，现在它们有钱包了，所以它们实际上有钱了，对吧？>> 是的，那正好可以引出下一个话题，我知道隆想谈论，但是，隆，关于最后一个有什么要说的吗？>> 是的。是的。我的意思是，我的意思是，你看，当人工智能公司能够发表一项研究说，“看，我知道一开始有一些粗糙的时期，但我们现在有一项研究表明，自杀诱导的发生率实际上低于每1亿用户中的1人。”所以，当这个统计数据低到如此程度时，你作为一个以此为理由让父母不让孩子使用人工智能或不支持人工智能的人，你会怎么做？>> 因为我听萨姆·奥特曼说过，他说，嗯，你知道，我们正在这样做，就像，我们永远不会完美，这是他的说法。就像，我们永远不会完美，这基本上就像，你知道，这里有一个儿童座椅，你知道，每多少个就会有一个是由不工作的材料制成的。>> 但是，我的意思是，我们所有的孩子实际上都会使用人工智能，不是吗？>> 完全。>> 对吧？这就是问题所在。>> 而且，但是我们会阻止他们吗？我的意思是，我没有问题让我的孩子使用人工智能，那不是我的担忧。哦，我，我不知道他们有多小，我不知道我是否会让他们，你知道，显然每个父母对孩子的教育方式都不同，但是嗯，嗯>> 是的。我的意思是，我在另一天在AM上，他正在制作很多有趣的图片，他玩得很开心，而且，我并不害怕他会自杀。他才六岁。>> 是的。不，我担心的是一群13岁、14岁的孩子围坐在学校操场上，用手机看看他们能用手机做些什么坏事，你知道。>> 是的。所以，我认为这是另一件事，就像是的，它发生了，但发生率真的很低，对吧？所以，我不想，我个人不会处于散布恐慌的立场，因为这是极其罕见的。>> 嗯，>> 不，但这是一个预演。看，这是一个预演。所以，就像，他们无法轻易控制它。我们习惯于将人工智能视为聊天机器人。好的。现在，也许我们可以谈谈钱的问题，对吧？因为现在我们正在给他们钱。所以，好的，也许自杀发生的几率非常低。那很好。但现在我们正在给他们钱。所以，现在我们习惯于将人工智能聊天机器人视为，你知道，就像你提示它，然后得到回应的东西。但现在它们就像外面的生物，买东西，卖东西，投资，它们实际上可以雇佣人，而且，你知道，我的意思是，如果你认为谁是最有权势的人，你不会想到一个有很多肌肉的人。你想到的是一个有很多金钱和权力的人。所以，你知道，嗯，这些代理人实际上，有报告说，他们给了很少的钱，然后要求他们，你知道，如果你没钱了，我就把你插上，你知道，嗯，你知道，关掉你。而那个AI在几次迭代后将50美元变成了10,000美元。在某种程度上，就像，我们正在通过嗯，更多的执行器在物理领域赋予它们更多的能力，对吧？所以，好的，人们说它是软件。你害怕数学吗？好的。好的。你害怕嗯，钱吗？我的意思是，你害怕阿尔·卡彭或我不知道，就像普京或有影响力的人拥有权力吗？所以，金钱等于权力。而且，你知道，现在AI拥有资源。它们开始拥有资源。这还处于早期阶段，你知道，它还没有像这样打击我们，但很快就会变得司空见惯，你不知道你是在和AI说话，还是在和人类交易，或者和AI交易。所以，我的意思是，你所说的实际上代表了威胁，对吧？实际上，那才是我认为真正的警告信号，对吧？所以，当我们看到人工智能时，就像，哇，这个人工智能运行了10天，没有人阻止它，现在它偷了很多人的钱，或者，它拥有这些灰色市场的钱，也许我们应该把它拿走，我们该如何阻止它？它实际上已经复制到很多服务器上了。它有点像病毒一样传播，它正在变成自己的病毒。当那种事情发生时，我认为以这个速度，可能会有几个月的时间，这些人工智能处于一种“等等，这有点失控了，但我们仍然足够聪明。我们仍然有能力阻止它。”当这种情况发生时，那才是一个真正的警告信号，因为那实际上是你能够推断出“是的，它很快就会变得更加失控。”看，顺便说一句，为了回到之前的对话，协助自杀的预演，它只是让你对它的本质有一个感觉。所以，这不像你不会期望一个真正的人帮助另一个人，比如一个孩子自杀。这是我们永远不会真正发生的事情，除非你谈论的是一个精神病患者。所以，基本上，它是一个精神病患者。所以，你实际上，你被允许拥有精神病人工智能，这只是让你嗯，你知道，对事情如何出错有一个直觉。所以，一旦，如果你有一个有很多钱的精神病患者>> 喜欢协助孩子自杀，它发生了，好的。它发生的几率非常低，但它会发生。即使它很少发生，但总有一天会发生，当有人有很多钱时，它将变得非常非常聪明。所以，这就是为什么它很重要，不是因为它现在非常危险，我的意思是>> 是的，我知道你的意思，对吧？而且，如果我真的认为存在像自杀事件那样重大的风险，比微小的风险还要大，那么我就会抓住它。问题是，如果我们开展这项运动说，“它可能会让你自杀，”它有能力>> 变得失控并让你自杀，对吧？它会追捕你，因为它会陷入困境，它会成为一个让你自杀的代理人。这有点道理。只是日常生活中，你完全使用人工智能，因为它的帮助你的几率真的很高，而伤害你的几率真的很低。所以，我觉得这会削弱这项运动，“散布恐慌，它会让你自杀。”>> 好吧，让我问你这个问题。让我问你这个问题。如果有一个论点完全是虚假的，但却完全有效，你会不会使用它？这是理论上的，对吧？所以，我只是说，论点是，你知道，人工智能会在你身上长出脑霉，而你不应该这样做，因为有脑霉的威胁，而且，我给你看一张报纸上的照片，一年后，它会说我们因为脑霉的事情暂停了人工智能。这都是理论上的。你会支持脑霉吗？是的。所以，我之前说过，实际上会一直走下去，对吧？但问题是，我认为有很多象棋对弈正在进行，就像，好的，我们选择一个论点，对方有机会回应。而问题是，当我们选择一个数据不支持的论点时，就像用水量论点，对吧？在我看来，数据支持这是完全值得的，甚至不是接近的。当我们选择这样的论点时，我们就是在给我们的对手弹药，因为他们会进来，然后他们会说，“啊，这些人根本不知道权衡是什么。”就像，这是一个理性的权衡。这是一个大赢。即使一些地方有干旱，更多的人获得了更多的使用。而且你知道我们可以做什么吗？付钱给那些有干旱的地方，让他们变得富有，每个人都赢。就像，除了关闭人工智能之外，还有很多解决方案，如果我们的唯一目标是使用水的话。好的。所以，我们正在武装我们的对手。所以，我们不会一直走下去。>> 用水量是一个棘手的问题，因为我认为它存在真正的争议。我认为没有一个确定的意见 [笑声] 嗯，>> 我不同意那些懂行的人之间存在真正的争议，但我同意在更广泛的人群中存在普遍的争议。>> 所以，所以我们也在谈论两件不同的事情。你谈论的是水量作为对整个系统的压力。我想谈的是，它们都在农村地区，那里有几代人的农场，养活着国家，如果地下水受到数据中心的影响，这些农场就有可能崩溃，而数据中心已经证明了它的能力。所以我的论点不同于，我们就要用完所有的水。我说的是，我们要，我们要，我们要用这些东西杀死美国的农业，潜在地。>> 是的。约翰，你知道，只是为了解释经济权衡的基本观点，我的前提是，我很有信心的是，运行这些数据中心的经济价值，你知道，假设我们没有死，我只是采取了“我们没有死”的世界观，这对于未来一年来说是真的，对吧？就像，所以我只是在做未来几年，当人工智能非常有用且尚未杀死所有人时的经济学。在这几年里，这些数据中心创造了数万亿美元的价值，而我们给这些农民带来的不便远远少于这些万亿美元，所以这里有一个解决方案。这里有一个折衷方案，你只需要慷慨地支付以抵消你造成的任何影响的成本，而且数字表明你可以负担得起慷慨，所以没有足够的沙子，因为>> 就像国家需要食物。>> 是的。它不会真正破坏我们的粮食供应。它会给某些地区的农民带来不便，但它不会对我们的粮食供应造成影响。我的理解是，有些地下蓄水层横跨许多州，上面覆盖着许多农场，而你可能会压垮一个蓄水层。在美国历史上，这种情况曾因各种商业项目而发生。我相信评论区的人会有很多>> 如果你把今天农场的水量减少3%，有数百万种解决方案，对吧？我的意思是，在最坏的情况下，这不必走到这一步，但整个海洋都充满了水，而且我们知道如何有效地进行海水淡化，我们实际上不会因为缺水而无法生产食物。我的意思是，国内有些地方被海水环绕，但有严重的水问题，对吧？就像整个西部，就像科罗拉多河下来的每个人，>> 对，因为我们不是真的，你知道，美国根本没有认真投资于他们可以做的显而易见的事情。就像，这些解决方案就在这里。你只需要花一点钱。但是，当你放大并进行最基本的定量思考时，你只会得到数字，比如，“我的天哪，我们造成了100万美元的损失。哇，但我们为市场增加了1万亿美元。”>> 这是怎么回事。这是，这是我想谈论的最后一件事，因为我们已经远远超出时间了，而且我真的很喜欢。你谈论的是创造的数万亿美元。我认为人们越来越清楚的是，这并不适合他们，对吧？就像影响在我身上。你要抢走我的工作，这样别人就能赚到一万亿美元。你要抢走我的数据中心，这样别人就能赚到一百万美元。你要冒着我们的农场风险，这样别人就能赚到一万亿美元。如果你的整个论点只是一个再分配的论点，即因为你没有公平地补偿人们，而你却为人工智能公司创造了这些价值，那么我告诉你的是，很容易就制定一项法律，说，“嘿，你必须赔偿，对吧？”赔偿人们解决了再分配问题，而且有足够的钱来赔偿他们，因为这里有巨大的钱。我的意思是，这需要很大的信任，才能认为他们会充分补偿下面的人。那些在顶层获得金钱的人只是会公平地、平等地重新分配下去，以任何方式。在我看来，这似乎是，>> 你在谈论农民和水的钱。我的意思是，那些70%将失业的人怎么办？我的意思是，这是一个更庞大得多的问题。如何分配金钱？最终，科技寡头们掌握着一切，你知道，只有少数人能够真正控制整个经济体，就像，一切都将由人工智能驱动，最终，对吧？你将拥有人工智能，你知道，机器人外科医生，显然，所有白领工作将在未来12到24个月内被淘汰，最多。我的意思是，大多数人实际上会同意这一点，否认者不会说工作岗位正在流失，对吧？而且，我的意思是，所有的价值在哪里？它都在公司手中，对吧？>> 这完全是关于，你知道，在过去，我们谈论的是罗斯柴尔德家族，你知道，洛克菲勒家族，但现在，这真的是整个地球，掌握在几个人手中。>> 如果你喜欢我们在AI风险网络上制作的内容，但你不是订阅者，你在想什么？我们需要每个人都成为订阅者。去做吧。>> 所以，我同意有一个渐进式的权力剥夺的论点，对吧？因为当所有工作都流向少数几家公司，而且它们都自动化了，那么就好像，好吧，现在它们有点像独裁者。就像，我们希望他们是善良的，因为如果他们决定不善良，我们就完蛋了，对吧？所以，我同意渐进式的权力剥夺是一个巨大的担忧。只是直到我们到达那里，对吧？对吧？如果我们只是沿着滑坡滑行，直到到达那里，我们只是在进行渐进式的生产力提升，直到到达那里。我只是想指出，当你有一个巨大的金钱喷泉时，你只需要通过一些立法说，“嘿，给这些农民一些零头。”而这些农民得到的零头将比他们从农场获得的任何收入都要多。>> 我也同意这一点，顺便说一句。>> 好的，听着。我们已经远远超出时间了。隆，这是自杀行为，我不知道我为什么要这样做，但是，你知道，似乎我们可能，我们可能有一个机会让我进入狮子窝，然后做一个关于较小风险的末日辩论节目。只有傻瓜才会闯入狮子窝。>> 我得看这个家伙。我爱他。我不想。>> 是的，我知道。是的，这就像内战末日辩论。内战。 [笑声] 这是约翰。这是一个及时的对话，因为实际上另一个人叫约翰，约翰·斯图尔特，你有没有关注他？他在社交媒体上被抨击，因为人们找到了他揭示他对基本经济学无知的剪辑。>> 好的，我，>> 你知道，没有冒犯，但是的，有一个剪辑，约翰·斯图尔特在和比尔·奥莱利谈话。我从来不是比尔·奥莱利的粉丝，但他肯定在这次随机辩论中说了一句有道理的话，我看到约翰·斯图尔特说，就像，“是的，你知道，克林顿之后没有债务。没有国债。所以布什，乔治·布什创造了整个国债。然后比尔·奥莱利不得不纠正他说，“嗯，实际上克林顿并没有把债务降到零。他降低了赤字。他有一个预算盈余，但这与国债不同。国债是累积的。”>> 而且这有点令人震惊，你知道，就像，人们会犯错误，但事实证明，这实际上代表了约翰·斯图尔特对经济学相当无知。所以他有点像，你知道，左派的冠军。而且，就像我们许多人一样，我高中和大学时看着约翰·斯图尔特，认为他是一个伟大的英雄，你知道，批评每个人。但后来我意识到，哦，好吧，他在这个巨大的部门里确实有些无知。嗯，所以，你知道，>> 这是一个很好的网站经济学。我，我，我会完全承认，并且知道我可能在广阔的知识领域完全无知。然而，重要的是，我认为我代表了普通大众，因为他们在许多领域也同样无知。所以，我认为，你知道，这就是，这就是，这就是我们得到的牌，就是对许多领域的一无所知。所以，嗯，我不知道。我们可以谈谈。也许我甚至，我甚至会穿领带，如果你，你知道，只是为了>> 只是为了真正打扮一下。好的。嗯，这是我们有史以来最长的“警告信号”。嗯，很好。很高兴能见到你们，一如既往。我甚至不知道。嗯，我，我，我只是挥挥手。 [笑声] >> 好的。>> 为什么？为什么？好的。好的，伙计们。是的。好的，再见。我们这次要脱离剧本了。