Transcription
大家好，我是 Andrew Edgar，来自 The Bullwork。这个周末在五角大楼发生的事情简直是疯狂的。很明显，现在最重大的新闻是，我们可能已经与伊朗开战了，也可能还没有。我想我们很快就会知道更多关于这件事的消息。今天早上我们对此进行了一次直播。我们今天在这里要谈论的是五角大楼发生的另一件完全不同的事情。一个非常疯狂的故事。我们曾以为这是本周军事方面最疯狂的故事，直到有其他事件发生了。但这可能是一个具有同样重要长期影响的故事。我们将拭目以待。我们谈论的是国防部（DoD）的 SPAT，它现在已经演变成了一场针对人工智能公司 Anthropic 的全面战争。也许你们对这家公司更熟悉，因为它是聊天机器人 Claude 的开发者。他们在这场与这家曾经是国防部顶级承包商的人工智能生产商的斗争中，基本上是动用了核武器。我一直在我的通讯《Morning Shots》中关注这个故事，大约有一周了，但显然这是一个更长的故事，现在才刚刚浮出水面。所以，我很高兴能请到 Hayden Field 来一起讨论这件事。她是 The Verge 的高级人工智能记者。她对这些事情了如指掌。Hayden，谢谢你今天来谈论这个故事。>> 是的，非常感谢你的邀请。这确实是疯狂的一周。>> 我的天哪。好的，那么，我们先从这里开始吧。也许你可以给我们介绍一下，就像两周前，我们还处于一个非常不同的现状。当时已经有一些迹象表明这场斗争正在发生，但你能否给我们梳理一下，在过去的十天左右，Pete Hegathth 和 Anthropic 之间是如何分崩离析的？>> 当然。一切都始于 1 月 9 日，当时 Hegathth 发送了一份备忘录，说“你知道吗，我想重新谈判我们所有现有的 AI 合同，允许任何合法用途。”所以，在此之前，你知道，人工智能公司可以并且确实将自己的条款纳入这些合同，比如“你不能用于这个目的”。如果你要用于这个目的，你必须做 X、Y 和 Z。他却说：“不，我想把所有这些都去掉，只移除所有障碍。”所以，你知道，这显然引发了一系列谈判。现在，据我的消息来源告诉我，他们在一段时间内是以相当好的信任进行的。然后，你知道，就像你说的，大约在十天前，事情似乎变得相当糟糕。我认为谈判已经停滞了一段时间。Emil Michael 已经发了很多推文。有很多公开的社交媒体帖子来来回回地被交易。公开声明也被来来回回地交易。大量的侮辱。事情变得越来越煽动性。Anthropic 则坚持自己的立场，他们说：“嘿，你知道，我们不能容忍国内大规模监控，也不能容忍致命自主武器。”这基本上意味着人工智能被用来杀人，而没有人为监督。所以，这是他们的两条底线。他们说：“我们在这两件事上不会让步。”这已经包含在我们与你们的现有合同中。所以，让我们保持现状，或者尝试找到一个折衷方案。似乎五角大楼真的想要任何合法用途，而他们不能容忍任何类型的例外。所以，是的，事情变得有点糟糕了。你知道，我一直在报道这件事。是的，每天都有不同的事情发生，周五的时候，老实说，每 30 分钟就有一件事发生变化。你知道，有一段时间我们认为他们会达成一项协议，某种形式的妥协。你知道，即使那天我与 Anthropic 的人交谈时，就像下午很晚的时候，他们也认为事情可能会有所不同。但是，你知道，下午 5 点到了，他们被提供的最后期限，要么接受，要么就……然后一条社交媒体帖子发出，说他们将被列为供应链风险，这很奇怪，因为这通常是他们绝不会给美国公司贴上的标签。这通常是为像外国敌对公司或可能存在某种网络安全风险的公司保留的。通常，例如中国的公司会出现在这个名单上。但是，据我们所知，从来没有一家美国公司。所以，这是一件有趣的事情。它引起了很多警报。我从双方都听到了。人们担心，你知道，如果你不同意特朗普政府的说法，你是否会被随意贴上供应链风险的标签？你知道，这些是正在被提出的问题。是的，基本上这意味着，我们并不完全确定这其中的具体细节是什么，但基本上看起来，如果你与 Anthropic 合作，并且你是，你知道，国防承包商之类的，你需要向五角大楼或国防部提供一个没有 Anthropic 参与的版本。所以，这将极大地影响 Anthropic 的业务。不是他们的消费者业务，但他们也有很多企业业务，很多军事业务。所以，是的，这绝对会是未来几天非常有趣的事情。我敢肯定，我们都会在周末加班更新。>> 我很难，我真的很难消化整个故事有多么超现实，因为 Anthropic 在人工智能实验室中，就其与政府的关系而言，在过去几年里，其最显著的特征之一就是他们一直处于与国防部整合的最前沿，他们说：“是的，我们认为我们的模型用于这些国家安全目的非常棒。”你知道，我们认为这对美国政府能够部署这些东西来对抗世界各地的威权政权是非常有利于民主的。他们是唯一一家拥有合同，可以在保密环境中部署这些人工智能模型的实验室。比如 XAI 没有，OpenAI 没有，Google 没有。你知道，这些东西已经相当深入地融入了五角大楼的战争规划以及他们在幕后所做的工作。据报道，例如，当五角大楼几个月前抓捕委内瑞拉独裁者尼古拉斯·马杜罗时，就使用了这些技术。所以，正是因为他们迄今为止的紧密整合，因为这似乎是一个如此边缘化的争议，对吧？就像关于假设的潜在未来致命自主武器。我的理解是，也许如果我错了，请纠正我。我的理解，以及我与之交谈的许多人，我的许多消息来源的理解是，Hegsthth 对此的威胁，将他们列为供应链风险，是如此的夸张和歇斯底里，以至于许多人只是认为，好吧，这是他现在能用来恐吓 Anthropic 的最大手段，试图让他们屈服。而如果 Anthropic 仍然坚持这些底线，Hegsthth 可能会撕毁他的政府合同。这对 Anthropic 来说将是非常糟糕的。可能会转向使用其他一些模型。但那甚至不在人们的真实感知中，认为那是一个真正可能发生的事情。我疯了吗？当时 Anthropic 的感受如何？>> 不，这正是我从所有消息来源听到的。他们认为，你知道，就像一场“玩命游戏”。你知道，每个人都坚持自己的立场，说：“哦，我们一点都不让步。我们一点都不让步。”而到了周五下午 5 点的最后期限，一切都会改变，会有某种形式的妥协，或者至少就像你说的，他可能会撕毁他们的政府合同，这不会让他们破产。我的意思是，你知道，这是一大笔钱，但不是>> 他们有大量的其他业务，也能赚到同样多的钱。所以，是的，这确实是人们认为会发生的事情。现在，这很疯狂，因为我也听说 XAI 和 OpenAI 也已经签署了条款。没问题。这是某些报道所说的。现在，当昨天下午事情变得非常紧张，你知道，所有的谈判都到了白热化阶段，我们不知道会发生什么。OpenAI 的首席执行官 Sam Alman 据说发了一份内部备忘录，说：“嘿，我正在处理一个协议。敬请关注。我们有和 Anthropic 同样的底线。”他这么说的。现在，昨晚晚些时候，他说他们最终与五角大楼达成了一项新协议，并说：“你知道，我们获得了同样的条款。”基本上，他暗示的是 Anthropic 正在争取的东西，但我们也保住了我们的合同。你知道，我们会努力确保国防部能够将同样的协议提供给所有其他实验室，我们认为他们应该签署。现在，他在这里暗示的是，以及很多人对此的解读是，我认为他正在试图获得声誉，说：“嘿，我们获得了同样的条款，只是因为我们表现得很好，现在我们将，你知道，成为英雄，并鼓励国防部将同样的协议提供给所有其他实验室。”但是，如果你仔细阅读他的声明，你会发现他可能签署了一份比 Anthropic 所争取的东西要差的协议。也许是国内大规模监控或致命自主武器。在他声明中的措辞似乎有些不同。所以，我正在处理这件事，但看起来协议可能有点不同。我们只是不知道>> 这种措辞和定义是如何改变的，以及他们到底在这里让步了什么，而 Anthropic 昨天却在与之斗争。>> 是的，我很高兴你这么说，因为我必须说，我在 OpenAI 没有任何消息来源。我无法联系到 OpenAI 的任何人，也无法得到他们对此的看法。但就我个人而言，从 Sam Alman 对此的说法来看，他的说法有点含糊其辞。他们认为，任何潜在的致命自主武器系统都需要人类监督。而五角大楼已经有政策规定，需要对任何潜在的致命自主武器系统进行适当的人类监督。但这意味着，人类需要监督人工智能的训练。他们需要测试人工智能。对于潜在的致命自主武器系统，比其他武器系统会有更多的繁文缛节。最终，该武器系统所做的任何事情，系统中的某个特定操作员最终都要在法律上对此负责。但这并不是 Anthropic 的问题所在。他们说：“不要使用这些系统，即使是我们的当前模型。我们我们我们我们不能同意我们的模型被整合到这些东西中。”所以，我非常认为 Altman 的声明与同样的底线不符，但有趣的是，他却把它说得好像是这样。我认为他，我的意思是，这些其他实验室处于一个奇怪的境地，因为 Anthropic 因为坚持原则而获得了大量的赞誉，而他们不想显得像“工贼”之类的，对吧？我的意思是，你现在在你的普通 OpenAI 工程师的脑子里在想什么，当他们看着这些事情在领导层层面发生时？>> 完全正确。我认为他们现在真的不知道该怎么想。而且，我当然没有和很多人交谈过，只是和一些人交谈过，但似乎，你知道，他们只是听 Sam 告诉他们什么，然后他们就像，他们实际上不允许看到实际的条款。所以，他们有点不知道该怎么想。他们正在试图收集信息。你知道，Anthropic 的员工。似乎也是一样。他们就像，“好吧，OpenAI 刚刚得到了我们一直在反对的同样的协议吗？他们是怎么做到的？”然后他们会想，“好吧，我想不是。”尤其是因为措辞，就像你说的。从我看到的报道来看，Sam 可能同意了人类对致命自主武器的责任，这意味着，是的，这可能发生在事后，也许，你知道，不是事前。Anthropic 正在争取的是，就像你说的，根本不行。现在，也许以后，并且在技术进步的过程中弄清楚条款。另一件有趣的事情是，我认为 Anthropic 的首席执行官 Dario 被描绘成一个反战英雄。但正如你提到的，Claude 已经被国防部使用了很长时间，而且它基本上是同类中最值得信赖的技术。另一件有趣的事情是，在他的声明中，几天前 Dario 的声明，他提到他对致命自主武器完全没问题，他只是现在没问题。他甚至主动提出加快与五角大楼在该技术上的研发速度，并说：“嘿，我会和你一起努力，让这些系统达到我感到舒适的水平，然后说你可以使用它们。”但据他说，他们显然没有接受。但是，是的，有趣的是，它被描绘成一个非黑即白的事情，而实际上，你知道，他对致命自主武器的接受程度比普通人想象的要高得多，只是现在不行。>> 是的。我的意思是，这几乎很难向那些没有逐字逐句关注这个章节的人传达，所有这些不同的底线有多么奇怪。就像你说的，我的意思是，这就像 99% 的情况是 Hegthth 想要的那样，即国防承包商人工智能公司，直到现在。他们与国防部合作得天衣无缝，也许其他实验室也希望如此，但他们与五角大楼的整合程度远不及 Anthropic。然而，你却得到了这个。我的意思是，国防部现在所有的言论都是 100% 的，你知道，Dario Amade 有上帝情结，他，你知道，他希望美国失败，希望中国成功。这是一个激进的左翼公司。所以，你陷入了一个奇怪的境地，就像 Anthropic 不是一个激进的公司。他们根本不是一个左翼公司。我的意思是，这些东西并不完全符合美国国内的政治。但他们乐于参与国家安全事务。然而，你知道，我想他们确实有这些真正的底线，他们愿意让公司遭受损失，而不是违反。所以，我想，人们称赞他们这一点，即使他们不是，你知道，他们不是那种去把花插在枪管里的人，对吧？我的意思是，这家公司不是这样的。非常非常奇怪。非常非常奇怪的局面。让我们稍微谈谈接下来会发生什么。我的意思是，Anthropic 表示他们将挑战这项供应链风险的认定。我真的不明白，也许这也不是你的领域。你知道这会是什么样子吗？我们预计在法律挑战方面会看到什么？>> 是的，我对此了解不多，因为这是一场法庭斗争，而且它将非常有趣。我认为这有点前所未有，因为我从未听说过供应链风险的认定被公开宣布过。我认为，对我交谈过的许多人来说，这有点前所未有。所以，看看它在法庭上如何发展将会很有趣。它很可能不会被维持。但是，我们只是不知道。所以，而且问题是，与此同时，他们会损失多少业务？你知道，到目前为止，我看到 Anthropic 发布了一个问答，我想是给客户的，就像，你知道，你应该怎么做。下一步是什么。在你的工作中，如果你也与五角大楼合作，你可以做什么，不能做什么。所以，你知道，我认为他们正在努力解释这一点，而人们已经不理解了。我还认为，看看他们是否会接受 OpenAI 试图让国防部向所有其他实验室提供的 OpenAI 协议将会很有趣。你知道，我认为如果他们坚持同样的条款，他们可能不会接受，但是，你知道，如果他们真的感受到业务损失的痛苦，也许他们会屈服。我们真的不知道。但是，是的，这将是未来几天/几个月/无论需要多长时间才能解决的问题，以及他们是否会上法庭。我也可以问你一点关于劳动力角度的问题吗？我知道有很多人，我的意思是，首先，对于很多在这些公司工作的人来说，这是一种长期存在的低级焦虑，比如也许我们去了 Anthropic，或者任何一家科技巨头，是为了原则原因，比如用最新的技术让人类变得更好，以及所有这些事情，而我们可能并不特别乐意为五角大楼做很多国防承包工作。那么，在这种情况下，人们的动态是怎样的？再次，我很难真正问，比如，每个人都在想什么？但是，就你与这些公司内部人士的交谈而言，他们是如何平衡这些不同压力的，因为这场国防承包斗争如此占据新闻，甚至可能影响到这些公司的命运？>> 是的。不，我很高兴你问了。这是一个很棒的问题，因为我的意思是，这就是人们在这些公司里担心的事情。我与微软、亚马逊、AWS、谷歌、YouTube、OpenAI 等公司的人交谈过。而且我知道，你知道，其中一些地方没有像 Anthropic 那样的协议。有些有，但他们都在以某种形式与军方或联邦机构合作。我从这些公司的员工那里听到的，尤其是工程师，是随着时间的推移，他们越来越难以将他们正在做的工作与他们的一些价值观相协调。尤其是因为很多时候，他们工作的公司正在改变关于技术如何被使用的叙事，你知道，他们觉得他们有时没有得到完整的故事。所以，这很艰难，因为，你知道，很多人当年加入科技行业，是为了让人们的生活变得更好。他们真的认为他们是在一家公司工作，例如，这家公司有一个口号，比如“不作恶”，或者是一家真正受到喜爱的公司。就像我们记得，你知道，十年前如果你在谷歌或亚马逊工作，人们会说，“哇，那太酷了。”他们想听你工作的全部内容。现在，很多时候反应完全不同。所以，我认为，对很多人来说，很难将他们每天的工作与普遍的疲劳和倦怠相协调，这种疲劳和倦怠来自于不知道自己是否每天都在积极地让世界变得更糟。而且你没有所有信息来做出这个决定。所以，这就是为什么我认为很多人正在离开科技行业，尤其是人工智能行业，然后去成为比如山羊农或诗人。就像我们看到这种情况比比皆是。这些都是真实的例子。这很有趣，因为你在这些地方工作，然后每天你不仅在做你的工作，你还在经历一场存在危机，而且，你知道，我认为很多人无法长期这样做，除非他们得到他们想要的答案。>> 是的。是的。我的意思是，这是如此疯狂，我的意思是，我一直在说，我一直在说。我之所以对这个故事如此着迷，是有原因的，即使这是你的领域而不是我的领域。我的意思是，我们甚至几乎没有谈论过它的一个角度，而我们已经谈论了 16 个不同的疯狂角度。那就是退回到 10,000 英尺的高度，就像，好吧，我们正在构建这些疯狂的人工智能模型。我们并不真正了解它们是如何工作的。构建它们的人甚至不完全了解它们是如何工作的。没有人知道它们的能力的上限是什么，或者它们将具有多大的颠覆性。显然，这项技术非常强大且非常酷，而且有很多事情会发生。我们可以模糊地想象一个未来，很多事情会因此而变得非常不同，但我们并不知道是什么。而且，而且，希望在某个时候，会有公共政策问题需要回答，关于世界上的民主国家如何监管这些东西，对吧？而现在，不仅几乎没有实际的立法发生，政府的所有实际行动都是在火上浇油，而不是其他任何事情。对吧？这是政府介入试图打破一些州一级的限制。他们说：“不，不，不，不。我们可能会在某个时候在联邦层面处理这个问题，但你们肯定不能在那里，在州一级这样做。”然后就是这样的事情。就是五角大楼基本上说：“看，无论 AI 会发生什么，有一件事是肯定的，你们不会阻止我们使用它来制造，你知道，自选目标死亡机器人之类的东西。”就像大多数人最糟糕的恐惧，或者他们能想象到的关于这些技术最糟糕的事情，这些都是政府明确追求的目标。他们说，无论发生什么，我们绝对不会让你们阻止我们拥有这个。我的意思是，我们现在在哪里？发生了什么？我不知道。那只是我的一番牢骚。我不知道你有什么要说的。我只是不敢相信这些事情。>> 这正是如此。我的意思是，我六年前开始报道人工智能，我记得当时这是每个人遥远的恐惧。就像，哇，如果有一天发生这种情况会怎样？没有人能想到会这么快，或者会如此令人发指，就像公开的那样。就像 Anthropic 唯一拒绝的事情是，“请让人类对这些自主杀人系统有一些监督，请让我们不要进行国内大规模监控，就像对真正的美国人一样。”而他们却说：“不，这是我们无法接受的。就像，我们不能和你们签约。”就像，这很有趣，这一切都在公开场合上演，你知道吗？我的意思是，我前几天写的文章叫做“我们不必拥有无人监督的杀人机器人”，因为很多工程师和很多公司都这么觉得。他们说我们不必这样做。而且，有趣的是，我认为在法律上，像人工智能公司在这种情况下，同时与五角大楼谈判，是不允许他们聚在一起进行策略性讨论或制定计划或任何事情的。但是，由于这一切都在公开场合上演，我认为这本可以，我的意思是，很容易就能独立地采用同样的底线。我不知道。我的意思是，是的，这真的很有趣。不仅是正在发生的事情和正在争夺的微小底线，而且是这一切都通过像每个人的侮辱性帖子公开进行。>> 是的。是的。而且，我的意思是，关于我们可能看到一种情况，或者我们可能已经看到一种情况，即其他公司也采纳了同样的底线。我的意思是，显然，这样做会承受一定的公众压力，否则 Sam Alman 就不会含糊其辞，让它听起来好像他们遵守了同样的底线，尽管正如我们刚才讨论的，似乎他们并没有。与此同时，你知道，XAI，埃隆·马斯克的，你知道，Grokbot，就在这几天，当这一切发生时，他们刚刚签署了一份大合同，可能为五角大楼进行保密工作。现在，OpenAI 也似乎做了同样的事情。所以，我的意思是，我猜我至少在某种程度上很高兴 Grok 不会是唯一一个在那里运作的机器人。我不知道。这也不是我的领域。右翼实验室化的人工智能做出这些决定。但是，我的意思是，这显然是一条未曾选择的路，我认为你想说的是这个观点。我们本可以，在公众的愤怒声中，看到这些人工智能公司之间有一定的团结，说好吧，我们也将遵守这些底线。我们将支持 Anthropic 一点。我真的没看到过。所以，这很糟糕。我我可以让你走了。我们大概可以到此为止了。除非你还有什么要补充的，在我们分开之前？>> 是的，我认为这只是，这是一种反乌托邦的局面，无论是正在发生的事情，还是它的公开方式。而且，我认为，你知道，它每天都会改变。所以，我很高兴人们在谈论这件事。我很高兴，你知道，公众对这件事有了更多的了解，因为，你知道，很多这样的对话通常都在密室里进行，而且，你知道，现在我认为公众了解正在争夺的条款以及它如何影响他们很重要。而且我们很高兴你来帮助我们理解这一切。Hayden Field，The Verge 的高级人工智能记者。感谢你今天和我们在一起，也感谢所有在 YouTube 和 Substack 上观看的观众。感谢订阅。我们希望你继续在所有频道上关注我们 The Bullwork。获取我的通讯。去关注 Hayden。Hayden，人们在哪里可以找到你？我应该问一下。>> 当然。在大多数社交媒体上搜索 Haydenfield，或者在 The Verge 上搜索 Haydenfield。我所有的署名都在那里。>> 完美。好的，感谢观看，下次再见。