Transcription
我不想让你变成一个需要在空中进行道德判断的人，而是想和你谈谈拥有这种访问权限的重要性，以及五角大楼到底用这个软件在做什么。我们还没有达到拥有无人自由武器的阶段。皮特·赫格塞斯在问 Anthropic 什么？嗯，我认为这里有几件事值得深入探讨。其中第一件事是，在未分类的国防部军事计算机网络中，Claude 是唯一一个真正已经通过先进人工智能能力提供有意义的军事和情报优势的活跃人工智能模型。例如，我们从《华尔街日报》的报道中看到，对马杜罗的突袭是由进攻性网络能力实现的，如果没有 Claude 的参与，没有 Anthropic 的参与，这是不可能实现的。自从 ANTHROPIC 赢得了那份价值 2 亿美元与国防部合作的合同以来，它们一直在所有前沿人工智能公司中最为积极地支持国家安全。所以这场争端来得不是时候，因为一方面，国防部内的用户群非常喜欢 Anthropic，喜欢 Claude，并且表示，至少从我进行的对话来看，它们对使用限制从未被触发过。Anthropic 从未说过“不”。值得指出的是，当 Anthropic 在 2025 年 7 月首次谈判这项合同时，国防部对一套比 ANTHROPIC 目前要求的更长的限制措施感到满意。它们已经撤回了许多要求。现在它们只说，我们不希望我们的工具被用于大规模国内监控，我们不希望我们的工具被用于没有人在回路中的自主致命武器。这是一套相当温和的要求。而国防部认为这是如此不合理，以至于它们现在威胁要将 Anthropic 指定为供应链风险，这是一个重大的升级。那么你认为这是不合理的吗？这会严重阻碍国防部保护国家安全的能力吗？为了公平起见，国防部表示，它们想要一份允许 Anthropic，或者抱歉，要求 Anthropic 将其工具用于所有合法用途的合同。那么，它们为什么会想要这样呢？你可以理解，当生命受到威胁，当国家安全受到威胁时，国防部不想与供应商就“我们能用它做什么？我们能用它做什么？”进行辩论。它们需要灵活性，我理解这一点。然而，国防部在 2025 年 7 月已经同意了更严格的条款。因此，虽然我同情国防部需要合同条款的灵活性，但我认为不合理的升级是威胁要将 Anthropic 指定为供应链风险。这就是我们发现公司秘密拥有中国或俄罗斯所有权时所做的，在白宫表示人工智能竞赛与冷战时期与苏联的太空竞赛相当的时候，去打击国内的人工智能领域的佼佼者。你不希望因为这样的事情而毁掉你行业中的一颗皇冠明珠。解决这场争端有一种比政府采取的绝对主义立场更好的方法。嗯，这与 2018 年谷歌退出时的情况大相径庭。现在，这些公司正争先恐后地进入。或者 Anthropic 只是一个例外，因为 Gemini 已经准备好了，或者它们随时准备替换 Anthropic，似乎是这样。是的，至少在未分类的军事网络上，所有主要的美国模型提供商都已经活跃在像 Jen 这样的平台上。我不知道，但 Anthropic 真正脱颖而出的是其企业编码能力，并通过与 Palantir 的合作，使其能够满足情报和作战界一些最重要的用例。所以 Anthropic 目前正在提供最高的性价比。它们参与了最引人注目的行动。到目前为止，用户社区非常喜欢它们的产品，并且表示自 2025 年 7 月以来，它们在现实场景中并未遇到这些限制。现在，我想说一下 Anthropic 目前正在谈判的用例，例如致命自主武器。确实，这是俄罗斯目前在乌克兰正在使用的能力，例如 VTI V2 无人机，它自主运行，使用人工智能进行致命能力。所以我可以理解为什么国防部会对一家公司说：“我们不希望你决定我们能否匹配我们对手的能力。这是我们需要做出的决定。”但是，在进行辩论时，你真的需要威胁要将该公司指定为外国，你知道，供应链风险，或者至少是外国供应链风险的等同物吗？有更好的方法来讨论这个问题。嗯，请提醒我们，格雷戈里，如果 Anthropic 确实获得了该指定，会发生什么？这远远超出了仅仅取消与国防部的合同。是的，对于拥有庞大且快速增长的商业客户群，每年数十亿美元收入，并且每年呈指数级增长的 Anthropic 来说，最大的风险不是这 2 亿美元的国防部合同。供应链风险指定的最大威胁是，它可能阻止其他为国防部供货的公司与 ANTHROPIC 做生意。在最坏的情况下，这可能使 Anthropic 成为美国经济一个巨大细分市场的一个不可接受的选择，并可能对其业务造成致命打击。这就是为什么我认为如果你想让初创公司对与国防部合作感到兴奋，你不应该随意挥舞这样的威胁。你想告诉他们，如果你只是试探一下，我们就会抓住你把你拖进来吗？这不是一个好信息。不是吗？让我们稍微放大一下。你提到了 Palantir，而且在过去几周里，从我们在彭博社的视角来看，市场反应令人瞩目。即使在行业内部，当谈到生成式人工智能时，自从你上次加入我们以来，我们已经写掉了整个行业，首先是软件。现在我们转向网络安全。现在我们看到 Palantir 跌落神坛，因为显然它曾经提供的这项极其独特的服务，五角大楼可以通过人工智能在一夜之间就能想出来。我们是不是太超前了？嗯，你知道，你让我回忆起我以前的 MBA 经验，而不是我的公共政策经验，但我很高兴去谈论。让我说，美国和中国的软件行业看起来非常不同。这是因为美国的软件行业一直缺乏软件工程师，这就是为什么软件即服务作为一种商业模式一直很有吸引力。在中国，他们有大量的软件工程师。所以真的没有软件即服务商业模式。事实上，大多数公司只是拥有内部开发人员，为他们自己开发定制的东西。所以像 Salesforce 这样的 SaaS 在中国几乎不存在，尽管公司仍然执行这些功能。那么，如果 Gen2 AI 使美国软件生态系统看起来像中国软件生态系统，拥有大量的软件工程师呢？那么，当你只需要引入一些生成式 AI 代理来创建每个人都想使用的完美、高度定制的软件时，你真的需要为使用其服务的一小部分而向 Salesforce 付费吗？这可能是一次行业的大规模重新定位，因为瓶颈可能会被打破。所以听起来你认为在这种情况下怀疑是合理的。你至少需要每个公司都有一个理由来解释为什么海啸不会绕过他们。嗯，这显然对劳动力市场提出了巨大的问题。最近几周，美联储的官员们一直在谈论这个问题，他们甚至不知道如何正确评估它将对生产力产生什么影响，它将对劳动力产生什么影响。丽莎·库克今天建议说，她甚至不知道货币政策是否是能够抵消它对经济影响的工具，这让人想起了你戴上政策帽子。什么样的政策工具可以做到这一点？它应该来自财政领域和政府。所以，为了做到这一点。特朗普总统需要今晚在国情咨文中就此采取行动，以应对这种情况吗？是否还有可能领先于它？我预计特朗普总统将对人工智能发表非常乐观的讲话，因为这是一个提高生产力的巨大机会。这相当于拖拉机的发明。但值得思考的是，如果你读过《愤怒的葡萄》，这本书讲述了那个时代的农民经历机械化，对他们来说那是一段非常艰难的时期，因为长期的生产力提高带来了更多的经济增长，更多的就业机会，但是在不同的行业。你知道，20 世纪 20 年代，美国劳动力的农民人口大约占所有劳动力的三分之一。今天，即使我们生产的粮食多得多，也接近于百分之一。现在，事情是这样的。故事中的人类能够去制造业或服务业工作，因为他们可以重新培训并获得拖拉机没有的技能。但你知道谁没有重新培训以找到新技能吗？马匹，美国经济中的工作马数量从数千万下降到几乎为零，因为它们无法重新培训。没有比较优势。现在，是的，我只是想说，关键问题是，人工智能是一项正常的技术，主要用于提高人类的生产力，还是我们跨越了那个门槛，人工智能可以做得比人类更好、更便宜？人们为什么要雇佣人？如果你听取了包括 Dario Amodei 在内的主要人工智能领导者的意见，以及其他所有公司的同仁，我认为在这个阶段，怀疑论者是谷歌 DeepMind 的首席执行官，他预测我们将在十年内跨越那个门槛。Dario 认为我们将在 18 到 24 个月内跨越。你晚上睡觉时会想，你正在从事将导致我们灭亡的技术吗？你知道，杰夫·贝索斯在亚马逊作为一家书店的崛起时说过一句线。亚马逊并不是让实体书店倒闭。未来是让实体书店倒闭。你不是。亚马逊只是未来的信使。我认为，确实有可能人工智能会达到所有的炒作，我们实际上正生活在那个变革性的时刻。这很疯狂，因为每一代人都说他们正经历着某种激进的变革时刻，但这一代人可能真的不同。好的，那么对于那些现在开车听我们讲话，或者在电视上看我们，并且正在想“我的天哪，我的天哪，我的工作不安全了”的人。你能给他们一些真正的保证吗？如果你整天做电子表格，或者看法律文件，我的意思是，我们被告知人工智能可以轻易取代的工作类型。所以我想说，你可以根据工作的自动化难度来对工作进行分类。云代码之所以成为生成式人工智能的突破性时刻，并非偶然。这是因为互联网上充斥着极其高质量的训练数据，比如 GitHub 上多年的所有内容，如何进行极其高质量的编码工作。但它也意味着代码可以即时验证，这意味着 Clyde 可以生成一个答案，然后运行一个测试。这个程序真的能做我想让它做的事情吗？这意味着它可以运行数千万次测试来生成自己的训练数据。但是，如果你从事一个领域，互联网上没有多少训练数据可用，或者它不容易进行自动化测试，那么这种事情真正实现自动化还需要很长时间。但是，在一百年的时间范围内，我很难说为什么会有人是安全的。