Transcription
欢迎回到人工智能政策播客。我是马特·曼德，今天我将与格雷格·艾伦谈论一些最大的人工智能政策新闻，包括Anthropic与五角大楼的冲突、人工智能的经济影响，以及一位政府高级官员声称DeepCQ走私了人工智能芯片来训练其最新模型。格雷格，自从我们上次新闻回顾以来已经有一段时间了，很高兴能回来。这是迟早的事，我很高兴我们能做到。那么，让我们进入我们的第一个环节。在过去的几个月里，五角大楼至少可以说对Anthropic拒绝移除模型安全措施和用户政策要求感到沮丧。而这种沮丧现在已经达到了沸点，就在我们录制节目之前。事实上，国防部长皮特·赫格斯给了Anthropic首席执行官达里奥·阿姆迪一个2月27日的最后期限，要求他遵守他的要求，否则将威胁将Anthropic列为“供应链风险”，或援引《国防生产法》。我们稍后会详细讨论这意味着什么，以及为什么这很不寻常，但首先，你能解释一下五角大楼目前如何使用Anthropic的模型，以及谈判目前处于什么阶段吗？>>当然。首先，Anthropic与国防部签订了一份价值约2亿美元的合同，该合同通过首席数字和人工智能办公室。这实际上是我曾经工作过的那个组织的继任者。我曾是联合人工智能中心的战略与政策主管。该组织在2023年3月成立时被并入了CDAO组织。所以，嗯，Anthropic与国防部有合同。他们还与Palunteer有合作关系，Palunteer是国防部和情报界许多事务的重要供应商。那么，他们具体在做什么呢？首先需要注意的是，他们所做的大部分工作都是机密的，并且在非保密网络上进行。所以，当国防部在电脑上进行操作时，它会在多个网络上进行。有Nipper、Sipper和Jay Wix，甚至还有更多的私有网络。但这是三大网络。Nipper是非保密网络。Sipper是保密的秘密网络，而JWIX是TSSCI网络。值得注意的是，Anthropic是唯一一个在保密数字网络上提供人工智能能力的人工智能模型供应商。而且这种情况已经持续一段时间了。所以，其他人工智能公司，如谷歌、XAI、OpenAI等，它们为国防部提供人工智能能力，但至少目前为止，它们只在非保密网络上提供，这确实限制了它们的影响力，尤其是在与国防部敏感活动相关的应用上，无论是实际的战争还是情报侦察类事务。是的，让我快速插一句，因为我认为实际上今天早上，或者可能是昨天下午，XAI签署了一项协议，我们稍后会讨论，这将使它们进入这些保密网络。是这样吗？>>是的。但这只是一个允许它们进入的协议。现实情况是，Anthropic已经在那儿了，而且有些作战部门已经在使用Anthropic，并与Anthropic的技术栈深度集成开发了能力一段时间了。例如，华尔街日报不久前报道称，导致委内瑞拉前总统尼古拉斯·马杜罗被捕的突袭行动，正是由Anthropic的人工智能能力实现的。我猜这与网络攻击相关的能力有关，因为Anthropic的能力之一就是网络安全，无论是防御方面，还是在这种情况下几乎肯定会发生的进攻方面。所以，现实情况是，就目前而言，Claude在为国防部提供前沿大型语言模型人工智能能力方面是独一无二的。当然，还有其他类型的人工智能能力，比如Palunteer通过Project Maven提供的计算机视觉能力，或者国防部和情报界的其他部门用于语音识别的能力。但Anthropic真正发挥作用的是其与编码相关的能力，以及利用大型语言模型的其他方面。>>是的。五角大楼官员明确承认了这些能力的重要性。>>是的。根据Axios的报道，我必须向Axios致敬，它们对这个故事进行了非常出色的报道。它们引用了一位匿名的政府高级官员的话说，竞争模型在专业政府应用方面“远远落后，使突然切换变得复杂”。而且，我认为切换成本是故事中一个非常重要的数据点，不仅对国防部而言，而且对更广泛的人工智能生态系统而言。因为我认为我们已经看到，至少在个人消费者使用的聊天机器人界面中，大型语言模型的切换成本相对较小。你可能这个月使用ChatGPT，然后决定尝试Claude，发现你更喜欢它。对个人用户来说，切换不是什么大事。但这意味着，一旦你开始构建利用这些能力的应用，也许是规模化地使用API接口、使用代理等，你实际上做了很多难以复制的构建和集成工作，使得切换成本很高。这就是为什么国防部对Anthropic如此沮丧，因为将其排除在外确实会产生影响。>>是的。那么，请详细说明一下目前的情况。我的意思是，Anthropic一直在要求或迫使国防部遵守其使用政策，对吗？>>这导致了数月的谈判。>>当然。所以，任何时候你使用在线软件，你可能都习惯于点击“我同意”按钮，接受服务条款和条件。>>那是商业许可，那是针对个人用户许可的。Anthropic拥有企业级的同等产品，特别是针对其政府客户，这些服务条款显然更加宽松。你知道，政府可以做很多商业版本的Anthropic不允许做的事情。例如，如果你问Anthropic的Claude聊天机器人关于生物武器的问题，它很可能会说：“嘿，我不知道你对生物武器的真正兴趣是什么，但我不想参与这个对话。”而在国防部，他们可能有很多合法的理由想问关于生物武器的问题。生物武器防御是国防部的核心职能，了解可能是什么生物武器活动的信号，或者哪些国家历史上曾有过相关项目。我只是凭空想象，但关键是，国防部的人员有许多合法理由可以也应该进行对话，而这些对话在商业版本的Claude中会被限制权限和可访问性。但仍然存在服务条款使用协议。Anthropic是一个非常注重安全和安保的公司，试图以其道德承诺和利用人工智能造福人类、造福民主国家而脱颖而出。显然，他们在2025年7月与国防部签订第一份合同时，就有了服务条款。至少根据我与参与这些谈判的人的交流来看，他们的说法是，这些服务条款从未被提及过，至少在Anthropic放宽它们以允许进攻性网络能力几个月以来是这样。现在，随着国防部根据《国防部人工智能战略》重新谈判合同，他们真的在说，我们不感兴趣与拥有复杂服务条款的公司合作。事实上，我们只希望你同意我们可以将你提供的任何能力用于任何合法用途或所有合法用途。>>那就是关键的措辞。>>正是如此。那就是关键的措辞。国防部——我使用的是他们现在的称呼，尽管国防部也仍然是其法定名称的一部分。你知道，国会拨款法案称之为国防部，但我在这里会互换使用。国防部正在说他们需要灵活性，我对此表示同情。这可能意味着什么。有些军事能力是有争议的。有些军事力量的使用是有争议的，国防部不希望阻止关于这些使用案例的辩论在民主国家发生。对吧？但辩论的合适场所应该是在国会、行政部门或公众领域。国防部不希望与承包商、提供这些能力的供应商进行辩论。你知道，举个极端的例子，在越南战争期间，化学公司提供的凝固汽油弹的使用非常有争议，有些人会认为美国在越南战争中使用凝固汽油弹是不道德的，适得其反的。这是我——我是在为国防部说话——可以在国会进行的辩论，国会可以对国防部说，不行，你不能在这些使用案例中使用凝固汽油弹，或者在白宫国防部之间，你不能在这些情况下使用凝固汽油弹。但国防部不希望制造凝固汽油弹的公司限制其使用的时间和方式。就像国防部会说，那不是你的地方，对吧？那不是你在故事中的角色。你的角色是为我们提供能力，然后我们的民主机构，我们的军事机构将决定什么是适当的使用。现在，将其与Anthropic试图限制其能力的用例联系起来，它们基本上已经退让了所有东西。它们只剩下两件事，它们正在为之奋斗，希望被包含在最终的服务条款中，那就是大规模国内监视和使用自主武器攻击有人或有人驾驶的物体。所以，基本上，它们是在说致命性自主武器。值得注意的是，Anthropic甚至没有说你不能使用它们的技术来开发致命性自主武器。它们说你可以使用它们的技术来开发致命性自主武器。它们说的是，这项技术还不成熟，不足以支持部署这些技术的决定，以操作方式使用它们。所以它们说的是，我们愿意支持致命性自主武器的开发，但我们不能支持使用致命性自主武器。>>基于我们目前对技术成熟度的评估。这样做将是不负责任的，甚至可能适得其反。所以，Anthropic在致命性自主武器上的立场不是“永远不行”，而是“现在不行”。技术还太不成熟。所以，这是Anthropic提出的一个相当温和的要求，对吧？它们实际上只剩下这两件事。而国防部说绝对不行。我们不感兴趣参与这场辩论。我们希望支持我们的公司，当我们说跳，你就说多高。>>是的。如果你反对我们使用这些能力的方式，就写信给你的国会议员，对吧？但不要把它写进你的服务条款。那不合适。当我们的军人处于危险之中，当国家安全受到威胁时，我们需要灵活性来做出这些决定。再次联系到致命性自主武器，我们在这里CSIS的同事Katarina Bondar，将在未来几周内发布一份报告，指出俄罗斯显然正在乌克兰战争中使用致命性自主人工智能武器。所以，你可以想象国防部怎么说：“你，一家公司，怎么能声称告诉我们国防部，我们不能拥有俄罗斯目前在战场上使用的能力呢？我们应该自己决定是否要匹配俄罗斯的决定。也许我们会，也许不会，但那是我们的决定，不是你的。”而Anthropic只会说：“看，你签署了我们的第一批服务条款。当时没问题。你知道，我们现在宽容多了。我们已经大大放宽了服务条款。这是我们最后两个争议点。我们不想让步。来吧。”这基本上是它们的立场。是的。>>所以，所以，我认为你很好地阐述了双方的论点。然后，他们将这两个观点带到了录制节目几个小时前的一次会议中。据报道，他们进行了一次非常紧张的讨论。那么，这次讨论的结果是什么？我们现在处于什么位置？嗯，根据目前关于这个话题的报道，国防部长皮特·赫格斯向Anthropic的首席执行官达里奥·阿姆迪发出了最后通牒，说，正如你在这档播客节目中早些时候提到的，你直到2月27日，然后我们要么取消合同，要么将你列为供应链风险，要么援引《国防生产法》。>>这可能会给我们提供强迫你提供能力的法律授权。>>根据我们概述的服务条款。>>现在，这三项选择中的第一项，取消合同，我认为将是一个不幸的结果，但也是一个合理的结果。正如我所说，我同情国防部的立场，这是他们应该做出的决定，而不是公司应该做出的决定。但桌上的另外两个选择将是严重的升级，而且我认为如果国防部采取这些行动，将是一个巨大的错误。我的意思是，实际上，我曾在国防部工作过，我记得在2018年夏天加入国防部之前就曾有过这些辩论。谷歌非常突出、非常响亮、非常有争议地退出了Project Maven，当时这是国防部旗舰军事人工智能计划。谷歌退出了那个项目。它们发布了一整套人工智能伦理原则，表示它们不会参与或允许其技术参与武器开发。这对国防部的人工智能计划来说是一个非常痛苦的时刻，对谷歌来说也是一个非常糟糕的结果，至少在公众舆论方面是这样。我的意思是，美国军方历来在所有公共机构中拥有最高的批准率。通常，美国公众的批准率高达80%，而总统的批准率通常低于40%。总的来说，美国人民热爱军队。所以，当一家公司说它们不参与某些军事活动时，就像谷歌那样，这可能会非常有争议。当我加入军队时，一位非常高级的政府官员，我想是当时的参谋长联席会议主席，邓福德将军，虽然我可能记错了，但肯定是一位参谋长联席会议的高级官员。他实际上指责谷歌拒绝帮助国防部。而与此同时，它却愿意帮助中国，这对谷歌的公关部门来说是糟糕的一天。但关键是，谷歌当时拒绝参与一个相对无害的项目。我的意思是，Project Maven的早期阶段就像是识别卫星照片或无人机照片中有多少辆汽车，对吧？这不是什么超级先进的人工智能杀人机器人技术。这是相当无害的东西，而谷歌却退出了，这对国防部与硅谷建立更紧密联系的努力是一个巨大的打击。现在，我们看到了一个非凡的转折，一家非常著名、世界领先的人工智能技术公司正在积极与国防部合作。它们竞标了那个合同。根据《华尔街日报》的报道，它们允许其技术被用于对一个外国进行网络攻击，导致该国总统被捕。它们被深度整合到实际的战争活动中，并且是所有人工智能公司中进展最快的。而如果国防部真的伤害了Anthropic，它将向任何人工智能初创公司发出这样的信息：如果你甚至在考虑涉足国防部领域，我们将抓住你的衬衫，把你一直拉到你浑身湿透。>>是的。>>这并不是一个好信号。>>是的。而且，我认为只是为了让听众明白，你能否更详细地解释一下被指定为供应链风险对Anthropic意味着什么，以及《国防生产法》的使用？>>是的。对于不熟悉这些术语的人来说，你可能会认为这并不那么无害，对吧？你可能会认为这相当无害。所以，你可能会认为它们在说：“哦，这个人可能会对你说‘不’，所以他们不是一个可靠的供应商。存在供应链风险。”这就像“供应链风险”这个短语的日常英语解释。但这完全不是它的意思。这就像国防部与Anthropic关系中的核选项。将一家公司指定为供应链风险。当你的所有者是俄罗斯人或中国人，我们担心你的公司实际上只是外国情报机构的一个幌子时，我们就会这样做。我们说，不仅国防部不能与你合作，国防部也不能与任何与你合作的公司合作。你对我们来说是如此大的安全风险。嗯，Anthropic是那种公司，当我还在国防部时，我们乞求这些人认真对待我们，并帮助我们工作。我的意思是，地球上的人工智能人才库仍然很浅，而拥有真正有才华的公司愿意与你合作，这对美国的国家安全来说是一个巨大的优势。所以，去那个社区说：“嘿，各位，我们一直在乞求你们与我们合作。实际上，我们不仅不希望你们与我们合作，我们也不希望任何人与你们合作。”这可能不会对Anthropic的业务造成致命打击，但会对Anthropic的业务造成毁灭性打击。我的意思是，Anthropic与国防部的2亿美元合同，这笔钱不少，但也不是巨款。我认为Anthropic今年的收入在个位数数十亿美元，而且每年都在翻倍。它们可以没有这笔分摊到几年里的2亿美元合同。Anthropic无法容忍的是，美国经济中所有与国防部做生意的公司突然被禁止与它们合作。这将对其业务造成毁灭性打击。这就是为什么我说，如果国防部真的动用这些权力，那将是严重的升级和过度反应。我甚至认为威胁动用这些权力也是过度反应。而且，这不仅仅是我这么说。我想读一段Dean Ball的话，他曾是第二任特朗普政府白宫科技政策办公室的高级顾问。他深度参与了《美国人工智能行动计划》的起草。他是一位共和党人，曾在第二任特朗普政府任职。所以，不是一个心软的自由派。这是他在X上对此事的评论。引用：“这种指定似乎非常升级，会带来许多意想不到的后果，并可能在长期内对美国利益造成重大损害。我希望这两个组织能够达成一项双方都同意的协议。如果不行，我希望它们和平分手。但这真的不必是一场圣战。本届政府认为人工智能是我们这个时代决定性的技术竞争。我看不出摧毁美国最先进、最具创新性的人工智能初创公司之一如何能帮助美国赢得这场竞争。这似乎会直接适得其反。供应链风险指定不是必要的举措。有更便宜的选择。如果无法达成协议，就取消合同，并利用美国强大竞争性的人工智能市场——在很大程度上由本届政府的亲创新立场维持——将业务交给Anthropic的几个激烈竞争对手之一或多个。我认为这说得非常好，而且我认为他在这里是正确的。我的意思是，Anthropic和其他前沿人工智能实验室。美国拥有这些公司是一个巨大的优势，它们正在取得成功，而美国政府却因为这样的争端而将我们技术产业的皇冠明珠之一——至少在初创公司方面——付之一炬，作为第一个选择，这是一个巨大的错误。我希望它们不要这样做。>>是的。这里有一些来自Axios的引用，我想读一下，我认为这可能会说明为什么我们会看到这种情况。我认为这有点报复行为。我的意思是，一位高级官员告诉Axios，引用：“要解开它将是一个巨大的麻烦，我们将确保它们为迫使我们采取行动付出代价。”对吧？这是一个相当严重的说法。而且很明显，它们这样做不仅仅是因为它们认为，“哦，这是一个理性的政策举措，对吧？这就像某种意义上的报复。”>>我当然希望它们不是这样优化的。但正如你所说，这是一个合理的解释。>>现在，桌上的第三个选择是《国防生产法》。这是一项存在了许多年的法律。该法律的最初目的是，在短缺时期、国家安全危机时期，政府需要能够告诉私营企业：“嘿，我知道你可以通过制造豪华轿车赚很多钱，但你的国家现在需要的是用那个工厂制造坦克，因为我们工业能力短缺。你拥有宝贵的能力，而我们正处于国家安全紧急状态，所以你将制造这些东西。”我记得在COVID大流行期间，它被用来强迫某些公司生产呼吸机，因为医院严重缺乏呼吸机。所以，如果你假设使用《国防生产法》强迫Anthropic提供这种能力，那么就想想这将暗示的认知失调吧，这两种选择都在考虑之中。一方面，Anthropic是供应链风险，我们不能使用它们，因为它们在这个术语中，在这个指定中，相当于中国公司。你不能信任它们来处理国家安全。另一方面，Anthropic对国家安全如此有价值和令人惊叹，以至于我们必须强迫它们与我们合作。所以，是怎样？是我们不能和它们合作，还是我们必须强迫它们和我们合作？就像，这里存在真正的认知失调，而这两种选择正在被探索。正如我所说，我同情国防部的立场，即它们需要成为做出这些决定的人。它们需要有灵活性来决定如何使用这些类型的东西。但你是在2025年7月签署的这份合同。不是Anthropic认为像它们这样的公司可能有权要求这一点，这很疯狂。你的政府，第二任特朗普政府，不到一年前就批准了这样的要求。所以，从我们愿意接受非常广泛的服务条款条件，到现在，如果你有任何服务条款条件，我们将有效地将你列为与中国或俄罗斯公司同等的安全风险。这简直是过分的反应，正如Dean Ball所说，它将产生许多许多意想不到的后果，并对美国军事技术产业关系造成真正的、我认为是长期的损害，而我们长期以来一直在努力修复这种关系。我的意思是，当2018年夏天谷歌Project Maven的惨败发生时，我曾在《自然》杂志上发表了一篇评论文章，批评谷歌退出该交易，并说它们应该与军方合作。所以，我真的站在军方一边，但国防部长提出的选择，至少根据我们现有的报道，我真的希望它们不要按下那个扳机。我相信，最终部门会后悔的。>>是的。嗯，我们拭目以待。因为Dario Amade有直到周五的决定时间，我们将密切关注这个故事的结局。但我想继续我们的下一个问题。>>这里还有另一句我想读的引用，请。>>嗯，那来自Oculus的CEO Palmer Lucky。他在X上发帖说。引用：“这不是惩罚公司不分享政治观点的问题。这是对一个供应商试图通过服务条款控制政府的合理回应。”>>现在，事情是这样的。第一，我一直公开赞扬Palmer Lucky，因为他在硅谷风投和硅谷技术进入国防部之前就积极拥抱了这一点。作为一个私人富有的个人，他投入了大量资金来尝试建立对国家安全有用的东西。我非常赞赏他。我也同情他的观点，即辩论的合适场所应该是在国会、行政部门或公众舆论中，而不是在服务条款中。我同情这个观点，但我不赞同将Anthropic列为供应链风险。我不赞同使用《国防生产法》强迫它们在这里生产。我只是认为这会对美国军事技术产业关系造成很多不必要的损害。而且，天哪，慢下来。慢下来，这是我对本届政府的建议。>>我完全同意。好吧，让我们继续谈谈另一件不是放缓，而是加速的事情，那就是人工智能的经济影响。我想讨论几篇最近的新闻报道，这些报道预示着人工智能将带来的经济颠簸和潜在的经济颠簸。从本月早些时候一个相对讽刺的故事开始。2月6日，《金融时报》报道称，四大审计公司之一的KPMG向其审计师施压，要求降低费用，理由是使用人工智能应该会使工作更便宜。你能给我们讲讲这里发生了什么，以及它如何与人工智能更广泛的经济影响联系起来吗？>>是的，我认为这个故事非常有启发性。这是那种让你看到幕后真相，并了解演员们如何看待他们为世界表演的时刻。所以，KPMG是世界上最大的会计和审计公司之一，它们当然是大型金融实体。所以，除了作为审计师，它们本身也接受独立审计。最有趣的是，它们一直在关注人工智能革命，并从中受益。所以，它们去找审计师，协商价格应该是多少，并提出人工智能对审计的影响。所以，这是《金融时报》文章中的一段引用：“根据知情人士的说法，世界上最大的上市公司和私营公司之一的审计机构KPMG，通过声称人工智能将降低审计工作的成本，与其自己的会计师协商降低了费用。”引用：“这家四大公司告诉其审计师Grant Thornton UK，它应该将人工智能推广带来的成本节约转嫁出去，并威胁说，如果它不同意大幅降价，就另找新的会计师。”人们说。然后，根据文件显示，KPMG International为2025年的审计总共支付了357,000美元，低于2024年的416,000美元。哇。对吧？这是一家大型审计公司，说审计的价格应该下降，因为人工智能使其工作更具生产力、更有效率，而这些成本节约不应该被审计师作为额外利润。它们应该转嫁给消费者。嗯，我倾向于认为，KPMG审计服务的每一位客户在看到这篇文章时都发送了一封电子邮件，说：“我很乐意根据贵公司自己的内部分析来协商我们2026年的审计费率。很明显，您认为由于人工智能带来的生产力提升，审计的价格应该下降。请告诉我您将如何降低我的成本。”《大西洋月刊》等媒体的作家Derek Thompson对此有一个很棒的引用：“这看起来像是一家公司意外地向世界宣布，它的商业模式受到了攻击。”是的。嗯，这正是它的本质。嗯，这个故事是在另一篇报道发布后才出现的，那篇报道是Anthropic发布的几款新插件，自动化了法律、销售、营销和其他领域的任务，引发了软件和服务股票8300亿美元的抛售。一位投资者称之为“人工智能颠覆性力量觉醒的体现”。然后Anthropic又发布了另一款产品，这次导致了网络安全股票的下跌。你能告诉我们这里发生了什么吗？这是投资者反应过度，还是这是白领工作真正被颠覆的迹象？>>嗯，我认为值得指出的是，股票是基于对未来的预测。因此，即使是未来不同情景的概率发生变化，也可能合法地驱动股票价格的变化。我的意思是，举个例子，对吧？如果我们俩要玩一个赌博游戏，我们抛硬币，正面你赢5万美元，反面你赢1万美元。>>我喜欢。>>如果我们把游戏改成掷一个六面骰子，只有掷出五或六你才赢5万美元。>>你仍然可能得到它，但我们在这个阶段还不知道。所以问题是，你愿意花多少钱来玩这个游戏？>>这就是我认为在股市上发生的事情。在这个阶段，软件行业将被人工智能摧毁，这并不是一个确定的结果。这不是一个确定的结果。>>但在这个阶段，这是一种更可能的结果。你很难根据我们目前掌握的事实来断言这种情况绝不可能发生。我想指出，这是一个有点奇怪的类比，但我认为它很有帮助。美国和中国的软件行业非常不同。这是因为在美国，软件即服务（SaaS）的商业模式非常普遍。对吧？你有像Salesforce这样的公司，提供客户关系管理类软件。你有像Asana这样的公司，提供团队协作和生产力类软件。有数百万家公司，如West Law，提供法律研究和相关服务软件。有数百万家这样的公司，为特定行业提供定制软件。它们不仅仅是为，你知道，就West Law而言，一家律师事务所提供服务。它们为几乎所有律师事务所提供服务，对吧？这就是软件即服务（SaaS）的商业模式。在中国，软件即服务（SaaS）的商业模式不那么普遍。其中一个主要原因是，在美国，过去几十年来，我们一直面临软件工程师严重短缺的问题。而软件工程师的薪酬非常高，因为它们是如此宝贵的资源。所以，对于这些软件工程师来说，将他们的资源集中起来，为许多许多客户提供相同的解决方案是有意义的。所以，你牺牲了定制化，以提高规模经济和可用性。在中国，并没有出现这种软件工程师短缺的情况，软件工程师的工资也低得多。这意味着，实际上，公司更愿意聘请自己的内部软件工程师。所以，与其使用软件即服务（SaaS）的商业模式，你知道，一家律师事务所可能会聘请自己的软件工程师，他们可能会为该公司开发定制解决方案。嗯，这，你知道，我刚才说的关于法律服务的情况，在中国数以万计的行业中都是如此。所以，这里的关键，这两个生态系统之间的关键区别似乎是软件工程师的短缺。那么，如果人工智能代理在不久的将来提高了软件工程师的生产力，美国的软件生态系统看起来会更像中国，突然间，为团队增加软件工程师变得非常便宜和容易。所以，你实际上可以负担得起构建高度定制化的东西，而且它实际上是可靠的。它实际上是有帮助的。你知道，你不必忍受——我在这里挑剔Westlaw，尽管我从未用过它们的服务。也许它很棒。但你不必忍受Westlaw试图迎合那些需求与你截然不同的客户所带来的权衡。你的软件堆栈可以完美地处理你和你的员工所面临的问题。这可能是一个非常不同的软件市场重塑。而Claude Code以及后来的Claude Co-work——已经重置了行业对代理的可能性、目前人工智能代理的可能性以及未来12到24个月内可能出现的情况的期望。嗯，这并不是软件行业末日的保证，但它无疑增加了所有可能未来情景中，软件末日发生的概率、可能性和合理性。这就是我认为导致这次大规模抛售的原因。>>是的，我认为这是一个非常重要的观点，因为我的朋友们说，嗯，看，人工智能还不能做这些事情，为什么人们要抛售股票呢？但它不需要能做这些事情。对于几乎所有的股票，对于几乎所有的股票，当你计算出股票价格的理由时，对于几乎所有的股票，公司的大部分价值都是它在五年后将赚到的所有钱，折现到现在的价值。是的。所以，未来对现在确实有影响，尤其是在股票价格方面。>>是的。嗯，我想谈的最后一个故事与娱乐业有关。所以，我们许多听众可能都看过这段人工智能生成的汤姆·克鲁斯和布拉德·皮特打斗的视频。这是一个非常有趣的视频，所以你应该去看看。>>如果你还没看过，你一定要去看。>>是的，很棒的东西。但是，电影制作人对他们行业的未来有何看法？因为如果我是一名电影制作人，我打开Twitter看到这个视频，那对我来说将是糟糕的一天。>>是的。我认为回到好莱坞的黄金时代，对吧？在20世纪90年代和2000年代，像布拉德利·库珀或汤姆·克鲁斯这样的当红明星，每部电影的片酬通常可以达到2000万美元。那是基于他们拥有宝贵且稀有的技能。你知道，他们当然有自己的品牌和声誉，这些东西是另外的宝贵。但即使是那些负责电影音频、电影摄影或电影布景设计的人，在许多情况下，这些也是薪酬丰厚的工作。其中很大一部分原因是它们是宝贵且稀有的能力。嗯，如果你看看人工智能为电影生成的作品，它还不是好莱坞水平。但如果你回到几年前，看看第一个扩散模型生成的视频，再到多模态模型与LLM能力集成生成的视频。哇，过去三年我们取得了多大的进步。所以，你不得不问自己，明年我们可能会在哪里？一年后我们可能会在哪里？我们看到的是公司押注这项技术现在有用，并且将来会变得非常强大。例如，亚马逊，它现在拥有一个大型电影和电视制作工作室。它们是该领域最大的参与者之一。根据路透社的报道，亚马逊MGM工作室的资深娱乐高管Albert Chang正领导一个团队，负责开发新的人工智能工具，他表示这些工具将降低成本并简化创意流程。我的意思是，如果你是一个大型电影制片厂的高管，并且你假设存在一项技术，在未来几年内可以将电影制作成本降低两倍、十倍、五十倍，谁知道呢？>>你不能真的承担忽视这项技术，因为如果你袖手旁观，你所有的竞争对手都会加入进来，你作为一家公司就会被摧毁。所以，编剧、导演、演员、剧组人员，他们都担心人工智能会抢走他们的工作。但制作公司，它们必须使用有效的东西。它们必须使用经济上可行的东西。我认为一些最有趣的评论来自Rhett Reese，他是《死侍》等电影的编剧和制片人。我认为《死侍》和《金刚狼》是当年票房最高的电影之一。可能是最受欢迎的R级电影。绝对是一部动作片，与>>正是如此。这家伙是大片的重要人物，赚了很多钱。最有趣的是，他在X上发帖说，引用：“我不想说，但我们可能完了。”这是他对那个布拉德·皮特、汤姆·克鲁斯，来自Seance的15秒剪辑的评论。>>我将阅读他的其他帖子，因为我认为它们都是一个非凡的时代印记，关于好莱坞人们在说什么。>>当然。引用：“在很短的时间内，一个人将能够坐在电脑前创作出与好莱坞现在发布的电影无法区分的电影。”没错，如果那个人不好，那就会很糟糕。但如果那个人拥有克里斯托弗·诺兰的才华和品味，并且有人会迅速出现，那将是巨大的。然后他还说，引用：“我怀疑很多编剧在写作中大量使用人工智能，很多高管在分析写作时也大量使用人工智能。所以，可笑的是，所有人都坐着看人工智能批评人工智能刚刚创造的东西。”我必须说，嗯，有一个关于《怪奇物语》第五季的制作纪录片。在某个时候，他们展示了编剧的电脑，如果你看看他们打开的所有标签，有一堆ChatGPT标签是打开的。所以，即使在Netflix上最受欢迎的节目中，人工智能也已经在为创作过程做出贡献，而且在这个阶段，嗯，它主要是在写作创意生成方面，但很容易看到未来的趋势将是令人惊叹的东西。好的。是的。我必须从Rhett Ree那里读出的最后一个引用，因为正如我所说，他在这方面写了一些令人惊叹的东西，而且他是这次对话中一个非常有趣的声音。引用：“澄清一下。我一点也不为人工智能侵入创意领域而感到兴奋。恰恰相反，我感到恐惧。我认识的许多人面临着失去他们热爱的事业。我自己也处于危险之中。当我写‘我们完了’时，我并不是想听起来轻率或随意。我被皮特对克鲁斯的视频惊呆了，因为它非常专业。这正是我害怕的原因。我悲观的看法是，好莱坞即将被彻底改变/毁灭。如果你真的认为皮特对克鲁斯的视频是平庸的垃圾，那么你没什么可担心的。但我很震惊。是的。哇。这是一个很好的引用。嗯，是的。嗯，看着那个视频，我也有点震惊。>>是的。所以，我认为这与KPMG的对话联系起来，对吧？问题是，>>人工智能是否会使人们的生产力大大提高，变得更出色，还是会使人们变得毫无价值，因为他们所做的所有困难和艰巨的事情现在都会变得容易？我认为对消费者来说，结果将是伟大的，对吧？会有更多关于更多主题的电影，制作价值更高。但至少对制片人来说，商业模式将不得不改变，对吧？当你可以证明制作一部预算3亿美元的《阿凡达》是合理的呢？对我来说，很难理解这些商业模式将如何生存。也许这个行业会生存下来，行业只会变得不同。会有很多小团队与人工智能合作制作高质量的东西。嗯，但我认为好莱坞正面临一个颠覆的时刻。绝对。>>就像审计师面临颠覆一样。>>对，对。>>以及法律行业和所有其他行业。>>是的。嗯，这些都是一些非常有趣的故事。嗯，我们将在未来几周继续报道人工智能的经济影响。但我想继续我们最后一个关于出口管制的部分。因为2月23日，一位特朗普政府高级官员告诉路透社记者，Deep Seek即将推出的模型（我认为将在未来几周内发布）是在英伟达的Blackwell芯片上训练的。而正如我们 नियमित听众现在所知，这些芯片出口到中国是非法的，而且一直是非法的。但在我们深入探讨这一切的走私含义之前，你能否准确告诉我们这位官员声称了什么？>>是的。所以，这是路透社采访的一位匿名官员。所以，他们只被引用为特朗普政府的一位高级官员。我们不知道这个人是谁。但他们说，引用：“我们没有向中国运送Blackwells，或者至少没有合法地向中国运送。”所以，这是一个走私的故事。我想，也有可能是云远程访问的故事，但根据故事的写法，暗示芯片在中国境内，这是走私。这将违反美国的出口管制。根据路透社的报道，它继续说，引用：“美国认为Deepseek将移除可能暴露其使用美国人工智能芯片的技术指标。”这位官员补充说，Blackwells很可能集中在中国的一个数据中心，位于内蒙古。所以，再次，那是中国的一部分，即使名字是内蒙古。那是中国的一部分。这表明这是一个走私故事，而不是远程访问的故事。现在，这个故事的另一个部分是蒸馏部分。所以，再次引用路透社的话。引用：“他们帮助训练的模型可能依赖于由包括Anthropic、Google、OpenAI和XAI在内的美国领先人工智能公司制造的模型进行蒸馏，这呼应了OpenAI和Anthropic提出的指控，”这位官员补充道。结束引用。所以，事情是这样的。蒸馏，为了让大家回忆一下，我们过去谈论过这个。我们谈论过它，当时Deepseek v 3.0，我认为是2025年1月发布的模型，它和R1一起让所有人都大吃一惊。蒸馏基本上就是，想想创建模型的训练数据。在今天最大的模型中，训练数据基本上是互联网的大部分。然后是训练阶段的输出，以及训练后的处理等等，就是一个模型。>>然后你可以与该模型进行一系列对话，然后这些对话就成为新的训练数据。而且，因为这个新的训练数据，即使你有数百万次的对话。
有了人工智能来生成更多训练数据，它仍然会是一个比整个互联网或互联网大部分内容小得多的训练数据集。因此，你得到的是一个模型，它拥有第一个模型的大部分性能，但在推理使用时计算成本只是其一小部分，在创建时计算成本也只是其一小部分。
现在，每家公司都从事模型蒸馏，对吧？Anthropic 正在蒸馏自己的模型。谷歌正在蒸馏自己的模型。OpenAI 正在蒸馏自己的模型。它们这样做是为了创建更小的模型版本，这些版本在服务客户时成本更低。
Anthropic 和其他公司在这里提出的指控，以及这位美国高级政府官员在这里提出的指控是，Deepseek 实际上拥有如此高性能模型的原因是，它们成功地利用了蒸馏来“搭乘”像 OpenAI、Anthropic 和谷歌这样的公司所做的研究的顺风车或尾流。
因此，Anthropic 已经公开了这一点。引用。抱歉。2 月 23 日，Anthropic 发布了一份公告，称：“我们已发现三个人工智能实验室——Deepseek、Moonshot 和 Minimax——进行了工业规模的活动，非法提取 Claude 的能力以改进它们自己的模型。这些实验室通过大约 24,000 个欺诈账户与 Claude 进行了超过 1600 万次交流，这违反了我们的服务条款和地区访问限制。”
现在，他们所说的“服务条款”是指，未经许可，你不能蒸馏 Anthropic 的模型。“地区访问限制”是指，这些模型甚至不应该能从中国访问。所以，他们正在使用 VPN 或其他东西来做到这一点。
>> 是的。那么，你能向我们解释一下，如果这些关于走私和蒸馏的说法都属实，那么最重大的影响是什么？
>> 是的。我认为有几件事正在发生。第一件事是，它确实表明中国仍然想要美国的先进芯片。Safe Khan 曾做客本播客，现任进步研究所研究员。他告诉路透社：“中国人工智能公司对走私的黑市的依赖，凸显了它们在国内生产的人工智能芯片的巨大短缺，以及为什么批准 H200 芯片将代表一条生命线。”他还指出，正如 Chris Magcguire（也曾做客本播客）所指出的那样，中国的公司绝对愿意厚颜无耻地违反美国的出口管制。那么，我们为什么会相信它们会遵守出口管制限制，例如不向中国军方提供能力呢？
所以，我认为 Chris Maguire 接下来在 X 上说的一段话值得长篇引用。引用：“当 Deepseek 发布其新模型并声称使用 2H800 芯片从头开始训练它时，希望世界会认识到这是一个谎言。事实是，Deepseek 几乎完全依赖于被禁用的美国技术和知识产权。它通过非法使用美国芯片和非法窃取美国知识产权来训练其模型。这些行为必须承担后果。”
我认为 Anthropic 说了一些颇具洞察力的话。它们评论了这对出口管制价值意味着什么。这是它们公告的内容：“引用：‘在对这些攻击没有可见性的情况下，这些实验室（指中国实验室）显然取得的快速进展被错误地视为出口管制无效且可以通过创新规避的证据。事实上，这些进展在很大程度上依赖于从美国模型中提取的能力，并且以规模化执行这种提取需要访问先进芯片。因此，蒸馏攻击加强了出口管制的理由。受限的芯片访问限制了直接的模型训练和非法蒸馏的规模。’”
所以，我认为这是一个非常有趣的观点，那就是，显然，如果我们能挥舞魔杖让中国无法创建自己的模型，也能挥舞魔杖来阻止蒸馏，那将是理想的结果。但 Anthropic 在这里指出的是，即使在蒸馏存在的世界里，有效的芯片出口管制仍然有用，因为尽管蒸馏在计算上比训练模型便宜得多，但它仍然是计算密集型的。
但我想就这个故事说点别的，这也是我在 2025 年 3 月关于 Deepseek 的报告中写到的。那就是，我们正在讨论蒸馏的公平性或不公平性，以及它们是否在窃取美国知识产权。我认为我们只需要对自己诚实，它们正在兴高采烈地窃取美国知识产权。而关于蒸馏的问题，实际上并不是它是否公平。而是它是否会奏效，是否会继续奏效，以及其战略后果是什么。
我们得问问自己，人工智能作为一个行业，更像是开发先进战斗机吗？中国在十多年前就窃取了蓝图，但它们仍然无法制造出像它们窃取了蓝图的 F-35 那样好的飞机。这是因为很多秘密不在蓝图知识产权中。它就像建造 F-35 的人的组织性隐性知识。所以，即使你窃取了知识产权，你并没有真正窃取所有的秘密，尽管它确实让你占了优势。
那么，人工智能模型是这样的吗？还是人工智能模型更像制药业？就像，如果你没有专利保护，没有人会投资制药业？因为一旦你知道分子是什么，你就可以制造自己的仿制品，而且你的成本可能只有研发成本的百万分之一，而且你能获得所有的好处。这是因为当你在将药物交给可能数百万的全球消费者时，很难保守药物的秘密。因此，我们依赖公平竞争和知识产权限制来使制药业成为一个可行的商业模式。
正如我们所说，正如特朗普政府所说，人工智能就像太空竞赛。而苏联在太空竞赛中确实不尊重我们的知识产权，反之亦然。对吧？如果我们能从苏联那里窃取东西，我们会很乐意使用它。我不认为这实际上是……当然不是登月计划的重要组成部分，但原则上，我们会乐于这样做。美国政策是我们尽量不为商业利益使用间谍活动，但对于军事相关领域，当然，我们会这样做。
所以，中国将继续尝试蒸馏，而且，克里斯·马奎尔提倡采取强制性报复措施，试图说服中国停止其公司的行为。Anthropic 提倡更严格地执行出口管制，试图做到这一点。但我很遗憾，我对这两种方法是否真的会奏效感到有些悲观。
而问题变成了，你能让蒸馏失效吗？在与实验室的人交谈时，我听到的说法是，到目前为止，至少在当前的技术水平下，你可以设置安全措施，将“蒸馏攻击”的成本提高 10 倍，但如果成本从 200 万美元提高到 2000 万美元，而美国人工智能公司却花费数千亿美元来训练这些模型，建立训练这些模型的基础设施。那么，蒸馏仍然很有吸引力。
这又回到了我们在上一期播客中谈到的迈克尔·卡齐奥斯在德里的演讲，他实际上说，美国想出口芯片。我们想帮助你制造你的主权人工智能。我说，美国可能采取这种立场的可能解释之一是，他们实际上认为封闭式人工智能模型的商业模式不如开源模型好。尤其是在开源只是通过蒸馏窃取美国知识产权的情况下。就像，如果中国公司乐于窃取美国制药配方并侵犯我们所有的知识产权。美国制药公司的商业模式仍然可以奏效，但直到……就像，一旦中国开始说，嘿，地球上的每个国家都会以极低的价格向你出售美国研究和开发的药品。许多国家都会接受这笔交易，在这种情况下，这对美国制药业来说是一个非常危险的时刻，而这可能正是人工智能行业所处的境地。
所以，我确实同意加强出口管制。我确实同意探索我们可以对中国采取哪些惩罚性措施。我当然也同意继续研究如何使模型更能抵抗蒸馏类攻击。但我也认为公司和国家需要考虑，如果蒸馏继续奏效，最佳的战略定位是什么，因为这至少是一个可能出现的未来。
很有趣。好吧，我很高兴我们今天能谈谈出口管制和蒸馏，因为我们已经一个多月没谈出口管制了，这在我们这里算是很长时间了。
>> 每个人都感到震惊。
>> 是的，人们在祈祷。天哪，感谢我们有出口管制。
>> 嗯，是的，谢谢，谢谢你加入我，尽管你可能正在经历从印度旅行回来的严酷时差。感谢观众的收听。
>> 谢谢你，马特。感谢收听本期人工智能政策播客。如果你喜欢听到的内容，有一个简单的方法可以帮助我们。请在你最喜欢的播客平台上给我们五星好评，订阅并告诉你的朋友。当你传播信息时，这真的很有帮助。本播客由 Sarah Baker、Satie McCulla 和 Matt Mand 制作。下次再见。