Transcription
那么，我现在想介绍我们今天的最后一场小组讨论，我将介绍我们的主持人 Vivek Viswanathan，他是 SIEPR 的政策研究员。他此前于 2021 年至 2024 年间在白宫担任高级政策顾问和总统特别助理，负责国家经济委员会和幕僚长办公室的工作。在此之前，他曾担任加州州长杰里·布朗办公室的特别顾问，以及加州州长加文·纽森的副预算主任和高级顾问。Vivek 热爱历史，并声称自己参观了美国国家档案馆管理的全部 13 座总统图书馆——从德克萨斯州的乔治·W·布什博物馆到爱荷华州西布兰奇的赫伯特·胡佛博物馆，后者恰好离我长大的地方只有 15 分钟车程。那么，Vivek，请您开始吧。谢谢。谢谢。感谢 Ramin 的介绍，欢迎来到今天下午的最后一场小组讨论，本次讨论的主题是为人工智能的未来设计公共政策。我想，正如 James Manyika 在上一场小组讨论中所提到的，我们都知道这项技术发展非常迅速，政策制定者也必须迅速行动，才能跟上步伐。好消息是，至少目前而言，人工智能政策在华盛顿特区并不是一项被党派两极分化的政策——这与其他几乎所有政策问题都不同。坏消息是，就人工智能政策而言，关于一年后、两年后需要完成什么以及将会完成什么，其图景仍然非常不确定。我想，回顾过去几年，我们有前总统拜登的人工智能行政命令；那是在两年多前。参议院两党人工智能工作组发布了他们的报告；那是在一年半多前。众议院两党人工智能特别工作组发布了报告；那是在一年多前。然后是特朗普总统的人工智能行动计划，那是在四个月前。然而，我们仍然有一种感觉，我们不太清楚它将走向何方。存在着很多不确定性，问题多于答案，而现在很多政策讨论实际上正在个人州一级和国际一级进行。因此，在政策制定者需要做出许多重大决策的时候——他们需要良好的分析和良好的建议——我们想讨论其中一些问题以及我们希望如何向前发展。幸运的是，我们有一个出色的专家小组来帮助我们做到这一点。在我左边的是 Susan Athey，她是斯坦福大学的经济学教授，也是全球在经济学与技术交叉领域最杰出的专家之一。除了她所做的许多其他事情，包括曾担任微软的首席经济学顾问，她最近还完成了在美国司法部反垄断部门担任首席经济学家的公共服务任期。其次，紧挨着 Susan 的是 Era Dabla-Norris，她是国际货币基金组织的副主任，负责监督其所有国家的整个财政事务部门，在处理各国财政问题和失衡方面拥有丰富的经验，并且还曾处理过从劳动力到技术再到生产力的一系列问题。最后，最左边的是 Sam Hammond，他是美国创新基金会的首席经济学家，该基金会的使命是倡导对美国繁荣、安全和发展至关重要的技术、人才和思想。他对人工智能和新兴技术的分析在人工智能和技术政策界广为流传，包括在特朗普政府和白宫的政策制定者中。因此，我要求我们的小组成员首先谈谈他们认为对人工智能政策的未来尤其重要并且花费了一些时间研究的问题。那么，Susan，我想从您开始，我希望您能谈谈各国在与新兴人工智能经济互动和参与时面临的一些选择。是的。所以，我想，到目前为止，我每周都会参加大约两次关于人工智能的会议，已经很多年了。所以，我实际上会尝试谈论一些并非人人都在谈论，也不是我所有会议都涉及的内容。目前，我作为世界银行的顾问，我们正在为发展中世界制定政策建议。但实际上，这个见解也更广泛。当你与许多政策制定者谈论人工智能和人工智能的采用时，他们常常将其描述为一种需要采纳的东西——就像采纳蚊帐，或者采纳一些，也许人们会采纳疫苗，但它是一种采纳的东西，或者像发电厂的某种洗涤器。它是一种需要采纳的东西。而人工智能则非常不同，它是一种创造许多许多产品的技术。它也是一种通用技术，可以大大降低软件开发的成本，并改变更改软件的成本。因此，它为创新过程提供了动力。因此，在此背景下，如果我考虑各国如何参与人工智能，问题实际上是：它们将如何参与人工智能产品的开发，或者购买和使用这些人工智能产品？但由于人工智能产品通常不是固定的东西——而是会逐步改进的东西——实际上是：它们将如何参与，即使作为产品用户，参与这些产品的改进？因此，当我前往发展中世界时，政府实际上将成为人工智能产品相当主要的消费者和购买者，即使与私营部门相比也是如此。所以，让我们考虑一下政府所做的一切。政府涉及教师。它涉及医疗保健。它涉足金融业。当然，它还有国防部门，这可能因国家而异。因此，政府实际上将从事直接或间接采购人工智能服务的业务。如果你，那么：它们将如何做到这一点？它们会做得好还是做得不好，或者根本不做？所以，当你参加技术会议时，你会看到所有这些很棒的产品。所以，你知道，帮助人们的产品，帮助护士的产品（我自己也开发了一些这样的产品），帮助教师的产品——有很多很多看起来很棒的产品。但如果我们想象一个房间里有大约一千种基于人工智能的医疗应用程序，而且所有这些应用程序都有益。如果你是一个国家的卫生部长，你会怎么做？现在应该采纳一个吗？应该等到明年吗？应该采纳多少个？如果你要为护士采纳某项东西，护士——你一年或可能两年内最多只能在后勤上采纳一个护士应用程序。那么，你实际上将如何做到这一点？然后，如果你曾经在公司工作过，你就会意识到，IT 采纳是困难的，而且对于财富 100 强的大公司来说，常常会失败。当政府进行采购时，它还可以。这不像普通的政府采购；这更像是国防采购，因为如果你让某人进来为你的国家的护士开发人工智能产品，你实际上需要该产品逐年改进。你将收集数据并围绕该产品进行增量创新，这样你就不会因为最好的演示而选择，但你需要选择一个能够收集数据并有动力持续改进你产品的合作伙伴。这实际上，听起来有点难。好的。但是，这实际上是世界将要做的事情，从财富 100 强到，你知道，一个非常小的贫穷国家的某个卫生部——每个人都会考虑同样的问题。因此，这实际上是一个能力问题，一个技术能力问题，但它关系到很多重大利益，而且相当困难。但另一方面，政策制定者可以进行全球合作，分享最佳实践，了解哪些方法有效，合作如何评估这些产品，以及如何在购买时以及在持续的基础上评估它们。所以，这是我看到的一个机会，就像我们面临的许多问题一样棘手，但这实际上是一个可以通过努力、投资和专业知识解决的问题。所以，这是我为人们没有谈论但我希望他们谈论的事情所做的宣传。非常有帮助。谢谢你，苏珊。关于政府可以做什么这一点，存在一个技术挑战：我们如何做出正确的决定并围绕它建立正确的决策流程？还有一个更广泛的问题是，这些政府实际上将拥有哪些资源来首先解决这些问题。Era，我希望你能谈谈这个问题。你专注于财政政策，尤其是我们看到的各国之间新兴的财政失衡。所以，请告诉我们你所看到的，关于人工智能的因果关系，以及它对这些国家的财政政策和前景的影响。好的，谢谢 Vivek。我将从 Erik 开始，那就是关于这项技术将如何影响社会，存在很多不确定性。生产力收益有多大？增长效益有多大？但我认为真正重要的问题是：政府是否准备好应对“一切照旧”的良性情景，还是我们今天已经讨论过的那些真正颠覆性的、痛苦的情景？因此，我将讨论我认为至关重要的两项政策挑战，这两项挑战在不同程度上都已被提出，但我将对其进行扩展。第一个是社会保障体系是否适合当前的目的，我所说的社会保障体系是指失业保险、劳动力市场培训政策、针对贫困人口的社会援助计划——它们是否适合人工智能的世界？所以，当我们考虑这项技术可能带来的主要好处时——生产力可能非常高，可能会创造新的就业机会，最终由于巨大的生产力收益，经济整体工资可能会更高。也存在风险，而风险是真正痛苦的劳动力市场动荡。所以你需要某种形式的收入支持。你需要培训政策。但事实是，全球各国都没有做好准备。所以，让我给你一些数字。全球只有 17% 的失业工人能获得任何形式的现金福利。而且存在巨大的差距：高收入国家占 56%，低收入国家占 0.2%。即使在高收入国家，这些失业救济金——想象一下一个非常痛苦的、长期的劳动力市场转型。所以，我们谈到的这些入门级工人很长时间找不到工作。他们需要很长时间才能成为水管工学徒。假设这就是我们正在进行的转变。那么，即使在发达经济体中，大多数失业救济金也是按职业划分的。福利不可转让；新进入劳动力市场的人得不到任何福利；而且有上限——12 个月。所以，想象一下一个非常痛苦的转型，人们失业的时间更长。然后，转向低收入的新兴市场和低收入国家。那里会发生什么？嗯，他们没有任何社会保障体系；如果出现失业，他们没有任何东西可以提供缓冲。因此，这些转型的成本以及谁将承担这些成本就成为一个非常重要的问题。我们已经谈到了培训部分。培训通常跟不上快速的技术变革。所以，问题又来了：谁来支付这些类型的变化？而且，这些问题在较贫穷的国家往往会加剧，因为你有一个庞大的非正规部门。你有很多年轻人——很多年轻人——既不工作，也不学习。因此，社会影响更难承受。虽然我们已经谈到了人工智能本身可能带来的好处，但确实有一个问题是：各国在财政空间有限的情况下如何能够部署它？所以，我想这——你提到的采纳问题——也是一个问题：你将如何支付它？所以，让我简要地谈谈普遍基本收入（UBI）的问题。你知道，这是硅谷喜欢称之为解决劳动力市场颠覆问题的方案。嗯，这在财政上非常非常昂贵。给你一个想法，如果你将福利设定为每 capita中等收入的 40%，这并不高，只是每 capita中等收入的 40%，成本将占平均发达经济体 GDP 的 14%——波兰高达 20%。好的？所以，如果你开始考虑将每 capita中等收入提高到 40% 以上，成本在财政上可能会非常非常高。然后这就引出了一个问题：谁来支付？所以，这是第一个挑战。我很快想谈谈第二个挑战。这是 Erik 和其他人也提到过的一个问题，那就是：大规模的失业或自动化并非不可避免。这是一个政策选择。我认为我们可以关注的一个领域是，我们的税收体系如何激励自动化而非雇佣工人。现在，我不是在谈论机器人税或对人工智能的某种特殊税，这也是人们经常谈论的。很多人会说，嗯，如果你对人工智能征税，那会减缓——如果你有某种特殊税，一个代理人或一个算法或一个聊天机器人就不能纳税。我的意思是，只有法人实体才能纳税。即使你能征税，税基也不清楚。我的意思是，相反，各国可以做的是，它们可以看看现有的税收激励措施。它们的税收体系是否通过提供税收抵免、激励措施等方式不成比例地鼓励自动化而非雇佣人员？事实上，我们的研究发现，软件、硬件的边际有效税率往往低于那些补充工人的资产的边际有效税率，对吧？因此，重新平衡现有税收体系中的这种不平衡，以防止这种不成比例的创新激励措施的产生，可能是一个有益的步骤。这是各国现在就可以做的事情；它们不必等到五年后。这是现在就可以做的事情。所以，我在这里停下。非常有帮助。谢谢你，Era。那么，Susan 和 Era，你们都谈到了我们正在各国看到的关键动态。我想把话题稍微转向美国。Sam，你写了很多关于特朗普总统人工智能行动计划的文章，对该计划的评论褒贬不一。有些人说，他们撤销了前总统拜登的行政命令，并提出了基本相同的政策。另一方面，你看到有人说，这基本上消除了所有限制，是一种“放手去干”的政策。你看到了批评，也许这是过于关注“觉醒”的人工智能，而没有关注更广泛的轮廓。当然，你对政府的做法有更积极的看法。你称之为“向前迈出的一大步”，所以我希望你能谈谈美国在这个时刻的定位，以及在今年夏天推出这些计划后的情况。是的，当然。我的意思是，我——完全披露，我的偏见：我的同事 Dean Ball 帮助起草了行动计划——所以我倾向于喜欢它。但我认为，你知道，如果你真的深入研究这个计划，我稍微不同意的是，人们的反应实际上相当一致地积极，包括在许多国会民主党人中，人工智能安全社区中的人们也对此反应非常积极。该计划包含多个部分。它非常强调建设人工智能基础设施和能源基础设施，加速审批，这将是一个巨大的瓶颈。这其中一个重要组成部分也是将人工智能推向政府。所以，如果我对拜登关于此事的行政命令有任何抱怨，那就是它为批准在政府中使用人工智能工具增加了多少层级和额外流程。本届政府采取了截然相反的方法，每个机构都将设立首席人工智能官，他们不会被要求成为新人工智能工具的守门人，而是被要求：你最近自动化了什么？并以此颠倒了举证责任。然后，甚至还有关于生物安全的部分。关于基因合成筛选有一个完整的章节，如果人工智能在生物学领域继续加速，我们面临的核心风险之一就是本土生物威胁的发展。如果你想，控制模型已经够难了，但你可以做的一件事是控制能够将其打印成活体生物的 DNA 合成公司的访问权限。所以，总的来说：我认为本届政府将人工智能作为其最重要的三个优先事项之一。你已经看到了这一点，通过斡旋的投资交易，对能源基础设施的更广泛关注，以及他们处理这一问题的方式，我认为 Susan 提到的一点是，不仅仅是可以采纳人工智能——如果我们有大量的药物发现爆炸式增长，仅仅为 FDA 官员提供人工智能副驾驶是不够的；我们需要考虑根本性的流程创新。这对于更广泛的监管体系来说也是如此，有太多的监管，不是因为监管过多或过剩，而是因为它缺乏与后人工智能世界相适应的方向，对吧？我们有规定说，你必须有人操作起重机，这些规定不是因为他们不想排除自动起重机的可能性，而是因为他们认为这项技术不存在。因此，行动计划的一个重要组成部分是全面的监管审查，以审查联邦法规代码中几乎所有涉及或与后人工智能世界不兼容的部分。总的来说，我认为还有很多工作要做。我的意思是，目前正在进行的一场重大斗争是：我们是否应该让各州在人工智能治理方面拥有更大的发言权，还是我们应该实行联邦先发制人？我对这个问题有更细致的看法。保守派运动内部也有辩论。我来自右翼，但在右翼，人们并不完全一致，你知道，对人工智能很热衷。当然，有风险投资家派别，他们全力支持。然后，你也有许多社会保守派或宗教保守派担心这对人类尊严、对儿童安全意味着什么。特别是关于生物技术，关于超人类主义、后人类主义的辩论。所以，这确实是华盛顿一个激动人心的时刻。事实上，有时候，你知道，这有点超现实，因为我从小就参与的所有互联网辩论现在都在华盛顿的联盟中真实地展开。你有加速主义者和人工智能末日论者，还有那些想要上传大脑的奇怪的未来主义者，他们实际上正在起草，他们——我们称之为“发布到政策”的管道。在这些辩论中，有许多行政命令实际上源于 Twitter。所以，一个元点是，我认为这是一个非常动态的时刻，我珍视本届政府的一点是它对这种动态持开放态度。非常有帮助。我想我们经常从政府那里听到他们希望美国在人工智能领域获胜。当然，这对不同的人来说可以意味着不同的东西，但这显然是政策的驱动力。关于这个问题，我想回到 Susan，因为我们现在正在考虑的最重要的问题之一是反垄断。一方面，在过去几年里，人们一直在想，是否有新进入者的空间，现在你有 OpenAI、Anthropic 和 Databricks 这样的公司，在几年内就达到了数千亿美元的估值。另一方面，最大的公司在过去十年里变得更大。我记得 Susan，当你咨询微软时，一家大型科技公司可能被定义为几千亿美元。现在我们看到这些大型科技公司达到三万亿、四万亿甚至五万亿美元。你在司法部任职时，一切都在迅速发展。我很想知道你对这个人群有什么关于未来反垄断政策的答案，以及我们应该对这些公司的惊人增长和规模感到多么担忧或兴奋。你有多少时间？我可以谈几个小时，但让我先说几个要点。首先，我想就拜登政府的人工智能政策以及思考政府如何影响竞争进行一些说明。所以，我在反垄断部门的工作之一就是评论所有其他部门的法规制定和政策，不仅在美国，而且在世界各地。人们会把东西发给我们，让我们发表评论。我的“红线”非常像对所有这些政策的反复强调，并考虑它将如何影响竞争。如果你是一个小国，你知道，你可能会发现国内供应商不多，如果你做了一些吓跑这些供应商的事情。然后你可能没有，如果你只有一个，那么你就没有多少影响力让他们遵守你的政策，他们就会开始反击。因此，长远来看，有效的政策需要竞争，因为强大的公司可以威胁政府；政府也可以威胁强大的公司，事情就会发生。好的，我们有很多例子。所以，关于这一点，第二点是：我担心吗？嗯，我认为就像你提到的，如果很多人被解雇，情况可能会非常糟糕。你可能不认为这非常可能。发展中国家的许多工作不太容易受到人工智能的影响，但如果真的发生了，那将非常糟糕。我认为竞争也是如此，就像如果我们的人工智能堆栈中的任何地方都存在大量市场力量，那将非常非常糟糕。所以，如果你考虑到几乎每个国家在人工智能方面都是一个小国，那么如果你不是美国这样的国家，也不是中国这样的国家，那么你将从别处进口这个东西。所以，如果你以高价进口东西，而且它正在取代你的工人，那么你就会取代你的工人，但你的消费者仍然会为商品支付高价。好的？所以，大多数宏观模型，就像，只是假设当成本下降时，价格也随之下降，这就是我们最终在海滩上喝着鸡尾酒的样子，好吗？但是，要做到这一点，你知道，价格必须反映成本。我认为我们将在所有这些中看到的成本结构、成本节约、定价结构、非线性价格，我认为这绝对不——我们不应该假设——成本节约，尤其是在自动化取代工人的公司中，会反映在较低的消费者价格上。所以，我担心；我非常担心。好的，最后一点，这确实是我可以花几个小时讨论的地方，为什么我认为我们不会立即出现垄断。所以，我有长答案和短答案。我实际上有大约 10 个重叠的原因，为什么我认为，相信它，但——所以，我认为我们需要小心。就像，这是有风险的，也是危险的，但为什么我认为它不会立即发生？嗯，我们认为战斗机领域会出现全球垄断吗？为什么不呢？好的？嗯，就像，这不仅仅是浏览器窗口中的 ChatGPT。这是一种销售给国防工业的产品，它是国防工业的关键投入，不仅是无人机，还有侦察。所以，不，你不会从你的军事对手那里购买。如果你有点担心别人可能会关闭你军事关键投入的东西的开关，你就会开始寻找多个来源。所以，我认为世界不可能只有一个公司来做这件事。在军事领域，你总是以高成本购买低质量的东西。所以，如果你说别人的东西不会那么好，那不是一个答案。而且，如果你的用例不是在窗口中闲聊，那么获得大量关于闲聊的数据实际上并不能帮助你在其他一些用例中做得更好。所以，还有其他的企业用例，它们也将采购东西。它们想要轻量级的东西。它们想要，你知道，James 刚刚谈到了 Google 提供的所有不同范围的产品。但是，当有大量差异化的产品时，你通常会发现有很多不同的公司在销售它。最后，还有开放模型，一旦你下载了它们，你就永远拥有它们。所以，你知道，还有那个。你可以对它们进行微调，使它们变得更好。所以，我实际上在中期并不太担心垄断，单一垄断。然后人们告诉我，“苏珊，你怎么能是对的？为什么所有人都投入这么多，价格为什么会是这样？你一定是错的。”好的，你知道，我们可以对此下注。只是一个后续……[现在是下注的好时机。]只是一个后续，为了翻转这个问题，Sam，我也想让你对此发表看法。在这些政策讨论中，你经常听到：政府是否可以，是否有可能，有一个“国家冠军”的方法？一两周前，OpenAI 的首席财务官谈到了政府支持的可能性。她后来澄清了她的评论，但我很好奇，你是否认为，Sam，你也应该发表看法，这是否是一种可能的发展方式，取决于技术如何演变。好吧，房间里有很多人比我更擅长这个，但我想说，就像上一场小组讨论中说的那样，在某个层面上，在某个时候——如果错误的人持有这些股权，那么其他地方就会发生坏事。但是，如果有些人，如果一些投资于这些估值的人亏损了，那有点可悲，但资本主义就是这样运作的。所以，我不知道，我不太清楚为什么你需要救助他们，但其他人可能对此有更好的想法。我的意思是，这里没有商业利益，所以，我想有一个——是的，但我确实认为，美国以外的国家可能会理性地决定拥有另一种技术来源，因为——这不仅仅是军事——想象一下你正在考虑在你的支付系统、你的信用卡系统以及其他所有系统中都使用人工智能。这确实是，好吧，也许你可以达成一项商业协议，服务器在你国内，数据中心在你国内，数据不会离开，但如果别处有人拥有你经济的“终止开关”，那将是相当糟糕的。所以，我认为会有理性的原因，而不是经济原因来这样做。这就是整个产业政策的争论。抱歉。抱歉打断。这是，你正在看到整个辩论在欧洲上演；你看到了，我的意思是，中国有一个国家主导的模式，所以这是一个不同的模式。但有许多国家正在说，好吧，那么我们希望在经济安全或国家安全或任何其他方面处于哪个位置，你知道，许多其他原因。所以，这非常内在化地是产业政策辩论的一部分。过去是能源安全——纯粹的能源安全。在过去三年里，我们看到这种情况演变成“嗯，我们需要自己的，我们无法与这些人工智能公司竞争”，但如果你看看欧洲的数据中心建设，如果你看看世界其他地方，你就会看到——我们需要有自己的处理这项技术或使用这项技术的方式，而且我们不想依赖“七巨头”来处理一切。所以，我认为在其他国家也有这种心态。是的，然后是政策问题，我不敢说我知道答案，那就是：嗯，究竟谁应该做什么？数据中心是否太多了？但就像数据中心——数据系统不是为了启动当地经济；它为你提供了定价杠杆，并为你提供了安全；就像每个人都有自己的金融渠道一样。但是，并非每个国家都制造战斗机，所以……存在比较优势，经济学家知道这一点。但也不是一个国家制造战斗机。所以，这将是，这将是世界上的均衡状态，联盟将如何形成，谁将信任谁，这将是……但这将是一个重大的地缘政治问题。但仅仅从经济学角度分析它，我认为会错过一些关键点。很好。我想，一位斯坦福大学的经济学家在三十多年前说过，计算机芯片，薯片，有什么区别？但显然，我们现在处于一个不同的时代。但我想让你，Sam，就这个问题发表看法，更广泛地说，你曾强烈主张对向中国出口先进半导体芯片实施严格的出口管制。我们知道你谈到了白宫联盟内部的分歧，白宫内部有些人强烈支持向中国自由出口这些芯片，以此来巩固美国的领导地位。英伟达首席执行官黄仁勋曾表示，美国在人工智能竞赛中最大的武器是特朗普总统——以此来推动让我们的技术栈无处不在的方向。所以，我想听听你对这些问题的看法。是的，我的意思是，回到垄断问题，我认为这——人工智能是否会被垄断，这真的取决于你的时间表。你知道，我们刚刚听到通用人工智能（AGI）将在 5 到 10 年内到来；我倾向于更短的时间。所以，我们谈论的不是聊天机器人，我们谈论的是在非常短的时间内基本上能够做你在笔记本电脑后面能做的任何事情，并且很快就能以机器人形式做到几乎任何事情。而且，你知道，当你越过这些拐点时，你就会获得非常强大的反馈循环。所以，你知道，我们在微观领域看到了这一点，谷歌吞噬了所有人的广告收入，或者亚马逊吞噬了所有人的图书销售。如果你建立了一个“万能公司”——而且它不仅仅是今天的“万能公司”——它也是构建后续产品的 AI 研究者。然后你就可以获得非常强大的飞轮效应，将它们拉开。所以，但这也很分散。它既存在于美国公司之间的竞争中，也存在于地缘政治中，对吧？我们可能会担心美国的一家公司变得占主导地位并被垄断，但如果我们不竞争，那也意味着我们可能会面临一个世纪的中国霸权。所以，这又回到了出口管制问题，你知道，我简直不敢相信任何人会认为向中国出售芯片以进行竞争实际上会帮助我们的竞争优势。就目前而言，我们拥有大约——取决于你如何计算——大约 30 倍的计算机技术优势，这要归功于英伟达，因为我们在领先的人工智能芯片方面拥有巨大的市场主导地位。中国正试图赶上，但它们受到先进半导体制造设备和芯片本身的出口管制。所以，即使是华为和中芯国际以及这些中国国家冠军也在尽力而为，但它们落后我们很多年，如果不是因为这些出口管制的话。所以，这又回到了这个观点：人工智能只是一种普通技术吗？它像互联网一样吗？它只是更多的聊天机器人吗？还是这些系统在非常短的时间内将不仅为自主工人、呼叫中心工人以及类似的东西提供动力，还将为自主研发、自主武器、进攻性网络行动提供动力；我们不应该向我们的核心对手出售技术、弹药，然后用它们来对付我们。此外，对这种计算的需求将是无限的，所以我们真的没有从一开始就向它们出售芯片中获得太多好处。这确实又回到了国际背景，以及，我认为，苏珊的观点：如果我们的经济有一半是通过数据中心运行的，你就不希望它在你的国界之外，因为那是完全放弃你的主权，而发展中国家也会有同样的感受。我们宁愿它运行在美国的技术栈上，而不是中国技术栈上——部分原因在于，我认为，人工智能将具有极大的颠覆性。它将对较弱的国家尤其具有颠覆性，而且对社会秩序的需求将非常巨大，并且需要一些技术来恢复，你知道，来应对内乱。中国的大部分技术栈都是在阿拉伯之春之后开发的。他们看到了像 Facebook 这样的镜像信息技术如何导致政权更迭。所以，如果那是——如果 Facebook 能做到这一点——你认为通用人工智能（AGI）会做什么？对吧？所以，你知道，他们正在构建一种“专制即服务”的模式，如果你是一个中等国家，你需要拥有你的监控，你需要拥有预测性警务，以及这些其他——这些由人工智能驱动的技术——将有一个买方市场，我们宁愿以美国价值观来销售这项技术——围绕隐私、公民自由和尊重人权的价值观。这取决于我们首先到达那里。所以，回到开头的观点，这变成了一种两难境地，因为这将产生其他问题：将存在巨大的潜在权力集中；我们需要弄清楚如何平衡这两件事。有道理。Era，我想转向你，因为我们一直在谈论如果人工智能继续快速发展，以及变化的速度进一步加快会发生什么。但也有可能发生某种类型的崩溃，而 Mohamed 在上一场小组讨论中表示，我们很可能处于某种类型的泡沫中。所以，在你对各国的工作中，你看到了很多与商品相关的繁荣和萧条周期。你已经谈到了一些关于我们不一定在社会保险方面做好准备。我想知道，我们没有人能预测未来，但就美国尤其应该为之做好准备的事情而言，你希望看到哪些事情能让这一切更容易应对？是的。不，我认为 Mohamed 说得对。我的意思是，当你看看美国的估值时，它们确实被拉伸了。增长越来越集中在人工智能领域。投资——目前美国一半以上的商业投资实际上来自人工智能领域。所以，问题是：它是否被过度建设？我们是否会面临 21 世纪版本的被过度建设的人工智能基础设施的“搁浅资产”？存在这些资产类型的繁荣导致，不一定会转化为实际的生产力收益或实际的可持续需求，然后就会出现逆转。我的意思是，我们在商品繁荣中看到了这一点——你看到了萧条阶段——而我们在各国看到的一件事是，过去的繁荣总是以资产泡沫和杠杆为先导，而在这里，有两件事让我担心——在当前情况下让我担心。第一个是估值被拉伸，并且它们接近 25 年前互联网泡沫的水平。第二件事是，我们越来越多地看到数据中心的融资正转向债务、债务融资。对吧？所以，这些预示着风险。现在，这并不一定意味着泡沫一定会破裂，而且一定会以非常、非常痛苦的方式破裂。但如果出现严重的修正，可能会真正收紧金融条件，对国内——对美国家庭——以及外国投资者产生严重的负财富效应。它会减缓投资。它会破坏全球增长。而我们在过去，在过去的繁荣中看到的一件事是，当这些修正之前是资产繁荣时，这些修正往往会更严重、更持久。所以，我的意思是，这些是需要牢记的重要事项。这是否意味着各国无事可做？嗯，不。我想强调四件我们学到的事情，各国都可以做。第一个，至少在人工智能的情况下，是真正扩大采纳范围。每个人都谈论过这一点，但我认为这绝对至关重要。它在实践中意味着什么？它意味着确保在经济中更广泛地传播，在需要的地方弥合技能差距，建设公共数字基础设施，而这正是各国——美国和其他国家——可以获得、实现生产力红利的方式。所以，我认为这是第一点。第二点与我关于税收激励和税收及激励制度的观点有关。我们真的需要确保我们的税收和激励制度没有在人工智能领域造成这种“过热”。对吧？所以，鼓励创新？是的，好事。但过度助长这种人工智能驱动的发展繁荣可能会有问题。所以，我认为，仔细审视这些激励措施，并确保它们不会导致人工智能领域的过度投资，这一点非常重要。第三点是认识到，在有这种繁荣的时候，财政政策会变得非常顺周期。我认为这是一个重要的观点，因为这里存在政治经济学。你知道，政府往往会减税，或者他们需要，他们倾向于花很多钱。当有这种商品繁荣时，它会推高债务。所以，类比就是，你需要财政审慎，而这在我们世界各地都非常缺乏。你需要财政审慎；你需要健全的财政框架和制度来抑制这种繁荣。最后，这一点非常重要，是监测人工智能建设的宏观金融影响。就目前而言，并没有真正明显的系统性金融稳定风险，但这并不一定意味着它们不会出现。所以，我认为政府、中央银行、监管机构真正进行压力测试，以应对不利情景，这一点非常重要。如果这件事变成了所有崩溃之母怎么办？我的意思是，谁会受到影响，我们将如何清理？对于那些真正使用公共资金来建设这些东西的政府，而许多政府都在这样做，有哪些偶发性的，我的意思是，政府是否会承担责任？所以，你正在建立哪些偶发性财政负债？我认为，所以，这些是我认为各国应该做的事情，并且它们可以从过去的繁荣中吸取教训。非常有帮助。在进入问答环节之前，最后一个问题。回到 Susan。Era 提出了每个国家领导人和政策制定者都应该为应急计划问自己的问题。我知道你花了很多时间与世界银行合作，我想知道你是否能谈谈发展中国家如何看待拥抱人工智能与欧洲和中国，以及像美国和中国这样处于人工智能技术发展前沿的国家之间的差异。我的意思是，我对人工智能对发展中国家的影响相当乐观。部分原因是许多工作实际上并没有受到人工智能的太大影响。第二，阻碍发展的一个主要因素是缺乏数字化，而人工智能——数字化非常非常昂贵。但实际上，人工智能使数字化更容易，就像你可以跳过人们过去经历的所有痛苦一样。你可以用手机经营一家企业；你知道，在中国，通过微信，你可以做到，就像，你可以在手机上处理所有餐厅的订单，然后你按一个按钮，现在就有数字营销推送到那些出现在你餐厅的人，并在午餐前 11:30 推送优惠券，你知道，而你只是一个用手机经营餐厅的人，你只使用一个应用程序，你知道。所以，它有点，我的意思是，它是在微信之上的一个应用程序，但你知道……所以，我认为有很多机会，所以为什么公司不能成长，如果它们不数字化，它们就不能扩大其控制范围。你知道，我的同事 Nick Bloom 在这里做了很多关于这些最佳实践以及它们为何未在小型企业中实施的工作，所以，我认为——然后当然是政府服务，就像，整个发展中世界教师太少——你知道，那些不知道学科的老师；他们正在教护士，而护士没有接受过健康教育，你知道。这些投资的回报率非常高。所以，如果我能让每个护士的生产力提高，就像这对这些国家来说是一个巨大的增长机会。所以，我实际上非常看好。我认为它们拥有更少的缺点和更多的优点。现在，有一些国家正在出口廉价劳动力，比如呼叫中心之类的——这看起来不太好，好吗？但实际上，许多国家比我们处于更有利的位置，并且不太容易受到负面影响。现在，它们将进口它。所以，你知道，这是一个问题。我的意思是，让我快速插一下，我看到的问题是，有一个突破——我的意思是，趋同差距[倾向于]扩大。我的意思是，这项技术对发达经济体来说是一个巨大的优势——因为你拥有数字基础设施，你拥有大量具备这些技能的工人。所以，当我们谈论增强工作时，我们在上午的会议中，在下午的会议中，我们谈论了很多关于增强——技术，它如何增强工人。嗯，你拥有具备数字技能的工人可以被增强。因此，在许多新兴市场和发展中经济体中，人们不具备数字技能。你甚至没有基本的数字基础设施。所以，这就是挑战：你需要基础性的方面，基础性的政策到位，而在许多国家，这些仍然缺乏。对于一些事情；对于其他事情，你只需要一部手机。这是真的。所以，我的意思是，是的，这是不同种类的技术，但实际上你不需要——这就是我为什么对它感到兴奋的全部原因。就像以前，你需要所有这些东西才能采用机器学习或任何东西，但实际上对于基于生成式人工智能的东西，你什么都不需要；你不需要，你实际上不需要编码；你不需要，你只需要……你的意思是应用程序，是的，正是如此。鸡汤——还要写出来！我对发展中国家的前景非常乐观，原因与肯尼亚等地的移动支付和金融实现飞跃的原因相似，就像人工智能一样，我们……GDP 5，Gemini 3 已经是我们的 AI 医生了；它们比——在我看来，它们给出的诊断比大多数医生都更可靠。我们都有一个巨大的许可和认证体系，发展中国家通常没有这些东西。这是一个没有国界的医生，这项技术将比我们更早地流向这些社区，并为这些社区带来巨大的好处。所以，让我们来问专家小组问题。非常感谢。John Chisholm。到目前为止，今天还没有提到人工智能对休闲时间的影响。你们对此有什么看法？我的意思是，有短期和长期。我认为人工智能的一个悖论是，尽管它极大地——它可能极大地——提高了我们的生产力，但它也可能让我们更加忙碌，对吧？所以，如果——有一个“超级生产力”的概念，你知道——如果我们从在工作中提高 10% 的生产力转变为管理执行大部分工作的 AI 团队，你可能会发现自己带宽非常低。但一旦我们有了能够进行这种管理的 AI，我们可能就会突然发现没有什么可做的了。所以，你知道，我一直认为，从长远来看，就像长远，长远来看，这可能是 15 年，纯粹的、完全自动化的经济的最终状态是什么？它看起来很像一个海湾君主国，对吧？它们有一个石油龙头。它们有，你知道，机器人，它们称之为客工，来建造它们的体育场。它们在沙漠中进行大规模的、你知道的、大型项目。它们整天做什么？它们举办活动，对吧？所以，我认为这就是我们的休闲经济，基本上就是生活在这些像食利者国家里，拥有资源诅咒，然后我们可以做更多这样的事情。不过，我可以补充一点，这是一个完全不同的版本：现在令人惊叹的是，如果你有一个想法，并且它属于某一类，你就可以把它变成现实。就像，回到关于它们有多容易的观点一样，我今年夏天建造了一个人工智能应用程序；我编码了一个上午，我主要是用“vibe-coding”，然后在接下来的两个月里，我有一个由非技术性的本科生组成的团队在上面工作。所以，我有一个英语专业、哲学专业、语言学专业、教育学专业的学生，我们建造了一个非常好的东西。因为在基础结构搭建好之后，这花了我很少的时间，然后他们就可以做得更好，因为他们在写文本——他们的工作就是写文本，然后写评估文本，并创建一个简单的衡量其工作情况的电子表格。而且我可以——如果他们不知道如何制作 Excel 公式，ChatGPT 可以教他们如何做。所以，来汇总结果，我的意思是，这是每个人都可以参与的事情。现在有很多问题无法以这种方式解决，但如果你现在有一个想法，你就可以实现它，这很了不起。然后，也许这是一个更复杂的想法，你需要更多一点，但就像，这是一个令人惊叹的时代。那么，你为什么会感到无聊呢？人们现在经常说，最强大的编程语言是以指尖的速度运行的英语。我认为我们时间不多了，所以我想请大家和我一起感谢今天发言的专家小组。[掌声]