Transcription
并且像亚历克斯本人这样的创新者，他们正处于开发这项技术的最前沿，我认为他们需要参与进来，这不仅仅是因为像你们这样的企业拥有投资这项技术的资源。为了让您了解一些背景，今年，您知道，大型人工智能公司在开发这项技术上的投入将是美国用于曼哈顿计划的20倍，因为如果您想到政府动员起来做某事的标志性时刻，仅仅今年一年就投入了20倍。
所以，我认为，看，我们必须以不同的方式做这件事，而不是像七国集团和二十国集团那样，我们将行业、创新者和政府聚集在一起。这正是在几年前我们在布莱切利公园所做的。峰会系列去了巴黎、韩国，现在又去了印度，这是一个拥有巨大数字雄心和确实拥有能力的国家。
但我认为，在这些年里，亚历克斯，我将从这一点开始。我认为，关于人工智能的辩论实际上已经从技术转向了战略，你知道，从这些工具能做什么，到政府选择用它们做什么。我想也许可以从这里开始，如果你想想过去几年，你是一个处于开发这项技术最前沿的人。你知道，我们过去几年所经历的旅程，你知道，帮助我们理解这一点。我们取得了什么成就？在这个时刻，什么令人兴奋？让我们脚踏实地地了解我们现在所处的位置。这样我们就可以开始讨论关于我们如何使用它的问题。
是的，我认为，我的意思是，我们现在正处于这项技术一个令人难以置信的激动人心的时刻。我认为我们正处于一项技术真正加速的开端。你知道，在许多方面，直到现在，这似乎都非常明显的加速，但我认为我们将看到2026年将在许多方面成为一个转折点。
我认为，为了将这一点放在过去几年的背景下，我认为从2018年到2024年，这是一个很好的六年时期，我们一直在进行预训练。所以，我们正在沿着一条非常大的指数曲线来提高模型的性能。而这条曲线非常可预测，它具有明确的特征，即你投入的资源越多，你得到的成果就越多。当时有很多关于这条曲线是否会继续的问题。我认为这是近期人工智能怀疑论的一个时期。
然后，在2024年，大约在2024年底，强化学习时代开始了。所以，这是堆叠在之前浪潮之上的下一波主要浪潮，这时我们看到模型开始学会推理。你知道，总有一个梗图是伊利亚看到了什么？嗯，伊利亚看到了模型中的推理能力，这显然是这项技术的下一波巨浪。即使是强化学习也有明显的局限性，并且有很多关于它何时会持续多久以及可能存在局限性的问题。
然后，在2025年底，也就是几个月前，我认为我们真的开始了一个全新的技术范式或时代，那就是递归自我改进时代的开始。我认为我们真的开始在我们的模型开发中看到这一点。我认为，你知道，大多数主要实验室都在他们的模型开发中看到这一点，那就是模型本身现在已经成为加速生产下一个人工智能过程的工具。
所以，从外面看，你可能看到的是整体开发速度的加速，新模型发布速度的加速。在内部，我们看到的是速度的急剧提升。我认为，单个研究人员的生产力得到了极大的提高。而且我们不期望它会停止。事实上，我们期望它会继续平稳地加速，单个研究人员、单个工程师的产出。我认为随着技术的发展，这本身将继续呈指数级增长。
而另一波与递归自我改进技术开发中的新范式相吻合的巨浪，是智能体（agents）的真正到来。而且，我必须说，自2023年以来，人们一直对此大肆宣传。很长一段时间以来，它一直是那些从未真正达到预期的炒作性的流行语之一。而且，我认为在2025年底，我们开始看到智能体真正起作用。而且，你知道，这些是模型可以开始采取行动，开始自动化整个工作流程，并作为实际的实体本身比助手更具生产力的领域。
而且，这个时代，你知道，它始于编码智能体。我们开始看到它真正渗透到个人智能体中。这是我们在Meta非常相信的一部分。而且，我认为在2026年，我们将看到大规模的智能体部署，在经济的许多领域，世界的许多领域。而且，你知道，人工智能的GDP，可以说，将呈指数级增长。
嗯，这确实是令人非常欢迎的消息。我认为你触及了很重要的一点，因为我记得当我刚开始做这项工作时，谈话都围绕着这些规模定律以及它们是否会继续下去，你提到了怀疑论。我的意思是，它们不仅持续存在并继续带来这种指数级增长，而且感觉就像过去几个月以来加速了。正如你所提到的，正如达里奥和丹尼斯也对我所说的，并且公开地由这种递归自我改进所驱动，模型本身现在能够帮助我们更快地开发新模型。所以，你知道，我们正处于一个非常令人兴奋但又有些焦虑的时刻，因为开发时间尺度在加速。
所以，我想谈谈信任问题，因为我给你讲个故事。我有两个年轻的女儿，你知道，当她们使用聊天机器人之类的东西时，她们总是说：“请，你知道，某某某和某某某，谢谢。”当她们写完请求或得到答案时。到处都有很多“请”和“谢谢”。我当时觉得很有趣。但我对她们说，“看，这，你知道，你们不需要这样做。那里没有人。这没关系。而且，顺便说一句，你知道，当我们必须为计算付费时，这要花费一大笔钱。”
然后她们对我说，“你知道吗，爸爸，”她们说，“如果人工智能接管了世界，我们希望我们对人工智能友善。”我当时觉得这是一个很好的保险政策。但它确实触及了这种焦虑。
你非常明智。
是的。嗯，也许，你知道，全世界，我们看到对人工智能的不同态度。在像印度这样的国家，我们在这里，有巨大的乐观和信任。而在西方国家，你知道，我们看到焦虑仍然是人们对人工智能的主要感受。现在，我认为缩小这种信心差距，既是一项政策任务，也是一项技术任务。但我很想听听你的想法。我的意思是，显然你是一家面向消费者的公司，每天都在与数十亿消费者打交道。你如何看待这个信任问题？你知道，我们如何在那些没有信任的地方建立信任，而你相信，我相信，以及在座的每个人都可能相信，它能带来巨大的好处？
是的，这是最重要的问题之一，实际上可能比技术和技术发展本身更重要。它可能会比任何事情更能决定技术传播的成功程度。而且，你知道，我们对此进行了深入思考，因为我们对这项技术的愿景是，我们可以部署个人智能体，它们比大多数人更了解你。了解你的健康，了解你的目标，了解你的关系，了解你的家人和朋友。并且可以真正帮助你更有效地生活。你知道，可以帮助你更健康，可以帮助你完成你从未有过时间的项目，可以帮助你建立你一直想要的生意，可以帮助你探索你的兴趣。
要正确地建立这一点，需要消费者、政府以及实际上是所有人、所有组织的巨大信任。所以，你知道，这是这些有趣的时刻之一，我认为，因为我们想要的技术形式是如此的亲密，并且与我们认为真正是消费者生活未来以及消费者……你知道，他们与技术的关系的中心如此紧密地联系在一起。
因此，找出与管理机构合作，与非营利组织和其他组织合作来发展技术，以获得信任，这一点非常重要。这是我们在Meta实际上在WhatsApp上看到的。你知道，我们实际上在后台谈论过这个问题，但WhatsApp已经变得非常普及，并且对世界上许多人来说是一个真正的公用事业，这在很大程度上归功于它对隐私的承诺以及我们围绕WhatsApp作为一个组织建立的信任。
很多时候，你知道，不是为了优化我们的业务目标，而是为了优化WhatsApp作为平台的信任。我认为，对于现代人工智能产品来说，也将需要类似的旅程。我们已经看到，我的意思是，我们已经看到了现有的人工智能产品和实验室之间各种各样的争吵或来回的争论，关于他们的行为是否真正赢得了，你知道，真正建立了这种信任水平。
而且，我认为，你知道，你在布莱切利开始的关于全球安全的话题，我认为比以往任何时候都更重要。我认为我们已经看到，模型正在达到一定水平的能力，这让我们对我们监控这些模型的一些风险感到有些担忧，比如各种国家安全风险或各种网络安全风险。因此，正确测试然后建立适当的系统来安全地监控和部署这些模型的重要性至关重要。
你和我已经谈论这个话题很多年了。在布莱切利，我们成立了英国人工智能安全研究所来做这项工作，这正是关键。当时的想法是，政府在评估这些风险方面缺乏技术能力。那么，我们英国如何才能希望发挥领导作用，但又能在某种意义上提供全球公共产品，即我们与像你们这样的公司以及其他前沿实验室合作，对这些模型进行部署前测试？我一直的想法是，通过这样做，这并不是监管，但它让公民相信技术是安全的，因为最终人们不会采用他们不信任的技术。
我从你那里听到的感觉是，公司有责任，我认为WhatsApp的隐私例子很好，它们如何设计人工智能产品来赢得信任？然后，听起来你同意，政府也有一部分责任来做一些技术评估。你的感觉是我们是否需要政府之间更多的合作？与实验室更多的互动？目前这是否像应该的那样运作？
我认为互动运作良好，但我认为这是一个我们可以一直更加深思熟虑的领域。尤其当我们进入这个人工智能进步急剧增加的阶段时，我认为，我们必须不断思考如何做得更好。
我认为，信任辩论的胜负将取决于另一个领域，那就是公共部门。我认为，作为公民，如果你体验到更好的医疗保健、更高效的政府服务、一个能更快处理你的事务的国家，我认为这场辩论将从抽象变为现实，你将有一种真正的方式来展示效益。
从你的角度来看，你是否对人工智能在公共部门最明显的用例或部署案例有所了解，我们应该对此感到兴奋，并且政府应该考虑？
我确实有。我认为，如果你将政府视为公民的某种意义上的服务提供者，我认为所有政府都有巨大的机会能够更有效地提供服务。事实上，我们已经在印度看到了，有趣的是，在WhatsApp之上，在某些邦，他们实际上通过WhatsApp直接提供绝大多数政府服务。然后在2023年，通过WhatsApp在印度，我认为去年售出了1亿张地铁票，这本身并不是人工智能，但未来的机会是部署人工智能，以更大的便利性和速度提供这些政府服务和援助。
我认为，你知道，我一直使用一个术语，我喜欢这个概念，它真的，你知道，如果你想想政府应该如何……俄罗斯的陈述。我认为我们需要摆脱大规模的官僚服务和组织。想想政府如何利用验证……可能专注于政府服务，以便能够为国家或州开发。我认为这贯穿于公务员队伍。我认为它贯穿于医疗保健，正如你提到的。它当然对安全政府有很大的影响。我认为这很……我认为还有一个概念，我想提一下。
离开办公室的一个好处是，你有一个好处，就是时间。当我离开时，有人给了我一本杰弗里·丁教授写的很棒的书，书名叫《技术与大国》。我敢肯定你知道这本书，他在书中提出了一个关于技术传播的非常有说服力的论点。本质上是回顾了从印刷机开始的一般用途技术的历史，并论证你不需要成为发明这项技术的国家，才能成为从中获益最多的国家。
我认为你提到了印度，印度已经认识到技术领导力并不完全取决于发明技术。这取决于你如何有效地部署它。他们在这里专注于大规模的广泛采用，当然也得到了一些关键属性的支持。你拥有一个非常深入的人工智能人才库。你谈到了分发的渠道，当然，这里的数字公共基础设施是ID UPI支付基础设施，以及最近的Ayushman Bharat健康账户提供了这些基础设施渠道，向超过10亿人分发应用程序，他们显然得到了人口的支持。我认为专注于此使印度能够通过追求部署和采用战略来将自己定位为领导者。
但考虑到这一点，你知道，如果政府想将抱负变为现实，关于智能政府，关于为我们的公民服务，你需要做些什么关键属性？我认为政府确实需要以不同的方式思考。它需要建立围绕部署和传播的架构，无论是技能、计算能力还是监管。但至关重要的是，可能还有数据，这是你比大多数人更了解的。所以，也许我们从那里开始，然后扩大范围。如果我坐在政府领导人的位置上，就像听众中的许多人一样，并试图弄清楚我需要做些什么才能做好，交付这项东西的构建块是什么？让我们从数据开始，你的建议是什么？然后我们再稍微扩大一下。
是的，数据，我的意思是，数据非常重要。我认为在过去几年里，很多人都意识到了这一点，当我们审视这些模型的强大功能，当我们透过幕后观察时，你会发现，赋予这些模型的所有力量实际上都是由数据赋予的。而且，如果你想到……所以，如果你想到数据，就像在某种程度上，这是新的石油，是未来人工智能和这些模型开发中极其重要的基础材料。那么，我认为政府应该思考的是，他们的……他们的储备是什么？他们的数据储备是什么？他们的数据资产是什么？并且，在很多方面，建立战略，在那里他们拥有某些数据的控制权，或者他们能够建立某些数据集合，使国家能够表现得最好。
我认为最清晰的两个领域是，一是医疗保健。我认为许多国家已经并将需要考虑非常有效的机制来处理国内的医疗保健数据，最终随着时间的推移，能够在此基础上构建人工智能模型和人工智能智能体，为公民提供更好的健康服务。
第二个是国家安全。而且，我认为，你知道，在许多方面，这不言而喻，但我认为，你知道，各国需要对此进行深入思考，即他们核心的数据资产是什么。
然后，我认为，如果你围绕数据构建，然后看看接下来的几层，下一层是基础设施。所以，你知道，你想到电力，计算基础设施，以及它的故事是什么样的？我认为并非每个国家都需要在国内建造大型人工智能数据中心，但它们确实需要有一个长期的战略，如何获得这种基础设施。所以，无论是通过各种形式的联盟，还是与企业实体、大型云提供商的合作，我认为这是一个重要的考虑因素。
然后，我认为是创新生态系统。我确实认为，你知道，我们正处于一个重大的技术变革时刻。而且，我认为，对于……我认为存在着近乎无限的企业家和经济机会。而且，我认为政府和国家的责任是思考如何建立支持这种生态系统的系统。我认为印度实际上在许多方面是一个非常积极的案例研究，这在很大程度上归功于人才库。
但是，你知道，我昨晚和一些印度创始人以及风险投资家一起吃晚饭，他们说，我认为印度的消费者人工智能公司、消费者人工智能初创公司的数量比美国还多。所以，确实有一些令人难以置信的生态系统发展的闪耀例子。
最后，我认为是政府服务，我们之前已经谈过了。
所以，我们几乎有了一个行动计划，对吧？你需要拥有正确的数据，并确保它被有效利用。你需要一定程度的计算能力。正如我们所讨论的，你需要适当的监管来建立信任，然后我们也有一些公共部门的用例和一个创新生态系统。所以，这些是你可以开始将这些抱负变为现实并对人们产生实际影响的要素。
我只是想继续这个主题。你知道，你在一家令人难以置信的公司工作，你与其他企业合作。你知道，我与许多首席执行官交谈过，我注意到他们如何考虑在他们的业务中部署人工智能，并将其与政府应该做的事情进行比较。而且，我认为确实存在明显的相似之处。我很好奇。我认为首席执行官们一直在思考人工智能。我认为几乎任何一家大型公司的首席执行官都在思考，我会被人工智能颠覆、被削弱吗？我如何利用它来保持领先地位？我在哪里利用它来提高效率和增长？
而且，他们正在自上而下地推动项目。他们说，“看，这不是一个可以只留在IT部门的话题。这必须由首席执行官来推动，我们来选择用例，我们来承担责任，我们开始试点并迅速推广。”
我，我的感觉是，我们还没有在政府中看到同样的转变。但我认为这是一个很好的类比，那就是，你知道，最终，如果你是首相，我敢肯定托尼也会这么说，而且确实说过，你只能亲自从顶层推动几件事，而这件事真的必须是其中之一。你对如何推动这个机器有什么想法或建议？要实现执行需要什么？我的意思是，你在Meta自己也做过，所以你会有一些感受。
是的，我认为这是两件事的结合。我认为首先，在最高层面，你需要非常清楚地表明，组织将是一个人工智能优先的组织。对每个组织来说，这意味着略有不同，但它……就像我真正思考它的方式是，组织的成功或失败完全取决于它能否妥善拥抱人工智能。所以，这是自上而下的组成部分。而且，你知道，有一个必须更周密地设计的战略。而且，说实话，你现在甚至可以请人工智能来帮助你设计那个战略，它可能会做得相当好。
然后，你需要自下而上的采用和自下而上的成功案例。对我们Meta来说，例子是，你知道，我们公司里有这些工程师。他们能够利用人工智能来提高10到100倍的生产力。而且，这些都是如此令人难以置信的例子，突然间，组织里的其他人都环顾四周，意识到哇，这确实是必须非常认真对待的事情。这不仅仅是首席执行官或高管们在谈论的事情，而且他们与现实脱节。就像不，它在现实中非常真实，而且是以一种非常大的方式。所以，我认为你需要这种组合，即哪些成功案例让每个人都意识到这是一个多么大的转变，同时也要确保有一个持续的，有一个非常明确的自上而下的方向，即这种转变是强制性的。
它是强制性的。非常有用的建议。但我们快没时间了。所以，也许最后一点，作为结束，你知道，你展望未来，你知道，你对这项技术的发展最兴奋的是什么？你提到了个人智能体，其他科学突破，你知道，它将走向何方？政府现在应该做什么？你知道，以便他们做好准备，而不是追赶？
我认为你可以依靠的事情是，技术发展的步伐将继续加速。我认为，这个递归自我改进的时代将感觉一切都在加速，而且我认为技术将继续快速发展。
我也认为，技术的传播将加速。我认为过去很多年一直存在一个问题，那就是每个人都在谈论人工智能，但人工智能在哪里？它在哪里影响我的日常生活？我认为，这真的会加速。也许不会，你知道，它不会快100倍，但也许它会比每年快两到三倍，在未来很多年里。
而且，我认为我真正兴奋的是，你知道，我们在Meta谈论这个个人超级智能的想法，那就是，你知道，每个人如何拥有一个帮助他们完成他们极其兴奋的事情的智能体？他们如何帮助他们，你知道，探索他们的激情，建立一个企业，做出一个发现，发明一个东西，你知道，你知道，实现他们自己生活的最大化版本。
而且，我认为，这甚至超越了，是人际超级智能的概念，那就是，我认为我们有时已经在人类社会中看到了，要成就大事所必需的东西，就是让合适的一群人以合适的方式组织起来。你可以在公司看到这一点，你可以在非营利组织看到这一点，你可以在大型运动中看到这一点，你甚至可以在政府重组时看到这一点。
而且，我认为人工智能技术有一个巨大的机会，可以使人类以比今天更好的方式组织起来。而且，突然之间，也许我们可以作为社区或群体或新公司来组织，或者谁知道它会是什么样子，来解决我们许多最大的挑战。所以，你知道，这听起来有点高调，但这是我真正感到兴奋的事情。
不，我能理解，这是一个非常有说服力的愿景。看，这是一次非常有趣的谈话。很明显，技术不仅仅是跟上步伐，它还在加速。很明显，辩论正从，你知道，仅仅谈论技术，转向，正如你所说，它如何改变人们的生活并得到部署。
看，我的一项担忧，也许我们可以以此结束，是，你知道，我认为一些，不是全部，一些政治领导人认为人工智能将是明天的议题，而我认为他们需要认识到，这是今天的行动议题。而且，这需要从，你知道，人工智能需要从一个专门的话题转变为政府的中心责任。而且，它需要具有相同的紧迫性和行动力，以便我们能够实现亚历克斯所谈论的所有好处。
但这真是一次很棒的讨论。感谢你给所有听众的建议和技巧，并让我们深入了解事情的进展。非常感谢。
非常感谢。非常感谢我们早些时候的发言嘉宾。能再次为里希·苏纳克和亚历克斯·王鼓掌吗？
谢谢。
当我成为首相时，我一直过度沉迷于人工智能，因为我在加州待过。你得到了唐宁街的工作，你最早的会议之一就是与外交事务团队的会议，他们和你坐在一起。我可以看到听众中有人会记得这一点。他们会审视你未来12个月的国际日程，他们想弄清楚，你知道，你应该做什么。
结果发现，基本上，你可以想象的每件事都有一个国际峰会。结果发现大约有150个，而英国外交部作为英国外交部，他们希望我参加所有这些会议。虽然我确实，我确实说过，作为英国首相，我认为我可以划清界限，不参加联合国关于沙尘暴的高级别会议。在那一点上，我们同意分歧。
但我注意到，没有一个集会是为了汇集人们来讨论我认为是我们这个时代最具变革性的技术。而且，我认为我们都很幸运能生活在一个人工智能是一般用途技术的时代。这些技术并不经常出现。当它们出现时，它们过去有机会，将来也有机会改变我们经济的每一个方面，我们社会的每一个方面，我们生活的每一个方面。
这就是为什么我认为有必要让领导人定期聚在一起讨论这个问题。但我也认为需要以略有不同的方式进行。与以往的技术周期相比，像亚历克斯的公司和亚历克斯本人这样的创新者正处于开发这项技术的最前沿。我认为他们需要参与进来。这不仅仅是因为像你们这样的企业拥有投资这项技术的资源。
为了让您了解一些背景，今年，您知道，大型人工智能公司在开发这项技术上的投入将是美国用于曼哈顿计划的20倍，因为如果您想到政府动员起来做某事的标志性时刻，仅仅今年一年就投入了20倍。
所以，我认为，看，我们必须以不同的方式做这件事，而不是像七国集团和二十国集团那样，我们将行业、创新者和政府聚集在一起。这正是在几年前我们在布莱切利公园所做的。峰会系列去了巴黎、韩国，现在又去了印度，这是一个拥有巨大数字雄心和确实拥有能力的国家。
但我认为，在这些年里，亚历克斯，我将从这一点开始。我认为，关于人工智能的辩论实际上已经从技术转向了战略，你知道，从这些工具能做什么，到政府选择用它们做什么。我想也许可以从这里开始，如果你想想过去几年，你是一个处于开发这项技术最前沿的人。你知道，我们过去几年所经历的旅程，你知道，帮助我们理解这一点。我们取得了什么成就？在这个时刻，什么令人兴奋？让我们脚踏实地地了解我们现在所处的位置。这样我们就可以开始讨论关于我们如何使用它的问题。
是的，我认为，我的意思是，我们现在正处于这项技术一个令人难以置信的激动人心的时刻。我认为我们正处于一项技术真正加速的开端。你知道，在许多方面，直到现在，这似乎都非常明显的加速，但我认为我们将看到2026年将在许多方面成为一个转折点。
我认为，为了将这一点放在过去几年的背景下，我认为从2018年到2024年，这是一个很好的六年时期，我们一直在进行预训练。所以，我们正在沿着一条非常大的指数曲线来提高模型的性能。而这条曲线非常可预测，它具有明确的特征，即你投入的资源越多，你得到的成果就越多。当时有很多关于这条曲线是否会继续的问题。甚至在它继续的程度上，是否存在边际收益递减。我认为这是近期人工智能怀疑论的一个时期。
然后，在2024年，大约在2024年底，强化学习时代开始了。所以，这是堆叠在之前浪潮之上的下一波主要浪潮，这时我们看到模型开始学会推理。你知道，总有一个梗图是伊利亚看到了什么？嗯，伊利亚看到了模型中的推理能力，这显然是这项技术的下一波巨浪。即使是强化学习也有明显的局限性，并且有很多关于它何时会持续多久以及可能存在局限性的问题。
然后，在2025年底，也就是几个月前，我认为我们真的开始了一个全新的技术范式或时代，那就是递归自我改进时代的开始。我认为我们真的开始在我们的模型开发中看到这一点。我认为，你知道，大多数主要实验室都在他们的模型开发中看到这一点，那就是模型本身现在已经成为加速生产下一个人工智能过程的工具。
所以，从外面看，你可能看到的是整体开发速度的加速，新模型发布速度的加速。在内部，我们看到的是速度的急剧提升。我认为，单个研究人员的生产力得到了极大的提高。而且我们不期望它会停止。事实上，我们期望它会继续平稳地加速，单个研究人员、单个工程师的产出。我认为随着技术的发展，这本身将继续呈指数级增长。
而另一波与递归自我改进技术开发中的新范式相吻合的巨浪，是智能体（agents）的真正到来。而且，我必须说，自2023年以来，人们一直对此大肆宣传。很长一段时间以来，它一直是那些从未真正达到预期的炒作性的流行语之一。而且，我认为在2025年底，我们开始看到智能体真正起作用。而且，你知道，这些是模型可以开始采取行动，开始自动化整个工作流程，并作为实际的实体本身比助手更具生产力的领域。
而且，这个时代，你知道，它始于编码智能体。我们开始看到它真正渗透到个人智能体中。这是我们在Meta非常相信的一部分。而且，我认为在2026年，我们将看到大规模的智能体部署，在经济的许多领域，世界的许多领域。而且，你知道，人工智能的GDP，可以说，将呈指数级增长。
嗯，这确实是令人非常欢迎的消息。我认为你触及了很重要的一点，因为我记得当我刚开始做这项工作时，谈话都围绕着这些规模定律以及它们是否会继续下去，你提到了怀疑论。我的意思是，它们不仅持续存在并继续带来这种指数级增长，而且感觉就像过去几个月以来加速了。正如你所提到的，正如达里奥和丹尼斯也对我所说的，并且公开地由这种递归自我改进所驱动，模型本身现在能够帮助我们更快地开发新模型。所以，你知道，我们正处于一个非常令人兴奋但又有些焦虑的时刻，因为开发时间尺度在加速。
所以，我想谈谈信任问题，因为我给你讲个故事。我有两个年轻的女儿，你知道，当她们使用聊天机器人之类的东西时，她们总是说：“请，你知道，某某某和某某某，谢谢。”当她们写完请求或得到答案时。到处都有很多“请”和“谢谢”。我当时觉得很有趣。但我对她们说，“看，这，你知道，你们不需要这样做。那里没有人。这没关系。而且，顺便说一句，你知道，当我们必须为计算付费时，这要花费一大笔钱。”
然后她们对我说，“你知道吗，爸爸，”她们说，“如果人工智能接管了世界，我们希望我们对人工智能友善。”我当时觉得这是一个很好的保险政策。但它确实触及了这种焦虑。
你非常明智。
是的。嗯，也许，你知道，全世界，我们看到对人工智能的不同态度。在像印度这样的国家，我们在这里，有巨大的乐观和信任。而在西方国家，你知道，我们看到焦虑仍然是人们对人工智能的主要感受。现在，我认为缩小这种信心差距，既是一项政策任务，也是一项技术任务。但我很想听听你的想法。我的意思是，显然你是一家面向消费者的公司，每天都在与数十亿消费者打交道。你如何看待这个信任问题？你知道，我们如何在那些没有信任的地方建立信任，而你相信，我相信，以及在座的每个人都可能相信，它能带来巨大的好处？
是的，这是最重要的问题之一，实际上可能比技术和技术发展本身更重要。它可能会比任何事情更能决定技术传播的成功程度。而且，你知道，我们对此进行了深入思考，因为我们对这项技术的愿景是，我们可以部署个人智能体，它们比大多数人更了解你。了解你的健康，了解你的目标，了解你的关系，了解你的家人和朋友。并且可以真正帮助你更有效地生活。你知道，可以帮助你更健康，可以帮助你完成你从未有过时间的项目，可以帮助你建立你一直想要的生意，可以帮助你探索你的兴趣。
要正确地建立这一点，需要消费者、政府以及实际上是所有人、所有组织的巨大信任。所以，你知道，这是这些有趣的时刻之一，我认为，因为我们想要的技术形式是如此的亲密，并且与我们认为真正是消费者生活未来以及消费者……你知道，他们与技术的关系的中心如此紧密地联系在一起。
因此，找出与管理机构合作，与非营利组织和其他组织合作来发展技术，以获得信任，这一点非常重要。这是我们在Meta实际上在WhatsApp上看到的。你知道，我们实际上在后台谈论过这个问题，但WhatsApp已经变得非常普及，并且对世界上许多人来说是一个真正的公用事业，这在很大程度上归功于它对隐私的承诺以及我们围绕WhatsApp作为一个组织建立的信任。
很多时候，你知道，不是为了优化我们的业务目标，而是为了优化WhatsApp作为平台的信任。我认为，对于现代人工智能产品来说，也将需要类似的旅程。我们已经看到，我的意思是，我们已经看到了现有的人工智能产品和实验室之间各种各样的争吵或来回的争论，关于他们的行为是否真正赢得了，你知道，真正建立了这种信任水平。
而且，我认为，你知道，你在布莱切利开始的关于全球安全的话题，我认为比以往任何时候都更重要。我认为我们已经看到，模型正在达到一定水平的能力，这让我们对我们监控这些模型的一些风险感到有些担忧，比如各种国家安全风险或各种网络安全风险。因此，正确测试然后建立适当的系统来安全地监控和部署这些模型的重要性至关重要。
你和我已经谈论这个话题很多年了。在布莱切利，我们成立了英国人工智能安全研究所来做这项工作，这正是关键。当时的想法是，政府在评估这些风险方面缺乏技术能力。那么，我们英国如何才能希望发挥领导作用，但又能在某种意义上提供全球公共产品，即我们与像你们这样的公司以及其他前沿实验室合作，对这些模型进行部署前测试？我一直的想法是，通过这样做，这并不是监管，但它让公民相信技术是安全的，因为最终人们不会采用他们不信任的技术。
我从你那里听到的感觉是，公司有责任，我认为WhatsApp的隐私例子很好，它们如何设计人工智能产品来赢得信任？然后，听起来你同意，政府也有一部分责任来做一些技术评估。你的感觉是我们是否需要政府之间更多的合作？与实验室更多的互动？目前这是否像应该的那样运作？
我认为互动运作良好，但我认为这是一个我们可以一直更加深思熟虑的领域。尤其当我们进入这个人工智能进步急剧增加的阶段时，我认为，我们必须不断思考如何做得更好。
我认为，信任辩论的胜负将取决于另一个领域，那就是公共部门。我认为，作为公民，如果你体验到更好的医疗保健、更高效的政府服务、一个能更快处理你的事务的国家，我认为这场辩论将从抽象变为现实，你将有一种真正的方式来展示效益。
从你的角度来看，你是否对人工智能在公共部门最明显的用例或部署案例有所了解，我们应该对此感到兴奋，并且政府应该考虑？
我确实有。我认为，如果你将政府视为公民的某种意义上的服务提供者，我认为所有政府都有巨大的机会能够更有效地提供服务。事实上，我们已经在印度看到了，有趣的是，在WhatsApp之上，在某些邦，他们实际上通过WhatsApp直接提供绝大多数政府服务。然后在2023年，通过WhatsApp在印度，我认为去年售出了1亿张地铁票，这本身并不是人工智能，但未来的机会是部署人工智能，以更大的便利性和速度提供这些政府服务和援助。
我认为，你知道，我一直使用一个术语，我喜欢这个概念，它真的，你知道，如果你想想政府应该如何……俄罗斯的陈述。我认为我们需要摆脱大规模的官僚服务和组织。想想政府如何利用验证……可能专注于政府服务，以便能够为国家或州开发。我认为这贯穿于公务员队伍。我认为它贯穿于医疗保健，正如你提到的。它当然对安全政府有很大的影响。我认为这很……我认为还有一个概念，我想提一下。
离开办公室的一个好处是，你有一个好处，就是时间。当我离开时，有人给了我一本杰弗里·丁教授写的很棒的书，书名叫《技术与大国》。我敢肯定你知道这本书，他在书中提出了一个关于技术传播的非常有说服力的论点。本质上是回顾了从印刷机开始的一般用途技术的历史，并论证你不需要成为发明这项技术的国家，才能成为从中获益最多的国家。
我认为你提到了印度，印度已经认识到技术领导力并不完全取决于发明技术。这取决于你如何有效地部署它。他们在这里专注于大规模的广泛采用，当然也得到了一些关键属性的支持。你拥有一个非常深入的人工智能人才库。你谈到了分发的渠道，当然，这里的数字公共基础设施是ID UPI支付基础设施，以及最近的Ayushman Bharat健康账户提供了这些基础设施渠道，向超过10亿人分发应用程序，他们显然得到了人口的支持。我认为专注于此使印度能够通过追求部署和采用战略来将自己定位为领导者。
但考虑到这一点，你知道，如果政府想将抱负变为现实，关于智能政府，关于为我们的公民服务，你需要做些什么关键属性？我认为政府确实需要以不同的方式思考。它需要建立围绕部署和传播的架构，无论是技能、计算能力还是监管。但至关重要的是，可能还有数据，这是你比大多数人更了解的。所以，也许我们从那里开始，然后扩大范围。如果我坐在政府领导人的位置上，就像听众中的许多人一样，并试图弄清楚我需要做些什么才能做好，交付这项东西的构建块是什么？让我们从数据开始，你的建议是什么？然后我们再稍微扩大一下。
是的，数据，我的意思是，数据非常重要。我认为在过去几年里，很多人都意识到了这一点，当我们审视这些模型的强大功能，当我们透过幕后观察时，你会发现，赋予这些模型的所有力量实际上都是由数据赋予的。而且，如果你想到……所以，如果你想到数据，就像在某种程度上，这是新的石油，是未来人工智能和这些模型开发中极其重要的基础材料。那么，我认为政府应该思考的是，他们的……他们的储备是什么？他们的数据储备是什么？他们的数据资产是什么？并且，在很多方面，建立战略，在那里他们拥有某些数据的控制权，或者他们能够建立某些数据集合，使国家能够表现得最好。
我认为最清晰的两个领域是，一是医疗保健。我认为许多国家已经并将需要考虑非常有效的机制来处理国内的医疗保健数据，最终随着时间的推移，能够在此基础上构建人工智能模型和人工智能智能体，为公民提供更好的健康服务。
第二个是国家安全。而且，我认为，你知道，在许多方面，这不言而喻，但我认为，你知道，各国需要对此进行深入思考，即他们核心的数据资产是什么。
然后，我认为，如果你围绕数据构建，然后看看接下来的几层，下一层是基础设施。所以，你知道，你想到电力，计算基础设施，以及它的故事是什么样的？我认为并非每个国家都需要在国内建造大型人工智能数据中心，但它们确实需要有一个长期的战略，如何获得这种基础设施。所以，无论是通过各种形式的联盟，还是与企业实体、大型云提供商的合作，我认为这是一个重要的考虑因素。
然后，我认为是创新生态系统。我确实认为，你知道，我们正处于一个重大的技术变革时刻。而且，我认为，对于……我认为存在着近乎无限的企业家和经济机会。而且，我认为政府和国家的责任是思考如何建立支持这种生态系统的系统。我认为印度实际上在许多方面是一个非常积极的案例研究，这在很大程度上归功于人才库。
但是，你知道，我昨晚和一些印度创始人以及风险投资家一起吃晚饭，他们说，我认为印度的消费者人工智能公司、消费者人工智能初创公司的数量比美国还多。所以，确实有一些令人难以置信的生态系统发展的闪耀例子。
最后，我认为是政府服务，我们之前已经谈过了。
所以，我们几乎有了一个行动计划，对吧？你需要拥有正确的数据，并确保它被有效利用。你需要一定程度的计算能力。正如我们所讨论的，你需要适当的监管来建立信任，然后我们也有一些公共部门的用例和一个创新生态系统。所以，这些是你可以开始将这些抱负变为现实并对人们产生实际影响的要素。
我只是想继续这个主题。你知道，你在一家令人难以置信的公司工作，你与其他企业合作。你知道，我与许多首席执行官交谈过，我注意到他们如何考虑在他们的业务中部署人工智能，并将其与政府应该做的事情进行比较。而且，我认为确实存在明显的相似之处。我很好奇。我认为首席执行官们一直在思考人工智能。我认为几乎任何一家大型公司的首席执行官都在思考，我会被人工智能颠覆、被削弱吗？我如何利用它来保持领先地位？我在哪里利用它来提高效率和增长？
而且，他们正在自上而下地推动项目。他们说，“看，这不是一个可以只留在IT部门的话题。这必须由首席执行官来推动，我们来选择用例，我们来承担责任，我们开始试点并迅速推广。”
我，我的感觉是，我们还没有在政府中看到同样的转变。但我认为这是一个很好的类比，那就是，你知道，最终，如果你是首相，我敢肯定托尼也会这么说，而且确实说过，你只能亲自从顶层推动几件事，而这件事真的必须是其中之一。你对如何推动这个机器有什么想法或建议？要实现执行需要什么？我的意思是，你在Meta自己也做过，所以你会有一些感受。
是的，我认为这是两件事的结合。我认为首先，在最高层面，你需要非常清楚地表明，组织将是一个人工智能优先的组织。对每个组织来说，这意味着略有不同，但它……就像我真正思考它的方式是，组织的成功或失败完全取决于它能否妥善拥抱人工智能。所以，这是自上而下的组成部分。而且，你知道，有一个必须更周密地设计的战略。而且，说实话，你现在甚至可以请人工智能来帮助你设计那个战略，它可能会做得相当好。
然后，你需要自下而上的采用和自下而上的成功案例。对我们Meta来说，例子是，你知道，我们公司里有这些工程师。他们能够利用人工智能来提高10到100倍的生产力。而且，这些都是如此令人难以置信的例子，突然间，组织里的其他人都环顾四周，意识到哇，这确实是必须非常认真对待的事情。这不仅仅是首席执行官或高管们在谈论的事情，而且他们与现实脱节。就像不，它在现实中非常真实，而且是以一种非常大的方式。所以，我认为你需要这种组合，即哪些成功案例让每个人都意识到这是一个多么大的转变，同时也要确保有一个持续的，有一个非常明确的自上而下的方向，即这种转变是强制性的。
它是强制性的。非常有用的建议。但我们快没时间了。所以，也许最后一点，作为结束，你知道，你展望未来，你知道，你对这项技术的发展最兴奋的是什么？你提到了个人智能体，其他科学突破，你知道，它将走向何方？政府现在应该做什么？你知道，以便他们做好准备，而不是追赶？
我认为你可以依靠的事情是，技术发展的步伐将继续加速。我认为，这个递归自我改进的时代将感觉一切都在加速，而且我认为技术将继续快速发展。
我也认为，技术的传播将加速。我认为过去很多年一直存在一个问题，那就是每个人都在谈论人工智能，但人工智能在哪里？它在哪里影响我的日常生活？我认为，这真的会加速。也许不会，你知道，它不会快100倍，但也许它会比每年快两到三倍，在未来很多年里。
而且，我认为我真正兴奋的是，你知道，我们在Meta谈论这个个人超级智能的想法，那就是，你知道，每个人如何拥有一个帮助他们完成他们极其兴奋的事情的智能体？他们如何帮助他们，你知道，探索他们的激情，建立一个企业，做出一个发现，发明一个东西，你知道，你知道，实现他们自己生活的最大化版本。
而且，我认为，这甚至超越了，是人际超级智能的概念，那就是，我认为我们有时已经在人类社会中看到了，要成就大事所必需的东西，就是让合适的一群人以合适的方式组织起来。你可以在公司看到这一点，你可以在非营利组织看到这一点，你可以在大型运动中看到这一点，你甚至可以在政府重组时看到这一点。
而且，我认为人工智能技术有一个巨大的机会，可以使人类以比今天更好的方式组织起来。而且，突然之间，也许我们可以作为社区或群体或新公司来组织，或者谁知道它会是什么样子，来解决我们许多最大的挑战。所以，你知道，这听起来有点高调，但这是我真正感到兴奋的事情。
不，我能理解，这是一个非常有说服力的愿景。看，这是一次非常有趣的谈话。很明显，技术不仅仅是跟上步伐，它还在加速。很明显，辩论正从，你知道，仅仅谈论技术，转向，正如你所说，它如何改变人们的生活并得到部署。
看，我的一项担忧，也许我们可以以此结束，是，你知道，我认为一些，不是全部，一些政治领导人认为人工智能将是明天的议题，而我认为他们需要认识到，这是今天的行动议题。而且，这需要从，你知道，人工智能需要从一个专门的话题转变为政府的中心责任。而且，它需要具有相同的紧迫性和行动力，以便我们能够实现亚历克斯所谈论的所有好处。
但这真是一次很棒的讨论。感谢你给所有听众的建议和技巧，并让我们深入了解事情的进展。非常感谢。
非常感谢。非常感谢我们早些时候的发言嘉宾。能再次为里希·苏纳克和亚历克斯·王鼓掌吗？
谢谢。
我认为你知道，我一直有一个术语，我喜欢这个政府，而且它确实是，你知道，如果你想想我的政府应该是什么样的，俄罗斯国家，我认为我们需要摆脱大规模的官僚服务和组织。现在想想使用验证组织的服务国家，这削减了公务员，我认为这是相当重要的。我只是想说，离开办公室的一个好处是，当我离开时，有人给了我一本杰弗里·丁（Jeffrey Ding）的精彩著作，丁教授。它叫做《技术与大国》。我相信你知道这本书，而且他在书中提出了一个非常有说服力的论点，关于技术扩散，基本上是回顾了通用技术从印刷机开始的历史，并认为你不必是发明技术的国家，才能成为从中获益最多的国家。我认为你提到了印度，印度已经认识到技术领导力并不完全取决于发明技术。它关乎你如何有效地部署它。他们在这里专注于大规模的广泛采用，当然也得到了一些关键属性的支持。你们这里有非常深厚的人工智能人才库。你谈到了分销的渠道。显然，这里的数字公共基础设施是身份证、统一支付接口支付基础设施，以及最近的艾什·马丁病毒健康账户，为超过十亿人提供分销应用程序的基础设施渠道，而且他们显然拥有支持性的人口，我认为专注于此，使印度能够通过追求部署和采用战略，将自己定位为领导者。但考虑到这一点，你知道，如果我们要将你的愿望变成现实，关于高效政府，关于为我们的公民服务，政府必须做对哪些关键属性？你知道，我认为政府确实需要从不同的角度思考问题。它需要围绕部署和扩散构建架构，无论是技能、计算能力还是监管，但关键可能还有数据，这是你比大多数人更了解的。所以，也许我们从那里开始，然后扩大范围。如果我，你知道，作为一名政府领导人，就像听众中的许多人一样，试图弄清楚我需要做对什么，交付这个东西的基石是什么？让我们从数据开始，你在这方面的建议是什么？然后我们会稍微扩大范围。>> 是的，数据，我是说，数据非常重要。我认为在过去的几年里，很多人都意识到了这一点，当我们审视这些模型的威力，当我们窥探幕后时，你会意识到，赋予这些模型的所有威力实际上都来自于数据。如果你想到，所以如果你想到数据，在某种程度上，就像这种新的石油，这种基础材料，对于人工智能的未来和这些模型的开发来说，它都极其重要。那么，我认为政府应该思考的是，他们的储备是什么？他们的数据储备是什么？他们的数据资产是什么？而且，在很多方面，建立战略，使他们在某些数据集上拥有主权，或者他们能够构建某些数据集，使国家能够表现得最好。我认为其中最清晰的两个领域是医疗保健。我认为许多国家已经这样做了，其他国家需要考虑的是，如何有效地处理国内的医疗保健数据，最终随着时间的推移，能够在此基础上构建人工智能模型和人工智能代理，为公民提供更好的医疗服务。第二个是国家安全，我认为这，你知道，在很多方面都相当不言而喻，但我认为，你知道，各国需要深入思考的是，他们核心的数据资产是什么。然后，我认为，如果你围绕数据构建，然后看看接下来的几层，下一层是基础设施，所以，你知道，你想到电力，计算基础设施，以及它的故事是什么样的？我不认为每个国家都需要在国内建立大规模的人工智能数据中心，但他们确实需要有一个长期的战略，如何获得这种基础设施的访问权。所以，无论是以各种形式的联盟，还是与企业实体，大型云服务提供商的合作，我认为这是一个重要的考虑因素。然后，我认为是创新生态系统。我确实认为，你知道，我们正处于一个重大的技术变革时刻，而且，我认为，对于我认为几乎无限的创业和经济机会来说，这是极其重要的。而且，我认为政府和国家的责任是思考如何建立支持这种生态系统的体系。我认为印度实际上在很多方面是一个伟大的，非常积极的案例研究，很大程度上是由于人才库。但是，你知道，我昨晚和一些印度创始人及风险投资家一起吃晚饭，统计数据显示，我认为印度的消费者人工智能公司，消费者人工智能初创公司比美国多。所以，确实有一些，你知道，这些令人难以置信的生态系统发展的闪光例子。然后，最后我认为是政府服务，我们之前已经谈过了。>> 所以，我们有，我认为几乎是一个行动计划正在出现，对吧？你需要拥有正确的数据，并确保它被有效利用。你需要一定程度的计算能力。我们已经谈过的，你有适当的监管来建立信任，然后我们也有一些公共部门的用例和创新生态系统。所以，这些是你可以开始将这些抱负变为现实并对人们产生实际影响的要素。我只是继续这个主题，你知道，你在一家了不起的公司工作，你与其他企业合作，你知道，我与许多首席执行官交谈，我注意到他们如何思考在他们的业务中部署人工智能，并思考这与政府应该做什么之间的联系。而且，我，你知道，我认为存在一种清晰的联系。我很好奇。我认为首席执行官们，你知道，一直在思考人工智能。我认为几乎任何大型公司的首席执行官都在花时间思考，我会被人工智能颠覆、取代吗？我如何利用它来保持领先地位？我在哪里利用它来提高效率和增长？而且，他们正在自上而下地推动项目。而且，他们说，看，这是不是一个可以只留在 IT 部门的话题？这是必须由首席执行官推动的，我们选择用例，我们承担责任，我们开始试点并迅速扩大规模。我，你知道，我的感觉是，我们还没有在政府中看到同样的转变，但我想这是一个很好的类比，而且，看，这必须由最高领导者来推动。归根结底，如果你是总理，我相信托尼也会说同样的话，而且确实说过，你只能亲自推动几件事情，而这真的必须是其中之一。你知道，你对首席执行官和政府有什么样的想法或建议，关于如何驱动这个机器？需要什么才能实现执行？而且，我的意思是，你自己也在 Meta 做过，对吧？所以，你会有一些感受。>> 是的，我认为这是两件事的结合。我认为首先，在最高层面，你需要清楚地表明，组织将是一个人工智能优先的组织。而对每个组织来说，这意味着什么略有不同，但它，它，就像我真正思考它的方式是，组织的成功或失败实际上完全取决于它能否正确地拥抱人工智能。所以，这是自上而下的组成部分。而且，你知道，有一个必须更周密地设计的战略。而且，事实上，说实话，你现在可以要求人工智能帮助你设计那个战略，它可能会做得很好。然后，你需要一个自下而上的采用和自下而上的成功故事的基石。对于我们 Meta 来说，例子是，你知道，我们公司里有很多工程师，他们能够利用人工智能，使他们的生产力提高 10 到 100 倍。而这些都是如此令人难以置信的例子，突然之间，组织中的其他所有人都环顾四周，意识到，哇，这确实是必须认真对待的事情。这不仅仅是，你知道，首席执行官或高管们在谈论的事情，而且你知道他们与现实脱节。就像不，它在地面上非常真实，而且是以一种非常大的方式。所以，我认为你需要这种组合，成功的故事让每个人都意识到它实际上是多么大的转变，同时也要确保有一个持续的，有一个非常明确的自上而下的方向，即这种转变是强制性的。>> 它是强制性的。非常有用的建议。但我们快没时间了。所以，也许最后一点，来结束这个话题，你知道，你向前看，你知道，你对这项技术的发展最兴奋的是什么？你提到了个人代理和其他科学突破，你知道，它将走向何方？政府现在应该做什么？你知道，以便他们做好准备，而不是追赶。>> 我认为你可以依赖的事情是，我认为技术发展的速度将继续加快。我认为这种递归自我改进的时代将感觉一切都在加速，我认为技术将继续快速发展。我也认为技术的扩散将继续加速。我认为过去很多年里一直存在一个问题，那就是每个人都在谈论人工智能，但人工智能在哪里？我的日常生活在哪里？我认为这真的会加速。也许不是，你知道，它不会快 100 倍，但也许它会在未来许多年里，每年快两到三倍。而且，我认为我真正兴奋的是，你知道，我们谈论 Meta 的个人超级智能的想法，那就是，你知道，每个人如何拥有一个代理，帮助他们完成他们非常兴奋的事情？他们如何帮助他们探索他们的激情，建立一个企业，做出一个发现，发明一个东西，你知道，实现他们自己生活的最大化版本。而且，我认为这甚至超越了，那就是人际超级智能的概念，那就是，我认为我们已经在人类社会中看到了，有时发生大事所必需的是，就是让合适的一群人以合适的方式组织起来。你在公司、非营利组织、大型运动中都能看到这一点，你甚至在政府重组时也能看到这一点。而且，我认为人工智能技术有一个巨大的机会，可以使人类以比我们今天更好的方式组织起来。而且，突然之间，也许我们可以作为社区或团体或新公司来组织，或者谁知道它会是什么样子，来解决我们许多最大的挑战。所以，你知道，这听起来有点高尚，但这是我真正兴奋的事情。>> 不，我们能看到，这是一个非常有说服力的愿景。看，这是一次迷人的对话。很明显，技术不仅仅是跟上步伐，它还在加速。很明显，争论正从，你知道，仅仅谈论技术，转变为，正如你所说，它如何改变人们的生活并被部署。而我的一些担忧，也许我们以此结束，就是，你知道，我认为一些，不是全部，一些政治领导人认为人工智能将是明天的议题，而我认为他们需要认识到，这是今天的行动议题。而且，这需要从，你知道，人工智能需要从一个专门的话题转变为政府的集中责任。而且，它需要附带同样的紧迫感和行动，以便我们能够实现亚历克斯所说的所有好处。但这是一次很棒的讨论。感谢你所有的建议和技巧，以及为听众提供的见解，让我们了解了事情的走向。非常感谢。>> 非常感谢。非常感谢我们早些时候的演讲嘉宾。请再为 Rishi Sunk 和 Alexander 鼓一次掌。>> 当我成为首相时，我一直沉迷于人工智能，因为我在加州的那段时间。你，你得到了唐宁街的工作，你最早的会议之一就是与外交团队会面，他们坐下来和你谈。我可以看到听众中有人会记得这一点，他们会回顾你未来 12 个月的国际日程，他们想弄清楚，你知道，你应该做什么。结果发现，基本上，你可以想象的任何事情都有一个国际峰会。结果大约有 150 个，而英国外交部作为英国外交部，他们希望我参加所有这些。虽然我确实，我确实说过，作为英国首相，我认为我可以在联合国关于沙尘暴的高级别会议上划清界限。我们在那里意见不合。但我注意到，没有一个集会能够将人们聚集在一起，讨论我认为是我们这个时代最具变革性的技术。而且，我认为我们都很幸运能够生活在一个人工智能是一项通用技术时代。这些技术并不经常出现，当它们出现时，它们在过去和未来都有改变我们经济、社会和生活的各个方面的机会。这就是为什么我认为有必要让领导人定期讨论这个问题。但我认为也需要以略有不同的方式进行。与以往的技术周期相比，是像亚历克斯的公司和像亚历克斯这样的创新者，他们处于开发这项技术的最前沿。我认为他们需要参与其中，尤其因为正是像你们这样的企业拥有投资这项技术的资源。只是给你一些背景，今年，你知道，大型人工智能公司在开发这项技术上的投入将是美国曼哈顿计划的 20 倍。因为如果你想到政府动员起来做某事的标志性时刻，仅今年一年就增加了 20 倍。所以，我认为，看，我们必须以不同的方式做这件事，而不是像 G7 和 G20 那样。我们汇集了行业、创新者和政府。而这，这就是我们几年前在布莱切利公园所做的。峰会系列去了巴黎、韩国，现在又来到了印度，一个拥有巨大数字抱负和能力的公司。但是，我认为在这些年里，亚历克斯，我将从你开始。我认为关于人工智能的辩论已经从技术转向了战略，你知道，从这些工具能做什么，到政府选择如何使用它们。我想从那里开始，如果你想想过去几年，你是一个处于开发这项技术最前沿的人。你知道我们过去几年的旅程，你知道，帮助我们理解这一点。我们已经走了多远？在这个时刻令人兴奋的是什么？并让我们了解我们现在所处的位置，这样我们就可以继续讨论我们如何使用它。>> 是的，我认为，我是说，我们现在正处于一个技术上极其令人兴奋的时刻。我认为我们正处于技术真正加速的开端。而且，你知道，在很多方面，即使到现在，我们也看到了这种清晰的加速，但我认为我们将看到 2026 年在许多方面是一个转折点。为了说明这一点，在过去的几年里，我认为从 2018 年到 2024 年，这是一个很好的六年时期。我们正在经历预训练时代。所以，我们正在沿着一条非常大的指数曲线来提高模型的性能。而这条曲线非常可预测，它具有清晰的特征，你投入的资源越多，你得到的结果就越多。当时有很多关于这条曲线是否会继续的问题，甚至它会持续到什么程度，是否存在边际收益递减。我认为这是近期人工智能怀疑论的一个时期。然后，在 2024 年，就像 2024 年底，强化学习时代开始了。所以，这是下一个主要的浪潮，叠加在之前的浪潮之上。这就是我们看到模型开始学会推理的时候。而且，你知道，总有一个关于我看到了什么的梗？嗯，伊利亚看到了模型的推理。这显然是技术上的下一个超级浪潮。即使是强化学习也有其局限性，而且关于那个时代会持续多久，以及它可能存在局限性，一直都有很多问题。然后，在 2025 年底，也就是几个月前，我认为我们真正开始了一个全新的技术范式或时代，那就是真正开始递归自我改进的时代。而且，我认为我们真的开始在我们的模型开发中看到这一点。我认为，你知道，大多数主要实验室都在他们的模型开发中看到这一点，那就是模型本身现在已经成为加速生产下一个人工智能过程的工具。所以，你知道，从外面看，你看到的是整体开发速度的加速，以及新模型发布速度的加速。在内部，我们看到的是速度的急剧提升。我认为，你知道，单个研究人员的生产力得到了极大的提高。而且，我们不希望这种情况停止。事实上，我们希望它能够平稳地继续加速，其中单个研究人员和单个工程师的产出。我认为这本身将随着技术的进步继续呈指数级增长。而且，与这个新范式中的递归自我改进技术发展相吻合的另一个超级浪潮，是真正意义上的代理的到来。而且，这是我一直想说从 2023 年开始就备受关注的事情。而且，很长一段时间以来，它一直是一些炒作的流行语，你知道，从未真正达到预期。而且，我认为在 2025 年底，以及在 2025 年中后期，我们开始看到代理真正起作用。而且，这是，你知道，模型可以开始采取行动，并开始自动化整个工作流程，并作为实际的实体本身，而不是，你知道，这个时代，它始于编码代理。我们开始看到它真正渗透到个人代理中。这是我们在 Meta 的一个重要组成部分。而且，我认为在 2026 年，我们将看到大规模的代理部署，在经济的许多领域，世界的许多领域。而且，你知道，人工智能的 GDP，可以说，将呈指数级增长。>> 嗯，这确实是，非常受欢迎的。我认为你触及了重要的事情，因为我记得当我第一次开始这项工作时，谈话都围绕着这些规模法则，以及它们是否会继续。你提到了怀疑论。不仅它们继续并持续提供这种指数增长，而且感觉过去几个月以来加速了。这是你提到的，也是 Dario 和 Demis 告诉我并公开提出的，由递归自我改进驱动的，模型本身现在能够帮助我们更快地开发新模型。所以，你知道，我们正处于一个相当令人兴奋但又有些焦虑的时刻，因为这种加速的开发时间尺度。所以，我想谈谈信任，因为我给你讲个故事。我有两个年轻的女儿，你知道，当她们使用聊天机器人之类东西时，她们总是说，“请，某某某，某某某，谢谢。”她们写完请求或得到答案后，到处都是很多请和谢谢。我当时觉得很有趣。我告诉她们，我说，“看，你们不需要这样做。没有一个人。这不重要。而且，顺便说一句，你知道，当我们必须为计算付费时，这要花费很多钱。”而且，她们告诉我，“你知道吗，爸爸，她们说，如果人工智能接管了世界，我们希望对人工智能友善。”而且，我认为这是一个很好的保险政策。但它，你知道，它触及了这种焦虑。她们>> 非常明智。>> 是的。嗯，也许，你知道，在全球范围内，我们看到了对人工智能的不同态度。在印度这样的国家，我们在这里，有巨大的乐观和信任。然后在西方国家，你知道，我们看到焦虑仍然是人们对人工智能的主要感受。现在，我认为缩小这种信心差距，就像技术问题一样，也是一个政策任务。但我很想听听你的想法。我是说，显然你是一家面向消费者的公司，每天与数十亿消费者打交道。你知道，你如何看待这个信任问题？你知道，我们如何在那些不信任的地方建立信任，对于你相信，我相信，以及在座的每个人可能都相信能够带来无限好处的事情？是的，这是最重要的问题之一，事实上，可能比技术和技术发展本身更重要。它将比任何事情更能决定技术传播的成功程度。而且，你知道，我们对此进行了深入思考，因为我们对技术的愿景是，我们可以部署个人代理，它们比大多数人更了解你，了解你的健康，了解你的目标，了解你的关系，了解你的家人和朋友，并且可以真正帮助你更有效地生活。你知道，可以帮助你更健康，可以帮助你完成你从未有过时间的项目，可以帮助你建立你一直想要的生意。可以帮助你探索你的兴趣。而要正确地建立这一点，需要消费者、政府和所有组织，以及几乎所有人的巨大信任。所以，你知道，这是一个有趣的时刻，我认为，因为我们想要的技术形式是如此亲密，并且与我们认为真正是消费者生活和消费者未来的核心如此紧密地联系在一起，你知道，消费者是他们与技术关系的核心。所以，找出与管理机构合作，与非营利组织和其他组织合作，以赢得这种信任的方法非常重要。这是我们在 Meta 实际通过 WhatsApp 看到的。你知道，我们刚才在后台谈论过这个，但 WhatsApp 已经变得非常普及，而且对于世界大部分地区来说，它确实是一个真正的公用事业，很大程度上是由于它对隐私的承诺，以及我们围绕 WhatsApp 这个组织建立的信任。通常，在，你知道，不一定是为优化我们的业务目标，而是为优化 WhatsApp 作为平台的信任度。我认为，现代人工智能产品也将需要类似的旅程，而且我们已经看到，我是说，我们已经看到现有的人工智能产品和实验室之间发生了各种争执或来回的争论，关于他们的行为是否真正赢得了，你知道，真正建立了这种信任水平。而且，我认为，你知道，你在布莱切利启动的关于，你知道，在全球范围内关于安全的话题，我认为比以往任何时候都更重要。我认为我们已经看到，模型正在达到能力水平，这引起了对我们监测这些模型的一些风险的担忧，例如各种国家安全风险或各种网络安全风险。所以，正确测试并建立适当的系统来安全地监测和部署这些模型的重要性至关重要。>> 你和我已经谈论这个话题很多年了，而这正是我们在布莱切利的关键，即在英国建立人工智能安全研究所来做这项工作。而想法是，政府在评估这些风险方面存在技术能力上的差距。所以，我们如何在英国，希望发挥领导作用，但又以某种方式提供全球公共产品，在那里我们与你们这样的公司和其他公司合作。