Transcription
各位晚上好。非常感谢各位今天来到美丽的史密斯广场大厅。我的名字是米娅。我是智库“智慧二度”的制作人，我很高兴为大家带来这场非常特别的专题讨论，探讨一个问题：英国能否成为人工智能超级大国？
那么，这是今年的智库“智慧二度”经济展望的第一期。一如既往，我们很高兴与健力士全球投资者合作，共同推出本系列。那么，对于不了解的朋友，健力士全球投资者是一家独立的英国基金管理公司，帮助个人和机构利用未来增长的驱动力，实现他们的投资目标。专注于亚洲、可持续发展、创新和收益型投资，他们提供基金作为任何股票投资组合的核心。所以，如果您想了解更多，只需咨询您的财务顾问或查看他们的网站。但现在，我希望大家能和我一起，报以热烈的掌声，欢迎今晚的主持人，英国广播公司主持人，约翰尼·戴蒙德。
>> 谢谢。非常感谢。谢谢。大家好，欢迎来到这场“智慧二度”活动。我是约翰尼·戴蒙德，我很高兴能与两位杰出人士坐下来讨论这个问题：英国能否成为人工智能超级大国？在我介绍他们之前，呃，简单说一下今晚的安排。
嗯，我们会聊大约半小时。然后我们会征求大家的意见，关于你们认为的成功采用人工智能以及增加本国人工智能投资的主要障碍。然后我们会讨论大家的想法，大家的优先事项，再聊半小时。那会持续到大约八点。八点钟，我们会收集大家的提问，会有人拿着麦克风在大厅里走动。嗯，我们会把大家的问题提给凯蒂和格雷格。呃，然后会有一个最终投票，看看格雷格和凯蒂的话对大家的想法影响有多大或多小，就在今晚结束时。
嗯，格雷格·威廉姆斯和我们在一起。嗯，他直到最近还是《连线》英国版的主编，以及《连线》的全球副编辑总监。他现在正在担任一个在科技行业的新职位，尚未明确。这是今晚的一大谜团。嗯，在新闻业期间，他赢得了一系列奖项。他是2026年奥威尔新闻奖的主席，并且采访了足够多的重要人物，足以让任何人满意很长一段时间。
凯蒂·普雷斯科特是《泰晤士报》的科技和商业编辑，也是该报商业版的获奖专栏作家。她是我在英国广播公司的一位前同事，并且非常想念，呃，她曾主持《今日》节目的商业新闻。她是2024年英国科技奖的年度科技评论员，她有自己的播客，与《星期日泰晤士报》的丹尼·福森一起，反思大西洋两岸的科技世界。那么，这些就是我们的嘉宾。你们会很高兴知道，他们今晚会说大部分的话。
嗯，我想我最关心的问题是，为什么我们要谈论一个位于欧洲大陆边缘的潮湿小岛，作为一个人工智能超级大国？嗯，关于英国的排名有过一些讨论。它被描述为全球第三大人工智能市场。必须指出，它与美国和中国还有一段距离。去年，主要的美国科技公司承诺向英国投资数百亿英镑，而英伟达的黄仁勋预测该国将成为人工智能超级大国。它的根源当然是阿兰·图灵、杰夫·辛顿、德米斯·哈萨比斯、穆斯塔法·苏莱曼，他们曾在圣诞节期间客座编辑了《今日》节目。一个引人入胜的补充。我们拥有世界一流的研究设施、主要的人工智能公司以及大量的人工智能初创企业。我们今晚在这里讨论问题，但也讨论潜力和解决方案。英国如何抓住机遇。政府能做什么，正在做什么，使人工智能成为英国经济的关键部分。我想从“人工智能超级大国”这个词开始，看看你们两位认为它意味着什么。
凯蒂，>> 我很高兴你提到了英国在人工智能领域排名世界第三，因为嗯，这是政府新闻稿中反复出现的一个短语。我们上台前还在谈论它，并且意识到我们谁也不太清楚到底为什么，呃，英国获得了第三名。我认为这与这里的人工智能公司的价值有关。但我认为它也说明了很多，我们正处于成为那个超级大国的风口浪尖。我有点讨厌那个词，因为它感觉，你知道，就像一个无意义的短语，但本质上你提到了很多那里的人，他们是人工智能教父，该领域的领导者。英国在人工智能方面拥有卓越的人才。我们有非凡的大学和了不起的科学家。我们有一些杰出的公司，我们非常非常擅长创业，但不太擅长发展它们，我们可以稍后谈论这一点。我们这里没有的，我认为阻碍我们成为人工智能超级大国的是大量的人工智能物理基础设施。我指的是数据中心、半导体，真正的人工智能所依赖的硬件。所以我们有很多配料，可以制作这个“超级大国蛋糕”，姑且这么说，但仍然有一些事情阻碍着我们。
>> 格雷格，你想谈谈人工智能超级大国的概念吗？是的，我知道这是一个非常有趣的想法，但我觉得它也暗示着，你知道，人工智能领域存在赢家和输家，我认为这是一个非常有趣的概念。嗯，你看，人工智能革命正在发生。它将影响我们生活的每一个方面。嗯，它已经影响了，我们正在看到生产力提升，在各种领域，呃，跨越各种行业。它是通用技术。所以，你知道，它就像电力或其他什么。它将影响一切。我确实认为，你知道，凯蒂说得完全正确。我们这个国家拥有令人难以置信的人才。我们拥有全球前十名大学中的四所。如果你深入研究前三十名，还会更多。呃，我们有大量的资本。它无法与美国匹敌，但正如凯蒂指出的那样，我们非常擅长，呃，那种早期阶段的投资。我相信我们可以深入探讨我们可以谈论规模化的领域，但我认为有两三个领域我们确实拥有非常强大的优势。第一，我们这个国家真的非常擅长创新。我们人均在这方面表现出色。我们甚至可能比美国做得更好，而且我们企业从嗯，呃，风险投资中获得的投资回报率与硅谷所产生的同样出色。
嗯，我还认为英国有一种真正的使命感，围绕着我们拥有全球视野这一事实。呃，我还认为，你知道，我们能够深入挖掘像巨大的数据宝库，这些数据对其他人来说根本无法访问。我们正在谈论这种国家数据图书馆的建设，呃，政府已将其作为人工智能机遇行动计划的一部分宣布，而且，你知道，我们在医疗保健等领域拥有独特的优势，可以真正推动创新，呃，想想看，你知道，我们在英国生物银行拥有世界上最大的基因组信息库，大约有五十万个已解码的DNA片段，所以有很多优势，我认为，你知道，嗯，英国擅长很多很多事情。我们也非常非常擅长贬低自己，我认为我们需要真正抓住时机，并认为我们拥有战略优势。我们有资本，我们有像智囊团一样的人，而且我认为我们确实有，嗯，你知道，这是自特蕾莎·梅以来，首相和政府一直在思考的事情，嗯，真正致力于推动本国政策的政府，这些政策确实推动了创新，并支持了企业家。
凯蒂，>> 也许也存在一个危险，因为我们都是科技记者，会非常从那个角度思考，如何创造人工智能，但我认为成为人工智能超级大国也关乎我们如何全面使用它。而且我们这个国家有令人难以置信的优势，例如，在金融服务、法律领域，你提到了医疗保健。所以，我认为这也关乎我们如何推广这项非凡的技术以及我们如何部署它。
好的，这无缝地引出了下一个问题。我想谈谈政府一直在做什么以及你们对此的看法。但我想这有点像水晶球。嗯，你们认为人工智能如何才能发挥最佳效果，在未来，比如说，这个国家的25年里？这个国家会有什么变化，关于人工智能的使用和发展，会让你们觉得，是的，我们走对了路？你给我那种眼神，好像那是个愚蠢的问题，你永远无法回答，来吧，试一试。
>> 我一点也不觉得它愚蠢，但政府已经有一些应用正在改变局面，所以例如，嗯，政府推出了一款名为“汉弗莱”的工具，以《是，大臣》中的角色命名，嗯，它呃，减少了进行政策咨询所需的人员数量和时间。所以当他们询问公众企业对新政策的看法，人们反馈信息时，他们过去不得不雇佣个人来筛选，而现在他们可以使用人工智能。嗯，我提到了医疗保健。我的意思是，如果你看像放射学这样的学科，以及人工智能在扫描中的应用，实际上，使用一台不会疲劳或没有停止按钮的计算机来查看信息，可能比人更可靠。所以，我真的认为它将是变革性的，嗯，并且已经开始显现。
>> 你提到了格雷格，那种缺乏，我想是你说的，缺乏硬件，嗯，数据中心等等。再次，展望25年。在你的领土上没有那些硬件，你还能成为一个人工智能超级大国吗？
>> 听着，我认为凯蒂和我都是经验丰富的科技记者，知道我们不会展望25年。
>> 目前可能连25天都无法展望，但我想对你说的是，凯蒂说得完全正确，当她指出基础设施挑战时。所以，呃，人工智能机遇行动计划所阐述的是，我们需要在2030年前将计算能力提高20倍，这是一个相当大胆的目标。呃，我们需要认真思考如何为此提供能源，你知道我们之前谈过，这不仅对英国，而且对全球都是一个巨大的问题，但特别是对于英国，我们需要引入规划法律，以便我们可以在数据中心旁边建造能源基础设施。嗯，目前据我所知，人工智能行动，嗯，我姑且称之为国家人工智能计划，因为我不能，我不能一直重复那个短语，呃，正在考虑将数据中心设在像丰富能源的来源旁边。所以，呃，在英格兰北部，牛津有一个国家聚变中心旁边，嗯，你知道，建设那种数据能力，而且我认为真正重要的是，我们必须能够围绕人工智能建立信任，我认为那里仍然存在一些差距，所有最新的民意调查都表明人们担心工作，担心安全，担心隐私，所以我们必须能够指出像英国生物银行这样巨大的英国成功案例，那里没有发生过数据泄露，那里有五十万个基因组样本，而且没有数据泄露。然后回到凯蒂的观点，看看那种非常明确的成功案例，嗯，哈德斯菲尔德医院现在可以进行放射扫描，呃，它可以在7秒内比人眼更准确地识别肺癌。所以那种胜利，我们需要人们觉得他们可以信任人工智能，他们需要以对他们有利的方式体验它。
凯蒂，再次，没有硬件，你能成为人工智能超级大国吗？
>> 这是一个绝妙的问题。这是英伟达的老板黄仁勋，这家制造人工智能芯片的全球最有价值公司，嗯，去年提出的问题之一。他说：“英国是唯一没有基础设施的人工智能超级大国。”我认为这会成为一个问题，嗯，当你谈论非常敏感的信息时，你可能希望将其存储在英国。所以当涉及到医疗保健时，当涉及到国防时，当你需要时，因为数据中心本质上存储的是数据，对吗？而且如果你不想把它放在外国土地上，那么它就是一个问题。英国有一个问题。我们非常小。我们的能源基础设施已经不堪重负。人工智能的崛起与汽车电气化的兴起同时发生。因此国家电网的压力绝对巨大。国家电网的老板不断出来，并且实际上有点抱怨它，因为这是一个如此大的问题。嗯，我遇到过人们提出的各种想法，呃，使数据中心在英国成为可能，包括将它们放置在太空中，并且嗯，围绕着嗯，废物处理中心建造它们。所以，你基本上是利用垃圾填埋场的能量为数据中心供电。我的意思是，人们目前就是这么绝望。而且，所有这些东西都需要很
而且实际上，这些公司的价值对我们所有人来说都是被锁定的，对吧？所以我们都在使用这些产品，而实际上，这些公司的估值并不显著。还有另一种观点，即黄仁勋的观点，即将会出现一些巨大的赢家，并且将会出现价值数万亿、数万亿、数万亿的公司，并且它们将有效地拥有垄断地位。现在，我不知道哪种方式，坦率地说，我不知道它会走向何方，但你知道，我认为我们可以想象一个世界，在这个世界里，这两种情况都是可能的。这显然不是投资建议，但我想说，我认为如果你相信人工智能将使我们所有人更具生产力、更有效率，从而使企业更具生产力、更有效率，那么它可能会推高股市价值，而且我们已经看到了今年富时 100 指数发生的情况。我的意思是，很可能公司整体的估值，而不仅仅是我们一直在谈论的科技公司，都将上涨。我想关于泡沫的次要问题。格雷格，你说“是”。你引用了黄仁勋的话说，有些公司将从中赚取巨额利润。可以想见，人们也担心他们正在将资金投入那些不会从中赚钱的公司。而这些钱将白白浪费掉。然后，你就会面临系统性风险，即投入了数万亿美元却一无所获的公司。凯蒂，这是个担忧吗，还是为时过早？>>我听到的回答是，科技巨头们对此的说法是，这种情况发生在互联网泡沫时期。你知道，人们进行了巨额投资，但其中很多都没有成功。但归根结底，我们都在使用互联网。嗯，我恐怕我确实认为会发生某种……我的意思是，“修正”是一个很好的词，因为事情确实感觉被严重夸大了，但正如我所说，这正是我去年感受到的，而事情似乎……以一种相当可怕的方式不断上涨。>>是的。我的意思是，你看，我认为我们现在所处的位置，你知道，每个人都在使用的类比是，我们是在 1996 年还是在 1999 年？我们有多接近？人们想退出市场吗？现在，如果你去年退出了谷歌，你知道，该公司的市值增加了 65%。嗯，我认为在某个时候可能会出现下跌，因为目前的估值非常高。但我也认为，你知道，这可能会持续两三年，因为如果我们是在 1996 年，你知道，在 1996 年，我们想通了，好吧，这个互联网的东西可能会极大地帮助我们……买东西，它可能会对媒体产生影响，嘿，猜猜怎么着，我们可以买机票，但我们可能没有看到……你知道，我们绝对没有看到 Airbnb 或 Uber 的兴起，甚至 YouTube 的兴起，我们看不到那些行业将如何彻底改变。>>智能手机，对吧？>>太棒了。是的，绝对。>>嗯，我将给你一个黄仁勋在我问他关于泡沫时给我的类比。他称之为“建设”，而不是“泡沫”。我们将以此为依据，对吧？你能否简要地告诉我们 27% 的观众，他们认为人才流失可能是英国最大的障碍，为什么他们完全错了，或者至少解决人才流失的想法，以及这是否是人才流失或人才激增。凯蒂，>>嗯，我感觉目前我们正面临人才流失到伦敦，尤其是伦敦。嗯，因为我不断听到很多在美国的人不想在那里，因为特朗普政府，因此他们搬到这里，作为一个多元文化、国际化的大都市，拥有令人难以置信的科技公司，我们这里确实有一些令人惊叹的科技公司。我想到了像 Wave 这样的无人驾驶汽车公司，11 Labs，例如人工智能音频公司。所以，我认为是反过来的。>>是的，我认为这是完全正确的。而且我认为，你知道，特朗普政府……十万美元的 H-1B 签证费用将被视为一种自我伤害行为。这是一种人才税。我认为英国可以提供……对此的一种替代方案。我们有……你知道，大学和公司正在成长……你知道，顶尖大学。我们有正在成长的公司。我们也有……你知道，坦率地说，正如凯蒂所说，令人惊叹的国际化生活场所。而且你知道……你知道你在网上看到的关于伦敦是地狱般的胡言乱语……来这里住几年，你就会发现这是一个极其……有趣、强大、国际化的地方，拥有……顶尖的大学和美妙的博物馆和美味的餐厅。我可以问你一个你提到过的问题吗……这是关于英国公司达到一定规模然后就卖掉的想法……它们没有发展成全球巨头。这是否让你担忧？这是否可以改变，还是现在已经根深蒂固，因为人们谈论这个问题的时间和我们谈论……坦率地说，科技……的时间一样长，以至于现在很难改变了？凯蒂，你先开始？我>>我不认为它已经根深蒂固到难以改变。我认为有一些根本性问题阻碍了企业在这里发展到那个规模。……主要是资金，>>对吧？……所以，如果你看看谷歌、DeepMind，你知道，当它们达到一定规模时，它们从哪里获得增长资本？……而这是一个非常难以改变的系统性问题。政府正在试图改变规则，让养老基金在这里投资更多资金于英国的风险公司、早期企业。……我前几天和一个投资者在一起，他可能是你们很多人都知道的安大略教师养老金计划，位于梅费尔的沙特阿美公司同一栋楼里，他们是英国早期科技公司、欧洲科技公司的巨大投资者，我认为如果我们想看到这些公司的融资发生变化，我们就需要与我们的养老基金一起朝着这个方向发展，因为很多时候问题就出在这里。另一个问题当然是伦敦的公开上市。所以，让在这里成长的科技公司在上市时愿意留在伦敦。而且，如果你看看 Revolut，我不记得它最新的估值了。它非常巨大。>>不，是的。>>但这就是你希望在伦敦证券交易所上市的那种公司。它们很可能去美国。>>是的。是的。>>我马上会听取格雷格的看法。只是提醒你，大约五分钟后，我们将听取你的问题。所以，请准备好，格雷格。……>>只是……只是为了说清楚，当我说的 Revolut 估值太高时，我并不是说它高得离谱。我只是说，这是一个巨大的成功故事，非同寻常。是的。是的。只是……只是关于凯蒂说的，她说的关于那种……那种增长……那种增长领域。我们非常擅长建立早期公司。我们不太擅长扩大它们的规模，那种……那种当它们真正……发展到那种……全球规模时。而养老金改革我认为目前非常非常重要，据我所知，我们……英国公司捕获了大多数科技公司价值的大约 15%，它们去了安大略……教师基金，或者去了澳大利亚的私募股权公司，或者丹麦的主权财富基金，我认为我们需要开始捕获更多价值。……我认为我们需要……更愿意接受风险，这不仅仅是英国，而是整个欧洲。……>>当你说是我们时，谁需要更愿意接受风险？我认为，我认为，从根本上说，很多问题都归结于……政府是第一个……你知道，特别是能够……充当许多……许多企业的第一个客户，这样他们就能……进入市场，并且知道政府将是他们的客户，然后一旦政府……一旦政府承诺，许多私人资本就会进来。……我们非常擅长风险投资。……我们没有……美国那样……的规模，但如果……这是一个我上周从一位德国企业家那里听到的想法，就是……我们需要组建一个基金的基金，就像……你知道，也许……部分政府资本，部分私人资本，但我们需要考虑如何将这些资本投入到快速增长的……快速增长的企业中，当它们处于那个阶段，处于那个后期阶段，当它们真正能够……成为全球知名的公司时。>>这很有趣。我的意思是，我们的市场比美国小得多，我不知道你怎么样。我认为这不是一个雄心勃勃的问题。你认为创始人、企业家经营这些公司？>>不，绝对不是。而且我认为，这就是为什么你看到这么多的人认为，好吧，我必须去……在硅谷融资。所以，无论你是想到……我不知道 Stripe，还是……我的意思是，这实际上不是一家英国公司，但你知道，两个爱尔兰人本可以……可以在伦敦融资。只是我们能多快做到？而且我认为，这与执行速度一样重要，对吧？我的意思是，你知道，能够非常非常快地融资。这些人想……在几周内而不是几个月内完成。也许我们没有这种能力。我不知道。你怎么看？>>我们就此打住。现在我想听听你们的意见，如果可以的话，你们对我们的小组成员有什么问题？……我们将改变灯光，这样我就可以真正看到你们了。啊，来了。太棒了。而且我们有人拿着麦克风跑来跑去，或者至少拿着麦克风跑来跑去。那边的女士。>>嗨，非常感谢你们今天和我们谈话，凯蒂和格雷格。我的问题与我们讨论数据主权和国家监管有关。这如何改变我们对需要……可以说是全球范围内管理的 AI 问题的看法？……例如，具有地缘政治意义的问题，例如 AI 被用于虚假信息选举活动，或 AI 协助的金融犯罪发生在海外。谢谢。>>非常感谢。嗯，谁想先回答？>>格雷格。>>嗯，只是……我们能……你能否为我总结一下问题？我不太确定……抱歉，抱歉。我不太明白这个问题。只是>>所以，在那些……可以说是……需要全球范围内管理的事务中，因为它们是跨国的，或者不良行为者可能在一个地方活动，然后……针对另一个地方的人。>>嗯，嗯，我想我们可能会签署……多边协议，以及诸如金融犯罪之类的协议，并且英国法律也适用。我认为，当我们在英国处理数据时，我们需要能够适用英国……法律。而这一个问题是关于……美国公司……以及确保我们……保持对该……该数据和信息的控制和主权。所以，我想说，你知道，我们适用自己的规则，自己的标准……而且，你知道，也有全球标准和全球……你知道，国际法，我们将适用于该……该数据和信息。>>我……我喜欢拥有某种北约……无论是什么，用于人工智能，一个全球机构，以确保所有标准都相同。……你知道，这几乎是布莱切利公园的目标，将中国人、美国人、欧洲人聚集在一起讨论这个问题。我只是看不到它会发生，不幸的是。所以，我认为我们又回到了……我们一直以来在科技监管方面所处的位置，那就是……逐州进行，而这，约翰尼的观点是，当你谈论跨越国界的科技和服务时，这并不是理想的。>>不。不。我们有很多……很多人在网上观看，我们也有他们的问题。……我将问你们一个棘手的问题。我们应该对哪些英国人工智能公司感到兴奋？你们应该申报你们的任何利益。……有没有什么公司是你们在关注的，你们感到兴奋的？凯蒂。嗯，我提到了 Wave，……无人驾驶汽车公司，获得了软银十亿美元的支持，并获得了英伟达和……微软的投资。……我还提到了 11 Labs，这是一家音频人工智能公司，所以它会摄入你的一点声音，然后它就可以永远地读下去，听起来像你。……你说，我想你的一位朋友在 11 Labs 有少量投资，他现在过得相当不错。>>他现在过得相当不错。是的。>>嗯，还有其他的，……Synthesia，……它做视频人工智能，……所以它制作，嗯，你可以让格雷格做视频，即使他不在那里。所以，这很酷。……还有 PolyAI，这是另一家语音人工智能公司。所以，亚马逊的 Alexa 是在剑桥开发的，所以我们在语音人工智能方面在这个国家拥有真正的专业知识。>>太棒了。谢谢。格雷格。>>我将选择几家……医疗保健公司。第一家是 Isomorphic Labs，它从谷歌 DeepMind 分拆出来，正在进行药物发现，如果我没记错的话。……还有一个非常非常早期的公司，……坦率地说，我的朋友是创始人之一，还有托马斯·希瑟威克。……它基本上是，你可以想象一个……一个你用来验孕的棒子。这是一个你用来验孕的棒子，它将提供许多慢性病的早期指标，而且你知道，这可能在医疗保健行业是一个游戏规则的改变者。>>太棒了。……我马上会回到听众那里，回到听众那里，我将一次性回答你们两三个问题。等一下，因为我们有一个关于框架的可爱问题，来自……在线观看的人，非常感谢你们的问题……进来。……将它定性为最大全球超级大国之间的人工智能竞赛，是个好主意吗？如果有什么的话，我们在这个框架下会错过什么？……格雷格，你点头得如此厉害。我将让你先回答。我只是假装有点见识。……我认为将其定义为一场比赛是没有帮助的，因为如果我们将其定义为一场比赛，那么显然只会有一个赢家，而且这是……黄仁勋式的……它将如何发展。我认为有很多地方，小国家可以在这个堆栈中发挥作用。我认为英国可以竞争，可能是在前沿模型方面，拥有合适的基础设施、合适的数据、合适的投资。你知道，我们现在离那还很远，但我们可以竞争。我认为我们可以竞争的是应用层，我们非常非常擅长构建产品，……你知道，那些……坐在那个……那个结构性……基础之上。所以，我认为，你知道，如果我们谈论……赢家和输家，你知道，英国可能是一个大赢家，方式与中国……中国已经赢了，坦率地说，在能源方面。他们几乎已经实现了电网的电气化。我知道中国仍然燃烧了很多煤，但他们目前的能源价格是美国的一半。所以，你知道，他们在某个特定方面赢了。我认为英国可以赢，如果我们利用我们的健康数据，例如，我们拥有的 NHS 数据，我们可以通过利用……我们可以吸引到凯蒂所说的……人才流入……来找到慢性病的治疗方法，这样我们就以这种方式成为赢家。所以，我认为有不同的方式来构建它。>>凯蒂，……竞赛、赢家、输家，头条新闻的宠儿。它们有用吗？>>它们……可能没用，但我恐怕这是事实，对吧？>>我们正在进行一场竞赛。科技在很大程度上是地缘政治的。这是我们一生中最强大的技术。所以，我恐怕这是不可避免的。而且你看到了美国对英伟达半导体出口的限制，例如。这就是为什么他们要设置限制，因为每个人都在这里争夺胜利，而到目前为止，美国一直在通过其对英国的投资帮助我们。这是否会在格陵兰……周六下午茶时间停止后发生变化？好了，请提问。谢谢。我将一次性回答三个问题。我看到那边有一只手，一位男士，我想在那边。谢谢。在他之后，这里的另一位男士，先生。>>你简要提到了美国、英国和欧盟之间人工智能监管的差异。我只想听听你的看法，你认为身处欧盟是否有助于成为人工智能超级大国，还是阻碍了？谢谢。我们稍后会谈到这个问题。帮助还是阻碍。太棒了。还有，先生，我们能给这位边缘的男士递个麦克风吗？我的问题继续围绕安全和监管的主题。英国似乎在人工智能安全研究所或现在的人工智能安全研究所方面是世界一流的。有报道称，来自世界各地的前沿实验室正在利用我们这里的专业知识进行红队测试等等。我的问题是用著名冰球运动员韦恩·格雷茨基的话来说，我们应该滑向冰球所在的地方。几年后，我们是否会从人工智能 911 或人工智能可消耗的某种更糟糕的人工智能灾难中解脱出来？到那时，公众将要求我们受够了可爱的人工智能和时髦的人工智能，我们将想要值得信赖、强大和安全的人工智能。我们难道不应该利用这项资产，让您的人工智能为即将到来的阶段转变和公众态度做好准备吗？>>非常感谢，先生，还有先生。>>嗨，嗯，我的问题基本上是关于糟糕的人才……所以，我们目前严重依赖美国模型和基础设施。我在这方面工作了三年，这是我唯一使用过的模型……米斯特拉尔非常……它们很小，它们没有大量的……基础设施。我的问题是……你知道，如果我们的关系与美国……那么，我们将我们的所有人才用于何处？那里不会有模型可以使用，我们也不会有部署的基础设施。那么>>非常感谢。好了，开始吧。……>>这是智力测试，记住。>>很好。很好。我……我带着笔。……第一个问题是，在这一点上，脱离欧盟是帮助还是阻碍？……凯蒂，>>我……我讨厌这个问题，因为我对……脱欧前规则如何运作的了解不够，无法说我们是否能够制定自己的法律。……这肯定对我们能够做到这一点非常有帮助。……因为我们设法创造了这个……我认为是明智的折中方案。但……但我不知道，我恐怕这在脱欧前是否可能。>>是的。我……我……我和凯蒂一样，坦率地说。我不知道。我想说的是，离开欧盟使我们处于一个必须以某种方式行事的境地，那就是……你知道，我们不能……我们必须发展主权人工智能。……它让我们以不同的方式思考……风险和安全，它让我们认为我们必须……真正……创造一个……一个带有英国……印记的版本。……我认为可能没有帮助的是这种……国防的再工业化……这是需要的。……但你知道，显然我们与……欧盟的朋友在各个方面都有合作，通过……通过北约。所以，坦率地说，我对这个问题了解不够，无法真正回答。>>太棒了。好的。……第二个问题是关于人工智能安全和……设法使用了“人工智能高尚”和“人工智能 911”这样的词语。谢谢。……以及……以及关于建立安全而不是等待人工智能引发的灾难之后的愤怒的问题。凯蒂，>>我的意思是，你是对的。这里的人工智能安全研究所，安全研究所非常受尊敬，并且在其他国家也催生了其他研究所。……我实际上对英国对最近 Grok 事件的反应感到鼓舞，我……虽然它不是切尔诺贝利，但就人工智能失控而言……以及我们如何处理它。……我认为那……我认为那相当明智。……我认为问题总是……这涉及到下一位绅士的问题。这些公司位于我们的管辖范围之外。所以，它们目前是自愿来到安全研究所的，作为一名记者，我感到沮丧，因为当你收到研究所的报告时，它们实际上并没有说明是哪家公司做了什么，所以你会收到一份报告说，这些是我们发现的模型中的问题，但不是……你知道，这是 OpenAI，等等。如果它们停止这样做，你该如何处理？……以及……你知道，这涉及到下一位绅士关于我们没有自己的前沿人工智能公司的观点，这是一个主要问题。……>>让我们来回答下一个问题。……而那是……关于使用美国模型……抱歉，对于那些不知道的人，可能有一些。你能否解释一下你所说的“前沿公司”、“前沿模型”是什么意思，以及为什么这对这位绅士所说的关于在英国使用人才很重要？我今晚想到了格雷格的医疗保健，而且我认为这是我们可以……考虑部署英国主权人工智能的方法之一。……但你知道，这……这几乎是……我认为目前要求我们……能够在这个层面竞争。美国和中国似乎远远领先于我们。……然而，我认为我们可以做的是考虑一下，当我们部署……美国公司的……基础设施在英国时，我们确保……该基础设施……与英国人才协同工作，与英国研发协同工作，并且……并且……并且……将英国法律、英国价值观和英国标准应用于正在开发的内容。我认为对我来说，让你担心的是，我们从特朗普那里学到的是，他相信规则，所以即使你制定了这些规则，也不能保证任何事情，而且实际上，你是完全正确的，我们没有自己的模型。米斯特拉尔是一家……小型法国公司，尽管我知道有些人确实喜欢使用它的产品，而且它确实获得了巨大的支持。……但我认为这是一个非常非常令人担忧的问题，我们需要认真对待并加以关注。而且，欧洲正在采取行动，这是一个非常引人注目的事实。而目前，英国却没有。>>是的。而且，有趣的是，许多美国初创公司现在正在使用中国的开源模型，而不是美国的……你知道的封闭模型。……这意味着什么，基本上>>为什么，为什么他们这样做，格雷格？>>成本，>>对吧？好的。它们几乎和……它们不像美国的封闭模型那么好，但它们正在这样做。所以，就像安德烈·索罗维茨最近，旧金山一家大型风险投资基金宣布，他们 80% 的初创公司都在使用中国的开源模型。……布莱恩·切西，Airbnb 的创始人，最近宣布他们正在使用……中国的阿里巴巴……模型。是 Quen，我想是这样。……而那 kind of like sent shivers down the spine of a lot of people in the valley，因为你知道，这意味着，从根本上说，如果你知道……很多建设……发生在中国的模型中，A，我们知道里面发生了什么？以及 B，最重要的是，对于硅谷的人来说，你知道，如果……你知道……接近相同的价值，但成本只有 10%，这会影响美国公司的估值吗？这确实会对美国模型封闭模型的市场价值产生影响。而且>>这有点疯狂，对吧？我们花了多年时间在这个国家将华为的基础设施从我们的电信网络中剔除，而这让英国电信付出了巨大的代价。所以，我们说这里的替代方案是推动人们转向中国模型。我的意思是，这一切都与地缘政治有关，我认为对很多人来说……包括政府，这可能都是不可接受的。>>是的。而且我认为，也许这……它触及了一个更大的问题，关于……世界现在正在思考……你知道，美国实际上不再是一个可靠和值得信赖的参与者。所以，你看看……中国如何调整其……其供应链。……它……你知道，进口基本上持平，但同时它已经减少了……从美国进口的比例从大约 17% 降至大约 10%。你知道，它……它现在向欧盟和亚洲出口更多。所以，会发生什么呢？你知道，如果你……如果你试图……关闭你的市场，并征收关税，并且你……你知道，创造一个……一个不是……你知道，全球性的世界……人们会找到解决办法的，中国已经有了，印度有，巴西也会……你知道，基本上是美国正在创造条件，让人们绕过它们。>>让我们再问一个在线收到的问题，然后我们再回到听众那里。……>>特朗普总统在这里时承诺的大笔科技投资，会有多大程度会实现？附属问题，这笔投资能帮助挽救蕾切尔·里夫斯的职位吗？这可能超出了你的能力范围。我不知道。……有很多大数字被抛了出来……我……我知道你和我在 BBC 的同事们忙于研究……新的承诺是什么，旧的承诺是什么，钱什么时候来？凯蒂，你对这些数字有什么看法？当时我对此非常积极，而且很高兴看到这些大型科技公司微软、英伟达、OpenAI 在这里进行了如此重大的投资，而且其中许多投资以及数据中心都创造了更多就业机会，扩大了他们的办公室，因为他们已经在这里雇佣了很多人。然而，这些承诺在十二月被搁置了，因为我认为……我们在就农业关税进行谈判时出现了一些问题。所以，我甚至不确定它们目前是否仍然有效，因为我们现在是十二月二十日左右，还是什么？所以，可怜的蕾切尔·里夫斯。>>格雷格的想法。>>呃，是的，我的意思是，只是回到那种……你知道，与中国进行类比，他们……特朗普已经……十七次了，他改变了与中国的关税规则，自所谓的……独立日以来。>>解放>>解放日。非常感谢。解放日。所以，我认为这种不确定性……推动了……推动了英国和其他国家……你知道，美国正在成为……一个不可靠……嗯，它正在成为一个可靠的不可靠。而这意味着，我们必须开始思考……你知道，我们还有哪些其他方式可以做到这些，以发展我们的经济。太棒了。让我们回到听众那里。……前面这位男士，穿着白色衣服的女士，我姑且这么说吧。首先，这里的男士，那边的女士，然后是她前面的深色衣服的女士。先生，……非常感谢你们的教诲。……我的问题有点棘手。……我能理解人工智能如何创造一个更好的搜索引擎。我能理解它如何使 Whimo 和 Wave 能够……征服世界，实现自动驾驶汽车，并可能在医学上提供帮助。但我也有……接触过一些人，他们非常有说服力地认为，人工智能的一个问题是它会产生幻觉，……它会给出一个答案，告诉你这就是答案，而实际上它只有 95% 是正确的，这是一个巨大的问题。所以，我有点有两个问题。第一，你自己是否认为……对人工智能的谨慎思考有任何价值？第二，对我的生活影响最大的实际事情是什么？我希望再活 20 年。所以，我们。非常感谢，先生。……那位穿白色或浅色衣服的女士。那是对的，女士。>>谢谢。所以，我的问题是关于你刚才提到的……当你说到 Grok 时，说人工智能失控了，失控的不是人工智能本身，而是用户，但这让我想到了花了多少钱，或者你认为应该如何监管使用，以及需要进行多少教育，尤其是对于那些正在成长起来的年轻一代，他们需要学会如何正确地使用它，或者不正确地使用它，而是以健康和安全的方式使用它。所以，我的问题是关于这个，有多少在这方面正在做？>>谢谢。非常感谢，女士。>>快完成了。>>非常感谢……今晚的精彩讨论。我们谈了很多关于人工智能作为一种通用技术，但它也是一种双重用途技术。……所以，我很好奇想听听你如何看待英国在军事/国防领域的人工智能发展。赫尔辛显然在这方面正成为一个相当重要的参与者，但你是否认为它是美国公司如 Palunteer 的一个严肃竞争对手？谢谢。>>非常感谢。感谢这三个问题。第一个问题……提到了鬼魂和幻觉，并有两个问题。……是否需要……在人工智能……产生的东西上，在人工智能查询的结果上，需要更加谨慎？第二，在未来 20 年里，它将产生什么重大影响？很简单。格雷格，>>我认为我们需要区分生成式人工智能，它……有很多幻觉，因为它是在互联网上的所有信息上训练的，而如果互联网上的所有信息都不正确。任何能上网的人，你都可以去 Reddit。所以，所以那些……嗯，你知道，它是在……像凯蒂的……那些很棒的书上训练的，但它也是在……你知道，很多由……你知道的……俄罗斯的国家行为者发布的胡言乱语上训练的。所以，那是……一种人工智能。控制 Whimo 的人工智能非常不同。而且，你知道，你只需要看看 Whimo 发生事故的次数，它……你知道，比人类驾驶汽车的事故少 95%。所以，我认为这真的与……你知道，我们应用的人工智能类型有关，在……在不同的情况下。所以，我认为 Whimo 今年在美国进行了大约一百万次付费乘车，几乎没有发生事故。所以，那个应用显然是安全的。但我同意你的观点，生成式人工智能，仍然有很大的空间……错误，但它会改进。它会变得更好。我的意思是，我敢肯定，当你使用它时，当然，当我使用它时，我开始注意到它……它……它的进步是相当规律的，它变得越来越好。>>……以及你对……未来 20 年对个人的重大影响的预测。>>……简单地说，哦，天哪，是的。好问题。……嗯，我认为你的医生可能会有一个人工智能，他们将把它用作伴侣。他们不可能跟上最新的研究、最新的治疗方法。而且我认为，我们希望得到……你知道，仍然……你知道，NHS 的数据没有……链接起来。如果你去看全科医生，他建议你去看专科医生，然后专科医生可能……数据还没有过来。所以，我认为，仅仅是……将数据联系起来，以及……能够……更快地诊断出问题……将成为你……你将从中受益的东西，希望如此。>>凯蒂，你想补充吗？>>这是一个可爱的提问。……是的，聊天机器人会产生幻觉，当我与我的聊天机器人交谈时，我总是让它注明答案来源，否则我并不总是相信它从哪里获得的信息。……而且我花了很多时间试验……什么能产生最好的答案。所以，我认为有时经常与它交谈会有帮助。……然后，在……改善你的生活方面，我认为你也许可以预订一家餐厅，与聊天机器人客服代理互动，而不会在谈话结束时想要掐死它。>>好的，第一世界的问题。……让我们谈谈使用和用户教育的监管。……凯蒂，有多少……有多少是关于用户教育的，除了最基本的意图？>>我的意思是，我有一个 8 岁的孩子和一个 11 岁的孩子，我认为他们在学校里并没有学到太多关于这个的内容。他们学习在线安全，但……但关于聊天机器人的使用却不多。而且这又回到了我之前提到的关于监管总是追赶技术的问题。这是 Ofcom 的一个问题。他们现在正在实施《在线安全法案》，以及互联网上的所有内容。他们还没有监管聊天机器人内部的内容，我认为这正在到来。对吧？所以，如果你的孩子正在与聊天机器人互动，并且目前有一段困难的对话，谁对此负责？如果聊天机器人说了什么，……你知道，……拥有……一位九岁的孩子和一位十一岁的孩子，……你担心他们之间的关系吗？我们使用……人工智能，就好像它是一件事一样，而它显然不是，从我们讨论的情况来看，但你担心他们成长的世界吗？是否有教育、指导，你认为……除了在几个月内过时之外，还能做些什么？>>我为他们感到兴奋，在很多方面。我经常震惊于他们的教育与我祖母的教育有多么相似，就小学似乎强调的重要性而言，拼写……和手写，例如。……所以我……我确信学校系统可以做得更多，让他们跟上进度。我听到有孩子年龄更大的朋友现在很多都在质疑他们是否应该上大学，……而且越来越多的人想在 18 岁时做学徒，因为他们看不到在不确定的世界里承担债务的意义，而你不知道几年后工作会在哪里。……是的，格雷格。是的。是的。不，我认为……关于学徒制的那个观点是一个非常好的观点。而且我听说过一种建议是，基本上学位进入学位和学徒制几乎融合在一起，这样……做学位的人就会花一些时间在行业里，行业就会获得人才管道。……做学位的人就会……获得一些接触现实世界工作的机会。我认为现在年轻人很难弄清楚……你知道，哪些工作将……在未来……有价值。……我认为，你知道……我们将看到……大量的自动化，在……例如，显然后台，金融服务，保险，所有显而易见的东西，但我也认为……将会有……新的工作，我们可能不知道。……你知道，在 1996 年，我们不知道会有一份叫做应用程序开发员的工作。……我们可能不知道……现在正在创造一些工作，那就是……你知道，一个自动驾驶卡车车队……你知道……你知道，控制器，所以会有很多我们现在还无法想象的新工作，但我认为，从根本上说，你知道，如果我建议……我的女儿们，她们二十多岁，不再需要我的建议了，很明显……我会告诉她们，你知道，从根本上说，这是关于人类技能，那就是同理心和理解……你知道，世界和创造力将……你可以在任何你进入的领域应用它们，无论是在医疗保健领域，还是在金融领域，还是在安全领域。你是否认为需要……初级、中级、高级，谁知道呢，对个人的特定人工智能教育，还是它更普遍地融入到使用在线事物中？>>嗯，我认为……理解人工智能是一件非常非常重要的事情，因为我认为我们需要围绕它建立信任，同时也建立技能。……我认为，在教育中部署它的地方将是真正有帮助的，那就是理解人们学习的方式和速度不同，而且他们会……理解……你知道，课堂上的某个人可能学习得……不像他们的一些同龄人那么快，而他们另一边的同龄人因为已经掌握了这门课程而极其无聊。所以，我认为我们将看到……我们能够使用……个性化学习技能，这将使……每个人都能……提升水平。我们还有另一个民意调查。……你可以看到那里的二维码。……这是我们今晚的最后一次民意调查。你对英国能否成为人工智能超级大国的信心有多大？答案从“非常”到“一点也不自信”不等，中间有两个选项。所以，请投票。……我们将看到……我们将看到……结果出来有多快。……我可以问你一个关于……一个快速的问题，那就是……悲观主义和乐观主义，因为人工智能周围有大量的悲观主义和乐观主义。……你是如何处理它的？你是把它看作是一个巨大的机会，还是你认为它……就像很多人一样，是一个可怕的威胁？>>我认为这非常令人兴奋，我真的很享受尝试它。而且正如我之前在休息室里告诉你的，我用它来帮助我写书。所以我需要一个模型来消化我所有的……法庭案件和判决以及各种收益电话会议上的海量信息。而且它非常宝贵，对吧？而且它使我能够比以往任何时候都更快、更轻松地写完这本书。而且我发现它对于研究也非常宝贵。它能找到我自己在互联网上找不到的东西。而且我真的很享受……一位热情人士。我乐观地认为，英国可以真正利用它来……推动增长，并找到我们现在可能还不了解的……新的令人兴奋的部署方式。我认为我们需要正确的监管。我认为我们需要正确的……保护措施。我们需要正确的投资水平。但我认为，你知道，作为一个创业的、充满活力的国家，这是一个真正的机会，而且我认为，你知道，很容易……看到挑战，是的，你知道，我们没有数据中心，是的，你知道，我们需要建立……资本流入，但我认为，你知道，这是一个……一代人的机会，我们可以……如果我们抓住它，并将其视为一项国家使命，我认为它非常非常令人兴奋，而且我……我真的相信，你知道，创新水平和……好的，一个事实，你知道，英国赢得了……比世界上几乎任何地方都多的诺贝尔奖……按人均计算。你知道，每 1000 万人中有 19 个，美国是每 1000 万人中有 11 个。所以，我认为，如果我们能够利用一些……可以做到这一点，专业知识和……你知道，那种驱动力……我们可以……我们可以做一些特别的事情。>>据称，如果他们给了特朗普总统一个，他就不会去格陵兰了。但我们……让我们简要地思考一下，如果可以的话。我们将很快结束。你们在这里给出的答案。……我想向那 35% 说他们不确定的人致敬。没有什么比人们诚实地承认自己的……无知或不确定性更棒的了。但 41%……相当自信英国可以成为人工智能超级大国。正如之前讨论过的。快速思考一下。你认为这是因为你在过去一个半小时里所说的，凯蒂？>>不，他们……他们都住在英国，或者在这里，所以他们看到了它有多棒。我认为我们讨论的阻碍我们的一个主要因素是硬件和基础设施，但这并不能阻止优秀的公司……在这里成长和运营。>>这是一个智能平方……观众。来吧。他们很聪明。他们绝对不笨。不，我认为，你知道，任何……参与了……智能平方制作的内容的人都知道，这是一个世代的机会。……因为我们……我们能够在这个国家真正……创新，并提出想法，并推动事物向前发展。所以，我很高兴看到，那是 47%？>>41%>>41。>>……是的，相当不错。那是个好……悲观主义者和末日论者在这里。……有几个人和组织需要感谢。首先是 Global Guinness Global Investors，感谢他们为建立这个经济前景所提供的所有帮助。非常非常感谢他们。Intelligence Squared，他们显然组织了这次活动。但最重要的是凯蒂和格雷格，感谢你们今晚所做的一切。非常感谢。