UK House of Lords Takes on AI Revolution - What You Need to Know!

欢迎来到 CXO Talk，第 875 期。今天我们非常荣幸地邀请到英国上议院两位杰出的成员，克里斯·霍姆斯勋爵和蒂姆·克莱门特·琼斯勋爵。我们将探讨最高层面的政策制定者如何在技术创新、监管和公众信任之间取得平衡，特别是与人工智能、数字资产和开放数据相关的方面。让我们开始吧。两位先生，欢迎来到 CXO Talk。很高兴见到你们两位。你好，迈克尔。很高兴来到这里。霍姆斯勋爵，请告诉我们，为什么我们如此关注人工智能监管和治理这个话题，尤其是在这个时间点？它们是极其强大的技术，但掌握在我们人类手中。如果我们想在认识到其挑战和风险的同时，最大限度地发挥其潜力，那么就像我们几个世纪以来对待其他进步和技术一样，考虑制定适当的监管框架似乎是完全合乎逻辑的。这样我们就能平衡所有相互竞争的需求，并实施我所说的“尺寸适宜”的监管。“尺寸适宜”的监管对创新有利，对投资者有利，对公民有利，对创意人士有利，对消费者有利。蒂姆，这一切为何如此有益，我们又如何避免像克里斯刚才所说的那样，阻碍创新呢？克里斯和我和相信，实际上，监管可以帮助创新，如果你在清晰度、一致性和为企业、消费者和开发者提供的确定性方面做得好，那么最终这将带来更好、更安全形式的创新。这正是我们想要的。我们希望看到新技术的采用和推广，但它们必须是为了我们的利益。迈克尔，正如我们多年来讨论过的，这项技术一直在以惊人的速度发展。例如，在 2022 年 11 月，ChatGPT 突然席卷全球。从那时起，人们一直在努力跟上。而今年，人们又在谈论“自主人工智能”，它更加自主。所以，你拥有大型语言模型和自主性的结合，因此你绝对需要围绕它建立某种护栏。克里斯，当我们谈论护栏和保护的必要性时，你如何实施这种治理，同时又确保不阻碍创新或将阻碍降至最低？回到你最初的评论，我们知道要取得成功需要什么。纵观历史，我认为我们知道如何进行“尺寸适宜”的监管。我们都知道糟糕的监管，但那只是糟糕的监管。这并不意味着监管本身就是糟糕的。我认为，如果我们采取基于原则、结果导向和输入可理解的方法，我们将有最大的机会取得成功。这些原则包括信任和透明、包容和创新、互操作性和国际视野、问责制、保障和可及性。我认为这些是人工智能监管的良好原则。也是所有监管的良好原则。在英国，前政府在其白皮书中提出了原则，但将其作为自愿性原则。这些原则很好，但如果它们是好原则，那么似乎合乎逻辑的是，人们会希望将其纳入法定基础，从而为社会各界、公共或私营部门、经济的任何领域提供机会，让他们在人工智能方面体验到相同的方法，围绕人工智能的相同护栏。因为正如蒂姆所说，无论你是个人，还是消费者，还是企业，还是创新者，你最终想要的都是确定性、清晰度和一致性，因为这三个“C”带来了你作为一个人真正需要采取行动的信心。如何实现这一点？我认为，通过建立一个植根于这些原则的监管架构，并且至关重要的是，它是横向聚焦的。因此，它是跨部门的。它贯穿整个经济。通过这样做，你可以识别出监管覆盖最少或根本没有监管覆盖的领域，或者在英国没有监管机构的领域。招聘就是一个明显的例子。如果你拥有这个框架，它以原则为核心，但它具有发展所需的灵活性和活力，尤其是在我们英国的普通法管辖区，它可以发展。它可以灵活。作为比较，如果我们看看其他更具规定性的司法管辖区，这并不一定意味着规定本身是错误的，但它必然是不同的。而规定必然倾向于试图将立法中的每一个细节都包含进去，这总是存在将该立法困在那个时间点，或者通过过度规定而导致过度控制的危险。所以我认为，通过拥有灵活性，这是完全可能的。这是所有政府、所有监管机构都应该同时追求的目标。公民的需求、创新者的需求、投资者的需求。这会使事情变得更复杂，但如果你要采取这种“尺寸适宜”的监管方法，这是完全必要的。我认为，世界上任何形式的人工智能监管都必须是基于风险的。因此，这会让你采取一种比例适度的监管方法。另一件事是，克里斯早些时候使用了“互操作性”这个词，我认为在英国的背景下尤其如此，但我也认为在全球范围内，如果我们希望人工智能应用在世界各地蓬勃发展，而不仅仅是停留在某个司法管辖区，那么就必须采用国际标准，我认为这确实是我们面临的巨大挑战。因此，无论在任何司法管辖区采取何种形式的监管，因为美国将与欧洲不同，欧洲将与英国不同，我们所需要做的就是确保开发人员、企业和采用者等不会被监管过度束缚。他们真正能够理解他们需要遵守哪些标准，无论是安全标准还是道德标准，或者无论你如何描述它。而这些标准目前正在酝酿之中，并且正在制定中。我认为这是目前最积极的方面之一。我认为你说得对，蒂姆，基于这个标准点，这种将世界凝聚在一起并采取国际协作关系的方法，在任何时候都应该是正确的，尤其是在目前，这似乎极其紧迫，因为去美国，人们会犯错，但很容易犯错，认为在人工智能领域没有立法，没有监管。但当你深入了解细节，看到州一级正在发生的事情，不同的立法和监管工具正在被运用，情况就比这有趣得多，也复杂得多。这再次表明需要采取某种可互操作的方法。在这个领域，迟早肯定需要某种联邦层面的活动。但我确实非常热衷于，也是我参与过的所有相关立法的原因，就是这种真正关注国际层面的视角，而标准是其中的关键部分。但我们也可能不仅仅是重振在第二次世界大战的恐怖之后成立的许多国际组织。如果我们能从所有这些国际组织那里获得某种形式的参与和方法，那对它们来说，乃至对整个地球来说，都将是极其强大的。我想告诉大家，现在你们可以通过 Twitter 使用话题标签 #CXO Talk 提问，如果你正在观看 LinkedIn，只需将你的问题输入 LinkedIn 聊天中。我敦促你们提问，因为你们什么时候还能问上议院的两位议员关于这些话题几乎任何你想问的问题呢？所以，现在就提问吧。你们两位都在谈论国际合作。今天这个讨论似乎非常恰当，考虑到目前正在发生的事情。那么，在这个充满关税、世界经济动荡、合作似乎停滞不前的环境中，你们有什么看法？这对人工智能和我们都希望正确开发这些工具的发展有什么影响？像我们这样在数字世界工作的人，发现美国关于实体商品、实体商品贸易、美国实体商品赤字的争论非常讽刺，因为美国认为它必须对这些进口商品征收关税，而实际上，美国现在是世界上在数字服务方面最强大的国家，而微软、谷歌、亚马逊这些大型科技公司，它们拥有巨大的影响力。我认为这是美国经济中未被真正考虑到的制衡力量，而数字服务税本应试图纠正这一点。但当然，现在这一切都悬而未决，而且，你知道，从媒体上关于我们政府在做什么的报道来看，可能会有一些权衡，而欧洲可能也必须在一定程度上进行权衡。但这很讽刺，因为实际上你应该把这两件事放在一起说，然后说，好吧，你看，如果我们想达成协议，我们必须考虑到美国大型科技公司具有巨大的主导地位。这在数字世界中似乎是极其不协调的，在算法世界中是极其自动化的。汽车行业显然在全球范围内极其重要和显著，但要有一个通过一个不那么关注服务、关注数字经济的视角来看待事物的存在。而且，我一直以为几个世纪前我们就已经解决了国际贸易问题。我非常清楚地记得读过亚当·斯密。进行国际贸易以及由此带来的所有经济和社会效益才是有意义的。当然，关于倾销的问题。关于其他形式的保护主义问题。但作为一个基本原则，如果我们努力建立和促进自由贸易的途径，而不是走另一条我们才刚刚开始看到其严重后果的道路，那么作为一个相互联系、相互依存的人类社会，我们基本上是可以获胜的。蒂姆，在我看来，目前“相互联系的世界社会”这个想法并不是首要目标，至少在美国是这样。是的，这非常真实。事实上，它几乎是一个被颠覆的社会，而且似乎有一个目标就是实际颠覆。现在，我们被告知这会带来，当然，美国公民被告知这将带来一个更强大的美国经济，更高的生活水平等等，但你知道，我是在一个世界里长大的，克里斯自己也刚刚说过，你知道，我们生活在一个自由贸易被视为一件好事的世界里，我们越鼓励和促成它就越好。事实上，整个数字服务领域都是建立在这一基础上的。互联网的本质就是自由贸易，只是在网络安全方面有所缓和。整个数字市场、竞争反垄断政策都基于这一点，即只有在明显滥用主导地位的情况下，你才会干预数字服务。所以，从某种意义上说，我们是否必须重新调整我们的思维方式来适应这一切？我不认为这会改变我们认为开放经济（无论是数字的还是模拟的）更有吸引力的态度，但我们可能不得不适应新的现实。现在是订阅 CXO Talk 新闻通讯的绝佳时机。只需访问 CXO Talk。但我们收到了很多问题。为什么我们不先回答一些观众的问题呢？第一个问题来自 Twitter 上的 Arcelon Khan。他回到我们之前关于护栏和风险的讨论，他说，谁制定护栏，谁就成为守门人。你们如何确保在进行监管工作时不会出现任何无意的偏见？这与监管或立法任何事物一样，都是一个道理，这是一个应该提出的好问题。现实是，如果你理解并始终意识到你试图制定监管和护栏的社会、经济背景下的价值观。至关重要的是，你有有意义的、持续的公众参与，这能让你有机会不仅制定“尺寸适宜”的监管，而且制定真正植根于社会和经济背景的“尺寸适宜”的监管，从而随着时间的推移而发展壮大。如果你愿意，立法者、政府等等，他们的责任是为监管机构设定规则。所以，这些家伙不是独立的。他们是来执行原则的，并且应该定期监督他们。我的意思是，我们在英国的一个抱怨是我们作为立法者在监督我们的监管机构做得如何方面不够积极。你知道，结果是，如果你不小心，就会有人指责官僚主义、繁文缛节，监管机构阻碍等等。而实际上，在大多数情况下，无论是保护消费者、农民，还是那些受到技术影响的人，它的目的是有益的，并且完全有可能确保它能够实现。这是来自 Twitter 的 Anthony Scriffino。他曾多次做客 CXO Talk。我相信蒂姆认识安东尼。安东尼说：“请分享一下在跨境保护知识产权方面持续存在的困难。这属于创新和人工智能的范畴。”他说，作为一名发明家和创新者，他觉得如此难以保护似乎是违背常理的。我们可以就人工智能，尤其是在知识产权方面，谈论到天荒地老，特别是考虑到用于训练大型语言模型的大量知识产权版权，这些模型在不同司法管辖区使用，但受到不同形式版权保护。我的意思是，在美国，这是一个非常非常有趣的案例，你需要注册版权，但同时又有合理使用豁免，而这一点正在受到考验。事实上，对于像你这样的创作者来说，我相当乐观，在不同的司法管辖区，无论是北加州还是特拉华州，或者其他地方，法官们已经开始得出结论，合理使用并不包括用于训练目的的版权内容的使用。而在英国，我们正在进行自己的辩论，我们的政府提议与欧盟保持一致，这将造成困难，因为他们的提议是允许训练大型语言模型的例外，要求创作者选择退出，说“抱歉，我不想你使用我的材料”，而对于创作者来说，在技术上和实践上都很难选择退出。所以这是一个非常现实的问题，而关键问题是，大型语言开发者是否应该获得通行证，而创作者的权利，无论是作者、音乐家、视觉艺术家还是电影制作人，仍然非常非常重要。我们现在正处于一个时代，仅仅因为一项新技术就必须推翻几个世纪以来被充分理解的知识产权和版权判例，这似乎是不可思议的。正如我一开始所说，原则导向、结果导向、输入可理解。对于输入，输入得到尊重、适当的报酬和同意，而在任何司法管辖区，我认为我们离这一点还很远。我认为最高法院的判决确实非同寻常，得出了那个结论。正如蒂姆所说，在一些州级司法判决和其他即将到来的判决中，有更多的希望。在英国，这个问题同样现实。我在三月初发布了一份报告，试图让人们更加关注人工智能目前如何影响人们生活的许多方面，以及因此需要进行跨部门、跨领域的 AI 立法。我提出了八个现实，八十亿个需要监管的理由。而这些现实是那些身处困境中的人们。其中一个原型就是创意人士，他们发现自己的作品被拿走，没有得到同意，没有得到尊重，也没有得到报酬。这就是为什么在英国，我们的一些最伟大的艺术家，音乐艺术家，发行了一张专辑，这是一张沉默的专辑，以此来表达这一点。这就是我们前进的方向。如果我们接受，我一刻也不相信我们应该接受，我一刻也不相信我们需要接受，这些作品可以被随意拿走，那么我们就会剩下沉默，而原本会有音乐家带给我们的美妙声音。空白的画布，艺术家们带来了这些东西。而更糟糕的是，人工智能生成的内容也在与这些艺术家竞争。所以我们需要意识到这对我们的创意社区的双重影响，我们应该理所当然地捍卫他们的知识产权、版权和权利。蒂姆·奥利弗·皮（Tim Oliver P）在 LinkedIn 上提出了一个类似的问题。他说，不仅需要为人工智能设置护栏。监管是绝对必要的。然而，监管的影响触及了许多其他领域。他举了人工智能图像操纵的例子，他说人工智能在金融服务领域是另一个关键领域。而他问题的核心是，蒂姆。他说：“监管将如何帮助降低客户在人工智能决策中的风险？”他说的是客户，但我认为这实际上是为我们所有人准备的。克里斯和我都是提出私人成员法案的倡导者，克里斯有一项关于人工智能监管的非常出色的私人成员法案。我采取了更狭窄的方法，即关注公共部门的自动化算法决策，这在私营部门也是一个非常大的问题。现在，人工智能模型在私营部门越来越多地用于做出自动化决策，随着时间的推移，这将是一个越来越大的问题，而且，你知道，我们必须进行风险评估，影响评估。我们必须对这些模型的使用保持透明。我们必须让公民或消费者能够进行投诉，了解他们被做出的决定，然后进行投诉并获得补救。所以，有一系列步骤，大多数政府还没有真正考虑过，但是，你知道，我们不能出现机器做出决定，而公民、人类完全没有发言权的情况。我认为我们许多人都担心，政府出于热情，想要摆脱繁文缛节，提高生产力等等，将越来越多地采用这些模型。而我们将没有任何能力或洞察力了解正在发生的事情。当然，私营部门也必须如此。他们也有同样的生产力驱动力。而且，你知道，人们现在谈论工作场所影响评估，以确保人工智能真正用于员工的利益，增强他们的工作体验，而不是简单地让他们失业。克里斯，你对人工智能作为决策者的想法有什么看法？非常赞同。正如蒂姆所说，这就是为什么他的关于公共部门使用 ADM 的法案如此重要，因为它涵盖了整个社会和经济。回到原则，循环中应该始终有人类。潜在地，你可以进入人类监督的阶段。并且应该始终有权获得任何决定的公开解释。你必须始终有权知道你受到自动化决策的影响，因为例如，你申请银行贷款被拒绝了，而且是自动化决策拒绝的，而你甚至不知道人工智能参与其中。这已经够糟糕了。但想象一下，你处于国家环境中，国家为了保护我们而获得了非凡的、在任何开放社会中都独一无二的权力。所以，想象一下，你的福利因为一项自动化决策而被暂停，而你甚至不知道人工智能参与其中。这现在正在发生。你不需要想象。这现在正在发生。这又回到了迈克尔，你最初的问题，为什么我们需要立法？为什么我们需要监管？因为所有这些情况，无论你是福利申领者、求职者、创意人士、教育工作者、器官移植患者、选民。这不是假设。这不是未来的事情。我们不必考虑为即将到来的事情立法或监管。这正在发生在公民身上。这正在发生在个人身上。所以，下一个问题来自格雷格·沃尔特斯（Greg Walters），他说：“你认为英国是建立一个基于创新、敏捷监管和安全一致性的美英共享人工智能联盟更好，还是试图遵循欧盟更慢、更集中的监管框架？”所以，欧盟与美国在国际联盟方面有什么区别？谁想接这个话题？我认为欧盟在《人工智能法案》方面并没有完全做到正确。它在运作方式上确实有些脱节，因为它有一个针对大型语言模型的特殊突破，而实际上风险框架应该适用于所有形式的人工智能，风险评估也应该相应地适用。但我认为，说英国是需要跟随欧盟还是美国，这有点是错误的二分法，因为目前，正如克里斯早些时候所说，美国有一系列州正在制定不同的监管形式。加利福尼亚州、科罗拉多州，等等，越来越多的州开始处理透明度问题，以及人工智能的作用和风险以及适当的护栏问题。多年来，国会也试图通过大量的法案，但都没有成功。但显然，在某个时候，为了在各州之间取得正确的结果，而不是在不同州之间，你需要某种联邦立法。所以，我们不知道那会是什么。所以我认为英国正在走自己的路，这是正确的。但我们必须有护栏。它们必须是基于风险的，我们确实必须采用与 NIST 所倡导的以及其他标准制定者如国际标准化组织、IEEE、欧盟都在倡导的几乎相同的标准。事实上，经合组织正在努力将所有这些整合起来，并实现标准之间的趋同。所以我实际上认为，如果我们能更清晰地思考，也许采纳克里斯在他的法案中提出的建议，那么我们将处于一个更好的境地。我认为关于我们是走美国路线还是欧盟路线的争论不会有太大帮助。不，我同意这一点。我认为，正如蒂姆所指出的，并没有一条美国路线，而且实际上，当涉及到英国时，也没有一条真正的欧盟路线。在英国，我们有什么？我们有机会，因为我们的普通法传统，可以与我们在欧盟和美国的伙伴，以及世界各地的普通法管辖区联系起来，制定基于原则的立法，这些立法可以随着时间的推移而发展，并能为创新者、投资者、消费者和创意人士，最终为公民服务。这就是为什么我在 2023 年 11 月提出了我的《人工智能监管法案》。它处于良好状态，通过了上议院的所有阶段。它本应提交给下议院，直到有人认为提前举行大选是个好主意。我们都知道结果如何。但我一个月多前又把它拿回来了，我仍然相信，即使不是独一无二的机会，英国也有一个重要的机会，在朋友之间发挥作用，制定跨部门立法，提供连贯性、清晰度和一致性。如果你是公民，或者你是投资者，你想要的就是这个。我们完全有能力做到这一点。不幸的是，目前的英国政府，可以说，越来越不愿意采取这种方法。让我们来回答另一个问题。你可以看到，我非常重视观众的问题，而不是我自己的问题。这是来自 Funk Ambola 的。克里斯，我先问你这个问题。她说：“基于风险的方法是最好的方法，要考虑到比例原则。我们有许多现有的类似监管的例子，英国也应该采取类似的方法。”我发现“比例原则”这个概念特别有趣，因为现在在国际舞台上，人们对比例原则有很多讨论，而且似乎比例原则的整个定义都被完全颠覆了。克里斯，你对此有什么看法？我的法案，回到那个话题，非常具有这种基于风险的理念，并贯穿着比例原则。让我举一个例子，让你体会到比例原则为何是一个有用的法律和社会构建基础。因此，我建议我的法案中的一个条款是，所有开发、部署或使用人工智能的组织都应设有一名人工智能责任官员。现在，在任何人认为这会过度负担合规性，扼杀任何规模、任何增长的创新者或企业之前，由于法案中的比例原则，不要考虑个人，不要考虑团体，不要考虑团队，而要考虑角色和职能。因此，对于那些刚刚起步的微型企业来说，他们满足人工智能责任官员的要求的方式显然与拥有 20,000 名员工、在英国各地乃至国际上拥有多个分支机构的企业截然不同。所以，这是一个重要的原则。我认为我们可以让它变得生动起来。还有另一个原则出现在英国的许多其他立法中，那就是“合理性”。同样，人们有时第一次接触到这个概念时会感到困惑，比如什么是合理的，什么不是。但这就是以灵活、敏捷、发展的方式起草的乐趣，因为今天被认为是比例适宜的，在十年后可能完全不同，而且是正确的。因此，法规或规定具有内在的发展潜力，这得益于英国普通法的敏捷性和灵活性。我们有一个来自 Venet Omani 的问题，他说：“主权人工智能的需要如何影响全球就人工智能监管达成协议的可能性？”主权人工智能很重要，因为我认为我们需要有能力创造我们自己的模型。但我不认为我们仅仅期望开发大型语言模型会很有帮助，因为我们无法获得计算能力。我们没有芯片，没有强大的芯片。除了医疗数据，我们没有一些人工智能开发者积累的庞大数据集。我认为，在开源开发方面，我们可以处于世界领先地位，我认为主权人工智能在这方面很重要。但对我来说，比主权人工智能更重要的是，我们的主要大学拥有很强的技能，并且有衍生公司和初创公司等等，那就是主权云。而我们英国缺乏的是主权云，而云是许多事情的平台，而我们没有。而且它被两三家主要的美国大型科技公司所主导，这又是一个例子，正如我们之前讨论过的，美国在这个领域的主导地位。现在是订阅 CXO Talk 新闻通讯的绝佳时机，只需访问 CXO Talk 并订阅。我们有令人难以置信的节目即将推出，以及像这样的精彩讨论库。好的，我们有一个来自 Isabelle Doran 的问题，她是摄影师协会的首席执行官。克里斯，她问：“你认为，为了确保英国的数字主权，我们是否应该在美国和欧盟之外追求自己的议程，因为欧盟似乎正在对其公民的护栏进行回滚？这可能吗？”是的，我认为英国有机会表明我们希望在一个互联互通、可互操作、国际互联的世界中如何运作。但是的，要说这些是我们制定立法的原则，因为这些是我们社会和经济所基于的共同原则。如果我们不这样做，我们可能会一方面从大西洋彼岸成为规则的接受者，同时又接受其他东西。这对英国的创意人士来说都没有好处，我们有办法利用技术来解决技术问题。如果我们考虑一下，例如，我们可以将元数据水印和指纹结合起来做什么，那么就有真正的机会为我们的摄影师和所有伟大的创意人士提供真正有效、可持续的技术证明解决方案。请记住，各位，英国的创意产业，以及许多其他司法管辖区的类似情况，其增长速度是我们经济其他部分的双倍，价值 1260 亿英镑。认真思考我们如何支持所有这些伟大的创意人士是值得的，他们不仅为我们的经济做出了巨大贡献，而且坦率地说，他们极大地滋养了我们的灵魂，让生活变得如此美好。我还可以补充一点，我们绝不能做的是，我完全同意你的观点，克里斯，我们绝不能为了某种增长战略而牺牲所有那些来之不易的创意权利，你知道，这最终将是徒劳的，而且适得其反。让我抛出一个问题给你们两位：数字资产和代币化。为什么围绕数字资产、加密货币、NFT、代币化财产的法律清晰度对创新和市场信心很重要？你们两位，请尽快回答。请记住，无论你从各种咨询公司那里获得哪个统计数据，到 2030 年，大约 80% 的所有价值将通过代币进行交换。所以，这对任何经济体、任何司法管辖区来说都是一个非凡的机会。同样，我们需要什么？我们需要清晰度、确定性、一致性。这些带来了人们投资、围绕其创新、开发平台、开发代币本身的信心。简而言之，在英国，我们正在推出《数字资产财产法案》。蒂姆和我都在该法案的特别委员会任职。大约三周后，我们将进行报告阶段。该法案旨在提供清晰度，即数字资产可以被视为财产。因此，真正实现了确定性，这使得投资和创新成为可能。同样，回到蒂姆正确提出的增长点，政府在这里以及世界各地都在谈论增长。谁不想要呢？但如果你真的想考虑增长最有可能在最短的时间内以可持续、有效和解放的方式积极到来。那么，它将来自这些新技术，它将来自数字资产和代币周围的一切。行业中存在着一种极大的不耐烦，政府真的没有足够快地抓住机会。我们可能需要确定数字资产的确切定义以及非数字资产的定义，以及法律定义。但是，作为一个经济体，我们在这方面确实没有足够快地前进。蒂姆，请用一句话谈谈开放银行、开放金融倡议，它们如何使消费者受益，以及应该在那里做什么。而且，真的，请非常非常快。我们正在通过立法，试图真正推广开放银行的概念，通过整合，为消费者带来利益，整合由不同服务提供商持有的关于他们的许多数据，这在银行业很常见。而我们的想法是，将其提供给更广泛的消费者和提供的服务。很多人认为这是一个前进的好方法。我有一些担忧，我认为大多数立法者都有担忧，那就是确保数据得到牢固保护，因为，你知道，如果你想象一下开放银行的概念，不同的金融机构拥有你的数据，而这一切都是为了你的利益而设计的，以一种个性化的方式，你知道你的 401（k）或者其他什么，迈克尔，但是，你知道，这将是一套重要的服务。而这正是为什么我们需要立法来确保围绕这一点有基本规则，确保它是安全的，并且消费者，如果涉及到公民，公民也从中受益。蒂姆，真的只有一句话，关于开源 LLM 模型在这个宏大计划中的重要性，请非常快。我非常热衷于开源模型，因为，你知道，即使是基于 Llama 或 Deepseek 的，它也给了小型开发商利用这些大型模型的力量的机会，并使用他们自己的特定数据集来真正地在许多领域取得进展，特别是在医疗保健领域，这可能在许多方面改变游戏规则。克里斯，让我来问你。这是来自卡罗琳娜·桑切斯·埃尔南德斯博士的问题，她说：“从治理和保障的角度来看，我们如何在这次技术竞赛中就最佳实践达成一致？”如果你能用一两句话回答，我们就没时间了。通过我们一直以来用于立法的方针，考虑我们立法的背景，确保有意义的公众参与。我的私人成员法案中的第七条完全是关于公众参与的。这是最重要的条款，获得真正的参与，而且技术提供了这样的机会来改变我们与公民的互动方式，我们与公众的互动方式。所以，拥有所有这些，我们就有最大的机会得出正确的结果。但再次强调，虽然我一直在重复，但要将其写入我们立法的法律代码中，这提供了敏捷性，提供了活力，以便我们能够随着时间的推移而发展。蒂姆，我们有一个专门针对你的问题，来自 Bridget E，她说，即使英国的监管最终是基于风险的，就像欧盟的《人工智能法案》一样，它们能跟上技术的快速变化吗？克里斯和我都是敏捷监管的坚定信徒，如果它足够敏捷，并且足够基于原则和结果，那么你就可以做到这一点，你不必为每一种可能的人工智能形式或每一种可能的神经网络或算法进行监管，无论你如何定义它。如果你根据风险和结果来定义它，那么我认为你处于一个更好的位置。而且，你知道，我们在英国习惯了基于结果的监管，基于原则的监管。这并不是一个陌生的概念，而且在许多不同的领域，尤其是在金融服务领域，它一直运作得很好。再加上沙盒机制，克里斯和我都是非常热衷于此的，这让你能够在监管机构的监督下安全地开发和创新，而不会违反规定，这意味着你可以安全地创新。然后，当你达到测试阶段，你的产品已经准备好投入使用时，就是你可以腾飞的时候了，而且你知道你已经满足了监管要求。所以，我是一个比例适度的监管的粉丝。而且，我相信我们已经具备了它的要素。让我们转向 Michaela DLO。 Michaela 说，她看到人工智能监管与基本数据伦理问题之间存在脆弱的关系，这些问题超越了监管，并且是建立公众信任的关键。你对这种关系有什么看法？[音乐]随着监管的快速发展，我们如何鼓励各种规模的组织、创新者等选择更道德地使用人工智能？所以，克里斯，请谈谈人工智能的道德使用与创新的关系。道德方法不仅是正确的方法，而且最终总是符合经济效益，因为它带来了确定性、可靠性和稳固性。所以，即使你只出于经济原因这样做，你希望人们出于更广泛的原因这样做，即使你只出于经济原因这样做，这也是正确的方法。在此基础上，你可以谈论负责任的人工智能，我认为这是一个非常有用的概念。回到早些时候的问题，我认为专业人士的角色很重要。我认为我们可以有专业标准和数据科学、人工智能世界的专业化，那些辛勤工作的人们创造了伟大的概念、伟大的模型。拥有一些专业标准、一些公认的资质将非常有益。所有这些都有帮助。回到香港的观点，我认为我去年春天去了香港。香港金融管理局在金融服务领域围绕潜在人工智能模型的沙盒机制方面所做的事情非常有趣。他们确实将香港作为一个培养皿，不仅用于人工智能，还回到我们早期关于加密货币和代币化的讨论。香港正在发生的事情非常迷人。但所有这一切都回到了那个概念，另一个贯穿所有这些的线索：专业化、道德方法、负责任的人工智能。我们最终所说的，我们说那是关于标准。这绝对是根本性的。公众信任，如果你没有公众信任，而我们在数据共享和访问方面已经遇到了足够的困难，在如此多的不同方式下，我们必须确保我们不会在人工智能方面犯同样的错误。我们必须获得公众信任，因为这给了每个人使用它并让我们的生活变得更好的许可。为什么？好的，蒂姆。我认为这就是为什么我总是说这是我法案中最重要的条款，因为正如你所说，如果公众不信任人工智能，他们很可能不会利用其带来的好处和机会，同时他们很可能会遭受其负面影响和潜在负担，这将是极其悲剧的。但好消息是，如果我们选择这样做，这是完全可以避免的。这是一个简单但非常重要的问题，来自 Dawn Davidson，她说：“考虑到直接与人工智能合作的员工的独特见解，你是否同意英国迫切需要加强举报人保护，以确保担忧能够安全地提出，尤其是在这项技术快速发展的情况下？”克里斯，请快速回答一下。是的。我认为举报人可以发挥重要作用。改善工作场所的整体关系。我认为《雇佣权利法案》有一些真正的机会，该法案目前正在提交给上议院。所以我知道蒂姆和我将在此以及人工智能与雇主和雇员之间关系的大量问题上进行大量工作。事实上，这将是未来的一件大事，随着雇主越来越多地采用人工智能，这将是工作场所的人工智能，而举报人是其中的关键部分。蒂姆，Arselon Khan 提出了另一个非常重要的问题。他说：“数字鸿沟呢？那些在人工智能方面远远领先的国家，是否应该关心那些远远落后的国家？”我认为可及性将是绝对关键的，有趣的是，不同的司法管辖区有非常不同的方法。我的意思是，你知道，我们都认为非洲，你知道，撒哈拉以南的许多非洲国家在技术方面落后，但然后他们在支付系统方面超越了我们，你知道，在使用移动支付系统方面，比我们许多人早得多。所以，没有铁律规定，即使你是一个发展中国家，没有完全获得互联网等所有形式的互联网接入，你就不能采用新技术。我的意思是，你知道，移动通信在许多你认为它们没有先进经济体的国家都非常先进。但我确实认为，政府有责任努力确保其公民尽可能多地获得这些技术，或者在获得这些技术方面享有公平的竞争环境。对我来说，你知道，英国政府刚刚发布了一项数字包容计划，总体方向是正确的。但我认为，例如，应该有绝对的互联网接入权，或者至少是 5G 的接入权，这应该是数字世界的底线。Vincent Suzora 为我简化了他的问题，他说：“人们是否会为他们被发布到社交媒体上的聊天记录、艺术和创意作品被盗而获得道歉？这些作品在未经他们告知的情况下被用于训练人工智能。”他想要为他的作品和其他人的作品被吸入 LLM 机器而获得道歉。可悲的是，不是所有那些贡献了他们作品的人都会道歉。但别提道歉了。所有那些作品，特别是那些构成了这些大型基础模型作品的报酬都应该得到支付。应该有报酬。应该有尊重，并且应该有同意。而这需要成为一个三管齐下的前进方法。蒂姆·刘易斯·H（Tim Lewis H）说，你不知道他指的是你还是全球的你，也就是说你们两位都说，你提到了监管自动化决策，以银行贷款为例，但正如你所知，这种决策在人工智能系统中是普遍存在的，难道没有这样的危险，聪明的律师会像会计师处理税法一样找到签署漏洞吗？与其试图限制机器，不如专注于监管结果，以确保它们安全透明，这是否更有意义？老实说，我认为这两者并不矛盾。我的意思是，我信奉结果导向的监管，而且，你知道，但另一方面，我是一名律师，所以，你知道，我确实相信，如果你愿意，法律程序，如果监管存在缺陷，监管机构没有履行其职责，或者受监管的金融服务提供商没有履行其职责，那么我们就需要确保我们有补救措施。但是，你知道，我们基本上又回到了比例适度的监管。而克里斯·安东尼·斯克里菲诺（Chris Anthony Scriffino）又回来了，因为他想让你知道，他想强调这一点，他是邓恩·布拉德（Dun & Bradstreet）的首席数据科学家。所以，他是一位专家。他说，在加密货币的背景下，不法行为通常不受与法定货币相同的保护。最好的骗子比最好的监管者更快地改变他们的行为。我认为加密货币中有欺诈，就像法定货币中有欺诈一样，而法定货币欺诈仍然存在。它远远超过了加密货币欺诈，而没有意识到加密货币的难度。但是，为加密货币和代币制定尺寸适宜的监管框架，正如你所知，安东尼，这是一个比所谓的加密货币更广泛的领域。建立正确的监管框架，让公众更多地了解这些技术，将为我们提供获得保护的最佳机会。回到蒂姆早些时候回答的问题，对那个问题用一个词来回答：标签。所以，如果某人将受到人工智能或自动化决策的影响，如果它被标记出来，他们就会知道是这种情况，这将为他们提供决定他们是否想要它的最佳机会。蒂姆，最后，我先问你，然后我会问克里斯同样的问题。蒂姆，你对政策制定者在建立公众对人工智能、数字资产和开放数据信任方面有什么建议？引入比例适度的监管，确保高风险人工智能受到监管。这就是我的建议，这将建立公众信任，并让我们有权继续创新。克里斯，同样的问题。关于技术和监管，你对政策制定者建立公众信任有什么建议？参与，参与，参与。我们拥有成功所需的一切，因为我们理解批判性思维、价值观、伦理、负责任的方法、经济学、哲学。我们需要人性化。这些是工具。它们是极其强大的工具，但它们是我们手中的工具。我们决定，我们最终决定我们的数据、我们的决策、我们由人类领导的数字未来。至此，非常感谢克里斯·霍姆斯勋爵和蒂姆·克莱门特·琼斯勋爵。非常感谢你们两位来到这里。我非常感激你们两位。谢谢。谢谢。谢谢大家。感谢你们的提问和观看。我希望蒂姆和克里斯，我希望你们能再来。我觉得你们俩都非常聪明，我问的问题没有充分挑战你们，所以请再来一次，我们再做一次。精彩的问题。各位，感谢观看。下次再见。我们有精彩的节目。请访问 cxotalk.com。务必订阅我们的新闻通讯，因为我们希望您成为我们社区的一员。非常感谢大家，祝大家有美好的一天。[音乐]