Transcription
人工智能系统可能会失控、横冲直撞并产生幻觉。因此，在 CXO Talk 888 期节目中，Tim Clement Jones 勋爵和 David A. Bray 博士将解释如何在这些故障升级为企业级危机之前进行预测、管理和预防。David，请谈谈您的工作。目前，我是辛普森中心的加速器主席，这仅仅意味着我们正在努力弄清楚如何并行制定政策和计划，因为世界变化太快了。除此之外，我还担任过各种职务，从反生物恐怖主义到美国联邦通信委员会（FCC）的首席信息官，再到国家情报局的高级行政官员。Tim，请谈谈您的工作。我是一名上议院议员。我在那里就科学创新和技术，特别是人工智能发表演讲，并且我共同主持议会中关于人工智能的跨党派小组，并且我为多家组织提供人工智能政策和监管方面的咨询。当我们谈论生成式人工智能横冲直撞时，这究竟意味着什么？生成式人工智能有趣之处在于它实际上会生成自己的内容。在此之前，对于其他不同类型的人工智能，我们有基于规则的系统，我们有自然语言处理，但生成式人工智能实际上能够生成自己的内容。如果您观察它，无论是图像生成器还是大型语言模型，它都在进行预测。在大型语言模型中，它是下一个词的预测。在图像中，它试图响应您给它的提示。因此，通常它们会有所谓的随机种子。它们还有温度控制，会引入一点随机性。现在，即使您降低温度控制，降低种子并说“我不想有任何随机性”。如今，对于这些非常大的模型，由于您并行进行计算，仍然存在一些非确定性，因为这些竞争条件会将事物发送到不同的处理器，您可能会两次输入相同的提示，结果可能并不相同。此外，许多模型都有所谓的观察者效应，如果它们观察到某个提示已被询问，当您第二次询问相同的提示时，它已经被修改了，因为它观察到了相同的提示。所以，我们处理的是非确定性的事物。它们不是基于规则的。因此，当企业推出它们时，它们可能认为它会做某事，但正如您所提到的，存在幻觉。我们可能会尝试减少幻觉。假设我们甚至将其降低到个位数或 1%，您仍然无法可靠地预测它何时会做出完全不符合事实的事情。再次，它正在进行多维模式匹配，但不一定是事实。Tim，您在上议院，所以您从政策和治理的角度来看待这个问题。从您的角度来看，生成式人工智能的这种横冲直撞或失控或幻觉方面有什么影响？幻觉的影响，当它是假新闻，甚至是错误信息，或者说生成式人工智能模型产生其他类型的行为不当时，可能会产生非同寻常的后果。例如，如果有人，当然，人类经常与行为不端的人工智能联系在一起，这才是真正重要的，现在我们看到大型语言模型有更多的零售用途。这不仅仅是企业采用的问题。这不仅仅是大型企业采用大型语言模型而横冲直撞的问题。这是个人出于自己的目的使用人工智能模型，从而在某种意义上制造了这个问题。所以，它可能是选举，可能是人们散布错误信息导致公众骚乱，或者各种领域，或者确实是人工智能系统做出的歧视性决定。因此，人工智能的普遍存在以及其技术问题共同造成了这个问题。您知道，人们会犯错，人工智能也会犯错。那又有什么大不了的呢？问题在于您不仔细检查机器。例如，我们看到，例如，这是在 ChatGPT 3.5 的早期。据称，有一位或多位律师基本上使用它为法庭案件生成一些参考资料。它们看起来很逼真，因为这又是在进行多维模式匹配。他们没有去检查这些法庭案件是否真的存在。然后当他们出庭时，果然，他们引用的法庭案件根本不存在。因此，您需要认识到生成式人工智能会产生看起来非常逼真但可能是完全虚假的东西。但是，我给出的第二个例子是，在去年 11 月的一次比赛中，他们明确告诉机器，无论如何都不得转移资金。并且这是公开提供的。任何人都可以输入提示，但需要支付少量费用。所以这有点像一个自筹资金的比赛。到第 490 次尝试，也就是第 490 个提示时，即使机器被告知不要转移资金，您猜机器做了什么？它转移了资金。所以，这就是您必须认识到这些不是基于规则的引擎的地方。因此，它们提供给您的东西可能不可靠，或者如果您告诉它不要做某事，您可能会发现最终它还是做了。是的。我们在英国也有自己的例子，公共使用的机器学习工具在政府中，剥夺了 20 万人的福利，而且是非法的。当然，我们最著名的案例是以最糟糕的方式，我们所有的邮政职员，他们被邮政公司起诉，当时使用的并不是完全是人工智能。事实上，它是一个专家系统。而且，我告诉自己，如果不是专家系统，情况会变得多么糟糕，这导致了起诉，导致人们自杀，他们仍在等待政府的赔偿，以及，你知道，他们遭受的不公，因为被非法监禁。所以，你知道，人们对基于计算机的决策的这种信任，如果你笼统地说，这种信任会延续到人工智能，特别是当人工智能能够与您交谈并显得相当人性化时，让我们面对现实吧，它们现在几乎肯定通过了图灵测试，我认为这可能已经过时了，所以它具有这种人性化的外观，从而产生了公众的信任，这使得它在这种情况下极其危险。那么，这种信任方面，这种导致我们相信我们收到“真相”的虚假信心，真的是最危险的方面之一吗？您会这么说吗？如果您将信任定义为愿意在您无法控制的参与者的行为面前变得脆弱，我们感知到这些模型的胜任能力，也许是诚信，也许是仁慈。因此，我们信任它们，而实际上也许不应该。这部分是由于营销。这部分是由于我们被告知的。但正如他所说，它们看起来像人。而且它们在与我们的对话中，与我们的互动中越像人，我们就越不会退后一步保持怀疑。但是，即使在此之前，实际上在 80 年代，他们玩过类似讨价还价的游戏，机器被预先编程来出价。所以它永远不会偏离这一点，但人们仍然会因为机器出价不公平而惩罚它，即使它是预先编程的。所以这实际上更多地反映了人性，那就是我们试图将事物视为我们自己，而实际上我们需要退后一步。我经常告诉人们，人工智能不是人工智能。它是外星互动。在任何时候都不要假设它在以任何方式思考我们。因此，当您查看不同的人工智能方法时，包括生成式人工智能，了解它们的优点和缺点，并向您的董事会、您的领导层、您的政府汇报，因为如果您在错误的背景下使用人工智能，这些不同的优点和缺点可能会成为您的报应。David 在这方面说得太对了，Michael。有趣的是，我们现在依赖于这些大型语言模型。看看我们多么礼貌。我的意思是，David 可能会在电脑给出错误答案时踢它，但很多人会说，“哦，非常感谢。这是一个很好的答案。”你知道，与机器进行这种礼貌的互动，你知道，是相当非凡的。但这正是我们现在基本上在对自己进行编程。所以，同样，你知道，我们正在建立这种虚假的平台，我们应该更加怀疑。它确实具有人的特征，因为它呈现出意识和感知能力的错觉。是的，我认为这是我想告诉人们的最重要的事情。在任何时候它都不是有意识或有感知的。这只是花哨的多维数学。问题是，有些人，无论出于何种原因，要么是因为它能带来点击量而谈论它，要么是因为他们自己感到焦虑而谈论它。但您需要认识到，归根结底，我们目前的人工智能类型实际上只是非常先进的多维数学。因此，当您部署它时，我认为这确实会涉及到有趣的事情。您需要准备好它在技术上会失控，因为您可能在错误的背景下使用了人工智能。您需要准备好，也许人工智能正在做算法应该做的事情，但您在数据上对其进行了糟糕的训练。数据不具代表性，或者数据中缺少某些内容，因此它将得出与我们期望不符的结论。或者，最后，这两件事都可以做好，但您错过了人际互动。因此，您开始看到，正如 Tim 勋爵所说，人们可能会去人工智能模型，向它询问新闻，然后陷入一些真实新闻与幻觉新闻的混合体，或者新闻被歪曲以迎合该人的注意力或兴趣，因此他们相信这是真相，而没有去其他来源进行那种怀疑性的信任但验证。绝对是。而且它非常诱人，然后就会产生过度依赖，这是我担心的方面之一，也是未来的技能退化方面。Priy Nion 在 LinkedIn 上说：“您认为我们会达到人工智能风险官像首席信息安全官一样普遍的程度吗？如果是这样，他们是否应该直接向首席执行官甚至董事会汇报？”这是一个非常深刻的问题，其中包含很多内容。我从首席信息官和首席信息安全官那里越来越多地听到的一件事是，我们都知道，在网络安全领域，复杂性实际上会侵蚀强大的网络安全，而人工智能，您知道，是我们正在引入企业和组织的最复杂的事物之一。所以，是的，在某些方面，您需要为网络安全和人工智能风险所做的事情将会有所融合。其中一件我认为我们已经需要做得更多的事情是，从所谓的法证空间转移，就像寻找非常特定的模式一样，而是需要做所谓的“生活模式”。在您的组织中，正常情况是什么样的？这个系统正常情况是什么样的？然后，如果您看到一些奇怪的东西，可能是硬件问题，可能是软件问题，可能是网络安全问题，或者越来越多地，如果它背后有人工智能，可能是人工智能在做不该做的事情。因此，我认为生活模式方法在网络安全以及确保人工智能不会让公司和政府失控方面将会有所融合。绝对同意，因为我认为将来我们无法将这种风险角色与网络安全角色区分开来。毕竟，我们知道人工智能本身可能是一种网络安全风险，因此人工智能的风险开始进入该领域。但是，我确实同意我们提问者关于评估风险重要性的观点。它需要被纳入公司结构的主流。它需要非常非常接近首席执行官、审计和风险委员会。它应该是首席执行官和董事会采用人工智能方式的组成部分。如果他们没有这种风险处理方法，那么在开始采用它时，他们将非常脆弱。所以，你知道，这很大程度上是我认为您和我都会为企业提出的结构的一部分。我担心的是，你知道，它是零散地采用的，而没有在最开始进行那种总体评估，你需要什么样的结构来确保公司的安全，确保其目标通过使用这些新工具来实现。它只是一个随机的想法，会提高生产力，我们只需要在这里和那里安装一些工具。我认为我们必须以更全面的方式来交付它。人工智能风险比传统安全风险更危险吗？安全现在是董事会层面的话题，因为可能产生的声誉、财务和法律损害。从风险的角度来看，人工智能的地位如何？风险的突出性如何？我对我目前看到的人工智能类型，当前一代的评估是，它非常像内部威胁。就像您需要担心内部威胁一样，您不知道该人是否会做一些可能不是恶意的，但他们做错了事。他们只是公开了 250,000 个不应该公开的姓名。这只是一个例子。或者他们可能是恶意的。也许他们是心怀不满的员工，或者他们实际上是为了做某事而获得报酬。或者他们可能受到胁迫。因此，当您将人工智能引入企业时，您实际上需要一种升级的方式。您需要与您的董事会进行对话，我们将像我们必须升级内部威胁问题一样对待人工智能，因为再次，如果您知道我不会推荐使用 Deepseek，但如果您使用 Deepseek，您应该意识到它还将元数据和信息发送到海外，您对此感到满意吗？所以我会说，这是一个风险，这是一个重大的风险，以其速度和规模，然而，我认为我们有工具，非常类似于我们如何处理公司内部的内部威胁。同样的事情也可以用于人工智能。而且，我认为迈克尔，这个问题的精明之处在于，我认为很多董事会还没有达到那个水平。我认为戴夫关于应该发生什么绝对是正确的，但我认为目前还没有发生。人们非常关注机会是什么，但并没有真正关注风险，它如何适应风险偏好，因为我认为风险不一定被认识到，或者风险的程度还没有被认识到。所以我认为董事会，我的担心是，他们还没有具备评估他们应该采用的人工智能的技能，人工智能将如何与他们的价值观和目标相适应等等。但是，你知道，这些都是普遍存在的一些大问题。让我们转向 Twitter 并回答一些问题。这个观众非常聪明，非常聪明。我喜欢这些问题。这是来自我们的朋友 Anthony Scriffino 的一个问题，他当然多次做客 CXO Talk，他问这个问题。随着新一代的出现，他们学会了让机器来完成工作，我们如何让劳动力利用他们过剩的精力去独立思考，并专注于新的未满足的挑战？有两个方面。首先是，当他们使用机器并与机器一起工作时，正如 Tim 勋爵所说，我热烈同意，仍然要保持怀疑。你知道，仅仅因为机器给了你一个输出，你几乎需要仔细检查工作，这并不意味着你必须检查所有内容，但你需要获得一些专业知识。第二件事是，我们现在需要弄清楚如何做到不仅仅是一个人与一台人工智能，而是跨多人和机器的团队合作，因为未来很可能，特别是对于入门级员工，您可能有一个副手，老板，甚至老板，您的第一个老板可能实际上通过人工智能系统给您分配任务，因为您最初所做的是，您越多地学习入门级工作，您就必须适应这一点，但如果您认为人工智能给出了错误的任务，或者任务不再适合目的，因为它可能会这样做，那么您的补救措施是什么？因此，我认为我们实际上需要很早就开始，也许从中学开始，探索如何进行人类与人工智能的混合团队合作，然后弄清楚我们应该采取哪些行动，既要对来自机器的东西保持怀疑，这样您就可以进行三角测量，然后二，当您认为人工智能要求做的事情或分配给团队的任务没有意义时，您该怎么做？什么时候人会举手说，我认为那不对，我认为机器有问题？绝对同意 David 的观点，这从更早的管道开始，在学校，就我们所需的那种批判性思维技能而言。问题是我们从这里开始，因此公司，你知道，他们需要评估对这些工具过度依赖的风险，在没有适当的人工干预的情况下，在可能应该有人工干预的地方，存在对工具的过度依赖，并且没有真正的人工干预，这可能无法获得相同的结果。因此，使用这些工具的个人的技能将绝对至关重要，你知道，我们不再需要积累信息。我们不需要，在某种意义上收集数据和分析数据，在很多方面，但从中得出结论并批判性地评估它将是我们业务所需技能的重中之重。而且，你知道，这再次需要我们企业高层对人类和机器可以做什么有所了解，而且我认为这种了解还没有完全到位。你知道，David，您在这方面做了很多工作，这是一个真正的问题，需要将其放在最前面。我认为我们都会有更多的时间进行思考，坐在公司里，这将使我们能够梦想出新的创意想法，我认为这可能有点过于乐观。但是，我认为这将是一种伙伴关系，因为你知道，他们谈论法律行业中的人工智能，现在是“陪练伙伴”，我认为这是一个可爱的比喻，基本上您在测试命题，您在与机器搏斗，说“那又怎么样呢？那又怎么样呢？我们可以做得更好吗？以这种方式还是那种方式？您有一个可以争论的对象。所以我很喜欢这个。我认为 Tim 勋爵说得很对，实际上有一些文章说，您的 AI 伙伴的回报是更多的工作，你知道，所以它不一定会让事情变得更轻松。我喜欢陪练伙伴的例子，部分原因是因为，你知道，今年一月，美国政府发布了一些出口管制，他们匆匆忙忙地在领导层变动之前就发布了。我感觉像是匆忙发布的。所以我实际上去了一个人工智能模型，一个 GPT，我说，“假装你想绕过这些出口管制，你不仅想绕过它们，而且你想赚钱。”果然，你猜人工智能做了什么？它告诉我了五种方法。所以，正是这样，当我们审视不同的政策时，当我们审视不同的决定时，我们至少应该对它们进行红队测试，红队测试来自“可能出错的地方”或“如何被滥用或误用”的世界。我认为这越来越多地是，但不是您转向人工智能并将其全部交给它。它会给你想法，就像那个陪练伙伴一样，正如 Tim 勋爵所说，然后您作为人类裁决，是的，这说得通，或者不，那不可能发生。现在是订阅 CXO Talk 新闻通讯的绝佳时机。访问 cxotalk.com，订阅我们的新闻通讯，我们将通知您此类讨论，以便您可以参与。现在就做。这是一个来自 Arcelon Khan 的非常有趣的问题。他谈论美国，但我认为这更广泛。当美国说，移除人工智能的护栏时，美国人口或世界真的准备好了吗？Tim，我认为这个问题是为你量身定做的。虽然美国，我的意思是，各个州是不同的。我的意思是，显然，我们在加利福尼亚州和科罗拉多州以及其他一些州有一些法规，但总的来说，我们不认为各州有关于此的联邦立法。尽管我看到总统也表达了一些沮丧。我不知道联邦立法是否会到来。但是，是的，我的意思是，我认为普通美国公民应该希望有适用于我们一直在谈论的大型语言模型的普遍适用的标准。而且存在国际标准，有趣的是，美国机构，如国家标准与技术研究所，也制定了一些非常先进的标准，可以被采纳。所以，你知道，如果立法或监管的意愿存在，它不必非常复杂，我认为它将提供更大的公众信任度，这是权衡。你知道，我非常相信在不影响创新的前提下进行一定程度的监管，因为它能建立公众信任。但是，你知道，我认为还有很长的路要走，而且你知道，问题是，我们冒着在世界各地拥有不同监管制度的风险。所以我的观点是，我们需要尝试做的是就国际标准达成一致，这意味着我们可以普遍采用这些工具，然后我们不必在所有这些方面考虑司法管辖区。但是，如果我们没有监管，那么责任就回到了企业身上，以确保我们得到保护，并且我们可以信任正在使用的人工智能工具。你知道，监管越少，企业承担的责任就越大。它不是美国移除了护栏，而是它们在联邦层面没有制定任何立法护栏。现在，话虽如此，就在本周二，我们确实看到了一项新的行政命令和一些关于人工智能的额外战略。如果您阅读它们，它们实际上呼吁 NIST 参与。所以这确实是朝着这个方向发展。我认为这很有趣，因为最终美国可能出于各种原因，更多地倾向于通过行政命令和行政政策，而不是国会。我至少从美国的角度提出的另一件事是，我们确实有现有的法律，例如医疗保健领域的 HIPAA。我们也有现有的法律，例如银行业领域的银行保密法。国会可能不会试图制定一项单一的、统一的人工智能立法，这可能出于各种原因而变得困难，而是让不同的委员会去处理，并升级人工智能在医疗保健领域意味着什么？人工智能在国防领域意味着什么？它在银行业意味着什么？因此，美国可能采取与欧洲或其他国家略有不同的方法，但事实是，是的，我们在联邦立法层面还没有做任何事情。但是，正如 Tim 勋爵所说，请继续关注。这是来自 Kurt Mily 的问题，他问：“是否需要发生重大的公开失败，安全团队才能将重点从人工智能机会转移到也关注风险？”很遗憾，这很可能是真的。我希望不是这样。我希望我们不必经历，你知道，一次大规模的数据泄露，人们才会对网络安全感到兴奋，或者，你知道，一些其他导致企业改变行为的危机。我认为我们还没有遇到过涉及人工智能的重大丑闻。我的意思是，你知道，我想，如果一家公司的营销材料完全由人工智能创建，结果却完全吞噬了，你知道，一些创意午餐之类的。我的意思是，我目前无法想象那种企业级的灾难。但这很可能是对的。但我非常希望 David 的工作能够成功地渗透到企业界，Michael，这样我们就不会发生导致行为改变的危机。我相信自愿的公司治理，如果可以实现的话。这是一项团队合作，因为您也在做，我记得我们在 2017 年见过面，您当时是英国人工智能战略的主席。所以您已经走在了时代的前面，而不是像美国的一些事情，我们仍然落后于时代。但我想说的另一件事是，Michael，已经有一些例子表明人们使用人工智能来帮助编写代码。人工智能建议的一些代码可以编译，而有些则根本无法编译。所以这应该是警示信号。不要盲目信任机器。但更有趣的是，我认为这是在过去一周左右，不幸的是，其中一个帮助编写代码的人工智能代理完全删除了公司的代码库。所以这应该告诉你，地平线上有一些警示信号，如果您不考虑基于风险的评估，并且您将其置于与您的知识产权或财务紧密相关的事物之上，那么可能会发生坏事。我应该提到，迈克尔，版权侵权问题在欧洲已经变得非常具有争议性。而且，你可以说，出于声誉原因，人工智能模型开发者面临着非常非常严重的声誉损害的风险，如果我们找不到一个妥善解决培训版权材料等问题的办法。然后，当然，David 之前提到了律师们，他们有错误的引文。我的意思是，你知道，我的意思是，法律行业现在已经很快意识到他们需要封闭的系统，可以依赖，而不仅仅是要求 ChatGPT 提供法律诉状，这是非常危险的。所以已经有很多醒悟了。让我也提到，如果我们看看传统的安全和数据泄露，这是很有趣的。已经发生了大规模的数据泄露。我认为我们所有人的社会安全号码和个人身份信息都在网上流传。无法逃避。而且这些泄露事件仍然层出不穷。我们的一家主要零售商，Marks and Spencer，你知道，他们无法进货，无法发货。我的意思是，你知道，几个月又几个月，我认为他们仍然受到后续影响。所以，是的，我的意思是，风险管理，风险评估，你知道，在所有这些方面都至关重要，你知道，人工智能需要添加到所有这些方面，而我们的第一个提问者正确地提出了它需要非常融入整个风险管理过程。这里有一个来自 LinkedIn 的问题。来自 Mohammud Jabrell，他说这是给 David 的。他说：“您是否认为需要新的代理管理工具和平台？例如，在安全、合规、成本等方面管理代理式人工智能的蔓延。”简短的回答是肯定的。稍微长一点的回答是，它可能看起来不像过去的某些工具，因为这不是稳态。因为我们刚才谈到了生成式人工智能和其他人工智能方法可能具有非确定性，并且它们正在生成自己的内容。如果您做的是过去在法证学中做的事情，并假设稳态，您将永远落后。所以，这就是我真正对“生活模式”感到兴奋的地方，首席信息官和首席信息安全官可以向他们的董事会说，看，我们可以实现双赢，我们可以提升我们组织的网络安全态势，同时也能更好地管理人工智能风险并实际检测到人工智能风险，因为我们正在观察我们的信息系统和人工智能系统的正常生活模式，然后如果我们看到一些奇怪的东西，我们会阻止它，然后暂停并试图弄清楚这里发生了什么。所以我认为这是必要的。另一件事是，我还要提到，对于某些类型的人工智能，特别是那些预先计算好的，大约 5 年前发布的，大约一个月前发布的“空间网络协议”，就像我们在网络上使用的所有东西一样，我们使用 HTTP 来查找网络上的内容，我们使用 HTML 来描述网页。现在，实际上，您可以使用所谓的 HSTP，它实际上允许您基本上在空间和时间上寻址任何东西，就像一个网络域名或网络 URL 一样，您可以使用 HSML 来编写内容并按空间和时间进行绑定。那么这对人工智能意味着什么？我们可以编写描述，并说，一般来说，驾驶飞机的自主人工智能系统不应该撞毁地面。一般来说，汽车不应该撞到其他汽车。您实际上可以开始拥有空间和时间限制，甚至更有趣的是，有一些早期迹象表明您可以将其用于政策。因为政策通常有界限。JPL（喷气推进实验室）与 NASA 一直将其用作月球上 NASA 的实验，因为延迟效应，给月球探测器或月球上的任何东西“指挥官的意图”，然后允许月球上的车载人工智能在时空维度内进行导航。所以这让我有希望，对于我们未来的一些人工智能工作，特别是如果它是预先计算好的，我们也可以通过时空限制来约束它。另一项绝对是企业层面和商业采用层面的要素，但当然，你知道，代理式人工智能，其中一些是骗局，有些不是，它具有自主性，但它也正在成为零售。所以，你知道，再次，我们必须确保，你知道，如果一家公司有 1000 名员工，他们并不都认为，“是的，我将采用这种代理式人工智能。我将把所有这些工具以半自主的方式组合在一起。”因为这将对公司构成威胁。这不仅仅是网络安全或数据风险，这是决策风险。这其中有太多方面了。所以，在我看来，当您拥有如此程度的自主性的人工智能代理时，它会使风险加倍，你知道，这可能会在以后解开很多事情。所以，你知道，再次，这意味着董事会和高级管理人员需要非常非常注意。Arcelon Khan 回来，他说这很有趣。他说：“为什么我们不能让人工智能自己编写政策？人工智能决定政策并执行政策的利弊是什么？”没有理由不这样做，只要您以正确的方式训练了人工智能。您可以成为一名监控者。您可以，你知道，我认为您必须拥有某种生成对抗式的方法。我认为不能让同一个人工智能监视自己，但我认为您需要一个人工智能监视另一个，在我看来，这将变得非常普遍，您将拥有工具的混合，一个在监控，另一个在评估风险，你知道，毕竟我们知道很多工作是如何产生的。我记得在巴黎有一幅画，然后以一百万美元的价格在纽约售出，我认为它叫 Eduardo Dono，它是由这种生成对抗网络创作的，它是由一个人工智能批评另一个的创作，直到最终它产生了这幅相当出色的肖像。那么，你知道，让我们把这个向前推进几年，然后说我们如何确保，你知道，我们制定政策，然后确保它得到遵守。所以，是的，我的意思是，我认为首席合规官已经拥有了这类工具。这是来自 Chris Peterson 的问题，他可能持略微反驳的观点。Chris Peterson 说：“在人工智能监管和人工智能创新之间，我们能否找到一种平衡？”这是关键，特别是考虑到变化的速度以及数十亿甚至数万亿美元的资金押注于大型人工智能企业的成功。换句话说，伙计们，我们必须管理风险，但我们也不能在管理风险的过程中丢掉魔法。对此有什么看法？如果您使用人类产生的约束，或者使用另一个人工智能来产生约束，以限制人工智能应该做什么和不应该做什么，那么您就可以在这些约束内实现创新。因此，如果您有一个独立的系统来监控对人类没有造成精神或身体上的伤害，那么是的，这会给您带来额外的信心，而如果您只有人工智能系统本身，您就不会有这种信心。您可能会告诉人工智能系统不要伤害人类，无论是精神上还是身体上。但正如我们所知，不幸的是，无论是提出了错误的问题，还是数据不完整，还是非确定性，有时都会发生事情。所以，我认为当我向公司、董事会甚至政府汇报时，我说，您真正应该做的是，不一定设定五年目标，而是设定五年愿景，关于您希望技术和公司或公司内的技术如何表现，然后将约束作为您的朋友。因此，正如 Torren 所说，您可以使用人工智能来约束其他人工智能，还有其他方法。我们已经看到，我已经看到一些公司现在正在使用人工智能来帮助您进行指导，以更好地向人工智能提出提示。所以这已经是可能的证明。所以我认为归根结底，您绝对可以两者兼得。鉴于此，正如 Tim 勋爵所说，你知道，监管将永远追赶技术，通过使用约束而不是设定非常固定的东西，这些东西可能已经过时或限制了创新。如果您设定约束，那么您仍然可以保护需要保护的事物，同时允许人们探索该领域。我从未相信好的监管是创新的敌人。我一直认为它实际上是朋友，因为我们想要那种有益于人类的创新，它不会用机器取代我们所做的一切，它是为了我们的利益，并且不会造成我们今天谈论的一些危害。我认为实现这一点的方法是，我们设定了我们想要看到的人工智能的原则，然后我们尝试采用标准，强制执行特定的标准，而且我们必须以敏捷的方式去做。标准的好处是它们可以随着时间的推移而改变。你知道，我们之前谈到了 NIST，但还有许多其他组织，如 IEEE，David 之前也提到过，ISO，国际标准化组织，所有这些组织都在努力实现国际互操作性，对我来说，这就是目标。如果我们能够实现这一点，并且我们可以强制要求这种质量，那么我认为我们已经取得了真正的进步。但我认为，认为没有监管意味着我们可以完全自由地进行，并产生任何形式的创新，无论它对人类是好是坏，我认为这是我们需要反对的。在生成式人工智能与任何其他新技术方面，这种监管与创新的平衡之间是否存在区别？Tim，有什么想法吗？我总是用汽车的例子。我的意思是，回顾一下汽车，是什么创造了增长？我的意思是，它是道路规则。它是制造标准，你知道，我的意思是，而且花了十年时间。看看第五大道 1903 年到 1913 年的照片，变化相当快。1903 年是马车，1913 年第五大道上只有一辆马车，其余都是汽车。所以，我们以前经历过这种情况，我们并没有仅仅允许汽车在路上撞倒所有人。当然，我们开始时有一个红旗，这在当时可能很安全，但很快我们就得到了明智的监管，看看过去 100 年汽车行业的创新是多么巨大。所以我实际上很乐观，我们可以在不扼杀进步和创新的情况下获得正确的监管形式。这是来自 Chris Davidson 的问题，David，他在 LinkedIn 上说，关于人工智能的谈话大部分都集中在大型公司，如 OpenAI、Anthropic、Microsoft 等的创新上。作为一家新的人工智能集成初创公司的股权合伙人，他很好奇您认为市场上“小人物”最大的机会是什么？换句话说，在哪些价值领域，小型公司可以立足，而风险最小，它们不会在未来三到六个月内被这些大公司碾压？我将快速给出三个。一个将是，虽然这些大公司专注于生成式人工智能，而生成式人工智能实际上使用的是可以追溯到 80 年代末 90 年代初的深度神经网络算法。所以这是一种今天才可能实现的技术，但它不一定是新的。我想说，看看即将出现的其他方法，Carl Fristen 关于主动推理的工作。我提到，那实际上是可以预先计算并受限的。我认为未来不会有一种人工智能方法统治一切。它将是多模态的。我的意思是，我们知道我们就是这样，我们使用不同的东西。我们可能会发现，生成式人工智能在取代自然语言处理方面非常出色，但正如您从论文中看到的，这些模型并不进行推理。它们只进行模式匹配，并且在模式匹配和推理匹配的程度上。所以第一是，还有其他人工智能方法没有得到它们应得的关注，部分原因是生成式人工智能消耗了太多。第二是，我们需要边缘人工智能，包括边缘的生成式人工智能。所以，虽然这些公司正在向您销售所谓的整体平台，您必须订阅他们的服务。我想要一个可以在我的手机上运行的东西。我想要一个可以在我的笔记本电脑上运行而无需回拨的东西。所以它必须能够在低带宽环境和低处理器环境中运行。您已经看到，DeepSseek 是一个蒸馏模型的例子。我不一定说使用 Deepseek，但您也看到，伯克利和斯坦福大学都将 ChatGPT 3.5 和 Llama 的开源模型进行了比较，并找到了方法来询问 ChatGPT 如何升级 Llama，使其几乎与 ChatGPT 3.5 一样好。所以我们需要更多关于可以在边缘、断开连接的环境或低处理能力环境中运行的人工智能的创新。因为归根结底，有些人可能不想连接回云端。然后最后，这实际上更多是人的维度，现在一些公司，我真的试图富有同情心地理解，有一些公司说，它将取代 50% 的工作。实际上，我认为情况并非如此。我认为虽然工作可能会丢失，但人们会重新培训。所以这实际上是一个非此即彼的问题。所以，我想看到的是人工智能公司和人工智能初创公司，它们实际上正在帮助人们跨越鸿沟，你以前做这个，现在你将用人工智能做这个。我如何加速您的学习过程，这样您就可以，是的，您的工作被解雇了，但您现在正在做一种不同的工作，而且您的生产力实际上更高。所以，以一种给予人们能动性并减轻焦虑的方式来驾驭这一点，我认为将有一个完整的行业。我认为现在任何只是说它将是完全失去所有工作的人，而没有说同时也会创造新工作。我对将要创造的新工作以及私营行业如何帮助人们为之做好准备非常感兴趣。Tim 勋爵，关于这个机会问题，您有什么快速的想法？小玩家如何生存？是的。非常快速地，我认为 David 的观点非常敏锐。我的观点是，数据仍然是这一切的关键。大型语言模型是商品。我认为它们还没有赚到任何钱，就大型语言模型而言。所以我的观点是，我会去开源或蒸馏，就像 David 所讨论的那样，找到一个我拥有独家许可的专有数据库，它有一个特定的用途，可能是在医疗保健、教育或农业等领域，而我是唯一拥有该数据访问权限并能够使用我的人工智能模型的人工智能开发者。我认为然后我就会，我将使用一个开源模型来帮助我完成所有这些工作。我认为然后我就会开始做生意。但你知道，我不是人工智能开发者。我怎么知道？我们需要在结束之前花几分钟谈谈。
工作以及人工智能，生成式人工智能对工作的影响。嗯，大卫，你想先来谈谈这个吗？当我 2017 年见到蒂姆勋爵时，当时英国政府提出的数据信托真正引起了共鸣。在美国，我们称之为数据合作社，但这个想法是企业或个人可以走到一起，比如我们都是音乐家，或者我们都是艺术家，然后我们实际上说我们愿意让我们的数据用于以下目的。好吧，现在我们来到了 2025 年，展望 2026 年。美国需要这个。我的意思是，因为我现在实际上说，我们有几家公司似乎在重复 Napster 的教训。他们获得了数据，但不一定尊重知识产权，不一定尊重生产它的人的公平性。而且，这也使得我是否可以信任它变得困难，因为当机器给我一个答案时，它来自哪里？所以，我认为这确实强调了蒂姆勋爵所说的，即工作的未来是，无论是数据集很有趣，还是音乐家、艺术家、娱乐家，或者也许我们只是关心找到帕金森病的治愈方法。最重要的是，我们不再需要传输数据。第一，这是一个网络安全风险，然后第二，所谓的联邦学习，算法实际上会来到数据本身上进行就地学习，我们可以实际监控正在学习的内容。然后当它离开时，我们实际上会记录下来，然后会有一些财务价值交换，或者一些非财务的、其他的好处，那就是公平性，以及任何帕金森病的治愈方法，或者进行的任何研究。我认为工作的未来既要重新思考数据，以便我们能够确保人们对他们的数据有一定的利益相关者意识。然后再次，这是，这是，这是，这是走出去说，关于它会扼杀工作的整个叙述，句号。而不是它会取代工作，就像汽车出现时一样，是的，马车和类似的东西消失了。但后来有了出租车司机，有了卡车司机，有了维修汽车的人，创造了新的工作。因此，我们越快地帮助人们意识到新的工作将被创造出来，并帮助他们走过这段旅程，我认为我们实际上会减轻目前社会上存在的一些焦虑。我非常认真地对待数据社区的方面。我认为重视我们的数据并确保我们能够集体地以大卫描述的方式利用它并对其进行估值和货币化将非常重要。我担任一个作者许可收集协会的主席，我可以看到类似的事情发生在各种领域，不仅仅是创意产业，而是，你知道，比如农民集体，就他们的数据而言，并能够利用它，并且，在某种意义上，利用它，你知道，许可它，使其对人工智能开发者来说是有价值的。所以我认为完全正确。第二件事我想说的是，我认为人类的同情心仍然是必需的。我认为那些人类的创造性品质在未来仍然很重要。所以，但是，当然，我们已经提到了批判性思维是必需的，因为如果我们不批判性地思考，那么坦率地说，人工智能肯定会接管，而且我们不会有太多功能，特别是如果通用人工智能很快出现的话。你对人工智能将取代哪些工作，哪些工作不会取代有什么看法吗？请尽快回答。如果你能输入到 Claude 或 ChatGPT 中，告诉我，给我一个未来五年的商业计划，这是我的愿景，这些是我竞争对手的年度报告，那么，我认为你，而且这正是你现在可以做的，那么你会发现那种工作会消失。所以我认为这是一场白领革命，而且我认为我们以前从未经历过如此相似的事情，而且这不是一场蓝领革命，大卫谈到了司机等等。我的意思是，你知道，我们有一个零工经济，但那并没有，而且他们的表现是由算法驱动的，但这并不意味着那些工作会消失。人们在未来仍然会骑着滑板车和摩托车。我们将是那些专业人士，那些处于风险中的人。大卫，一句话，哪些工作会消失，哪些工作会留下，被取代或不被取代？就像印刷机出现时抄写员失业了，但排版员出现了。如果你从事网页开发、界面开发业务，这将越来越多地由人工智能完成。任何过去就像现在一样的事情，都将由人工智能完成。新的工作将是新颖的工作，过去，你知道，过去并不影响现在，你必须随机应变，每一天都不同，而那些在看到人工智能产生的东西时，是那些怀疑论者，是那些批判性分析者。阿塞尔洪·汗说了一些有趣的话，谁定义了道德界限，谁就定义了人工智能的方向。如果世界没有一致的道德界限，那么人工智能只是我们自身偏见的反映。谁想非常快速地尝试一下？这是一个有趣的说法，但让我们回想一下十八世纪，阿塞尔洪。十八世纪人们认为很多事情是合乎道德的，而我们现在不会认为它们是合乎道德的。十八世纪也是如此。我经常对我的英国同行说，在第一次世界大战中，英国人认为潜艇是合乎道德的，而潜艇不是合乎道德的，到了第二次世界大战就颠倒了。道德是社会和时间定义的。我认为他想说的是，我们希望坚持哪些原则？我认为这是一个重要的对话。但要认识到，道德，你知道，有很多事情，我们两百年前认为合乎道德的事情，现在已经不再合乎道德了。让我们确保，当我们现在审视道德并花费时间在上面时，也许我们真正应该说的是，我们关心的是哪些原则和限制，而不是仅仅是道德。有一些原则是国际上已经同意的。它们可能在监管方面没有达成一致，但经合组织原则，中国签署了这些，你知道，G7，G20。所以，我认为，我认为我会比阿什兰更乐观。看起来领英的惠·黄将获得最后的发言权，我将请你们每人给出一个快速的、一句话的总结。她说，当大众认知与实现可靠、可信赖的人工智能解决方案的技术现实之间存在差距时，您对如何清晰地教授和解释误解，以及如何建立严谨性来帮助传达复杂性有什么建议？所以听起来这个人正在试图向董事会或高管层或任何地方提出论点。我会说，带上例子，因为有很多例子。但也要让你知道，我不会一定为董事会这样做，因为他们可能没有精力，但对于你的员工和你的工作人员，让他们玩弄这项技术，看看它何时有效，何时有缺陷，因为这样它就会变得更加真实，而且它是可见的。然而，我认为这是一个案例，再次，无论是案例研究还是亲身体验，你几乎必须展示并使其真实。因为否则，人们将看不到价值，而且再次，我们看到机器，我们认为它必须像我们一样，因为它在和我们说话，或者它在给我们提供文本。我们需要认识到，我们自己的人类情感将面临错过我们必须对这些异类互动持怀疑态度的风险。如果我们不小心，我们将成为我们自己信任的受害者。而且，你知道，我非常相信鼓励好奇心文化，但我认为我们也必须鼓励谨慎的文化。我认为我们必须在两者之间取得平衡。如果我们能鼓励这一点，而且这不仅仅是商业，还有政府，还有家庭，你知道，而且我们在这方面远远落后了，不幸的是，因为技术发展得太快了。好吧，这样我们就没时间了，显然还有很多要讨论的。所以，我希望你们两位都能回来，成为 CXO Talk 的嘉宾，以便我们继续这次对话。非常感谢你，迈克尔。很高兴来到这里。非常感谢你，迈克尔。非常感谢蒂姆·克莱门特·琼斯勋爵和戴维·A·布雷博士。也感谢提出如此出色问题的精彩观众，谢谢大家。我们有令人难以置信的节目即将到来。请访问 cxotalk.com。订阅我们的新闻通讯，下次再见。大家保重。[音乐]