AI Ethics and Trustworthy AI: Navigating Truth and Deception | CXOTalk 865

欢迎来到 CXO Talk 第 864 集。我是 Michael Krigsman，今天我们将作为人工智能伦理特别系列的一部分，探讨如何在人工智能中驾驭真相与欺骗。我们的三位专家嘉宾是 Anastasia Lauderbach 博士、David Bray 博士和 Anthony Scrano 博士。我们这里有很多博士。大家欢迎来到 CXO Talk。我很高兴大家都在这里。非常感谢。感谢邀请我们。很高兴能和 Anastasia 在一起。Anastasia，我们先从你开始，非常简短地介绍一下你的工作。我大部分时间都在我的公司度过，我是 AI Entertainment 的创始人兼首席执行官。这家公司通过人工智能麻瓜而非巫师来普及人工智能知识。这意味着我试图将人工智能、机器人和量子计算从难懂变得易于理解。例如，我写了像这样的书，这是《Rome and Troby》系列，这是一个关于一只真正的猫和它与机器人友谊的真实故事。这本书中发生的一切都在“科学背后的故事”部分得到了映照。那里有超过 100 篇文章用非常简单的语言解释了人工智能。我喜欢，一只人工智能猫，太棒了！它是一个有影响力的人物。顺便说一句，你知道 27% 的网络流量与猫有关或与猫相关的内容吗？猫会上瘾。David，谈谈你的工作。我试图在技术如何改变政治、地缘政治、社会等方面为世界带来理性。我这样做既是 Stimson Center 的杰出研究员，也是国家安全商业高管。另外，我还有我自己的 escorp，致力于帮助董事会和首席执行官做同样的事情。Anthony Scrano，欢迎回来。谈谈你的工作。我和 David Bray 一样，是 Stimson Center 的杰出研究员。我的理念是每天都尝试教学和学习，在这方面不能作弊，你必须两者兼顾。我做了 45 年以上关于数据、数据科学和人工智能的工作，甚至在它成为主流之前。我拥有多项专利，在身份解析、真实性裁决（我们今天会谈到，判断事物的真实性）以及寻找那些做坏事的人（即新型恶意行为）方面拥有大量发明。所以，这些都是计算机科学的前沿问题，也是最难解决的问题之一。Anastasia，为什么构建值得信赖的人工智能而不是欺骗性人工智能很重要？信任对人类心理学来说是极其重要的。它是人类关系中至关重要的构建之一。所以没有人会说“哦，我正在构建一个基于欺骗的东西”。在经济方面，有两个论点支持关注人工智能是否被认为是值得信赖的。第一个，我想引用 Wired 的创始人 Kevin Kelly 的话。他说，未来一万家公司的业务很容易预测：你拿 X，然后加上 AI。显然，这句话大约在 2016 年或 2017 年说的，现在已经体现在了数字和财务数字中。例如，到 2030 年，我们预计全球人工智能市场将增长到 1.85 万亿美元。我的意思是，这是巨大的增长。我们谈论的是从 2022 年到 2030 年复合年增长率为 33%。还有一点需要注意。我查看了 2012 年左右的企业估值，我可以看到数字资产在公司估值中的比例约为 12% 到 13%。在新冠疫情爆发后，我们谈论的是 90%。所以，90% 的数字资产，显然都与数据有关，与知识产权有关，与处理这些数据的系统和流程有关。所以，这种惊人的增长与人工智能的进步有关，我们必须注意。如果我来总结一下 Anastasia 刚才说的话，每个人都在关注这一点，每个人都在关注这一点，但这是不同的。所以，如果你看看很多组织想要什么，他们想要能够打勾说“我们正在做人工智能，我们正在做生成式人工智能，我们正在做大型语言模型，看我们，我们很棒”。这很好。你正在解决什么问题？你有什么权利认为你正在做的事情有助于解决这个问题？在很多情况下，有一个很好的论点可以证明你只是在加速你撞墙的速度，你正在帮助人们理解你不知道什么，你正在帮助人们更多地了解你的问题而不是你的答案，你可能会让你的客户觉得你了解他们希望你关注的那个东西，而不是这个他们希望你关注的其他东西。所以，是的，进入这项技术确实非常重要。我绝不会说不要这样做，但我会说，你知道，仅仅因为你在家得宝看到一个新工具，并不意味着你要去买它。你必须有东西要解决，你必须有一个问题要解决，你还必须了解你即将采取的行动的意外影响。我能引用一位 18 世纪初的英国诗人亚历山大·蒲柏的话吗？他说：“不要相信你自己，但要了解你的缺点。”这实际上强调的不是仅仅依靠自己，而是关于谦逊。我认为这种谦逊和深思熟虑是我们进入人工智能世界时需要越来越多地学习和应用的。我总是问的一个问题是，当有人“一头扎进”某个问题时，比如“让我们用人工智能来解决这个问题”，我通常会问两个问题。第一个是，为了走这条路，我们必须相信什么？第二个是，你有什么权利认为答案就包含在人工智能将要查看的内容中来回答这个问题？想象一下在新冠疫情期间，如果你有 ChatGPT，然后你说：“应对新冠疫情最有希望的方法是什么？”我们不知道，对吧？所以你就会得到我们现在称之为“幻觉”的东西，而且是加倍的，因为大型语言模型不知道答案不在它正在查看的数据语料库中，它仍然会给你一个答案，而且它看起来会非常好，看起来就像人类写的，而且会非常清晰，但就像你听到的任何谣言一样好。那么，我们可以把这里的总结说得非常简单吗？人工智能就在我们身边，人工智能包围着我们，人工智能将继续如此，因此我们需要知道什么是真实的，什么不是真实的。我的意思是，这似乎很简单。也许当我们说人工智能是“人工智能”时，我们应该称之为“外星人互动”，因为这些机器根本不像我们那样思考。这是一个非常真实的危险。当你阅读文章或出于任何原因开始拟人化这些机器时。我的意思是，从统计学上讲，人脑用 15 到 20 瓦的功率来完成它所做的一切。这些模型正在消耗 2000、5000 瓦或更多。我的意思是，当我们听到像公司考虑建造核电站来处理他们的“外星人互动”作为人工智能时，这可能告诉你，这只是被设计成看起来像人类在思考，而实际上并非如此。这也会引出更深层次的问题，我想说，迈克尔，如果你还记得图灵测试，图灵测试的目的是故意让机器欺骗人类，让它相信它是人类。猜猜怎么着？我们在推出能够让你相信它们提供的响应的技术方面取得了巨大的成功，无论是在文本、音频还是视频中，它们看起来都像人类。但这是一个问题，因为正如安东尼在他的背景中提到的，骗子会喜欢使用这项技术。在过去的两年里，我们都可能看到网络钓鱼电子邮件的巨大变化，它们现在已经达到了你无法再通过拼写错误来判断是否是网络钓鱼电子邮件的程度。现在更好的是，它们经常会提到另一个家庭成员或朋友，因为它们已经梳理了我们的社交媒体网络。所以，不幸的是，它们在图灵测试方面确实非常成功。但整个图灵测试再次是一个机器试图让你相信它是人类。这可能不是最好的工具。正如我们在这里为整个社会所说的，现在还有另一个细微之处，我们现在必须向机器证明我们是人类，对吧？所以，这有点相反。如果你看看验证码，以及它最初的设计方式，它只是光学字符识别，而且不太好。所以，如果我倾斜字母并把它们放在一起，那么光学字符识别就无效了，人类可以阅读它，我们也知道答案，这很好。然后人们开始使用验证码的响应来训练更好的光学字符识别。果然，电脑在阅读糟糕的文本方面和我们一样好。然后他们开始引入图片，引入图片并不是一个…它不是一个终点，它只是把球往前踢了一点。我最近听了一个演讲，其中一位发明了这项技术的人说，第一，他希望自己从未做过。第二，也许将来你不得不做一些事情，比如用手机走三步，或者摇晃手机，或者把手机向下倾斜，或者做一些事情。我现在可以想象我们做 10 个俯卧撑。在什么点上我必须停止证明我是人类？我们现在还没有一个好的答案。这不是因为人工智能在思考，而是因为它非常擅长观察我们的行为。这是真的。实际上，我们需要建立一种语言来谈论人工智能和机器，我们仍然使用人类的术语来描述我们的期望。在社会科学中，例如，信任被描述为相信另一个人会做预期的事。现在，它不是一个人，而是一台机器或一段代码。我真正期望的是什么？如果我使用我的吸尘器，我期望它完成一项特定的任务。但这与大型语言模型非常不同。显然，因为我在人工智能领域，我在大学教授人工智能和网络安全，我知道这与语言无关，它是一个统计上的标记流，标记甚至不是一个词。但如果我们以英语为例，它可能是一个英语单词的 2/3。统计上来说。但是，你知道，人类期望它能理解，而它根本不理解。甚至不是基于世界模型。有几件事可以增加细微之处。首先，让我们从 30,000 英尺的高度来看，然后再深入。回到 20 世纪 20 年代，当收音机这个颠覆性技术出现时，有一些评论家说，就像我们现在看到人工智能一样，它将带来世界和平。它将带来理解，世界领导人将定期通过收音机交流。然后快进到 1933 年，大约六七年后，同样的评论家说，这将是社会末日。它将是独裁者的工具箱。我之所以提到这一点，是因为现在有很多令人兴奋的文章说，人工智能将拯救我们所有人，美好的时光即将来临，或者它将以某种方式…我们可能正在对这项技术做与对收音机一样的事情，我们忽略了它仍然只是一种工具。第二点我想说的是，我认为我们经常将人工智能用作我们社会中更深层次问题的幌子或替罪羊。例如，我们问这样的问题：“如何知道人工智能是否合乎道德？”“我如何知道一个组织是否合乎道德？”“我如何知道一个组织是否没有偏见？”“我如何知道一个组织是否没有做出糟糕的决定或产生幻觉？”所以，这可能表明我们需要更好地弄清楚这一点，以及我们如何实际做到这一点，无论是机器、组织还是个人。现在，我将根据我的背景给出一个略有不同的信任定义。我的背景是，我来自急诊医学领域。他们总是告诉你“扩大圈子”。如果你要做一个复杂的决定，从其他人那里获取建议，并确保那些其他人带来不同的观点。这很好，直到有东西着火了，或者有人没有呼吸，然后有人必须做出决定，这可能是错误的决定，但你必须做出决定，并带有某种程度的…事后，每个人都会涌上来评判你。“你应该这样做”，“你应该那样做”，“你为什么没这样做”，“你为什么不知道这个”。在某个时候，人工智能将为人类做出决定，因为论点将是，人工智能可以在人类决定变得无关紧要之前做出决定。“我应该麻醉这个血管还是那个血管？立即做出决定。”我不知道。你了解大脑的所有血管吗？你能让人工智能去做吗？我不知道。但我可以看到我们如何到达那里，我当然可以看到我们如何到达那里，在国家军事工业的背景下。我们可以到达那里，在太空中。信号从一个地方到另一个地方需要很长时间，你需要自主性才能让它能够着陆或做它想做的事情。但是，当我们放弃这种代理权，放弃将决定权交给机器代表人类做决定的权利时，人类的价值观必须被强加到这堆代码中。我们不是基于规则的生物，我们非常非常模糊，我们做出决定，我们根据新的事实、新的模式和新的学习方式随时改变我们的想法。人工智能现在在这方面非常糟糕。请订阅我们的新闻通讯，并订阅我们的 YouTube 频道。访问 CXO Talk.com。我们有很棒的节目即将到来。我们有一个来自 Twitter 的问题，来自 Aralon Khan，他说：“我们知道人工智能可能值得信赖，也可能不值得信赖，这取决于许多因素。普通非技术人员如何知道人工智能是否影响他们的生活？它是否合乎道德？是否有选择退出人工智能的选项？”我们知道，很多时候是没有的。然后，让我们也谈谈软件公司的作用。人工智能就在我们身边。所以，如果你有智能手机，你就沉浸在人工智能中。所以，我们可以真正讨论所有这些技术，比如智能手机上的大型语言模型，甚至是我们如何看到日历邀请，以及它如何与推文或领英的某些通知相关联。它沉浸在人工智能中。一些导航技术与自动化和人工智能相关联。我们只需要思考我们应该如何行事。坦率地说，不幸的是，这可能是我认为与无线电技术和之前的一切不同之处，我们必须让自己接触并学习。我认为人工智能素养和技术素养是从小就必须具备的。这就像基本的财务素养。显然，总会有一些财务专家、税务专家、估值专家等等。但每个人都必须明白，有收入，有成本，一减去另一项会产生某种结果。我喜欢将人工智能和处理人工智能与厨房进行比较，也许是因为我是女性。显然，即使你不从事高级烹饪，你也可以成为一名出色的厨师，做出美味的东西，并在一些节目中表现出色，这可能是最高水平的复杂性。但每个人都知道如何煎鸡蛋。我想，在使用人工智能时，我们必须学会如何煎鸡蛋。这就是为什么我教孩子们和他们聪明的父母思考这些概念：什么是大型语言模型？它做什么？Wolfram 是谁？我们为什么应该了解他一点点？拥有机器人意味着什么？机器人和吸尘器有什么区别？所以，我认为我们必须拥抱这些知识，并作为社区进行讨论，提出困难的问题，并理解每个应用程序和服务背后都有一个目的。你不能穿越丛林，你必须学习，然后你就会有一些开放性，也许能更精确地知道你需要什么。最后，我喜欢巴勃罗·毕加索的名言：“机器很愚蠢，它们只会产生答案。”我认为这是人类提出的问题。我们需要教人类如何提出这些问题。这基本上是我们所有人面前的一个绝佳机会，可以更多地了解人性，以及它在部分由人工智能主导的世界中的真正意义。在西方社会，如果你申请工作，你的名字是非西方名字，你被选中的可能性较低。而一个西方名字的申请被选中的可能性是三倍。这根本不是人工智能问题。我们在这里谈论的一切都是“我们如何信任机器？”我说：“不，不，不，我们有更深层次的系统性问题。”所以，我们几乎是在向人工智能提出问题，比如“我们如何向人工智能提出这些问题？”，在我们甚至停下来问“我们作为人类如何做得更好？”之前。我对此表示赞赏。所以，我也想说，当我们向前迈进时，也要考虑我们以前也遇到过这些挑战。我的意思是，我们大多数人还不是医生，但我们必须去看医生。你怎么知道医生会开出真正符合你最佳利益的方案？过去，不幸的是，互联网扼杀了这一点，我们确实有专业协会要求其成员了解某事，拥有某方面的经验，然后宣誓遵守道德准则。如果成员在任何时候有疑虑，因为大多数人无法判断医生是否真正为你着想，那么就是其他医生来决定他们是否做对了，或者我们会谴责他们，或者吊销他们的执照。不幸的是，互联网的出现使得每个人都可以成为纸上谈兵的评论员。我之所以提到这一点，是因为我担心我们会过于专注于“我们必须理解人工智能，我们必须理解和教育等等”，而不停下来思考，现在有很多组织内部存在问题，存在糟糕的决策、有偏见的决策，以及它们如何与员工或客户互动。所以，我认为我们确实需要找到一个更深层次的方法，不仅仅是关于机器。你们刚才所说的一切都隐含着一个想法，即仁慈是我们根本的目标，我们依靠仁慈的人类精神。我们希望安东尼正在摇头。这是我的解释。所以，让我问我的问题吧，在它被编辑之前，在它从我嘴里说出来之前。所以，安东尼正在试图在我脑子里编辑它。所以，我的问题是：如果我们考虑软件公司，在我职业生涯中，我咨询过一百多家软件公司，据我所知，软件公司的目标是创新，以赚钱为目标。是的，软件公司会说“我们想改变世界”，我相信这也是真的，但底线是关于金钱。所以，当我们谈论值得信赖的人工智能与欺骗性人工智能时，我们如何将这个软件公司的问题叠加在上面？Anastasia，对此有什么看法？30 年前，我在慕尼黑再保险公司担任责任险承保人。即使现在，在产品责任类别中，也没有所谓的软件责任。欧盟已经更新了产品责任指令，但这些规则只会在 2026 年 12 月生效。在美国，据我所知，请纠正我，如果我错了，到目前为止，还没有任何规则规定软件供应商属于这些责任规则的范围，这些规则适用于例如汽车公司或消费电子产品等。所以，我们需要以某种方式校准我们正在谈论的内容。例如，今年七月，有一个漏洞，通过一家网络安全供应商的夜间更新，它实际上被利用了，然后所有 Windows 机器都在机场瘫痪了。我认为全球大约有 5000 个航班被取消或延误。我认为在美国，已知的财务损失数字是 54 亿美元。因此，这次更新造成的损失。目前正在进行一些法律诉讼，但到目前为止，实际上会有人赔偿损失的可能性非常低，因为很难确定这里的疏忽或不当行为是什么。侵权法实际上将软件排除在这些责任之外。然后，显然，如果有多方参与，谁做了什么，以及如何做的，这真的非常复杂。如果我们以食品行业或制药行业为例，世界看起来完全不同。正如 Marc Andreessen 在 2011 年 8 月所说，世界正在被软件吞噬，但软件供应商没有产品责任。现在我们正在进入人工智能。所以，欧洲联盟正在实施欧洲人工智能法案。所有供应商都必须遵守。顺便说一句，这确实扼杀了欧洲的人工智能生态系统。我代表我自己，不代表任何大品牌。我确实反对欧洲人工智能法案，因为它没有解决人工智能的任何一个风险。它给人工智能公司带来了巨大的成本，风险投资家说他们真的对欧洲生态系统感到失望，因为它太昂贵了。我们现在需要平衡我们想要什么。与此同时，五个欧洲国家，即意大利、比利时、奥地利、德国和荷兰，将在本十年内进入大规模退休。如果你有这样的情况，你必须考虑自动化和人工智能。没有政策，没有思考如何平衡由于大规模退休而不可避免的 GDP 下降。而我们有欧洲人工智能法案。所以，欧洲应该把它扔进垃圾桶。这是我的解释，带有所有警告，这很复杂，存在问题，需要深思熟虑，以及以上所有内容。我强烈同意你关于监管危险的立场。就像，我是潜水员，监管器很重要，没有它你会死。但如果你过度监管，你就无法呼吸。现在有一种趋势，就是采取任何可能存在的现有法律，在这种情况下是 GDPR，然后为人工智能写一些看起来像它的东西。它不是一回事，甚至不接近。所以，你最终会得到一个复杂织锦，让你很难迈出一步。我不是说那是对的还是错的，因为就像你一样，我不是…我一直和那些人打交道，但我不在那个领域，他们必须做点什么，我明白。你提到的软件问题，CrowdStrike 的事情，它是由微软交付的，因为大多数人都有微软。但如果你回放一下，剥开洋葱，是谁制作了被分发的空白文件，通过了软件，而软件又像驱动程序一样运行，并且被操作系统内核允许？这是一个噩梦，要说“应该发现这一切的烟雾探测器在哪里？”那天，世界也从中学到了关于它自身安全是如何运作的。所以，这对网络安全领域的人来说是一个非常有启示性的时刻。他们很快就明白了，修复它也不是什么大问题，但哦，我的天，它的影响是史诗级的。这也讲述了当今世界是多么互联互通，以及当我们向前迈进时我们必须多么小心。所以，这是对某些监管的一种反驳，说你不能随心所欲，然后几十年后，因为以前从未发生过。所以，我们现在正处于一个非常困难的时期。在认识论中，有时会称之为关键事件或关键时刻，有一个反思点。当你身处其中时很难看到，但我们绝对身处其中，我们现在正在做出一些小决定，这些决定将在未来产生非常大的影响，信息不完美。你三个小时前问的那些公司，迈克尔，问题是关于“公司能做什么”。公司正在努力服务于他们的股东、客户、员工和未来的市场。同时服务所有这些是不可能的，绝对不可能。所以，如果你想最大化股东价值，你最终会做一些非常愚蠢的短期事情，这些事情常常会毁掉你的公司。如果你想最大化员工满意度和参与度，那么你就会做一些客户不在乎的事情。如果你做客户想要的一切，你就赚不到钱，因为你的利润率为零，然后你的股东就会生气。所以，有很多方法可以毁掉自己。现在，把人工智能和所有这些监管都扔进这个组合中，你就得到了我们现在在这些董事会中的情况。这不是一个容易的处境。我们在哪里？我们非常类似于汽车刚出现时的情景。你知道安全带多久才出现？半个多世纪。现在我希望人工智能不会这样，但再次尝试认为我们将在头六到十二个月内立即做对，可能不会发生。但让我放大到一个非常具体的方面，我认为安东尼在谈论人工智能何时有效和何时无效时也提到了这一点。我认为我们应该剖析的是，并非所有人工智能都是平等的。我们一直在谈论生成式人工智能，但还有其他形式的人工智能，从专家规则系统到决策支持系统再到计算机视觉。我认为你信任计算机视觉的方式，它是确定性的，它实际上…更值得信赖，而且完全不会产生幻觉，这与生成式人工智能截然不同。我之所以提到这一点，是因为我认为，如果有什么需要在董事会层面讨论的，那就是首先要了解不同的工具。当我们谈论人工智能时，它不是单一的。你需要了解你是要用锤子还是螺丝刀。问题是，我们正在制定监管，好像它是单一的。另一件让我感到不安的是，我们怎么会认为会有一个人工智能监管来统治一切。我们知道，当系统上线时，这些被称为高级数据处理系统，后来…你不会为健康制定监管，然后认为它对国防部门或商业推荐部门也同样好。在美国，有现有的法律，有 HIPAA，有银行保密法。所以我认为更实际的方法是回到为人类和 IT 系统制定的现有规则，然后说人工智能在哪里失败了，也许是因为它的速度太快或范围太广，然后升级这些现有法律，而不是试图制定政策。我将举一个非常具体的例子，现在在美国，而且不仅仅是美国，有一个叫做 Health Level 7 的东西，它是医疗系统之间互操作性的国际标准。有一个标准用于跟踪决策的出处。你在医疗记录中记录了医生何时做出决定以及基于什么数据。你没有在医疗记录中记录人工智能何时做出决定。目前医疗领域的第一大用途实际上是医生喜欢输入或口述三到四个简短的要点，然后说“给我写两到三页的医生笔记，我将把它放入档案”。除了提供你医疗保健的公司或组织应该知道该医生笔记是否由医生撰写，或者由人工智能撰写，如果是，是哪一个。患者也应该知道。有一个非常真实的风险，如果该人工智能输出后来被同一人工智能读回，有一种叫做模型不稳定性，有时被称为行话，即人工智能自我吞噬，基本上模型基本上…它过度简化，过度回归，然后开始崩溃，并开始做出糟糕的决定。所以我实际上担心，迈克尔，关于欺骗性与值得信赖的人工智能的问题，再次回到人类组织和人类所做的事情。我们可能会在三到五年后看到诉讼，因为公司至少没有采取第一步，至少标记和标注何时由人工智能或人工智能加人类做出决定，然后如果后来又被输入到机器中，他们是否采取了适当的行动来避免模型不稳定性。我真的很喜欢医疗行业的这个例子，它可能会进入食品行业等其他行业。但我还有两个进一步的建议给监管机构和那些在董事会任职的人。第一，顺便说一句，这不是最终解决方案，但我们知道今天在能力研究上花费的钱比在透明度、安全、责任等方面花费的钱要多。就像 97% 的论文都是代表这些能力发表的，只有 3% 是关于可解释人工智能等等。所以，我们可能会激励公司在这方面投入更多资金，或者支持一个基金会、一个研究所、一所大学来投资这方面。这可以是激励性的，而不仅仅是惩罚性的。如果我们进入监管领域，我真的很…我绝对…我对网络安全这个问题感到恐惧，因为人工智能不仅是好人的工具，也是罪犯的工具，他们每时每刻都在使用它。我认为我们只需要重新思考我们如何处理网络安全以及我们如何监管网络安全。例如，网络暴露是什么？你能量化它吗？你能说出这个财务数字是什么吗？这极其重要，很少有人谈论它。你早些时候提到了量子技术，当然，我们正处于一切被加密的东西都将可读的边缘，甚至被盗的数据也是如此。我们正处于我们将在拥有更好的量子加密方法之前拥有量子解密方法，而不是将所有密钥散布得到处都是。所以，世界将变得更加复杂。我们必须开始思考更多，我不会说开始思考，因为有一些优秀的人正在思考这个问题，关于新型网络恶意行为。不仅仅是今天发生的数据泄露、木马和恶意软件以及所有这些东西。是的，我们需要一直在这方面做得更好，但这只是必要条件，而不是充分条件。我花了很多时间，大卫，你知道的，思考未来的坏人可能在不到一代人的时间里用我怀疑届时可用的技术做什么。对我来说，举个例子并不难。我们研究过使用群体和群集算法。所以，鸟群可以分叉，群集 tend to get bigger and bigger。所以，有一些群集算法的行为就像那样。这两种不同的行为，如果你开始将它们应用于僵尸网络攻击，如果你开始想象僵尸网络攻击、僵尸网络群集或僵尸网络群集，取决于你想怎么称呼它，它会变得更聪明，关于它如何失败，因此更好地攻击你。这是一个可怕的…这只是一个可怕的想法，我知道如何编写代码来实现这一点。我是谁，对吧？所以，如果我们能在不久的将来以一种难以想象的规模做到这一点，而我们只是在努力修复昨天的恶意软件，那么我们将面临一个艰难的世界。在你谈到的那个世界里，好消息是，有一些优秀的人正在思考这个问题。甚至更好的消息是，正如你所说，我们需要激励他们更努力、更快地思考这个问题。Anastasia 提出了一个非常有趣的观点，她说投资于技术能力（人工智能能力）远高于合规性或网络安全。你知道，人类天性告诉我们，创新很有趣，合规性则不然。创新赚钱，合规性花钱。是的，对社会有成本，但对我来说，如果我是一家软件公司，则不是直接的，除非当然发生了数据泄露。所以，这部分绝对是试图逆着人类天性的潮流而行。这就是关于烟雾探测器、火警和救生圈的论点。我的船上有救生圈，因为我必须有。如果我有一艘船，我想要最好的救生圈来保全我的生命，对吧？但我大多数人不会那样想。如果我要把一艘渡轮送出去，载有 2000 个这样的东西，也许我会开始考虑它们的成本，以及如何以最具成本效益的方式部署强制要求的救生设备，而不是如何拯救 David Bray 的生命，因为我们需要更多的人。是的，但也许我也可以接上那个问题，迈克尔。我认为，我们一直在谈论网络安全，但你可以在不破坏系统的情况下造成很多损害。我认为我们现在看到的是，这就是为什么信任与欺骗如此重要。所以，使用 wormGPT（它是 ChatGPT 的黑暗面表亲）和一些插件，利用从医疗数据泄露中窃取的数据，在 10 分钟的计算时间内，我们中的许多人可能在过去一年中都曾遭受过数据泄露。这些数据可以训练并创建一百万条看起来逼真的医疗记录，包括胸部 X 光片、医生笔记、关于索赔的医生笔记，每条记录 250 美元，低于美国一些服务的欺诈检测阈值，因为仲裁的成本高于支付。这是针对上呼吸道感染的一百万条记录。这表明，这也是 Anthony 所说的，解决方案是，我们必须激励那些进行创新的人找到创新的解决方案，以加快仲裁速度，以更高的真实性进行仲裁，无论是什么，大规模地进行，考虑到人工智能基本上在做同样的事情。不幸的是，你还记得 Xerox 复印机刚出来时，我们不得不升级我们的美元钞票，因为有些人正在制作彩色美元钞票复印件。我们也升级了。挑战在于，人工智能带来的独特挑战是，有一种叫做生成对抗网络（GANs）的东西。所以，一旦你创造了一个非常擅长过滤“这是有效的，这是无效的”的解决方案，一个坏人就会利用这个 GAN 说“使用这个 GAN 来变得擅长欺骗它”。所以，这将是捕食者与猎物的关系。但我确实认为，这表明了事情发生的惊人速度。我们必须找到方法来激励，无论是通过曝光，还是因为公司意识到在欺诈目的等方面不应支付巨额款项，但必须有市场解决方案的激励。因为中央规划无法解决这些问题。但你确实必须找到一种方法来曝光它，因为它的发展速度几乎就像我们在乌克兰看到的那样，每六到九个月，无人机在冲突中的使用就会出现一代人的飞跃。唯一的区别是，这将是幕后的，关于人工智能的欺骗。你怎么知道这张图片是真的吗？那个视频是真的吗？或者你正在与之交谈的那个人是真的吗？这是一个订阅 CXO Talk 新闻通讯的绝佳时机。立即订阅，以便我们通知您即将举行的节目。好的，问题。LinkedIn 上的 Houay Wong 问道：“目前的数据收集不仅受到语言音译或翻译细微差别的​​影响，我们还看到了复杂的数据模式，因为技术、语言和平台都在改变数据的存储方式。您建议如何应对和准备这些日益增加的复杂性，以及我们收集这些数据的频率？”在你回答之前，我有一个请求给观众：你们有一个愚蠢的主持人，所以请把你们的问题说短一点。必须回答这个问题。我认为 Anthony 雇了那个人问这个问题。我没有。但我说这是一个绝妙的问题。所以我将概括一下这个问题。有很多语言，有很多说这些语言的人，我们正在教人工智能吸收这些语言说的话或写的文字。很多时候，向你展示这些语言的系统不是它们最初书写的方式。所以我确信我们很多人在社交网络上都有人，他们用他们的语言写东西，然后你看到他们声称说了什么，然后在底部有一个翻译按钮。所以，它已经被翻译或转化了。所以，有很多数据已经经过了语言转换，无论是故意的还是无意的，无论是写作时还是写作之后。这给我们的人工智能系统所消费的语言带来了各种细微差别。这肯定会产生影响。事实证明确实如此。有两种不同的论点，而且目前还没有赢家。图灵论点是，如果我得到足够多的…大多数人会用这个论点来解决这个问题：“只要我得到足够多的例子，我就会没事的。给我数百万、数十亿、数十亿的表达方式，无论多么复杂，我都会从中回归，我会弄清楚的。”相反的论点是，当我们说一门语言时，我们就会改变它，我们引入的细微差别，比如讽刺、新词和外来词的借用，所有这些都会混淆我们的理解能力。所以，现在我们正在以一种半学术、智能的方式说话。我们试图说完整的句子。我们知道稍后会有文字记录，所以我们不想看起来像个白痴。所以，我们试图以某种方式说事情。如果我们可能在喝一杯成年饮料时说话，它可能会有点不同。所以，当你在此基础上引入语言时，它如何扰乱你的理解能力？那个人生气了吗？那个人在撒谎吗？那个人是这些冒名顶替者之一吗？是哪一个？这些都是…现在，你可以通过很好地解决其中任何一个问题来获得计算语言学荣誉博士学位。因为，我很抱歉告诉你，技术还没有达到那个水平。它正在变得更好。有一些事情，正如她（指 Anastasia）在她的问题中提到的，有一些事情你可以做来识别常见的图形，来识别像 David 提到的拼写错误。有些拼写错误可能是故意的，有些拼写错误可能是偶然的。每次我写信给 Anastasia 时，我的自动纠错都会改变她名字的拼写，因为我认识另一个人，她的名字拼写不同。如果我没有注意到，我就会把她名字拼错发给她。她现在知道了，所以希望她不会生气。这些事情一直在发生，而且会变得更糟。所以，我们必须做得更好，不仅仅是接受计算语言学会给我字典，因为有很多低语境的语言，没有一个真正好的来源，或者有一些语言，唯一真正好的来源是宗教文本。人们不是那样说话的。所以，现在你已经阅读了圣经，你试图说英语。我们不再那样说话了。所以，存在这个问题。低语境问题。多语言消歧问题，人们用不止一种语言写作。然后是语言转换问题，人们在改变他们写的东西，而你在阅读已经被转换过的东西。

其中许多目前都处于狂野西部的状态，你可以产生巨大的影响。我们目前正在其中任何一个领域工作。LinkedIn 上的 Greg Walters 说，我们已经失去了欧盟。我认为“外星人”这个词是看待人工智能的最佳方式。除此之外，我们别无选择。我们难道不应该用全新的视角来看待人工智能吗？一种没有先前锚点、历史、关键绩效指标或最佳实践的视角。人工智能既不属于垂直领域，也不属于水平领域，它无处不在，同时存在。没有专家。什么是新视角？人工智能如镜。2001 年发生时，我正在应对 911 事件和炭疽事件。当时存在阴谋论，但它们都未能生根发芽。我的意思是，他们说这是我们自己做的，是假旗行动，但它们没有迅速生根。快进到 2009 年，我在阿富汗前线，不幸的是，在阿富汗西部发生了一起事件，塔利班实际上拍了一张美国侦察机飞过的照片，同时短暂地拍了一张丙烷罐爆炸的照片，不幸的是，这杀死了无辜的阿富汗人。这两张照片都是真实的，但显然脱离了上下文，因为他们随后在社交媒体上声称美军空袭杀死了无辜的阿富汗人。国防部表示正在调查，花了四个多星期才弄清楚发生了什么。在此期间，当然，新闻媒体一直在指责美国，我们自己的大使也道歉了。花了四个半星期才真正将对事件的描述与欺骗性的叙述区分开来，并将其平息。然后，正如你所知，迈克尔，早在 2017 年，当我还在联邦通信委员会时，发生了一起事件，我们每分钟收到 6000、7000、8000 条评论，时间是凌晨 4 点、5 点、6 点。我们的律师告诉我们不能检测机器人。说到卡帕，安东尼，我们不能进行隐形检查，因为这会被视为监视，而且我们不能阻止被视为垃圾邮件的来自同一 IP 地址每分钟 100 条评论。直到四年半后，纽约总检察长最终裁定，在收到的 2300 万条评论中，有 1800 万条是政治操纵的，900 万条来自一边，900 万条来自另一边。因此，在过去的二十年里，为了更有效、更真实、更准确地描述情况，我们需要更长的时间。我们从 2001 年的未能生根发芽，到 2009 年的四个半星期，再到 2017 年的四个半年。我们无意中，通过任何一项技术，我敢说，互联网、智能手机、生成式人工智能，我们正在播下种子，你知道，过去有一句格言是，“谎言可以在传遍世界之前就传遍世界。” 我会说，在这一点上，我可以说，谎言可以在太阳系到达另一端之前就传遍世界。这就是为什么我认为解决方案必须是技术中立的，并且还必须考虑到人类的行为，无论任何一台机器。我仍然会说，归根结底，这将是特定于行业的，因为其严重性不同。如果你在网站上推荐购买某物，这与就你的健康做出决定，或者就战场做出决定，其严重性是截然不同的。阿纳斯塔西娅，有两个问题，我将把它们结合起来并直接问你。伊丽莎白·肖说，存在强大的议程，助长人工智能的欺骗性和恶意使用，例如贪婪、权力等。你如何鼓励人工智能的道德使用，而不是欺骗性使用？然后，阿拉隆·汗说，存在许多潜在问题，例如安全、数据、偏见、文化、工作等，人工智能可以帮助或加剧这些问题。他从根本上问的是同一个问题：我们如何激励组织采取道德而非欺骗性的方法？我正在转述这两个问题，但从根本上说，我们之前已经谈过这个问题了。激励措施就是激励措施。如果你激励潜在客户更加警惕，并对现有事物有更多的了解，因为有时问题不在于技术，而在于商业模式以及某个构造背后的原因，例如社交网络是如何配置的。我认为，减少混乱和揭开人工智能的神秘面纱是一项非常崇高的事业。所以，在我看来，人工智能存在三个基本风险类别。一个类别是所有与设计有关的事情。例如，我们正在谈论大型语言模型，就我而言，大型语言模型总是会产生幻觉。你可能会减少某些东西，但你知道，它仍然会存在，因为我现在不会深入研究计算理论和上述所有内容，但它会产生幻觉，这是设计使然。我们谈论人工智能，好像人工智能是全新的，但实际上，这项技术的根源可以追溯到上个世纪的 40 年代、50 年代和 60 年代。我们必须进入一个新的架构设计浪潮来改进。这要么是由于构造、系统或问题，要么是因为存在人为错误，这显然总是可能的。然后是恶意意图。我们谈到了网络安全，犯罪分子将利用人工智能来实现黑暗目的，一些公司可能想诱导客户形成某种想法。因此，客户越了解，就越好。有时我们谈论可扩展的问题，有时我们谈论客户的基本愚蠢。当我与公司合作并审查他们的人工智能组合时，有时我会想，你为什么要把钱花在这上面？问题在于，客户相信了某个供应商的销售人员，而该供应商由 85% 的销售人员和 15% 的工程师组成。显然，这个供应商无法执行。我现在不去谈论道德和可信赖的人工智能，只是基本的系统配置。因此，客户的知识越多，结果就越好。最后但并非最不重要的一点，这一点将非常具体地针对行业或业务职能，这就是所谓的“人在回路”。这是第三个风险类别。现在定义多少人以及在什么样的回路中。我们何时会再次引入监督和人工反馈？这是一个权衡过程，是构建和引入系统的人与实际客户之间的博弈。所以，这可能不是一个非常简单的答案，但在我看来，这种教育和提出好问题，能够审查供应商组合，并真正写下我们正在解决什么类型的问题，我们是否需要这个，以及成本是多少。人工智能可能看起来是新的，但我们的经济仍然是我们的经济。如果我有这种“规矩”，即我 25% 的收入线将用于计算，15% 的收入线将用于数据清理，如果我做得很好，那么你就有你的经济学，并且在决定是否进行某项人工智能实施之前，你需要牢记这一点。它会让你付出什么代价？你真的需要在这里自动化，在这里引入人工智能代理，或者也许人类做得很好？我只想简要地问你们每一个人一个最后的想法。大卫，关于这个话题的最后想法。这不是一个技术特定问题，这是一个社会和公司层面的问题，解决方案将不是专门针对技术，而是广泛地看待。再次认识到我们正在总结数据、数据、数据。我们根本没有谈论数据治理，我们没有谈论数据清理。我知道阿纳斯塔西娅刚刚简要地提到了它。你知道，你可以做得几乎一切都对，但在人工智能方面完全失败的一种方式是，如果你的数据很糟糕。所以，我想说，归根结底，追求更可信赖、更少欺骗性的人工智能的意图，首先要从换位思考你的不同利益相关者的角度出发，并确保无论你做什么，技术与否，数据与否，你都在考虑他们以及你如何部署事物。安东尼，最后的想法。有几件事。一，警惕闪亮的物体。会有越来越多的闪亮的物体。无论它们现在叫什么，现在是大型语言模型，这很好。你在解决什么问题？总是退一步问，我必须相信什么？我正在解决什么问题？不要被闪亮的物体分心，因为后面还有一个。第二件事是，这是对大卫关于清理数据的观点的回应。第二件事是，无论你是否参与，监管都将发生。所以，请参与进来，确保监管机构了解他们正在考虑的一些事情的意外影响。我们只是等待这些法规出台，然后就有点晚了。第三件事是，我经常这么说，要谦虚。你无法独自解决这个问题。寻求帮助。那里有很多人拥有丰富的专业知识。我们应该犯新的错误，我们通过让其他人参与我们的决策过程来实现这一点，并且要足够谦虚地认识到，我不在乎你的最聪明的人有多聪明，你应该带进一些不同意你观点的人。阿纳斯塔西娅，看起来你将获得最后的发言权。最后的想法。我们可能身处技术和人工智能领域，但我们最终都处于一个人的业务中。这实际上是关于人类的领导力、思维和谦逊。我不会鼓励人们等待来自 Alphabet 或华盛顿特区或布鲁塞尔的某个新法规的决定。我真的会鼓励当地社区关注当地的生态系统，看看那里有哪些大学对人工智能感兴趣，提供一些课程，哪些学校感兴趣，你能为那些孩子做什么，当地的初创公司可能会做什么，比如举办初创公司早餐会，让他们解释他们在做什么以及他们如何招聘公司，也许是一些正在采用一种或另一种技术的现有公司。所以我真的会鼓励这种自下而上的运动，而不是等待某个大人物在那里为你做决定，因为这就是你学习的方式，这就是你创造对话的方式，最终进步将通过对话发生。正如三位所说，我们处理的是人类问题，而不是具体的技术问题。那么问题就变成了，我们如何利用和聚焦这种人类能量来道德地使用人工智能？我认为，与其他许多事情一样，这需要胡萝卜加大棒。这里没有简单的解决方案，而且技术有多复杂，人类的方面总是更难。K 迈克尔，你在堆雪人吗？这就是你在说的。你知道，我很想堆雪人。这里现在正在下雪，在波士顿。等等，你是说你想堆雪人吗？抱歉，抱歉。迈克尔，回到你那里。总之，非常感谢我们的嘉宾 Anastasia louderback 博士、David Bray 博士和 Anthony scano 博士。非常感谢你们的到来，我非常感激你们。非常感谢所有观看的人，尤其是那些问了很棒问题的人。我总是这么说，你们观众太棒了。在离开之前，请订阅我们的新闻通讯，并订阅我们的 YouTube 频道。查看 cxo talk.com，我们有很棒的节目即将推出，我们的下一期节目将在通常的东部时间下午 1 点播出。非常感谢大家，希望你们有美好的一天。[音乐]