Transcription
迈克尔·克里格斯曼：欢迎收听 CXOTalk 第 854 集。我是迈克尔·克里格斯曼，今天我们将深入 Cognizant 的高级人工智能实验室，与公司人工智能首席技术官 Babak Hodjat 一起一探究竟。
巴巴克·霍贾特：我是 Cognizant 的人工智能首席技术官。我负责管理我们位于旧金山的高级人工智能研发实验室，我目前就在那里。在这里，我们进行核心人工智能研究，并将其融入我们旗舰的 Neuro AI 平台，该平台帮助我们的客户进行基于人工智能的决策。
迈克尔·克里格斯曼：您是 Siri 所使用的底层自然语言处理技术（NLP）的发明者之一。请您谈谈这方面的情况，以及这项研究与您今天所做的工作之间是否存在联系？
巴巴克·霍贾特：我当时正在攻读博士学位，研究一种名为多智能体系统的分布式人工智能技术。我惊叹于这些系统的强大威力。当时人工智能仍处于起步阶段，在一些简单的“玩具问题”上表现不错，但需要扩展。当您将多个 AI 组合成一个系统时，它们表现得相当好。我的一位朋友，由于某种误解，向我发起挑战，让我利用相同的技术来理解人们发出指令来控制电视机换台等操作。起初，我认为这是一个对人工智能来说过于复杂的问题。自然语言是计算机的第一个非数值应用，但它从未真正得到解决。由于语言的歧义性和复杂性，这非常、非常困难。但后来他向我发起了挑战，我开始着手研究。结果发现，在命令和控制领域，使用多智能体架构确实能产生差异。这与传统的自然语言处理方式大相径庭：语法、解析、语义和上下文，所有这些都非常以语言为中心。因此，如果您处理的是英语，那么转向日语将是完全不同的局面。这为命令和控制领域带来了许多可能性，并最终促成了能够创建 Siri 的自然语言交互核心。
与今天的情况在某种程度上非常相似。如今，我们又回到了一个世界，我们看到将人工智能扩展并以多智能体的方式将其应用于企业和各种不同应用，比单一集中式系统处理一切更受欢迎。因此，智能体和多智能体系统目前正经历着复兴。动机有所不同。当时，人工智能确实受到限制。为了赋予它能力，您会缩小应用范围，称之为智能体，并赋予它与其他具有缩小范围的智能体协同工作的特定任务。然后，它们会相互作用，并在该智能体社区中解决问题。如今，大型语言模型，也就是我们今天所定义的智能体的核心，非常强大，它可以同时扮演许多不同的角色。因此，您必须告诉它们扮演什么角色。这有点像反向操作：它们可以扮演许多、许多不同的角色，但您必须缩小范围，告诉它们它们的职责是什么，以及在特定上下文中我们希望它们做什么的要求。然后，我们称之为智能体。所以，虽然角度截然不同，但最终殊途同归，与我们 25 年前所做的事情大体相同。
迈克尔·克里格斯曼：当我们谈论智能体，或者“智能体式人工智能”这个术语现在变得越来越普遍，充满了炒作，您使用的是“多智能体系统”这个术语。您能详细解释一下这个术语吗？
巴巴克·霍贾特：我们都熟悉大型语言模型和生成式人工智能模型。这些模型接收输入并生成输出。关键词是“生成”。接收输入——文本、图像、视频，或以上所有内容。输出也可以是不同的模态。然而，智能体与模型不同，因为它会采取行动。它有一个工具箱，可以影响其环境并观察该变化或使用这些工具所产生的影响。我举个例子。如果您去 ChatGPT 并要求它编写代码来调用 Amazon API，它会生成代码。它不会运行它。它做得很好，如果代码不复杂，它实际上可能会起作用。您可能会依赖并信任这段代码。然而，区别在于，智能体能够运行这段代码，可能在一个容器中，调用 Amazon，检查其单元测试是否通过，然后在返回给您说“这是代码”之前修改代码（如果代码有问题）。所以，这是智能体与大型语言模型之间的一个区别。
现在，关于多智能体系统，这意味着我们在某种组织中拥有不同的功能。在编码方面，我们可能有项目经理、程序员、编写单元测试的人、后端编码员与前端编码员。我们可能有用户体验设计师与用户界面设计师。我们甚至可能有一个看板，我们在上面发布任务卡并完成任务卡。就在这里，我列出了许多不同的任务和不同的职责，这就是我们作为人类程序员如何组织自己。现在，我们有一个选择。我们可以依赖一个非常强大的大型模型或单个智能体，并要求它完成所有这些工作。设置起来非常困难。目前，我们在上下文方面存在限制。我们期望系统完成的任务的复杂性非常高，并且很难观察我们要求它做的各种元素的行为。要我们设置这样一个系统，我们本来就已经在以一种非常模块化的方式思考了。因此，将这种模块化思维、这种结构化思维映射到我们如何组建一个团队来创建我们希望团队创建的更复杂、更大的软件包，这似乎是合乎逻辑的。这种映射基本上是通过创建多个智能体来实现的，每个智能体负责整体的一部分。例如，产品经理、项目经理、UI/UX 设计师各自成为自己的智能体。在智能体的上下文中，我们告诉它它的职位描述，它需要做什么，它需要从其他智能体那里得到什么，以及它需要返回给它们什么。然后我们让它开始运行。
有几个有趣的特性，其中最重要的是我们可以将自己视为这个结构中的智能体，并在该结构中定义人类的角色。这与，例如，将整个事物视为一个黑箱单个智能体，我们要求它做某事，然后期望它返回某事不同。我们不在那个循环中。所以，这是为什么从整体上看待软件，甚至组织，作为多智能体系统在目前非常有意义的重要原因之一。
迈克尔·克里格斯曼：那么，您是否试图通过这些多个智能体来模拟组织在软件中的构建，每个智能体都被指定来完成特定任务？这就是基本目标吗？
巴巴克·霍贾特：太好了。您读懂了我的心思。正是如此。它超越了软件。例如，从一方面来看，我们可以看软件。软件本身就是模块化的。我们一直以来都采用面向对象的方法，这是许多软件原则的基础，而对象距离智能体仅一步之遥。所以，您可以将软件本身视为一个模块化系统，现在可以由智能体来表示，它具有一些非常有趣的特性。我们可以谈论它。这确实很有趣。但这超越了软件。我们可以审视一个组织，其中职责分布在这些节点上。它们可以是人类、软件，或两者的混合，来运行这个组织。只要我们能够列出这些职责、任务和职位描述，包括期望的输入、期望的输出，以及分配给智能体的任务期望从其他智能体那里获得什么，如果我们能够定义这些关系，那么我们就可以尝试“智能体化”一个不一定是软件的组织。这具有巨大的意义。所以，是的，这是我感兴趣的一个领域。它有什么意义？如何以以人为中心或以人为增强的方式做到这一点？如何保证这样的系统确实有效？您获得了哪些特性？因为将一切都视为智能体来运行和思考也有其成本，对吧？您正在运行大型语言模型，它们是每个智能体的大脑。所以，您实际上是在分配任务；您仍然为这个组织的每一步运行大型语言模型。根据吞吐量，您需要支付高昂的费用来运行这个东西。所以，另一方面，您获得了鲁棒性、未来保障。您也获得了很多非常有趣的特性。
迈克尔·克里格斯曼：听起来您正在构建一支机器人军队，它封装了大型语言模型来完成您想要的任何目标。您点头了。好的，那么我们知道 LLM 会产生幻觉，它们会编造东西。您如何防止您的军队或军队成员失控？
巴巴克·霍贾特：大型语言模型可能会编造，或者如它们通常所知的，产生幻觉。它们会编造东西，因为它们是生成式的。它们不是为了真实性而训练的。它们是为了让它们的输出通过审查而训练的。这是一个真正的问题，也是我们“智能体化”事物的另一个原因。当您缩小范围和领域并明确您期望什么时，您就会减少幻觉。这是其中一个方面。另一个方面是我们必须确保智能体中有仪器仪表，告诉我们何时可以信任它，何时应该验证。有一些非常有趣的新研究，其中一些来自我们实验室，它测量大型语言模型的不确定性。这太神奇了。给定一个上下文——再次强调，上下文很重要——这是可以在智能体范围内处理的事情，而不是在通用范围内。给定一个上下文，对于某个输入和我们从智能体获得的输出，我们能在多大程度上信任该输出？如果我们现在有了这个度量，并基于这个度量设置一个阈值，我们可以说，“嘿，在这里，这个智能体所做的事情，我不能完全信任，所以我需要人类来验证。”这是从智能体视角看待这些系统而不是一个万能的、无所不包的 LLM 的另一个原因。
迈克尔·克里格斯曼：订阅我们的新闻通讯，并订阅我们的 YouTube 频道。请访问 CXOTalk.com。在今年年底之前，我们还有一些精彩的节目，将邀请一些令人惊叹的人。所以请关注！加入我们！
格雷格·沃尔特斯提出了一个非常有趣的观点。他说：“一群智能体难道不会因为自我检查和自我修复而降低大规模幻觉的概率吗？这可能吗？”
巴巴克·霍贾特：绝对。事实上，您甚至可以分配一些智能体的责任来检查其他智能体是否存在幻觉等问题。如果我是一个智能体，在一个由智能体组成的管道中协同工作，而我从另一个智能体那里得到的响应有点可疑，或者不是我真正期望的，我也可以回去对它说：“嘿，再试一次”，或者重新向该智能体提出我的询问。所以，即使是自动化的，我们也可以在智能体之间管理很多这种幻觉。
现在，说了这些之后，我们面临着一个新现实：大型语言模型是我们如今许多工作的基石。我们无法保证这些系统永远不会产生幻觉。所以，如果有人出于营销原因或其他任何原因告诉您他们可以保证没有幻觉，请持保留态度。这本身可能就是一种幻觉。无论如何，这是不可能的，但我们可以衡量和评估它。我们可以减少它。我们需要记住的另一件事是，我们面临着军队是一系列黑箱智能体的情况。所以，虽然我们有工具试图窥探它们的思维、逻辑和推理，但其核心是深度学习神经网络，它们非常、非常庞大，而且是黑箱。我们很难确切地知道它们是如何思考的。
现在，好消息是，自工业化以来，我们一直在处理这类系统。只是它们一直是由人类驱动的。人类是黑箱，我们真的无法读懂另一个人的想法。我们给他们一套在更大组织中的职责，我们也知道如何做到这一点。所以，这里的好消息是，我们不必面对这个未知的、全新的多智能体时代。我们可以借鉴我们在工业化和建立这些组织过程中学到的一切。我们可以借鉴这些经验教训，以确保智能体化能够以可预测、富有成效且高质量的方式运行。
在我们忘记之前，我还有一件事想提一下，那就是在这个新的多智能体时代，有一件事非常神奇。在我研究 Siri 之前的日子里，我们必须定义智能体之间的语言。这些智能体需要发出明确的指令才能相互通信。我们现在不必这样做了。事实上，大型语言模型的母语就是自然语言：英语。这给我们带来了什么？语言在人类身上以某种方式演变是有原因的。它非常富有表现力，使我们能够表达意图。所以，现在您有一个组织，其中这些节点之间的连接——假设我们有软件——是表达意图而不是发出特定调用。这使其具有鲁棒性和未来保障性。您可以替换软件中的各种元素，例如。我使用的例子之一是我多年前曾在 Sybase 工作过，我们有数据库。它们不是最先进的数据库。我们当时输掉了数据库大战。但这些数据库在华尔街标准了 15-20 年。它们是遗留的。它们之所以成为标准，是因为要将它们拔出并升级或更改它们非常困难，因为它们已经根植于软件中。很可能，集成它们的人早已离职。那已经是过去式了。这种鲁棒性，软件节点之间的这种连接，现在是智能体节点，使我们拥有一个基于意图和自然语言的系统。这使我们能够替换和升级，而不必过多担心集成，因为意图与调用特定 API 之间的连接现在由大型语言模型处理。所以，仅在软件方面，这给了我们很大的灵活性。对于有软件工程背景的人来说，我认为这是多智能体的一个非常有趣的特性。
迈克尔·克里格斯曼：您说，从一开始，我们就一直在与通过组织做出决策的人类打交道。然而，如果我们从伦理角度来看，有一个根本区别：对于人类来说，我们是我们所知的一切的总和，我们可以称之为数据，我们也有我们的偏见。然而，当涉及到数据驱动的决策时，我认为我们不能对数据中存在的潜在偏见如此轻易地放任自流。也许谈谈这方面。
巴巴克·霍贾特：即使在我们通用的语言模型中，也可能存在，而且肯定存在偏见。我们当然需要控制它们。这是一个重大的风险。我们收集和操作的数据中也存在固有的偏见。在我直接回答问题之前，我想提一下：如果我们创建一个只由大型语言模型根据它们的信念和训练运行的组织，那么我认为我们就是失职了。我们不希望这样。如果一个组织已经拥有他们收集的数据，关于他们过去所做的决策、他们的运营等历史数据，那么这些数据是无价的。我们必须让我们的智能体依赖这些数据，甚至可能使用现在所谓的（两年前的）“传统”机器学习模型和分析模型。所以，我们有智能体，这是一个基于大型语言模型的智能体，它基于该数据运行一个基于机器学习或分析、数据驱动的模型。它正在做出决策。这比一个单一的、基于大型语言模型的智能体进行猜测要可靠得多。它使我们暴露于训练所摄入的世界上所有数据中固有的许多偏见。所以这一点非常重要。这仍然不能免除我们对我们自己收集的数据的责任，这些数据可能本身就带有偏见。因此，负责任的 AI 原则，即使在大型语言模型出现之前我们也必须关心，现在仍然适用，并且变得更加重要。我们需要将它们构建到我们创建和“智能体化”系统中使用的框架中。
为了现实起见，在过去几年里，这一点被搁置了。这很可怕，因为我们被大型语言模型和生成式人工智能的强大功能所吸引，我们想：“哇，这个东西太有用了。我要全力以赴”，然后我们会稍后讨论负责任的 AI 部分。它已经变得像事后诸葛亮了。我认为这很危险。这是我们推荐的智能体化步骤中我们真正强调的一点。它内置了一个特定于领域的框架，该框架具有以人为中心性，以及负责任的 AI、伦理和治理方面的考虑。这一点很重要，而且我无法给出一个简单的、通用的陈述说：“做这个，然后你就负责了。”这非常特定于领域。
迈克尔·克里格斯曼：我们有一个来自 LinkedIn 的非常有趣的问题。这是来自 Avi Singh Malhotra。他说：“您如何设想在未来十年内，人力资本和智能体式人工智能工作者之间的平衡将如何演变？组织应该做出哪些战略性转变，以利用这种劳动力转型，同时保持竞争优势？”
巴巴克·霍贾特：我们与牛津经济学合作，对生成式人工智能对就业的影响进行了研究。方法论非常有趣。我们采用了美国就业报告中的所有工作，并将每项工作分解为其组成任务。然后，我们说：“好吧，这是生成式人工智能今天的状况，这是我们认为它将在五、六、七、八年后达到的状况。”这些任务中的哪些将受到颠覆？这取决于工作。令人惊讶的是，无论如何，它影响了 90% 的工作。这就是现实。看待它的方式是重新定义和帮助调整职位描述，使重点放在人类负责的那部分任务上。这将是人类的专属领域。是的，我们需要支持并引入生成式人工智能和智能体式人工智能来覆盖其余部分，并帮助这些工作。该报告还包括那些将难以跟上的工作，以帮助那些人重新学习技能、提升技能并加入进来。
出于文化原因，至少在可预见的未来，人类将在我们构建的任何智能体系统中扮演重要、核心的角色。当然有文化原因。作为这些文化原因的衍生物，将内置偏好。例如，看看艺术。有人问我：“艺术现在，您可以创作许多让许多人满意的艺术品。它们都是机器生成的。艺术的未来是什么？”我们正处于一个转型点，就像我们曾经面临摄影一样。人们认为绘画会因为摄影而消亡。您可以点击一下，得到一张照片，而且现在有这么多照片。摄影能够重新定义自己。这有点像那样。此外，我们还为人类在其中的作用赋予了价值。比如，如果这是人类创作的，而不是机器创作的，那么它对人类社会的价值将是不同的。这种价值将确保人类有一个角色。这里有很多需要深入探讨的地方，当然，我不是社会学家，所以评论起来有点超出我的舒适区。但可以说，至少在可预见的未来，人类将扮演非常重要的角色，原因有很多。
回到我们做的牛津研究，我认为组织内首先要做的事情是列出将受到颠覆的工作和任务。会有时间。是的，这种颠覆正在迅速展开，但我们将有时间进行技能提升、再培训，而且，相信我，当我们进行智能体化时，作为人类，我们将更忙于操作这些智能体和基于智能体的系统。
迈克尔·克里格斯曼：随着时间的推移，社会期望和文化规范也会改变，以适应技术带给我们的成果。曾经是科幻小说且不可能的事情，今天我们将其视为自然而然的事件，例如乘坐飞机。
巴巴克·霍贾特：说得对。未来可能有一个我们现在试图设想时会让我们非常不舒服的未来，包括我们这些从事人工智能工作的人。光是想象一下！但是的，社会在变化，价值体系在变化，文化在变化。但我们现在不必担心这一点。
迈克尔·克里格斯曼：莉斯贝丝·肖（Lisbeth Shaw）在推特上说：“您能重复一下您关于 GenAI 与智能体式 AI 及其焦点差异的评论吗？”
巴巴克·霍贾特：生成模型会生成东西。它就是这么做的。您给它输入，它就生成东西。智能体不仅具有生成的能力，还具有执行的能力。所以，这种执行，做某事而不是生成某事，是智能体与生成模型之间的区别。就像您给模型一个沙盒，然后说：“嘿，如果你在编写代码，也运行代码。检查输出，如果代码有问题，在回复我之前可能需要修改它。”所以，在编写代码方面，这就是一个例子。但这不一定是一个沙盒。它可能实际上是在操作某事，比如“执行这个调用”。“有人刚刚提交了新软件的请求。”“如果您收到此请求，请获取所有信息并验证他们的身份。这是验证他们的 API，这是，我不知道，打开一个 ServiceNow 工单来为他们获取软件的 API。去做。”这就是智能体要做的事情。一个纯粹的生成系统不会这样做，除非您赋予它操作、调用 API 和做事情的能力。这就是主要区别。
迈克尔·克里格斯曼：我们还有另一个来自 LinkedIn 的问题，来自格雷格·沃尔特斯。他说几年前，他写过关于人工智能将导致 C 级高管终结的文章，这表面上看起来是个愚蠢的问题。但人工智能在多大程度上会取代高级业务领导者？毕竟，任何一个像样的 LLM 都比我们任何人都知道得多。
巴巴克·霍贾特：当我们审视一个组织时，随着我们向上层发展，决策的后果越来越严重，数据驱动的程度也越来越低。重点一直是在这些较低的节点上自动化、验证、改进和优化决策。而顶层节点却获得了巨额报酬。我这么说是因为我本人也是 C 级高管，所以我想我是在反对自己。但事实是，现在我们也有能力协助这种级别的决策。
现在，当我谈论人工智能决策时，通常会被误解为：“哦，我们一直在这样做。比如，人工智能帮助我们。它给我们提供见解，然后我们利用这些见解来做决策。”所以，人们几乎认为人类拥有做出决策的专属领域。这就是我想打破的。我们不擅长做决策。我们必须面对它。我们通常是情绪化的，并且容易受到最近发生的事情或我们收到的最新新闻的影响。某事的近期性会影响我们做决策的方式。我们只关注一个结果或目标，而大多数决策是关于平衡多个结果。我们没有能力查看大量数据来做出决策。所以，我们经常凭着一种非常扭曲、有偏见且常常不合乎理性的直觉来做决定。然后我们做出决定。我们因做出决策、承担风险而获得报酬。因为当你仔细想想，如果我们不擅长做决策，但我们必须做出的决策后果严重，那么我们承担了很多风险。所以，我们的价值在于承担风险，而不是做出高质量的决策。我认为人工智能系统可以在增强我们做决策方面做得很好。它们已经可以比我们同时考虑更多的因素。它们可以同时针对多个结果进行优化。它们可以优化：“我想提高收入，同时降低成本，同时提高可持续性，同时减少偏见。”就像我刚才提到的四种不同的 KPI。在做出一个有后果的决定之前，我必须同时考虑这四种。所以，我认为开始将人工智能引入我们的决策过程非常重要。有一个很好的方法来捕捉您迄今为止所做的历史决策，引入对决策至关重要的数据，并让人工智能告诉您：“在这种情况下，我认为您应该怎么做。如果您这样做，将会发生什么。我对我的预测有多大把握。这是我为什么认为您应该这样做的解释。”另外，如果您想做其他事情，请告诉我，我会尝试预测替代方案的后果。
迈克尔·克里格斯曼：我发现自己出乎意料地站在格雷格·沃尔特斯一边，认为人工智能将取代高级主管。让我告诉您为什么，基于您刚才所说的。有一个完整的学科叫做“群体智慧”。LLM 代表了终极的群体智慧，因为 LLM，如果它们足够大，就拥有所有信息。所以，如果我们必须做出判断，调用 LLM 来做出决定是否合乎逻辑？LLM 可以总结人类的经验、历史、知识、行动和结果，引导我们走向将带来最佳决策的群体智慧。因此，从这个角度来看，我们为什么还需要这么多高级主管？
巴巴克·霍贾特：不，我不同意，原因有几个。第一，LLM 是固定在时间上的。它只训练到某个点。“PT”和“GPT”代表“预训练”。这些基础模型在训练后不会学习。所以不要单独依赖 LLM 来做决策。第二，是的，它知道很多东西。群体智慧就在其中。也许您可以依赖它从中推导出的某些推理。但这是群体智慧。它不知道您特定的上下文，您当下需要做出的决策以及该决策的后果。所以不要依赖它。您可以咨询它。在许多情况下，它会给您一些好的建议。但不要单独依赖它。第三，如果您确实有数据，您可以依赖历史数据来做决策——来自您过去所做的决策及其后果的数据。您应该使用这些数据以及基于这些数据构建的特定 ML 和分析模型。例如，如果您有一个数字孪生，或者一个基于 ML 的数字孪生，关于决策的主题，您可以针对该数字孪生进行优化，并得出一个比任何 LLM 都更好的决策策略。我举个例子。假设我有一个炼油厂，我需要对炼油过程进行一些调整，以提高产量但减少排放。我会去问 LLM 该怎么做吗？也许在宏观层面，它会给我一些提示，让我去研究，但它不知道我的具体炼油厂，我目前的状态，今天的油价，或者类似的东西。所以，好吧，我必须提供所有这些信息。然后，它实际上并不知道这个特定炼油厂可用的替代方案，我能做的改变。我可能可以做出许多大型语言模型不知道的改变组合。另一方面，我有很多关于炼油厂的数据，甚至可能有一个炼油厂的模拟。将炼油厂的 ML 模型与炼油厂的模拟结合起来，就可以得到一个数字孪生，我可以对其进行优化。这种优化是：拉动哪些旋钮和杠杆来获得最佳的多目标优化。我肯定会选择这个，而不是单独的 LLM 系统。所以，是的，在某些情况下，LLM 可能是一个很好的试金石，但在许多复杂、重要的决策中，我们必须创建这些基于智能体的系统，让它们拥有这些其他设施和工具。
迈克尔·克里格斯曼：威尔逊·苏亚雷斯（Wilson Suarez）有一个问题，我认为这将引导我们进入演化计算，这是您和高级人工智能实验室的另一个焦点领域。威尔逊·苏亚雷斯的问题是：在一个人类无法做出良好决策、人工智能正在影响各种场景的世界里，情感扮演着什么角色？
巴巴克·霍贾特：我认为情感非常依赖于上下文和文化。它们是一系列感觉的抽象，就像我们拥有的感觉序列。它们通常在两种文化之间并不相同。所以，将情感作为我们决策的核心，更多的是我们思维方式以及它如何影响我们的结果，而不是一个决策序列或一种分析方法。我不认为情感来自不同的来源并影响决策，而不是分析或数据驱动的决策。让我们暂时搁置这一点。
关于情感，我想说，至少感觉序列可能是演化而来的。我正试图将它与演化计算联系起来。有一个可能缺失的有趣方面，那就是创造力。创造力很有趣，因为人类知识的总和——主要以文本形式捕获——这些信息构成了大型语言模型，仅仅是这样。它可能无法捕捉到我们可能遇到或在全新情况下需要的一些非常新的东西。虽然大型语言模型可能能够创造出我们从未见过且有趣的新事物，但以插值的方式，在未来，我们可能需要借鉴自然界中进化如何适应新情况的方式。我们称之为“创造力”。在如何通过借鉴基于种群的方法来快速搜索新解决方案、为新情况寻找创造性解决方案方面，有很多有趣的工作正在进行。这意味着什么？这意味着，而不是拥有一个模型——就像大型语言模型或深度网络一样——您拥有许多不同运行方式的模型变体。其中许多是无用的，它们过于有创造力，以至于适得其反。但其中一些是有用的，并且足够不同，以至于您想保留它们，甚至可能将它们的一些特征与一些其他模型混合。通过多次这样的迭代，您将获得新的、有趣的、适应性强的系统。这就是进化。
演化计算：到目前为止，进化主要通过许多听众可能熟悉的方法进行：遗传算法。所以我们有一个模型，或者我们有两个父模型。两者都适合它们的环境。我们借用一些这个，一些那个，也许随机调整一些东西。我们进行交叉，进行变异，然后创建一个新模型。然后，我们验证该模型是否有趣。有时，它比两个父模型更有趣、更好，我们会保留它。然而，最近，我们观察到您可以将大型语言模型引入这个算法。这就像有一个人类，具有人类的推理能力，看着两个父模型说：“哇，这里的这个特征很有趣，那里的那个特征也很有趣。”通过他们的推理，他们将使用这些特征，而不是随机选择。您在生成子模型时非常谨慎。您仍然需要大量的随机性等等，但这在某些方面丰富了演化计算。存在这种相互作用。演化计算为最先进的人工智能，即大型语言模型，带来了更多的创造力。但同时，大型语言建模也为我们如何进行演化计算带来了推理。
我举一个非常有趣的例子，同样来自我们实验室。我们向一个基于进化的系统（由大型语言模型增强）输入了在一个会议上发表的论文。我们选择了 ICML，但您可以选择任何会议和任何领域。我们输入了论文的历史：标题、摘要和正文摘要。我们让系统根据它们的创造力对这些论文进行映射。想象一个二维地图，上面有这些论文。您会很快看到论文的聚类。有人提出了一个很棒的想法，然后其他人在此基础上进行扩展。所以这里有一簇论文，那里有一簇论文。偶尔，您会看到一篇“野外”的全新论文，它带来了非常新颖、有趣的想法，然后随着时间的推移——每年我们召开这次会议——就会围绕它形成一个聚类。现在可以做的一件有趣的事情是预测明年的论文。所以，在 ICML 2025 上，有哪些论文，哪些聚类将增长？哪些聚类将缩小？在论文的这个空间中，您将在哪些领域获得非常有趣的论文？更有趣的是，您可以分配大型语言模型来猜测这些全新论文的标题和摘要。这为您提供了一种基于种群的方法、进化技术和大型语言模型的混合，使我们能够围绕一个主题或领域进行头脑风暴，并预测该领域可能有趣的内容。
迈克尔·克里格斯曼：为什么这种方法特别适用于网站转化率优化或机器人行走等问题？
巴巴克·霍贾特：转化率非常有趣。您有一个内置的度量。您有一个网站。它的配置方式是特定的，您很快就知道它是否有效，因为如果人们点击并购买，或者点击并花费时间，那就是对您的积极强化。如果您修改该页面，您很快就会知道您是做得更好还是更糟。换句话说，它更适合或不太适合。这为您提供了可能性。我们经常听到 A/B 测试。“让我们将一部分用户重定向到我们设计的新页面，看看它是否做得更好。”如果它更好，我们就采用它。现在的问题是，在任何给定时间，您只有两个页面：您当前的页面和新页面。这没有给您太多的余地来改进、尝试新的改进或跟上不断变化的世界。事物可能会改变，您的用户群可能具有不同的偏好。所以，您可以做的一件事是创建您当前成功页面的变体，并将一部分用户重定向到这些可能的页面——将一部分用户重定向。根据页面的表现情况，您将更多用户重定向到表现更好的页面，而将更少用户重定向到其他页面。表现更好的页面，您可以混合。不同表现更好的页面可能包含一些元素，您可以将它们混合起来。也许由此产生的新页面会更有趣。这几乎就像实时运行一个进化过程，由人类评估您的表现如何，因为最终是他们决定您的转化率是上升还是下降。它非常、非常有效。它提高了转化率。我加入 Cognizant 之前所在的公司 Sentient，有一家从中分拆出来的公司名为 Evolved.ai，它正是这样做的。他们不仅能够显著提高转化率，而且还能够让这个系统实时运行。当一年中的某些时候到来，或者发生某些事件，并且用户偏好发生变化时，系统就会适应。这几乎就像页面的设计会根据用户的偏好而改变和变形。
迈克尔·克里格斯曼：这与机器人行走有什么关系？在您实验室的网站上，有一个演示展示了这些算法的使用。顺便说一句，当您讨论这个问题时，莉斯贝丝·肖在推特上问道：“什么是进化算法，除了遗传学之外，还有哪些实际用途？”
巴巴克·霍贾特：假设您想教机器人走路，而它一直在遇到未知的地形。有一些物理定律，起初它并不知道。所以您可以做的一件事是——就像我们之前谈到的智能体一样——让它与环境互动：尝试不同的事情。起初不要试图走路，而是尝试感知它的环境以及该环境的物理特性。然后，构建该环境的模型。在该模型中进行训练。这成本要低得多。您知道，如果您在模型中摔倒并摔断脖子，您并没有真正摔断脖子。在现实的物理世界中，您可能会摔断机器人的脖子，这成本很高。这就是我们试图说明的：有一种进化计算称为“进化代理辅助处方”。它基本上说：“看，您应该始终创建一个环境模型。”还记得智能体是如何在环境中操作、做事情的吗？这个系统说：“创建该环境的模型。”跟踪该环境对您所做事情的反应。根据该跟踪，创建一个模型。训练一个模型。而不是一直在现实世界中尝试事物，而是在模型中尝试事物。这更便宜。您可以在脑海中针对该模型进行优化，然后开始行走。
当您看到那个行走的机器人时，我们可以可视化它的模型告诉它什么。起初，模型所描绘的环境看起来非常具有幻觉性。看起来像是，“哦，树在漂浮，”或者“天空在地上，”等等。因为它没有太多尝试外面有什么的经验。但当它试图学习走路时，它也在试图学习其环境的物理特性。渐渐地，您会看到环境稳定下来，变成我们从外部看到的那个环境。这是因为偶尔，它会尝试它知道在模型中起作用的事情，并将其与现实世界进行比较。基于这种反馈，它会调整其模型。有趣的是，它实际上是在解决一个更难的问题，因为它脑海中的世界可能相当灵活。例如，如果一棵树在漂浮，而您需要绕过它，这比绕过静止的树要难得多。所以，如果您学会了如何在树木漂浮的世界里行走，您肯定能够在树木静止的世界里行走！这是这种方法的一个有趣特性：它使机器人更加健壮。它也具有未来保障性。您可以突然改变系统的环境，它会很快调整其内部模型并能够运行。所以有一种进化技术允许我们非常快速地做到这一点。它非常有效且成本效益高。
迈克尔·克里格斯曼：您能否就企业人工智能的采用以及组织面临的障碍提供任何建议或想法？请尽快。
巴巴克·霍贾特：企业已经选择了生成式人工智能的低风险、显而易见的使用案例。在不知不觉中，我认为他们已经在“智能体化”事物了。他们已经进去说：“嘿，我想要类似 ChatGPT 的东西，但我希望它能处理我的专有数据。”所以他们创建了可以检索专有数据的智能体，例如。然后他们可能有另一个应用程序，他们希望一个智能体来操作该应用程序。所以他们孤立地创建了这些单个智能体。我认为下一步的逻辑是让这些智能体相互通信，将它们链接起来，这样您就不必强迫用户选择与哪个智能体交谈。您可以与一个智能体交谈，它们会自己解决。我觉得这就是我们前进的方向，但不要让它有机地发生。您需要采取措施使其以人为中心并负责任。我认为它也有颠覆的潜力，所以您需要提前考虑它将对您的劳动力和流程产生什么影响。所以，是的，我认为我是一个乐观主义者。我认为基于智能体的企业有一个光明的未来。我只是认为我们需要睁大眼睛去看待它。
迈克尔·克里格斯曼：Babak Hodjat，Cognizant 人工智能首席技术官。您给了我们很多思考的东西，非常感谢您今天抽出时间与我们在一起。我非常感激。
巴巴克·霍贾特：当然，我非常享受。非常好的问题。谢谢。
迈克尔·克里格斯曼：各位听众，感谢您的收看。在您离开之前，请订阅我们的新闻通讯，并订阅我们的 YouTube 频道。请访问 CXOTalk.com。在今年年底之前，我们还有一些精彩的节目，将邀请一些令人惊叹的人。请关注！加入我们！
再次非常感谢 Babak 的到来。各位，祝您有美好的一天，我们很快再见。