📱

Get Our Mobile App

Take your business learning on the go!

Download on the App StoreGet it on Google Play

Why AI Agent Deployments Fail

CXOTalk7:48

Transcription

您如何建议客户在匆忙地在企业中部署代理之前做好代理准备?

我合作过的所有在早期代理实施中取得成功的客户,他们都选择了一个他们拥有相关数据、标准操作程序的问题或业务流程。嗯,这是一个已知的工作流程中的问题。所以,关于您试图自动化错误事物的观点,他们花费了时间和精力,而且在旧世界里,我们会称之为应用程序合理化。我想在新世界里,我们可能会称之为代理工作流程合理化,那就是盘点所有您可能选择做的事情,并非常有条理地选择一个拥有数据、上下文和文档的。这绝对是至关重要的。

嗯,一旦您确定了您试图自动化和执行的那个非常具体的工作流程,那么对如何评估完成情况和成功有一个概念也是极其重要的,而且评估往往是当今代理开发工作流程中最棘手的部分之一,因为想想看,就像一个坐在办公桌前的经理,过去到达该经理的工作是由人类带来决策或执行任务的速度决定的。所以,您知道,这是一股稳定的工作流。如今,代理和自动化可以带来许多许多待批准的任务,这会压倒人类做出足够快决策的能力。因此,摆脱这种困境的唯一方法是设计评估,并将人工智能作为法官、批评家或评估者,以便人工智能本身和代理本身能够评估任务完成情况,无论其是否足够好,然后将代理送回以做得更好,或者进入工作流程的下一步。这是一个独特的问题,它在某种程度上超越了 RPA,因为 RPA 就像是单一任务、单一自动化。现在是多任务、多步骤的自动化问题。

而且,展望未来,我们看到的一件事是,代理的大部分价值将来自于多步骤、多任务、多代理的工作流程。这种智能或判断的想法,我认为您不使用这些术语作为关键的区别因素。在我看来,这才是真正改变这一切的要点。

这绝对是正确的,我们称之为评估,或者人工智能是法官,或者人工智能是批评家。但这是公司本身和组织本身也必须在某些情况下,首次实际记录其决策规则的步骤。您知道,我来自企业界。我已经在企业技术领域工作了几十年,比我愿意具体说明的时间要长,但我合作过的大多数公司都会发生这种情况:有流程,有文档,然后是人类的判断,未言明的规范以及表面之下隐藏的东西。因此,为了提供,您知道,软件非常明确,如果您说,您知道,我,我们现在正在与一家公司合作,我们正在做的一部分是,人们想购买家居用品,但他们想在选择之前在他们的客厅里看到它。因此,如果您要创建一个人工智能作为设计师来自动化这些流程并创建这种“在购买前,让我们把它放在您的空间里”的体验,这是一个非常复杂的问题,因为您要处理物理学。您要处理库存,实时库存。要使这个设计真正有效,有很多非常复杂的部分。

因此,我们必须在流程的多个步骤中设计评估。第一步是,好的,有人,人工智能已经回来,说,您知道,我想在这个房间里创建这种类型的设置。嗯,首先,它是否违背了物理定律?一个有趣的小怪癖是我们发现的一个问题,当我们刚开始做这件事时,您知道,在三维空间中操纵物体,有时我们会发现沙发侧放。因此,我们不得不指示,您知道,向评估代理提供明确的指示,说,您知道,它必须以,您知道,底部朝向空间底部的方式放置。我们实际上不得不调整物理学。所以这是第一步。第二步是,这个物品实际上是,您知道,我们库存中的一个物品吗?您知道,一个非常具体的物品。所以这是第二次评估和批评。第三次评估和批评是,有一些集群。如果您去过家居设计展厅,您会看到他们故意放置一个边桌、一把椅子、一盏灯和一个植物电器。他们把它们放在一起形成集群。我们学到的一件事是,这些集群应该符合某些品牌标准或品牌敏感性。因此,根据您与哪家公司合作,他们可能有不同的集群。所以集群必须符合设计敏感性和品牌敏感性。所以,我们已经进行了四种不同的评估步骤,而且正是这种有条理的定义和有条理的评估,以及所有这些的仪器化,正如您所指出的,这确实解锁了规模。一旦您做对了这一点,您就可以通过相同的管道发送大量不同的请求和大量不同的用户,并且它符合品牌指南。它符合物理定律,并且实际上符合库存。它可以创造一些相当神奇的体验。

您描述的这些评估点,经常将它们贯穿整个过程,这非常有趣。是否可以正确地说您正在进行许多许多许多小的纠正?这是正确的说法吗?

是的,这绝对是正确的。对我来说,关于代理最有趣的事情之一是,我一直以来都接触过人工智能,无论是“生成式人工智能之前”还是现在的“生成式人工智能和代理”,大约有 20 年了。对我来说,真正有趣的一件事是,一旦您进入代理和代理工作流程,您实际上是在创建一个行为、文档、日志文件、遥测数据的轨迹,其规模远远超过了当今业务的商业智能,例如运营日志,它们都依赖于手动工作流程。每个循环中都有一个人。嗯,您越是依赖代理、自动化和这些自动化工作流程,您实际上就创造了更多的数据和冗余来分析代理自身的行为。所以,这有点像,您知道,有点像一种递归,就像您拥有的代理越多,您拥有的交互越多,您拥有的遥测数据就越多,然后您可以分析它们的行为,并且您可以实际改进它们。所以,迈克尔,正如您所说,这是一个迭代周期。第一次什么都不行。当我们,您知道,从最简单的单流程代理到处理,您知道,就像客户服务中的入站问题,到最复杂的工作流程,比如在季度末进行财务对账,您知道,这需要从财库提取信息,需要从记录系统提取信息,并且需要,您知道,符合 SEC 的披露规则。您知道,这,您知道,这个数量,这个分析,并且非常有条理地捕获代理正在做什么,既是最大的挑战之一,也是最大的机遇之一,比如现在调试多代理工作流程非常非常复杂。