Transcription
今天，如果你考虑商业，你会觉得它对客户来说有多重人格。所以在销售阶段，他们非常非常积极地争取你，一旦你注册并成为客户，你就面对着完全不同的人格，对吧？你面对的是服务部门，感觉它们真的脱节了，对吧？我确实觉得 AI 代理可以使整个体验成为客户旅程中持续的、持续的对话，而 LLM 是做到这一点的完美工具，这将真正带来以前不可能实现的个性化水平和客户体验水平。[音乐] 大家好，欢迎来到训练数据。今天，我们有 Cresta 的首席执行官 Ping Woo 和 Sequoia 的 Doug Leone，他也是 Cresta 的董事会成员。今天的节目深入探讨了联络中心这个棘手的世界，这是一个庞大的传统行业，充斥着行动迟缓的现有企业，但它却负责推动公司绝大多数的客户对话。Ping 对这个世界有着深刻的理解，他首先建立了谷歌的联络中心业务，然后成为 Cresta 的产品负责人，再到首席执行官。Ping 加入我们，谈论影响呼叫中心的各种技术浪潮，他如何看待客户体验随着 LLM 向着富足的未来发展，以及为什么他的策略是与客户见面，将人工座席辅助与自主数字座席相结合。Doug Leone 还分享了他几十年来投资和建立公司的经验，以及他对我们是否处于 AI 泡沫的看法。他还分享了他认为价值将在哪里产生的观点。提示，它在应用层，在这个棘手的“最后一英里”。请欣赏节目。Ping，欢迎来到节目，感谢您带来我们的特邀嘉宾 Doug，他也在您的董事会。>> 我的荣幸。谢谢。>> 感谢两位参加。嗯，Ping，我想先问一个关于 AI 论点的大部分内容，那就是 AI 将在全球范围内取代劳动力，而 TAM 是数万亿美元。显然，联络中心、呼叫中心是一个巨大的劳动力池，你知道，它正渴望被自动化。如果你必须猜测，有多少呼叫中心劳动力支出将真正被 AI 完全自动化。>> 是的。所以我们内部花了大量时间来争论这个问题。嗯，现实情况是，我认为没有人确切知道，如果你问，这真的取决于他们销售什么，然后你问不同的人，他们会给你不同的答案，有些人会说，在联络中心，100% 的人工将消失，而一些研究实际上表明，在未来五年内，财富 500 强公司中没有一家将完全没有人力的联络中心。所以，你知道，答案可能落在中间的某个地方。事实上，两年前，当 GPT-4 首次发布时，我们被问到这个问题，很多人会说，也许在两三年内，联络中心将不再有人类。所以，当时我们的信念是，转型，特别是对于财富 500 强公司来说，可能会比许多人想象的要长得多。>> Doug，你怎么看？你的赌注是什么？>> 极限是 100%。但我意识到美国银行系统仍然在使用 IBM 大型机和 COBOL。所以对我来说，这并不真正取决于百分比，而是取决于这件事发生的速度。它会在 10 年、20 年、25 年、30 年内发生吗？因为答案是 30% 还是 60%，如果它发生在 50 年后，这对 Cresta 这样的公司意味着一件事。如果它发生在 3 年后，它意味着另一件事。所以 N 数字对我来说不是相关的指标，对我来说是采用的速度。>> 很好的区分。Ping，您在联络中心 AI 领域工作了十多年。在成为 Cresta 的首席执行官之前，您曾在谷歌担任过同等职务。所以，也许对于我们这些不了解联络中心市场的听众来说，您能告诉我们它是什么，它有多大，以及技术到目前为止是如何服务于它的吗？>> 是的。嗯，当人们首先谈论联络中心时，很多人会自然而然地想到呼叫中心。很多人坐在那里听，接电话，对吧？联络中心确实是一个更广泛的类别，包括从电子邮件到数字聊天等全渠道互动，你知道，在网站和应用程序上，当然也包括电话。整个市场相当大，而且历史上大约有 1700 万到 2000 万名人工座席实际上在联络中心工作。软件市场可能在数百亿美元，根据一些研究，AI 市场将在数百亿美元的较高水平。>> 那么，用例主要是客户打电话来抱怨客户支持，这些联络中心主要用于此吗？>> 哦，是的，所以客户打电话来，他们有各种各样的原因打电话，对吧？抱怨是解决问题，但我也认为很多人可能没有意识到，大约四分之一的联络中心，25% 实际上是创收的。它们包括销售商品、收款或挽留客户以及类似的对话。所以，它不是 100% 的客户支持。>> 那么，我有一个问题要问你，我以前从未问过你。如果你看看联络中心，我够老了，可以暴露我的年龄。你回到 30 年前，你听到了 AA 和上帝知道谁还在勉强维持生计，进进出出破产。你回到 15 年前，你看到了 Genesis 之类的公司。是什么让一个聪明的年轻工程师或 Ping Woo 在 15 年前被这个市场吸引，而且有人可能会说，它一直是一个停滞不前的市场。它一直不感兴趣。它一直创造这些增长缓慢的公司。是什么让你感兴趣？现在，当然，我们现在明白这是一个充满机会的充满活力的市场。但是把时钟拨回到 10 年前，是什么吸引你进入这个市场？>> 嗯，首先，15 年前，我甚至没有意识到这个市场有漫长的增长缓慢的历史。否则，也许我会考虑不同的。其次，当时我只是，你还记得有一段时间，人们对对话 AI 技术非常兴奋，尤其是在面向消费者的扬声器周围。当时人们认为那会颠覆谷歌，那将成为所有消费者互动的入口。我恰好真的相信，联络中心可能是对话 AI 转型最令人兴奋的机会，因为它拥有 VC 传统上兴奋的所有问题。它是一个巨大的市场，有很多人在那里工作，它介于企业和客户之间，对吧？所有的互动都在进行，而且没有人对联络中心感到满意。所以，如果你，你知道，我说的没有人是指有三个不同的群体：打电话进来的客户，我们大多数人可能不太高兴，因为等待时间很长，而座席，顺便说一句，我认为很多人可能没有意识到，联络中心的座席流失率非常高，平均为 35% 到 40%，在某些情况下，在新冠疫情期间，一些公司的周转率超过 100%，这意味着>> 我整天都在被吼>> 对，所以压力很大，而且这不是一份非常有趣的工作，而企业也觉得总有机会“少做多得”，似乎没有人满意，而且这是一个巨大的市场，但我认为，那就是 AI 和技术带来富足的绝佳机会，而富足就是解决所有这些问题的答案，在我看来。>> 所以，你在 10 年前在谷歌就从事这项工作。我猜那是小型语言模型浪潮和 BERT 的时代。当时技术准备好了吗？也许你能带我们了解一下影响联络中心的各种技术浪潮。>> 是的，这是一个很好的问题。甚至在此之前，还有一种叫做 IVR 的技术，你按一、二、三来选择不同的路线，然后通过不同的呼叫原因。然后，从那时起，在输入方面有了创新，你可以直接说自然语言，而不是按键，随着自然语言处理和 TTS（文本到语音生成）的进步，这种体验越来越好。当我们开始在谷歌的联络中心 AI 领域工作时，甚至在 BERT 之前，甚至在 Transformer 之前，它主要是使用 AI，当时是使用 AI 来进行分类、意图分类和实体提取，使用 Transformer 之前的模型。但对话体验仍然是手动制作的。所以，那是上一代技术。然后，当然，Transformer 出现了，但最初也是用于分类目的，体验仍然是手动制作的。但现在 LLM 完全改变了这一切，不仅是自动化方面的对话体验，而且还可以以前所未有的方式理解对话。>> 这在技术在联络中心内部的部署方面意味着什么？这意味着客户在 IVR 时非常不满意，然后在流程中加入更多 Transformer 时，他们的不满稍微减轻了，现在客户很高兴与基于 LLM 的座席交谈，或者技术的发展如何改变了客户体验？>> 是的。嗯，我认为我们思考这个问题的方式是从第一性原理开始的。你知道，有很多对话，在我们看来，根本就不应该发生。你知道，它们发生是因为客户不满意。我认为解决方案是利用 AI 来真正理解，为今天联络中心的所有互动带来 100% 的可见性，并利用 AI 进行分析，然后进行深入研究，找出根本原因。然后，这通常反映了流程中断，或者让人们抓狂的网站更新，或者导致网络瘫痪的固件更新等等。所以，你首先需要解决这个问题，对吧？首先，你知道，如果互动不是必需的，就避免互动。你知道，除此之外，我认为 AI 可以自动化许多没有人愿意进行的互动，你知道，无论是企业还是客户都不愿意进行这些互动，这些就是我们称之为低情感价值互动，应该自助服务。然后，在此之上，我认为联络中心 AI 将能够实现新的互动，你知道，那些你今天负担不起的互动。所以，所有这些都在改善客户体验。>> 你认为最终客户会更喜欢与 AI 座席而不是人工座席交谈吗？我们是否已经达到了那个点？>> 所以，你看，我的意思是，这是一个非常有趣的问题。我一直在思考这个问题，你知道，在我来这里的路上。我从来没有遇到过一个与客户支持座席打电话的人，然后说，我真的很沮丧。请给我你的 AI。我们从来没有过这种经历。事实上，我鼓励人们查找一些公司，搜索他们的客户服务。人们在谷歌上问的第一个问题，谷歌会显示最受欢迎的问题，第一个问题总是“我如何与真人交谈以获得这种类型的客户服务？”所以，我认为那个时候可能还没有完全到来，这取决于什么样的互动，再次。>> 我可能太技术乐观或 AGI 驱动了，但我感觉我看到了一些录音，其中 AI 可以是情绪化的，它有无限的耐心，对吧？它不像要达到某个解决时间指标。所以，例如，如果有人打电话进来，他们过得很糟糕，例如，你的 AI 可以比人工座席更有耐心和同情心，甚至比人工座席还能做到。所以，我，我，我有点乐观于机器人这边。嗯，我同意。有耐心的人类组成部分，或者人类的细微差别，但也有座席的培训，就像 AI 的培训一样。三年后，谁将更有能力回答问题？很明显，AI 是答案。我有点像把黄金比作比特币。不知何故，这个类比在我说它时就想到了，很明显比特币会赢。很明显，比特币的价值会比黄金高。很明显>> 非投资建议。>> 非投资建议，但很明显，座席，就其定义而言，其中许多甚至不在美国。有语言方面的考虑。你知道，我不是在说座席的坏话，但有语言方面的考虑，有培训方面的考虑，有人的考虑，我认为在所有这些方面，我认为 AI 将在未来两到三年内获胜。嗯，比特币作为数字黄金，这个类比非常有趣，可以用来比较数字座席和人工座席的问题。>> 是的。嗯，从我们的角度来看，我们真的想在今天与客户见面。所以，与自动驾驶汽车不同，你必须在 100% 的时间内自动化整个事情，否则你就没有经济效益。对于联络中心，我们发现它非常独特，工作非常可分割。所以，首先，对话是，你知道，那些是每个对话都是一个独立的单元，你可以自动化 x% 的对话，这些对话已经准备好被自动化了。出于很多原因，我们可以详细说明，然后对于剩余的对话，你仍然可以使用 AI 来协助人类，你知道，来处理初始的 10% 的互动，比如身份验证或录入或潜在客户资格，然后处理所有通话后的工作，并且还可以让 AI 座席在对话中间协助人类进行知识检索、数据输入等等。所以，这并不是相互排斥的。只要我们觉得客户还没有准备好说“我们今天只需要开启我们的呼叫中心，然后全面转向 AI”，我们就觉得有一个漫长的过程，你知道，再次取决于什么样的业务和什么样的技术，你知道，IT 基础设施，所以我认为旅程可能会花费不同的时间框架，但我们的目标是真正地与客户见面。>> 是的。所以 Cresta 处于一个有趣的位置，因为你们既有座席辅助产品，可以帮助提高现有联络中心座席的效率。然后你们有实际的 AI 座席产品，它直接面向客户，你知道，自主的座席。嗯，你认为大多数客户现在在哪里？他们准备好全力以赴了吗？只是把座席放在我的网站上，让它疯狂地运行？他们正在尝试吗？客户现在在哪里？>> 这取决于客户。如果你和我今天在 Shopify 上开了一家 ebike 商店，我们可以实现 100% 的自动化。我敢肯定，因为这真的取决于我们的产品有多复杂。你知道，像 ebike 这样简单的产品与一个涉及多个国家和数千万人的真实世界相比，可能存在数量级的差异。所以，这非常不同，然后这会影响联络中心处理的对话的复杂性。然后是 IT 基础设施。很多人可能没有意识到，在你真正进入联络中心之前，你会觉得“哦，这应该很容易自动化”，但现实是，今天联络中心里很多人类所做的事情都是为人类优化的。所以，那些系统记录或系统操作的票务系统已经存在了几十年。很多根本没有 API。所以，唯一可以进行更改的是通过图形用户界面，这是为人类优化的。没有实时 API，再次，这些都不是 AI 问题，我们相信，这些是我们与客户合作开发这些实时 API 的机会。所以，这就是为什么我们觉得这些转型取决于业务的性质，需要不同的时间框架。是的，你之前做的自动驾驶汽车类比很有趣，因为我今天早上一直在想你们的业务，如果你想到特斯拉，他们实现完全自动化的美丽之处在于，即使在 L2 模式下，他们也能从汽车中获得大量数据，对吧？对你们来说，因为你们是呼叫中心辅助，是座席辅助，你们实际上可以获得对话的完整数据，无论是语音还是数字对话，而这些数据可以成为客户训练的基地，随着时间的推移，他们可以自动化越来越多的对话。>> 是的，100%。事实上，当我第一次开始我的旅程，七八年前，它真的只是自动化。我真的相信它应该是自动化。快进到我们遇到了各种实际部署，然后我真的拓宽了自己的视野。然后我相信，为了真正做到最好的自动化，反直觉的是，你需要知道联络中心里到底发生了什么，人类到底在做什么。所以，不仅仅是对话，还有他们在屏幕上看到的东西，这对于构建最好的自动化至关重要。其中之一是性吸引力。是轰动效应。是每个人都想谈论的东西，你必须拥有它，否则你就是一个陈旧的公司。另一个是我们业务的现实以及他们需要什么。所以，如果你是这些新时代公司之一，你很快就会撞墙，因为你没有真正运行联络中心所需的数据和系统。但如果你拥有前者而没有后者，那么你就被贴上了在线公司的标签。所以，在这里，我们很早就明白了这一点，并且我们确保我们进行了投资。我们不仅在座席辅助的运营系统上加倍投入，而且还开发了性吸引力产品，因为那是很多客户想从第一天就开始谈论的。>> 是的。另一个方面也与我之前提出的观点有关。很多电话根本不应该发生。人们打电话来，没有办法让他们满意。这是因为他们一开始就不满意，对吧？如果你的产品有效，如果你的流程有效，它们根本就不应该发生。所以，如果，你看，如果这个房间我们觉得非常冷，也许答案不是加热器。也许有一个坏掉的窗户，或者有一个露台门大开着。答案是打开灯，看看根本原因，然后先解决它，然后再打开加热器。是的。>> 我喜欢这个。客户支持是人们认为大型语言模型将最具变革性的典型例子之一，而且它几乎是风险投资初创公司的共识类别。你们如何竞争？当每个人都可以访问相同的 LLM 并怀有相同的宏大愿景时，如何竞争？>> 是的。所以，再次，为了真正为联络中心转型提供价值，它不仅仅是模型。模型是一堆权重和数据，它本身不会提供价值。现在的问题是你需要在它之上构建多少才能提供价值？如果那层非常非常薄，那么我认为你没有多少机会来创造价值。然后，如果那层在模型变得更好时就会消失，你就无法拥有一个持久的业务。但联络中心的情况并非如此。嗯，大多数座席仍然在本地，而且有很多，你知道，财富 500 强公司的平均座席，我们看了一些调查，他们与八到十个不同的系统进行交互。记住，这些公司多年来收购了其他公司，这些后端系统可能甚至不相互通信。你知道，取决于你在哪里预订航班，取决于你在哪里预订酒店，他们可能需要登录不同的系统。这就是我们正在谈论的现实。所以，这就是为什么我们相信我们的策略是与客户见面，并在第一天就创造价值。>> 垂直整合，从实实在在到轰动效应。这就是你获胜的方式。你认为在当前的联络中心 AI 领域，什么被过度炒作，什么被低估了？>> 是的。对于过度炒作，我认为是稀缺性思维。是工作岗位流失。我认为短期内可能有点被过度炒作了。而低估的是富足思维。你考虑一下 AI 可以实现的新体验。你知道，例如，你可以与网站交谈吗？你可以直接与应用程序交谈吗？你可以将同步交互转换为异步交互吗？你可以与航空公司应用程序交谈，说我想让你做 XYZ，然后等你完成时给我回电话，对吧？然后，你可以拥有那个超级，你知道，多语言 AI 座席来处理这些对话，或者有如此多的互动，今天你根本无法做到，只是因为你没有足够的人员。然后，另一件事我认为确实被低估了，人们似乎真的痴迷于对话的一侧，那就是劳动力，然后人们问，你知道，有多少劳动力被 AI 取代了？但没有人问过这个问题：有多少入站电话将被 AI 取代？所以，我的信念是，在未来几年，你可能会看到一场争夺消费者聚合器上的 AI 助手的竞赛。然后，消费者可能会将许多事情委托给 AI 助手，包括打电话。所以，我认为这也许是一个值得关注的有趣的事情。>> 那太酷了。好的。所以你可以与美联航应用程序交谈，让它异步地找出一些东西并给你回电话。这是你们正在做的事情吗？>> 嗯，我们对此不予置评。>> 好的，非常酷。好的。我想过渡到谈论公司建设。Doug，你在这个领域已经很久了。看过几次电影。>> 意味着我老了。>> 这就是你刚才说的。>> 我只是想说得好听点。是的。>> 嗯，现在建立一家公司怎么样？你正在现场与 Ping 一起观察。与你过去几十年的传奇公司建设相比，在 AI 领域建立公司有什么不同？>> 嗯，没什么太大区别。我的意思是，你需要一个出色的创始人，我们稍后会谈到 Cresta 的情况，希望如此。你需要在开始时就引入世界一流的工程师。除非你从 A+ 级开始，否则你永远不会进步。你只会退步。你必须引入不是管理员而是新鲜的销售人员。也许他们早期是区域销售经理，因为一，你找不到世界一流的人才，二，如果你找到了，他们对公司来说就太大了。你必须弄清楚你愿意资助的增长曲线是什么。你必须弄清楚营销的作用是什么。你必须解决我称之为“商品化周期”的事情，这在网上引起了一些关注，即从产品营销到 BDR 再到收入。无论哪里出了问题，看起来都像一个糟糕的销售人员，一个糟糕的销售副总裁，但你必须把它做好。所以，我认为商业基本面非常相似。>> 我确实认为目前在 AI 领域做得最好的公司之一的特点是它们以极快的速度发展。也许一直都是这样，但我认为现在更加激烈。你如何看待在您合作的公司，甚至在 Sequoia 中灌输对速度的需求？>> 所以，我考虑将这个作为我答案的一部分，这就是我把它排除在外的理由。我参与的所有董事会都以极快的速度运作。这是因为我为创始人描绘了一幅河流的画面，一条有岩石的河流。创始人和联合创始人的工作是移除这些岩石。所以，当你给我明年的计划时，我不在乎那是什么 150% 的全新 AR 增长。我想知道为什么计划就是计划。我想挑战你，为什么不是它的三倍？也许答案是资金。嗯，在这个市场我们可以获得资金。也许答案是管理经验。嗯，这通常是个好答案。有些人会说市场。嗯，不可能，那是市场。我们是一家小公司。所以，在我看来，这是强迫，这是强迫理解这些公司有能力做他们自己还不相信自己有能力做的事情，并移除那些岩石。我不断地施压，我不断地施压，我说为什么我们不能更快地以线性方式完成呢？因为上帝保佑，如果有什么事情没发生呢？如果你在第一季度雇佣了 250 名销售人员，然后在第三季度意识到产品出了问题，那么你就会陷入烧钱的境地。所以我是一个信徒，我听到“不，我们必须以同样的方式培训他们”，请给我们一个线性的收入增长曲线，这样我们就可以进行上下方向的中期修正，而不是被这些数字困住。我们有十根手指，100% 的增长。我们能增长多快？这始终是我服务过的所有董事会的座右铭。AI 也没有什么不同。>> 嗯，Cresta 下一步需要做什么？在未来五年或更长时间里，Cresta 需要做什么才能成为一家伟大的公司，一家传奇的公司？>> 所以，嗯，首先，它必须继续开发产品。它必须继续一步一步地前进。它必须始终看到，当有些人达到他们角色的彼得原理时，它必须相对积极地确保它雇佣了有能力带领它从那个点向前发展的人。远离那些“经验丰富”的人，他们开始感觉有点像西装革履的行政人员。第一点，这是最重要的。但另一件事是 Cresta 必须做的是提高它的营销水平。有很多公司，我用“轰动效应”这个词。有很多公司有很多轰动效应但没有实实在在的东西。我们有很多实实在在的东西。我们是一家现代公司。我们在一个类别中是顶级的。我们将在另一个类别中成为顶级的。我们在座席辅助和产品中的 AI 部分，在产品自动化部分，都有漂亮的增长率。我只是认为我们需要附加一个营销覆盖层，这样我们就能成为市场上的家喻户晓的名字。>> 太棒了。很高兴你参加了这个播客。嗯，也许往后看，Doug，你经历过一些市场周期。我们是否处于 AI 泡沫中？>> “泡沫”这个词意味着你投入资金然后赔钱。因为要么是公司供应不足，要么是资本充裕，资本确实充裕。但我注意到过去两个周期，互联网周期，Netscape 在 95 年上市，90 年代末期建立了两个伟大的公司，谷歌和亚马逊，还有其他几个名字，然后是短暂的停顿。甚至有人说互联网是骗局，它什么也做不了。然后三年后，世界疯狂了。移动设备的延迟要少得多。我记得当我们第一次看这些应用程序时，Jim Gets 和我，一位前合伙人说，“如何从一个 19 美元的应用程序赚钱？如何建立一家价值数十亿美元的公司？”从没想过 Airbnb，从没想过 Door Dash。一两年后，我们看到了 Airbnb 和 Door Dash。同样，从最初的诞生到真正的市场萎缩，从互联网开始。我认为这进一步萎缩了。我认为 AI 就在这里。我认为你必须投资。我认为你正处于一个周期的前端，这并不意味着你必须投资于一切。但我们在 Sequoia 的一个错误是，每当我们看到一点收入势头时，我们都会有一些天才的合伙人会议说，“哦，它可以停止。它可以被替代。保持非常容易。”你看到一家在市场前端有势头的小公司。我不是在谈论 2021 年的 SAS 市场，在那里你陷入了利基垂直领域。在市场前端，你开始看到单调的收入势头。你倾向于，并且对价格不那么挑剔。>> 我喜欢这个。当你考虑价值在哪里产生时，有，你知道，有计算能力，有其他基础设施，有基础模型，有应用层。你认为价值在哪里产生？>> 向上。>> 它总是向上累积。看看随着你向上发展市场的毛利率。看看芯片公司的毛利率。看看系统公司的毛利率。看看 Well 的毛利率，但那是，而 Nvidia，我们是第一批投资者，是一家伟大的公司。Jensen 能够很早就看到未来，他完成了硅谷最伟大的 coup 之一，他所做的。这简直是壮观的。但如果我们放眼长远，我认为价值将累积到所谓的“应用层”。无论它看起来像什么，它都将累积到接近客户，接近金钱，接近业务用户。>> 我同意。嗯，你认为 AI 浪潮与互联网或移动浪潮有什么不同？>> 我认为其他一切都是提高我们生产力的工具，这意味着我们都变得更高效，我们都变得更互联。我将 AI 浪潮视为工业革命 2.0。我认为这要大得多。我记得我想，哇，五年前我们刚刚看到了最大的市值。为什么？因为它是连接性创造了这种收入增长。从未想象过会有比连接性和移动性大得多的东西。这是一个彻底重塑人类，重塑人类如何存在、工作、生活、享受的方式。我认为 AI 在未来 10 到 20 年里，对我们来说将是一件好事，甚至可能是我们的灭顶之灾。>> 是的，完全同意 Doug 所说的。我认为 AI 非常独特的一点是，有很多惊喜。有底层能力的惊喜，你在互联网或移动时代从未见过。如果你以 2015 年的世界观，然后乘坐时间机器回到 2007 年史蒂夫·乔布斯首次推出 iPhone 时，我认为有人可以理解。然后是互联网。我认为人们可以预见即将发生的事情。但对于 AI，我觉得有很多惊喜，随着底层模型越来越好，有一些事情甚至连 Transformer 论文的作者都没有想到，在大型语言模型之后出现的这些能力，并且继续让我们感到惊讶。所以我确实认为，你知道，很多改进是非线性的。它真的是从零到一，在底层持续发生。所以我认为这让它更加令人兴奋。你知道，我要提醒你一件事。在 2022 年 3 月，现在听起来像永恒，那是我最后一次年度会议，我们与所有投资者会面。那是一个告别的场合，你知道，我展示了业绩和一切。我有一张幻灯片，谈论了从芯片浪潮到系统浪潮到 LAN/WAN 浪潮到互联网到移动的所有浪潮，而三年前半的下一个方框是一个问号。我们作为合伙人不知道，我们已经很先进了。我们是种子轮的尖端投资者。我们没有看到浪潮的到来，而这场浪潮已经是一场海啸，而且我认为没有尽头。>> 谢谢。感谢您分享这些见解。您想谈谈 Cresta 的技术堆栈，还是我们应该就此询问 Ping？>> 我想。嗯，事实上，我几分钟后就得走了，因为我正在进行一些重新编码的工作。>> 你在现场编码吗？>> 是的。是的。是的。我正在现场编码一切。>> 嗯，Ping，谈谈技术堆栈。>> 是的。所以我们有一个相当广泛的产品表面。我或许可以谈谈语音 AI 座席。我们端到端流式传输双向音频，我们编排多个不同的模型，有语音到文本模型，然后是降噪模型来改善音频。有检测术语和语音活动的模型，用于处理中断。然后当然是基础模型，用于处理对话，你知道，另一边是 TTS（文本到语音生成）模型，对吧？然后，我们还并行运行多个小型模型来进行护栏检查，以确保没有任何东西失控，以及这些模型进行公司特定的检查，例如从不提供税务建议或从不提供财务承诺之类的内容，对吧？然后那是运行时语音 AI 座席，也有设计时。有组件，例如运行大规模模拟，以真正压力测试 AI 座席，以涵盖所有边缘情况。有测试用例管理组件。同样，如果你考虑我们的语音 AI 助手，它也是流式音频，但再次，基础设施之间有很多相似之处，但它不是双向的，它是单向的。它在听电话，然后理解两个人类在电话里到底在做什么，对吧？然后编排十多个模型。你知道，事实上，我们和 Vertex 的 AutoML 类似，我们有一个平台，可以让客户构建自定义模型来检测对话中有趣的事件。所以，然后将其与工作流相结合，人们用它来检测欺诈，甚至用于检测呼叫中心欺诈，来培训座席如何处理异议。有如此多的用例，现在有了我们称之为 Opera 的工具，它们可以表达并触发工作流。而在底层是师生蒸馏，蒸馏成我们可以实时运行的非常小的模型，以理解人类对话。与您的座席交谈时延迟是多少？>> 嗯，大约低于 800 毫秒。>> 哇。所以感觉就像在和人说话。>> 是的。>> 嗯。是的。>> 所以，你们是近乎实时地运行所有这些模型吗？>> 是的。>> 你运行的是开源模型，还是你们运行的是 11 Labs 和同类产品？>> 所以，整个平台有 20 个不同的模型。有些是开源的，经过微调。是小型模型，例如我们只做聊天或电子邮件，为人工座席，我们自动完成他们的句子和预输入，这些都是非常非常小的模型。对于 TTS，我们是的，我们使用 11 Labs，他们是很好的合作伙伴，我们也使用其他供应商，并且我们不断比较性能。>> 真的太酷了。那么对话的实际核心，对话或对话流程，你们如何控制它，使其不像昨天的 IVR 系统那样僵化，但又不像客户可以疯狂地获得航空公司机票退款，你知道，让机器人说疯狂的事情并让客户尴尬那样自由？你们如何控制流程并获得两全其美？>> 是的。所以，这就像你如何训练人类一样。你给他们关于目标是什么的规范，这些是工具，然后拥有，这就是大型语言模型的优点，可以处理那些混乱的工作流程。所以，有很多关于工作流是什么，代理是什么的讨论。工作流是你可以用代码写下来的任何东西。它是循序渐进的，那就是工作流。洗车也是工作流。如果你想到波霸奶茶，你知道，那些是物理工作流，但它们不能为人类对话做其他事情。它非常混乱，它是非线性的，对吧？所以，这就是代理工作流的由来。这就是 LLM 真正擅长的地方。然后，在这些之上，你需要确定性，对吧？这就是我们引入测试、模拟和护栏的方式，以确保无论系统中的任何部分发生变化，行为仍然是可预期的。>> 你们会调整客户的模型吗？因为你们也有这个座席辅助产品，所以你们处于所有这些客户对话的流程中。你们会根据训练数据调整座席，还是完全是全新的部署工程师在现场绘制对话图？>> 是的。所以，我们有一个工具，可以从实际的人类对话中提取对话蓝图。所以，你知道，我认为它的美妙之处在于发现很多未知的未知。有很多话题，有很多人们打电话的原因，你可能甚至不知道，但实际上可能包含大量的通话量。然后，一旦你有了它，你就可以深入研究，你可以使用 LLM 来进行所有这些分析，并提取人们表达相同意图的 577 种不同方式，以及通话流程的不同方式，对吧？然后我们可以总结并提取它。所以，所有这些都在构建产品，然后，事实上，工具变得更好，部署工程师将变得更有效率。然后还有其他方式，我们使用对话的人类方面，例如，我们提取访客的模型。这就是你如何构建模拟，而模拟是改进 AI 座席的重要组成部分。我们相信，通过访问真实客户人类如何进入并以不同方式描述问题，有时非常混乱，你可以提取一个模型，然后更好地模拟你的 AI 座席。>> 然后你们使用什么方法来使 LLM 真正适合客户环境，比如 RAG，提示工程，微调，还是所有这些以及强化学习？你对哪些技术最乐观？>> 是的。所以，我们使用几乎所有东西。所以，当然是提示，然后是 RAG，对于那些更简单的座席。但我们仍在探索，你知道，通过观察人类行为和结果，你如何使用 RL 来改进端到端的性能。但你知道，对于 AI 座席本身，我认为基础模型本身已经相当不错了，你只需要从中获得最好的结果，至少对于数字渠道，对于聊天。但对于其他用例，有很多机会可以微调模型，并使它们，你知道，用于摘要任务，用于自动完成句子任务等等。我认为有很多可以从微调的开源模型中提取的空间。>> 是的。构建成功的炫酷演示与生产就绪的 AI 系统需要什么？>> 是的。这是一个非常有趣的问题，因为我认为 AI 的一个独特之处在于演示和生产之间存在巨大的差距。在光谱的一端，你有火箭发射，火箭发射的演示就是生产，生产就是演示，你不能作弊，对吧？但对于 AI，它有点不同。你知道，我可以给你举个例子，自动摘要，自动摘要感觉像是一种商品能力，你知道，任何人都可以用来创建自动摘要。但要在今天的一些呼叫中心部署，这些呼叫中心有 20,000 人，遍布多个大陆的呼叫中心，挑战巨大。你知道，首先，你如何获得实时音频？在演示中，你可以很容易地在云端使用 Tw 进行演示，但请记住，50% 的对话发生在本地。然后，有时，你知道，如何访问它也会花费你很多钱。然后，你如何绕过它？然后，在真正的呼叫中，20,000 名座席的呼叫有转移，有很多转移。然后有第三方呼叫者进来，比如医疗专家，所有这些都需要被转录和总结。有时对话会很长，你如何处理像三个小时、四个小时的通话，这些通话超出了联系窗口？然后，你知道，背景噪音怎么样？然后，你知道，对于不同的呼叫原因，可能有不同的模板，你真的真的想提取这些类型的信息，你不能错过。你如何确保你几乎 100% 的时间都这样做？顺便说一句，你如何处理 PII？你不能有个人身份信息，你知道，在休息时。然后，顺便说一句，你如何处理数据驻留，如果你正在与跨大陆的跨国银行或医疗保健提供商交谈？所有这些都成为额外的要求，使得一些看起来非常商品化的东西，比如自动摘要，在实际的联络中心变得非常非常困难。>> 这就是为什么你需要一位有产品思维的首席执行官来领导这些公司之一。>> 绝对。这也是为什么所有的痛苦和所有的价值都在“最后一英里”。这就是为什么价值在应用层。>> 没错。>> 是的，我倾向于同意。>> 是的。谈谈未来。如果一切顺利会发生什么？这对 Cresta 意味着什么？对世界意味着什么？嗯，我认为 AI 就像任何之前的技术一样，比如电力，它会消失。它会消失到工作流程中。我认为，你知道，20 到 30 年后，没有人会意识到他们可能实际上在与 AI 交谈，或者是一个由 AI 协助的人。有一件事我真的很兴奋，那就是今天，如果你考虑商业，他们觉得它对客户有多重人格。所以在销售阶段或营销阶段，他们真的真的想和你谈谈。他们非常非常积极地争取你。一旦你注册并成为客户，你就面对着完全不同的人格。你面对的是服务部门，他们倾向于使用“防御性转移”等术语，只是为了处理，你知道，指代几天前他们正在追求的确切的人。然后，即使你与客户支持热线进行了长时间的对话并分享了很多反馈，两周后，另一个部门会进来问“你的反馈是什么？你为什么不填写这份调查？”你知道，对我们的业务来说，感觉这些都真的脱节了。我确实觉得 AI 座席可以使整个体验成为客户旅程中持续的、持续的对话，而 LLM 是做到这一点的完美工具，这将真正带来以前不可能实现的个性化水平和客户体验水平。>> 是的。你刚才提到的关于稀缺性与富足性思维的观点真的让我印象深刻。你知道，客户与客户的沟通可以发展到什么程度？应用程序体验可以发展到什么程度？如果你将富足思维带入这个领域。>> 谢谢 Ping。感谢 Doug 今天参加我们的节目。我喜欢这次谈话。>> 谢谢。感谢您的邀请。[音乐][音乐]