Transcription
[音乐播放]
JEETU PATEL：大家好，我是 Jeetu Patel。我是思科的总裁兼首席产品官，我身边还有一些我的同事，我马上会介绍他们。今天我们正在做一件非常独特且令人兴奋的事情。所以我们希望确保，与其过度包装，不如让真正做这件事的人来向大家分享我们即将推出的产品，因为它确实是一件非常非常独特的事情。我们对此感到非常兴奋。我们已经为此工作了一段时间。在我深入细节之前，请允许我先从当前人工智能领域正在发生的事情开始，因为我们正明确地从这个由聊天机器人为我们智能回答问题的世界，转向一个将更加“代理化”的世界，在这个世界里，代理可以几乎完全自主地执行任务和工作。随着这一切的发生，一系列假设都将改变。但最令人兴奋的，我认为坦率地说在人工智能领域被低估的是，我们现在能够解决的问题，是过去我们无法解决的问题。很多时候人们会想，效率如何？我能更快地完成工作吗？这并非关于更快地完成工作。我们将能够设想解决过去我们无法解决的问题，因为将会产生如此令人兴奋的原创见解，它们将彻底改变许多领域的变化方式。而我们今天将要特别讨论的领域是，你如何看待管理基础设施，无论是网络、安全、可观测性，还是与 Splunk 相关的数据，你拥有的所有基础设施？我们如何以一种完全不连续的方式来管理它？
所以，我有四位尊敬的嘉宾与我同在——Jason Nako，我认识他大约四年了，我想是吧？
JASON NAKO：是的。
JEETU PATEL：但这是我们第一次真正见到彼此，因为我们之前只在 Webex 上见过。Jason 是我们的设计师。他在安全团队，并且深度参与了我们今天将要谈论的这款名为 AI Canvas 的产品。所以，我将带你了解——Jason 将带你了解这款产品是什么。我们还有 Lizzie，她是产品经理。顺便说一句，我们对产品团队构成方式的思考是，在人工智能领域，产品团队的构成正在发生根本性变化，你有一个设计师；一个产品经理；Sangeeta，工程师；以及 Yuqing，人工智能研究员，这是我们在这个构成中一个新角色。过去它是一个三条腿的凳子。现在它是一个四条腿的凳子。所以，Jason，我将从你开始。什么是 AI Canvas？我们要推出什么？它为什么重要？给我讲讲。你为什么如此兴奋？
JASON NAKO：好的。我对 AI Canvas 感到非常兴奋。AI Canvas 是一个沉浸式、动态的指挥中心。它是一个共享的协作工作空间。作为设计师，我们已经有了像 Figma 和 Miro 这样的协作工具。对于 IT 管理员来说，它就像那样，但甚至更好。它由人工智能助手提供支持。所以，我们今天正在解决的问题是修复问题并处理所有这些工单。这很痛苦，因为有多个产品，多个标签页打开。这些工具不互相通信。所以，花费了太多时间试图将不同的拼图碎片组合在一起。而我们在这里提出的，是我们客户与产品互动的一种全新的方式。我认为这里的代理式人工智能将是个性化的、主动的，并且是预测性的。
JEETU PATEL：但这是通过自然语言和生成式 UI 来管理你的基础设施的一种方式，它实际上是动态生成 UI 组件的。
JASON NAKO：正确。
JEETU PATEL：所以，这不像你从头开始构建这个屏幕，就像这个屏幕是由 AI 模型生成的。
JASON NAKO：是的，是的。所以 AI Canvas 将能够从网络、安全、云应用程序中提取所有信息数据，并将所有这些信息放入一个共享的焦点区域。
JEETU PATEL：这是一个共享仪表板。那个仪表板——所以，例如，它是共享的原因是，如果我有两个或三个不同的角色需要查看它，我现在可以与之协作。
JASON NAKO：是的，是的。你可以邀请他们加入面板。然后大家在同一时间查看相同的信息，问题实时得到解决。
JEETU PATEL：那么 Lizzie，它与市场上现有的任何东西有什么不同？
LIZZIE PARKER：嗯，它的不同之处在于，首先，它是跨思科的。它是一个可视化工具，具有非常清晰的数据可视化，因此你可以解决问题。然后它还有代理来保持一切新鲜。所以你可以回去，确保有一个单一的真相来源。但它保持最新。当你查看——当我们坐在那里研究并听取客户意见时，它也提供了这些。比如，从一个工单传递到另一个工单，从第二层到第一层，真的很难，而且你如何拥有一个单一的真相来源，包含所有相同的数据来更快地解决问题？所以我们引入了一些协作组件，这使得它非常不同。然后最后，也许最重要的是，我认为可能是最酷的，是思科的深度网络模型，它比基础模型更好，因为它基于思科的数据。而那——
JEETU PATEL：专门定制的模型，用于外出解决这些问题。
LIZZIE PARKER：是的。对。带来——
JEETU PATEL：而且这确实是代理式的，这是一个代理在你代表你执行任务。
LIZZIE PARKER：它可以是。它可以是一个动态的运行手册。而且我认为未来我们将与客户一起学习，并将所有这些整合进来。所以——
JEETU PATEL：你稍后会给我们展示一个演示。
LIZZIE PARKER：我会给你看一个演示。我很期待。
JEETU PATEL：我很期待。那么 Sangeeta，你是这个项目的工程主管。你在思科工作了多久了？
SANGEETA RAMAKRISHNAN：25 年。
JEETU PATEL：25 年。这可能是你做过的最酷的项目之一吗？
SANGEETA RAMAKRISHNAN：绝对是。毫无疑问，最酷的项目。
JEETU PATEL：如果不是，你会告诉我吗？
SANGEETA RAMAKRISHNAN：绝对会。
JEETU PATEL：好的。那么这个东西的工作方式有什么不同？
SANGEETA RAMAKRISHNAN：首先，它是一个代理系统。我们使用专门的模型来满足我们试图解决的复杂工作流程的需求。所以这涉及到各种专门的模型，用于不同的用例。例如，我们有一个用于路由器的 SFT 模型，监督微调模型，以便将查询路由到正确的代理。现在，路由器会发现哪个代理拥有什么技能，通过技能注册表。这样，路由器就可以将查询发送到正确的代理来完成工作。在此之上，代理可能实际上会使用 MCP 来访问它需要的数据。
JEETU PATEL：模型上下文协议。
SANGEETA RAMAKRISHNAN：抱歉。模型上下文协议。
JEETU PATEL：不，没关系。我只是想确保每个人都能理解你讲的内容，这是一个由 Anthropic 创建的用于访问不同应用程序数据的协议，现在已经开源了。我们实际上已经采用了它。
SANGEETA RAMAKRISHNAN：是的，没错。现在说到故障排除方面，我们实际上利用了人类注释的推理轨迹来构建我们的故障排除能力。我们从思科的主题专家那里收集了这些。我们从思科 TAC 收集了这些，很快我们也将从客户那里收集。所以这有助于我们的模型学习如何进行故障排除，因为我们有人类注释的轨迹，这将帮助模型学习。除了帮助模型学习，我们还使用这些来引导系统，以便系统可以轻松地排除一些常见用例的故障。所以，这就是我们开始的地方。现在，模型会根据链式思维推理生成一个计划来收集数据。所以现在我们可以收集它进行故障排除所需的数据。所以，既然我们有了这些数据，让我们以一种管理员能够理解和使用的方式将其呈现给管理员。所以这不再是静态图表或仪表板。这是实时、动态、上下文相关的 UI，是生成的。所以它特定于那个特定的用例，管理员当时正在尝试解决的那个特定问题。所以 Canvas，AI Canvas 是关于让管理员更有效、更高效。
JEETU PATEL：这似乎可以跨领域进行。所以，如果我正在为某人在应用程序上遇到的体验进行故障排除，这可能与防火墙设置有关，这可能也与我的网络上发生的事情有关，我是否能够跨越这三个领域的数据集进行关联，弄清楚发生了什么，创建一个仪表板，也许创建多个不同的仪表板视图。提取该仪表板的一个子集并与 CISO 分享，因为你可能想与其他人分享，这是一个不同的角色。而这一切都发生在完全生成模式下。
SANGEETA RAMAKRISHNAN：绝对。而这正是它如此令人兴奋的原因。为了进一步发展，我们相信随着时间的推移，系统会变得更好，因为我们已经实现了一个强化学习管道，以便从 AI Canvas 的使用中学习。所以随着时间的推移，它实际上会变得更好。而且我们之前提到的深度网络模型，即使与今天相比，随着所有数据进入系统，它也会变得更好。
JEETU PATEL：那么，Yuqing，似乎每个人都在谈论研究团队在这个深度网络模型上所做的出色工作。什么是深度网络模型？
YUQING GAO：是的，绝对。让我们谈谈真正具有变革性的东西，在网络领域。我们的新深度网络模型，它是什么？我认为你可以把它想象成一个专家，就像医生一样，一个人工智能模型，专门为网络领域的复杂性而训练和构建。就是这样。当然，我们从领先的开源模型开始，甚至是闭源模型，测试了各种用例。我们很快发现它们非常适合通用目的，但它们太通用了，不足以应对我们复杂且要求苛刻的网络问题世界。
JEETU PATEL：我试图告诉人们的是，你不应该用写诗的模型来解决网络安全问题。
YUQING GAO：没错。即使——
JEETU PATEL：那里有一些细微差别。
YUQING GAO：没错。即使模型擅长解决数学问题，它在这里也不需要。所以我们认识到这个关键的差距，并理解了紧迫性，我们需要我们自己的语言模型，它经过网络专业训练，并且从头开始设计，用于实际的、现实世界的问题解决。
JEETU PATEL：我们为什么要构建一个定制模型？
YUQING GAO：这不仅仅是渐进式的改进。这实际上是一场绝对必要的革命。是的。很棒的是，我们拥有超过 40 年的深度网络专业知识和大量的专有知识，我们可以利用。所以我们最近的人工智能研究小组采用了开源模型，并开始了我们密集的创新之旅。总的来说，人们称之为后训练，但我们已经远远超出了标准的后训练。我们将海量的网络特定知识注入到这个模型中，我们谈论了超过 3000 门思科大学课程和令人难以置信的 30000 个问答，以及无数的网络架构样本。
JEETU PATEL：但是数据集仍然相对较小，以至于不需要大量的 GPU 计算能力，因为这个模型有多大——你使用的开源模型有多少十亿个参数？一个 80 亿参数的模型？
YUQING GAO：是的，我们选择了一个中小型模型。
JEETU PATEL：中小型模型。
YUQING GAO：是的，我们没有——
JEETU PATEL：——需要一定程度的定制数据。
YUQING GAO：是的。
JEETU PATEL：所以它可以在一个相当小的农场上运行——
YUQING GAO：哦，绝对。是的。所以一开始，我们就知道我们需要将其设计成经济高效的。这就是为什么我们的模型，从中小型模型——例如，从 80 亿参数到 300 亿参数。我们不达到 1000 亿参数。这就是给我们带来灵活性。所以这个模型可以运行在边缘设备上，本地计算机上，甚至可以运行在更像气隙环境中的地方，例如工业物联网。这就是我们设计它的方式。所以我们学习了数千门思科大学课程和数万个问答，以及许多特殊的网络架构。然后我们开始实际训练模型来理解这个现实世界的问题，并从实际用户的问题中学习，比如 IT 工单、复杂的网络拓扑、配置，甚至日志文件。这真的是教科书遇到了现实。更进一步，我们通过增强学习来推动界限，通过先进的强化学习来增强学习。非常复杂的链式思维推理，意味着它们实际上会从错误中学习，就像人类专家一样。我们开创了一种名为测试时缩放的创新方法，用于智能快速推理。我们还利用了我们的人类 SME。他们添加了 3000 个推理轨迹，并对我们的数据和语言模型输出进行了严格的注释和验证。就在最近，我们又添加了 6000 块这样的数据。这确实是我们追求精确、准确并解决实际问题的原则的证明。这就是我们设计它的方式。
JEETU PATEL：它带来了什么价值？
YUQING GAO：例如，此刻，我们已经在为 Canvas 提供支持。我们正在运行运行手册执行，并处理故障排除的起点。该模型实际上可以真正理解和综合整个混合网络中的网络特定细微差别。正如一位同事提到的，你的网络不仅仅是一种产品。可能是安全方面的事情。所以这能够综合不同的数据。
JEETU PATEL：所以，看来你们在为这套问题构建定制模型方面做得非常好。让我印象深刻的是，Lizzie，当我第一次看到这个演示时，这是一个你们团队构建的美丽的动态应用程序，它是由它自己生成的。那么，为什么你不向大家展示我们在这里构建的东西呢？
LIZZIE PARKER：我很乐意。谢谢你。我们付出了很多努力。我们希望它易于使用和理解。我们开始思考的是，问题是什么？为什么它很难？我们听到的是，IT 团队面临着日益增长的复杂性，花费大量时间进行故障排除。所以我们决定首先解决故障排除问题。我将向你展示一些真实的代码。但请记住，这只是一个开始，因为我们听取了客户的意见。这是一个我们想努力让它更容易的痛点。然后就是数据集成缺乏。所以你在这里看到的是我们面板。这是 AI Canvas 的开始。它旨在简化运营。这些是不同事物的单一真相来源。但让我们从这个 ServiceNow 工单开始。现在，我将点击它。随着时间的推移，我们希望它能够自动加载和自动填充。但正如我所说——
JEETU PATEL：顺便说一句，你没有展示 Figma 文件。这是一个现场演示。
LIZZIE PARKER：这是一个现场演示，刚刚完成——
JEETU PATEL：它很可能出错，我们将继续——
LIZZIE PARKER：我们将继续进行。我们将继续进行。但首先，我将询问 ServiceNow 的详细信息。最终，我们将自动化这一点。但我们在这里看到的是，我们有一个零售商，他们的金融应用程序出现了中断。24 位用户受到影响。它标记了一个 ThousandEyes 警报。所以网络性能不佳。所以在一个现在的世界里，你会去看不同的仪表板。你在四处查看。所以这是我要做的。
SANGEETA RAMAKRISHNAN：所以，在正常情况下，就像 Lizzie 所说的，人们会四处奔波于各种仪表板来查找这些数据。相反，在这里，她只是说对这个工单进行故障排除，我们将看到各种信息被非常快速地收集起来供管理员使用。
LIZZIE PARKER：所以你在这里看到的是，AI Canvas 正在使用深度网络模型来填充数据，以帮助开始对这个工单进行故障排除。我们在这里看到，来自 Meraki 的一些数据表明我们有丢包。而且我们还看到它在这里继续。这是丢包率。ThousandEyes 正在提供一个补充图表。我们在这里看到，这是丢包的来源。
JEETU PATEL：所以实际上，这些不同的卡片来自不同的数据源。
LIZZIE PARKER：正确。而且透明度很高，你可以看到它们来自哪个卡片。我们还可以获取数据源。所以我们希望确保它是完全透明的，这样用户就可以信任他们看到的内容。
JEETU PATEL：但这是我们的客户一直抱怨的一件事，他们说，嘿，我必须去 15 个不同的地方。而你以一种与行业中其他人完全不连续的方式统一了管理。
LIZZIE PARKER：是的。是的。而且在这里，它还建议了修复措施。它提供了一些选项。现在，既然这是一个网络——
JEETU PATEL：它不仅仅是诊断。它实际上是给你提供问题的解决方案。
LIZZIE PARKER：正确。正如 Sangeeta 所指出的，如果这是现实生活中的第一层工程师，他们可能没有权限这样做。所以我可以分享。这就是我们谈论的协作。我可以邀请 Ben，他是一名第二层工程师，生成一个摘要，然后他将收到相同的面板和这个摘要，这样他就可以开始进行故障排除并了解情况了。
JEETU PATEL：顺便说一句，Lizzie，你知道一种简单的方法来操纵我吗？给我看一个暗模式的演示。
JASON NAKO：暗模式。
JEETU PATEL：给我看一个暗模式的演示。
LIZZIE PARKER：嗯，我们可能已经计划好了。 [笑声] 它也非常吸引人。我们学到了。所以如果 Ben 来到这个面板，他会有一个空白的人工智能助手。但他会拥有所有这些数据。他可能会说，我不确定我是否真的想只解决服务质量问题。所以让我们来看看，如果我能查看应用程序请求和丢包，看看在做出更改之前是否存在相关性。所以我可以用自然语言输入。接下来会发生的是，我们将查看一些 Splunk 数据和一些应用程序日志，看看是否存在相关性。
SANGEETA RAMAKRISHNAN：所以这里有一个机会，管理员可以，比如说，在他们实际采取任何更改步骤之前，进行双重检查，添加他们想要的额外信息以进行确认。
JEETU PATEL：而且那里的延迟，你们会努力让它更快，但你们也会确保用户体验得到改善。所以它不会感觉像是卡住了。但你们会确保它随着时间的推移得到改进。
LIZZIE PARKER：是的，我们也想展示它在做什么。
JEETU PATEL：它在做什么。
LIZZIE PARKER：所以我们想说，这是我们在做什么，因为它正在处理大量数据。而且我们对延迟有很高的要求，因为我们希望它能做到—— [打响指] 就像这样。
JEETU PATEL：但你可能——在某些情况下，需要进行一些长期的思考。当这种情况发生时，你只需要向人们展示推理的思维链是什么。
SANGEETA RAMAKRISHNAN：最新消息，我们没有在演示中展示这个，但它已经在开发环境中工作了。
JEETU PATEL：什么？为什么不发布它？ [笑声]
YUQING GAO：我们每天都在创新。
SANGEETA RAMAKRISHNAN：是的，每天。
JEETU PATEL：太棒了。
LIZZIE PARKER：而且我们在这里看到的是，我们的可用性正在下降，丢包率正在上升。所以这确实表明存在问题。所以我想做的是实际解决这个问题。所以我将实施服务质量策略。所以它会进去，然后应用策略更新。你还将看到的另一件事是，我们将看到它是如何应用的。但它也使用户能够撤销更改，如果他们愿意——
JEETU PATEL：只是将那个卡片拖放了。
LIZZIE PARKER：是的。所以我可以看到，这是我所做的策略更新。这回到了你关于 CISO 的观点，那就是你想知道我们是如何修复它的。你想知道我们具体做了什么。所以在这里，然后我还可以监控并随着时间的推移查看事物。我们想看看随着时间的推移会发生什么，以确定这个问题是否已解决。而且我喜欢这个的一点是，它使我们能够引入一些监控卡片，但也可以有一个静态卡片。所以我们可以看到问题发生时发生了什么。但我们也可以随着时间的推移查看监控，我们从客户那里了解到这也很重要。
JEETU PATEL：这很酷。这就是演示，对吧？
LIZZIE PARKER：我还没结束。
JEETU PATEL：你还没结束。
LIZZIE PARKER：但等等。 [笑声] 还有更多。 [笑声] 所以在这里，当你看到这个时，你可以看到丢包率下降了，可用性上升了。所以这是好事。所以如果你说，Lizzie，芝加哥那家店发生了什么，我可以生成一份报告，它会给我一份关于发生了什么的详细信息，不仅让你知道，而且也许我们想在其他地方应用这个策略，这样它就不会再次发生。
JEETU PATEL：这太神奇了。
LIZZIE PARKER：所以你有——而且它都已格式化，准备发送。
JEETU PATEL：甚至可以下载为 PDF。看看。
LIZZIE PARKER：你可以。还有你的解决方案和建议。所以这就是演示。
JEETU PATEL：然后你可以分享这个。
LIZZIE PARKER：是的，我可以分享。我可以分享面板。我可以分享——
JEETU PATEL：我可以将每个卡片分享给某人，并将整个面板分享给某人吗？
LIZZIE PARKER：目前是整个面板。但我们已经讨论过，如何根据权限查看共享不同的部分。
JEETU PATEL：功能请求已提交。
LIZZIE PARKER：好的，它在待办事项列表中。每个 PM 不都是这么说的吗？所以这就是演示。
JEETU PATEL：那么 Lizzie，它什么时候可用？
LIZZIE PARKER：我们将在 8 月份为客户提供早期访问，这样我们就可以开始共同设计，因为这将是这个过程中非常重要的一部分。
JEETU PATEL：然后只是获得一些反馈。
LIZZIE PARKER：是的，并快速迭代。这是我们的希望，因为这将提高我们的速度，以便第一次就做对并将其推向市场。
JEETU PATEL：是的，是的。Sangeeta，你和我刚才在后台谈论过这个。但为什么现在是做这件事的正确时机？为什么现在做这件事如此重要？
SANGEETA RAMAKRISHNAN：是的，绝对。这是一个非常有趣的时刻，我们今天所处的时刻。你甚至更早地问我，你对这个项目最兴奋吗？绝对。原因如下。首先是我们今天能够构建定制模型的能力。当然，我们的秘密武器是我们拥有 40 年的专有数据集。但人工智能技术已经足够先进，Yuqing 和团队能够构建定制模型来解决我们的问题。现在，这些模型需要数据才能发挥作用。这就是 MCP 的用武之地，模型上下文协议。模型上下文协议确实改变了我们访问数据的方式。过去，从不同系统获取数据需要更长的时间，需要定制的变通方法，等等。MCP 的作用就像 USB-C。USB-C 允许你将设备连接到配件。MCP 类似地允许 AI 代理访问来自各种来源的工具和数据。所以这是游戏规则的改变者，而这最近才发生。所以这是第二件事。最后，我们如何以用户可用的方式呈现这些收集到的数据？这就是生成式 UI 的用武之地。通过生成式 UI，我们能够生成动态、实时、上下文相关的微件和图表，这些微件和图表特定于该特定的故障排除事件。所以通过生成式 UI，我们能够满足客户的需求。所以这是这三件事的结合，而它们以前并不存在。
JEETU PATEL：但是关于生成式 UI，它实际上引出了一个有趣的问题，那就是你必须使用的哲学设计原则来将其融入其中。你是怎么想的？
JASON NAKO：是的，早期，我们确立了一些设计原则。但我们立即关注的第一个原则是“没有空白画布”。我们正在努力实现这一点。我们会做到的。但我们的想法是，我们希望在用户所在的地方与他们会面。如果我们从 ServiceNow 工单将用户直接发送到 AI Canvas，我们就有我们需要的信息数据来预先填充它。我们可以提供这些信息。
JEETU PATEL：空状态实际上对用户来说是一个非常可怕的地方。
JASON NAKO：100%。100%。我们希望让这件事尽可能简单。而且当时候到了，正如你之前提到的 Sangeeta，让用户保持在循环中。这至关重要。是的。
JEETU PATEL：太棒了。嘿，我能告诉你们大家，你们都应该为你们所做的事情感到非常自豪。我唯一的请求是，加快速度。[笑声] 八月，拿出点东西。但我们需要让客户拿到它。让我们尽可能快地行动。让我们确保我们不断地对其进行迭代。保持一点点不满足。我认为这是思科的一个非常特殊的时刻，因为我们在这里所做的事情。所以祝贺你们所有人。
SANGEETA RAMAKRISHNAN：谢谢。
LIZZIE PARKER：谢谢。
JEETU PATEL：好的。
SANGEETA RAMAKRISHNAN：谢谢，Jeetu。
[音频标志]