Transcription
Anand Oswal：这不仅仅是一个应用程序插入模型。这是一个全新的 AI 应用堆栈基础设施。您如何整体地保护它？Michael Krigsman：欢迎来到 CXOTalk。我是 Michael Krigsman，我们正在与 Palo Alto Networks 网络安全业务负责人 Anand Oswal 一起探讨 AI 和网络安全。Anand，作为世界顶级的安全专家之一，您如何看待这一新一轮的 AI？Anand Oswal：我认为它包含三个广泛的用例。一是我们如何利用 AI 来保护客户的环境。二是，随着公司采用 AI，随着员工使用 AI 应用，以及随着公司构建自己的应用，您如何通过设计来保护 AI？三是，您如何确保利用 AI 来简化您的运营或网络安全？Michael Krigsman：Anand，您用了一个非常有趣的短语，“为企业设计安全 AI”。请详细谈谈。Anand Oswal：如今，超过 57% 的员工正在使用 AI 应用（无论 IT 是否知情）。我们有时称之为影子 AI 问题。员工正在使用 AI 应用来提高生产力，更好地完成工作，提高效率。这是正在发生的。这是第一点。第二，几乎所有组织都在考虑构建 AI 驱动的应用，以简化其运营，为最终客户提供新的体验。现在，我所说的“设计安全 AI”的这两个用例都肯定会增加公司的收入；将帮助他们提高盈利能力。但如果我们不从一开始就确保其安全，不确保其设计安全，我们将遇到问题。这就是我所说的，既要确保员工在使用 AI 应用时的安全，也要确保组织在构建这些 AI 驱动的应用时的安全。Michael Krigsman：Anand，随着 AI 的爆炸式增长，这项技术在安全方面带来了哪些挑战和复杂性？Anand Oswal：您有记笔记应用的例子。它们会在您开会时记笔记。它们会为您总结会议纪要。但想象一下，您在会议中讨论了一个敏感话题。如果这个被泄露了，或者这是一个未经 IT 批准的应用，他们就无法采取任何措施来减轻风险。我们遇到的问题是，随着员工使用 AI 应用，组织需要完全了解谁在使用什么应用。他们应该允许该应用吗？他们应该拒绝该应用吗？还是应该限制该应用的使用？如果您允许某个应用，您是否有适当的控制措施来保护您的敏感数据，您的核心资产？许多这些 AI 驱动的应用——或者我会说所有这些——都会返回响应。您如何确保从应用返回的响应不包含任何恶意软件？我们已经看到了一些例子，例如，营销专业人士使用 AI 驱动的应用来撰写博客。博客可能包含许多超链接。如果其中一个超链接是网络钓鱼或恶意软件攻击怎么办？您需要确保您对哪些应用被使用和不被使用拥有适当的可见性、控制权，强制执行并启用适当级别的数据保护能力，并在响应到来时防范这些威胁和恶意软件。这就是为员工访问 AI 应用提供全面安全保护。Michael Krigsman：从根本上说，AI 在各处泛滥。然而，这种泛滥是以一种非常不受控制的方式（从安全角度来看）发生的。Anand Oswal：这就是为什么您需要拥有所有可见性、数据方面的控制以及威胁防护。只有了解发生了什么，您才能保护某物。一旦您获得了这些，组织就可以决定允许什么、拒绝什么、限制什么、应用什么数据保护策略、启用什么威胁防护能力。这使他们能够全面了解员工安全访问 AI 应用的情况。大多数组织希望员工能够访问这些应用，因为这可以提高他们的效率。他们生产力更高。他们可以更快地完成工作。但不能以牺牲安全为代价。每个组织都在构建新的 AI 驱动的应用，因为他们希望改变其业务运营。他们希望为最终客户提供新的体验。构建 AI 驱动的应用不仅仅是插入一个模型。它远不止于此。您正在构建一个完整的 AI 生态系统，而这正是您需要保护的。Michael Krigsman：从开发角度来看，这些模型是如何构建的？同样，这对网络安全有什么影响？Anand Oswal：如果您考虑应用程序的演进，第一波是围绕三层应用程序模型。您有一个前端，一个数据库层，以及后端。然后是云计算，它使组织能够使用微服务架构在云中转换其应用程序。AI 驱动的应用代表了应用程序转换的第三波。它不仅仅是插入一个模型。您正在引入一个完整的应用生态系统、AI 基础设施、AI 模型、工具、数据集、插件。而所有这些组件，Michael，它们会相互通信。您的数据集和插件，开发者喜欢它们，因为它们能做一些惊人的事情。它们会与互联网通信。它们会搜索。它们会执行诸如文本到 SQL 查询之类的操作。但这些需要与我之前提到的基础设施的所有组件进行通信。在许多情况下，这需要访问权限。现在您需要防范应用程序中看到的所有经典威胁以及新的 AI 相关威胁。Michael Krigsman：这种爆炸式增长对企业意味着什么？对员工意味着什么？Anand Oswal：在接下来的几年里，您将看到每个组织都在构建这些 AI 驱动的应用。HuggingFace 模型每天有数百万次下载。其中 60% 的模型是在最近几个月才添加的。现在想象一下，一个开发人员获取一个模型，下载它，而它存在一些已知的漏洞。或者当它尝试构建一个应用程序并将其放入运行时环境时，数据就会暴露给互联网。您必须保护这些应用程序免受我称之为供应链和配置威胁的影响。然后您还需要保护应用程序免受运行时威胁的影响。攻击者正试图让模型执行超出其限制范围的事情，我们称之为提示注入。所以，我正在与应用程序对话，并让它做一些它不应该做的事情。或者我可以进行模型拒绝服务攻击。早期，人们说，“我可以问一个 LLM，‘打印 Michael 一十亿次’，这会消耗 CPU 和内存。”当然，这是一个简化的例子，但我们需要在运行时防范所有这些新威胁、提示注入威胁、模型拒绝服务攻击、数据泄露。所有这些都需要一种深思熟虑的方法，保护您的应用程序免受供应链风险、配置风险和运行时风险的影响。同时，您还需要保护您的应用程序免受多年来一直存在的经典风险的影响。这就是为什么您需要通过设计来保护您的环境。Michael Krigsman：Anand，您所描述的是一个异构环境，它跨越许多不同的供应商、许多不同类型的软件应用程序。您如何与其他领导者合作，保护我们企业中的人？Anand Oswal：当我们开始构建 AI 安全态势管理和 AI 运行时安全时，在 Palo Alto Networks，我们与 NVIDIA 合作，构建了一个联合参考架构，说明组织如何保护这些应用程序在运行时安全。该架构今天在我们的网站上，在 NVIDIA 网站上提供，它是一个联合架构，讨论了如何保护这些应用程序在运行时安全。Michael Krigsman：Anand，您之前提到了“影子 AI”这个词，这是一个非常吸引人的短语，当然，它让我想起了影子 IT。请谈谈。Anand Oswal：我们有大量的员工在组织中使用 AI 驱动的应用，无论组织的 IT 部门是否知情。这就是影子 AI 问题。现在您面临将敏感数据暴露给 AI 驱动应用的风险。因此，组织希望确保您获得使用这些 AI 应用的所有好处，但您使用的是他们允许的那些。重要的是要了解所有员工的使用情况。因此，组织可以决定允许什么、拒绝什么，启用适当的数据保护策略和威胁保护策略。但在许多情况下，您可能会发现组织也想看看，“嘿，看。如果我发现大量员工在使用某个应用，我能否了解更多关于这个应用的信息？”在 Palo Alto Networks，我们研究了 1000 多个生成式 AI 应用，并拥有 60 多个属性，涵盖基础设施、托管、模型使用……模型之间的数据使用等等。然后您就可以全面了解员工是否在使用某个应用，并且这些属性都已涵盖，这使得网络安全专业人士、IT 专业人士更容易决定，“嘿，我现在可以允许这个应用，因为我查看了所有属性。我了解它们是做什么用的，”而这正是我们想要实现的。使组织能够安全地使用这些 AI 驱动的应用，不影响生产力，但要安全地做到这一点。Michael Krigsman：在这个环境中，您如何平衡安全和合规性（正如您所描述的）与员工保持生产力且工作不受阻碍的需求？Anand Oswal：员工正在并且希望使用这些应用来提高生产力。组织希望他们使用，但希望确保我们能够全面了解正在使用什么，正在将什么数据发送给这些 LLM，并查看返回的响应。通过 AI 访问，我们试图做的是真正确保员工能够访问这些应用，而不会损害安全性。同时，让组织全面了解整个企业中 AI 的使用情况。Michael Krigsman：大规模会发生什么？如我们所知，组织正在从概念验证阶段转向规模化阶段。Anand Oswal：几年之内，您会看到每个应用很可能都是一个 AI 驱动的应用。对吧？所以，我们也在提供正确的建议。如果您使用了一堆通过您的 AD 提供商进行身份验证的应用，您很可能希望能够允许这些应用并设置正确的数据控制策略。我们将自动化这些策略创建，以及我们可以驱动的建议，以便我们能够非常敏捷、非常快速地行动。Michael Krigsman：在安全方面，AI 环境非常复杂。CIO 和首席信息安全官应该如何应对这些变化？Anand Oswal：他们如何利用网络安全产品和平台来保护他们的环境，这是通过启用一流的安全服务，这些服务能够预防零日威胁，在威胁发生之前就进行预防。然后是设计安全 AI，即确保用户可以访问应用程序、AI 应用程序，同时组织拥有全面的可见性、控制、数据保护和威胁保护能力。然后，当组织中的开发人员构建这些 AI 驱动的应用时，您如何确保您免受配置风险、供应链风险的影响，并且（当应用程序部署时）再次防范所有运行时威胁、提示注入攻击、模型拒绝服务攻击、数据泄露攻击等等？Michael Krigsman：安全领导者是否需要以不同于他们用于传统安全的方法和机制的方式来思考 AI？Anand Oswal：是也不是。许多传统方法当然适用。问题在于，这些应用程序正在以非常非常快的速度被使用和采用。您如何确保您是敏捷的，您的策略、您为员工访问提供的建议不会减慢您的组织速度？当您构建 AI 驱动的应用来转换您的运营，为您的客户提供新的、更丰富的体验时，您如何确保从配置风险、供应链风险和运行时威胁中全面保护它？Michael Krigsman：当 CISO 审视他们的组织时，他们看到了 AI 的泛滥。他们看到了影子 AI。根本问题是安全与维持生产力之间的权衡，正如您刚才描述的吗？Anand Oswal：对于 AI 访问部分，这是确保员工可以使用应用程序，保持生产力，而不损害安全。当您考虑组织正在构建的将改变其运营、增加其收入、降低其成本的应用程序时，您希望确保您在所有安全方面——供应链、配置、运行时、经典威胁——都通过设计来构建它，因为您构建的这些应用程序与许多不同的组件、AI 模型、AI 基础设施、工具、插件、互联网、用户、其他应用程序进行通信，以便进行整体安全保护。Michael Krigsman：当您与 CIO 和 CISO 交谈时，您听到的最大担忧是什么？Anand Oswal：我交谈过的每一位 CIO 和 CISO 都知道，这一切正在以非常快的速度到来。他们的员工正在使用这些 AI 驱动的应用。他们希望拥有数据保护的可见性和控制权，并保护他们敏感的数据。这对组织来说非常重要。其次，当他们构建这些新的 AI 驱动的应用时，他们现在意识到这不仅仅是一个应用程序插入模型。它是一个全新的 AI 应用堆栈基础设施，随之而来。您如何从供应链配置、浏览器和运行时威胁中整体地保护它，并轻松地做到这一点，拥有易于他们适应和部署的策略和建议？Michael Krigsman：简单易用是关键部分。Anand Oswal：是的，绝对。Michael Krigsman：Palo Alto Networks 在应对这一新的 AI 环境方面做了什么？Anand Oswal：Michael，几周前，我们宣布了一些令人惊叹的创新。这些创新围绕 AI 访问安全、AI 安全态势管理和 AI 运行时安全。AI 访问安全帮助我们的客户确保他们拥有的员工可以使用这些 AI 驱动的应用而不损害安全性。企业可以全面了解谁在使用哪个 AI 驱动的应用。他们可以控制允许、拒绝或限制应用的使用。他们可以设置适当级别的数据保护策略来保护敏感数据，并在这些应用的响应到来时进行威胁保护。然后我们宣布了 AI 安全态势管理。当组织构建这些 AI 驱动的应用时，我们可以保护它们免受配置风险、供应链风险的影响，并且 AI 运行时安全与此相辅相成，以保护这些应用程序免受我们看到的所有威胁，我们从经典应用程序中看到的威胁，以及新的 AI 威胁，如提示注入、模型拒绝服务攻击、数据泄露，因为这些应用程序与整个生态系统以及各种组件、外部互联网、其他应用程序、用户进行通信。Michael Krigsman：我发现最引人注目的是，环境继续保持着传统的、既定的安全问题。现在，在此基础上，您还面临所有这些特定于 AI 的担忧。当然，从 CISO 或 CIO 的角度来看，这个领域非常难以管理和驾驭。Anand Oswal：我同意您的看法，Michael。这就是为什么我交谈过的大多数客户都说，“我如何简化和统一我的网络安全？我如何采取以平台为中心的方法，可以使用独立的解决方案来解决我需要的个体问题？”我想要一个整体的解决方案，随着这些东西的集成，我能变得更好，拥有一个单一的仪表板、单一的策略、单一的工作流程，可以帮助管理整个基础设施。否则，就会出现这种情况，您为所有事情都有一个独立的解决方案。这会增加您的运营成本。您没有足够训练有素的资源。正如您所知，我们缺乏网络安全专业人员。而且它没有给我带来更好的结果。他们希望简化和统一或平台化网络安全。Michael Krigsman：平台化网络安全，这似乎是这里的关键点。Anand Oswal：如今，一个普通组织在网络安全方面可能拥有 20 多个工具。通过使用这种各种独立的解决方案，他们无法获得更好的安全结果。他们的运营复杂性更高。难以管理。难以敏捷。他们希望简化它。他们希望统一所有这些东西的整合方式。而这只有在您拥有一个以平台为中心的方法时才能实现，该方法可以为您带来更好的安全结果，降低您的运营成本，并帮助您轻松、一致地在整个基础设施中推出新事物、新策略。Michael Krigsman：Anand，未来几年，这一切将走向何方？Anand Oswal：AI 的使用才刚刚开始。这是人类历史上增长最快的技术。对吧？移动和互联网花了许多年才达到十亿用户。我们今天已经有超过 3 亿用户在使用这些 LLM 了。对吧？所以，这种情况将继续发生。我认为您也发现攻击者或对手也在利用 AI。您如何使用精确 AI（机器学习、深度学习、LLM 的组合）来保护我们的客户免受他们从未见过的攻击，为他们提供实时的安全结果？当您在平台上启用这些服务时，它们会共享情报并变得更好，我称之为数据的网络效应。其次，当组织构建 AI 驱动的应用并由员工访问 AI 应用时，您如何确保通过设计来保护这种 AI 的使用？这将非常关键，因为这将在每个组织中发生。第三件事是，我们正在使用 AI 助手来帮助我们的客户充分利用平台和产品的能力，简化他们的运营，使他们在想要实现的结果方面更加敏捷，并达到更好的安全状态、更好的安全态势。Michael Krigsman：Anand，CIO、CISO、安全专业人士不堪重负。他们应该怎么做？Anand Oswal：他们希望组织赚更多的钱。他们希望他们省钱，降低运营成本，并且希望避免麻烦。随着环境变得越来越复杂和复杂，最好的方法是采取以平台为中心的方法。这些独立的解决方案和工具非常难以管理。它不会带来正确的结果。它会增加您的成本，降低您的安全结果，而且非常复杂。采用以平台为中心的方法是为了确保，无论您的用户是谁，无论他们在哪里，无论他们使用什么设备，无论您的应用程序驻留在哪里，您都可以从组织可以看到的所有威胁中一致地保护它，无论您是否知道它。然后，第二个我想说的是，AI 的使用将呈指数级增长。通过设计来保护您企业的 AI 使用。确保您的员工能够访问 AI 应用，而不会损害安全性。然后，当您的组织构建这些 AI 驱动的应用来为您的最终客户转变客户体验，为您带来更好的业务运营时，请确保您在配置风险、供应链风险和应用程序可能遇到的所有运行时威胁方面通过设计来保护它，因为这些应用程序不是经典应用程序。它不仅仅是一个应用程序和一个模型。它是一个您共同构建的整个生态系统，它们相互通信，与外部世界通信，可以访问您最敏感的数据。通过设计来保护您企业的 AI 使用非常非常重要。Michael Krigsman：简单、高效和易于使用。Anand Oswal：你说对了，Michael。Michael Krigsman：Anand Oswal，非常感谢您抽出时间与我们交谈。Anand Oswal：Michael，很高兴与您交谈。谢谢。