Transcription
您好，来自宾夕法尼亚州匹兹堡卡内基梅隆大学校园。欢迎来到今天的 SEI 网络广播，主题是利用人工智能构建网络能力。我叫克里斯·梅（Chris May），是软件工程研究所网络任务准备工作的技术总监，非常感谢您的参与。我们希望今天的网络广播尽可能互动。因此，请立即在 YouTube 聊天区提交您的问题，我们会尽快回复。我们还收到了网络广播前的一些问题，我们会尽量将它们纳入讨论。现在，我想介绍我们今天的演讲嘉宾。达斯汀·厄普代克（Dustin Updike）、贾里德·布兹（Jared Booze）和托比·迈耶（Toby Meyer）都是 SEI 的网络安全和人工智能工程师。我们将与您分享一些我们在 SEI 网络安全与人工智能交叉领域所了解和所做的工作。所以，我们要问的第一个问题实际上是关于我自己的，而且很有意义，因为问题是：构建网络能力意味着什么？嗯，嗯，它可以意味着很多事情，对吧？但在本次网络广播的背景下，我们将稍微缩小网络能力的范围，主要关注劳动力视角，即人员的网络任务准备，以及他们如何利用人工智能来提高人员执行所需任务的能力，并在利用人工智能方面更加有效和更具生产力。因此，我想首先请达斯汀回答一个我们在活动前收到的问题。如何为人工智能构建网络能力？实施是什么？您如何着手进行？嗯，以及我们在这方面的经验是什么？>> 嗯，好问题。嗯，我认为在过去六个月到一年左右的时间里，我们已经经历了相当多的这方面工作。嗯，其他组织很快也会面临同样的问题。嗯，能力建设通常始于采用，对吧？采用以及如何实施。如果您想到 Gartner 的技术成熟度曲线，其中，你知道，对某件事有极大的兴趣，嗯，我认为我们开始在组织中看到这种日常应用，他们希望实施它。嗯，当然，国防部（DoD）的军队，嗯，我说，你知道，我们正朝着这个方向发展，因为仍然有很多人还没有，你知道，他们熟悉它，你知道，他们可能已经使用过一些不同的工具>> 只是为了快速打断您，我们的一些观众可能不知道 Gartner 的技术成熟度曲线，您能快速介绍一下吗？>> 所以，你知道，有一个，一个，一个所谓的兴趣的驼峰，一个巨大的驼峰山，对吧？但另一方面是日常的。哦，我们认为它会解决这些问题。我们认为我们可以在某些用例中使用它，但现在技术做不到。我们还没有真正准备好以那种方式去做。我们没有为此类事情制定的流程。嗯，它伴随着我们没有预料到的成本。诸如此类的事情，对吧？然后我们解决了这些问题，然后我们开始建设能力，对吧？在此基础上，一切都开始运作。所以，有极大的兴趣。在主流媒体、Twitter 等平台上有很多关于它的讨论。嗯，这都是炒作的一部分，对吧？所以很多人对此感兴趣。很多人正在努力弄清楚如何最大化其能力和影响。>> 嗯，但你知道，再次强调，很多人还没有完全弄清楚。有些人已经使用过它，但并没有真正将其融入他们的日常工作、他们的工作内容中，这并没有真正促使他们反思我可以用人工智能做什么，我应该继续自己做什么。对吧？其负面影响是实际的实施以及你需要解决的各种问题。嗯，有很多炒作，有很多潜力，当我使用它时，我突然发现我正在处理几件事，我认为我们将其视为组织将通过的三个关卡。第一个就是，你知道，人们正在使用它并思考我刚才解释的内容，对吧？我们已经看到很多技术都是这样，我们许多任务合作伙伴都来找我们说，我们有了这个很棒的新能力，我们有了这个很棒的新技术，但是，我们设想了所有不同的用例。但是，你知道，组织中的所有人都不像我们一样工作。我们如何让他们思考如何最好地利用它？对吧？这是一个挑战。这一直是一个挑战。我们在许多不同的方面都遇到过这种情况。对吧？我们是更大组织中的技术团队。我们如何让其他人像我们一样首先考虑技术？对吧？在采用之后。嗯，对吧？而这种采用既是个人层面的，也是我们个人的。我们去，我们弄清楚如何最大化这个工具，对吧？但它也是组织的采用问题。您最近在国防部（DoD）的 genai.mill 中看到了一些这方面的内容，对吧？这是一个工具。你应该使用它。对吧？这是人们去查看它并弄清楚它如何最好地融入他们日常工作、他们团队工作的内容的动力。嗯，等等。嗯，另一方面是能力和容量关卡。所以现在每个人都在使用它，你会遇到几个问题。一是，你知道，围绕它建立安全和质量保证。嗯，我们当然可以谈谈这一点。我们在内部的团队在这方面做了很多工作。对吧？嗯，我们在这方面取得了很大的进展。另一件事就是成本，对吧？嗯，嗯，如果你想到传统的软件许可，对吧？我们会去购买它，然后你可以全年随意使用它，而且没有额外的费用。事实上，你可能被鼓励尽可能多地使用它。但现在我要按每次使用收费，这是一个非常不同的模式，它可能会让财务部门感到不安，因为现在我必须预测我明年的成本是多少，你知道，你对此的兴趣正在飙升，这伴随着成本。>> 这可能会推动像非前沿和商业模型这样的事物。嗯，不是那些按次付费的模型，而是我们可以内部运行的模型。嗯，我们已经在进行实验，你知道，其中存在成本和限制，公司将不得不解决这些问题，他们很可能会解决，因为那种，你知道，商业成本会一直持续下去，你会假设它会一直上涨。>> 是的。我能问你一个问题吗？嗯，打断一下。所以我们一直在，我们团队里意识到的一件事是，很多人都可以轻松访问，因为这些模型当然你可以运行它们，甚至在你的本地计算机上，在一定程度上有效，特别是开源模型，但是，嗯，各种云提供商也提供很多这些前沿人工智能服务，你可以直接从，你知道，网页浏览器或从你的，你的 IDE，你的代码 Visual Studio 或任何东西 VS Code 访问。>> 但在这种情况下，我们可以访问和利用基于云的人工智能模型，我们实际上有点惊讶，不是吗？从生产力角度来看，它的成本效益和它赋予我们的能力如何？你能详细说明一下吗？这样他们就能大致了解，你知道，我们做了什么，以及我们最近的经验是什么，甚至可能是在过去三个月里？>> 我认为贾里德刚才给我举了一个很好的例子，我们进来的时候，有一个例子，它本来可以，嗯，我不知道你能不能讲这个故事。>> 是的，当然，有很多情况是，嗯，我有一些工程任务需要更新代码或一些基础设施，你正在查看它，并试图规划这需要多长时间。你知道，通常可能需要一周或几天，但如果你花 20、30 分钟，也许一个小时来写一个非常复杂的提示，并给人工智能系统具体的指示，说明我希望如何实现这一点，我希望如何测试和确认工作。然后不断迭代，直到我们达到我所知道的最终结果。>> 对，把它交给别人，也许 20 分钟和 3 美元就可以得到完整的答案。所以，所以我们应该在这里提到的一件事是，嗯，你们很多人以及公众的其他人对人工智能的体验可能是，嗯，有点像聊天机器人体验，比如 OpenAI 的 Chat GPT 和 Gemini 以及其他公开可用的搜索引擎或办公集成功能。嗯，所以你正在体验这种，你知道，聊天体验。嗯，在过去三到四个月里，我们一直在努力利用贾里德刚才描述的。所以这叫做代理式人工智能，很多人都知道。但代理式人工智能仅仅意味着能够分配一个人工智能代理为你做事，而不是仅仅给你建议或说我会这样做，然后你自己去做，或者从聊天机器人复制粘贴。嗯，你可以通过代理式人工智能模型实际指示它们控制并让它们为你做任何你想让它们做的任务。正如贾里德所说，编码是我们非常受益和富有成效的一个方面。你还有什么要补充的吗？关于我们如何，嗯，代理式人工智能革命如何真正，你知道，扩展了网络能力，特别是在生产力和效率方面。>> 是的。当达斯汀说话时，我想到了一件事，嗯，这与此有关，就是降低了人们使用人工智能系统的门槛，特别是在这种代理式人工智能场景中。可能会有很多关于“这样做安全吗？”的问题。嗯，我们确保安全的一种方式，同时降低门槛，让其他工程师更容易使用它，就是使用容器化环境。所以，我们会使用开发容器来定义我们的环境是什么样的，所有这些都沙盒化在一个容器里。所以你可以放心地说，好吧，让它去吧，看看它能得出什么样的答案。所以>> 嗯，我很容易说，嘿，达斯汀，我对容器做了一些改进。>> 或者这里有一个新容器，用于新环境。为什么你不下载它们？>> 和托比，如果你是新手，你以前从未做过，这里有一个带有说明的自述文件，几个命令。你就进入了这个沙盒环境，准备好了。>> 是的。所以，所以容器听起来可能有点，嗯，对听众中的一些人来说，技术上有点困难。嗯，但是，你知道，有效地你只需要安装一个应用程序，也许是 Docker Desktop，然后你下载一个镜像，一个容器镜像，然后你在 Docker 中打开它，然后你就可以与之交互了，正如贾里德所说，容器的好处是，它只能访问你电脑上你允许它访问的部分。所以你可能想给它一个文件夹，然后如果你想使用，例如文件或文本，甚至是你开发的 कोड，你可以把它放在这个文件夹里，然后只有容器才能访问你允许它访问的那个文件夹里的任何东西，而且它非常简单。基本上是拖放。嗯，所以，嗯，我不想让人们认为开发容器是什么神奇的东西，很难实现。它实际上是使访问这种能力更容易的东西，对吧？>> 不仅是访问，也是共享，对吧？如果我做了一个改进，你很容易说，“嘿，我将使用别人所做的相同的更改，”>> 对，这对项目团队来说有一个很棒的复合效应，因为他所做的任何改进，我都可以免费获得，对吧？而且，除了实际的项目工作，你知道，围绕它的结构变得越来越容易构建。>> 嗯，新的工具和新的能力。>> 好的。>> 所以，所以回到它的网络能力建设方面，因为我们观众中有许多网络从业者、工程师，以及在线上，他们正在提出这些问题。好的，人工智能已经到来。有所有这些，你知道，代理式人工智能，我们知道我们可以用它来做各种不同的任务，但特别是在网络领域，我们有一些真正的限制，我们必须在其中运作，对吧？我们必须确保我们符合某些标准。嗯，例如，如果你在政府部门工作，你必须遵守，你知道，现在称为 CMMC。嗯，这些是你必须确保你遵守的控制，以及各种其他基于合规性的或甚至内部建立的组织政策，你必须遵守。嗯，我们当然也面临着一些这些限制。我们做了什么来仍然利用这种能力，但同时保持合规性？特别是我们可以谈谈我们如何使用它来处理 CUI 数据，对吧？任何人想回答这个问题吗？>> 当然。是的。是的。嗯，你提到的许多政府产品或商业云提供商的云产品也有政府部分。嗯，这些都经过 IL4 和 IL5 认证，用于 CUI 或受控非保密信息。所以，如果你有 CUI 数据想与人工智能系统一起使用，使用这些政府云产品中可用的模型就可以准备就绪。>> 对，嗯，这真的很酷，因为然后你可以在你的开发容器中，你可以让它只，那个特定的开发容器只能访问云中的那个 CUI 合规模型，而它只能访问那个。它无法访问其他任何东西，这真的很棒。然后，如果你愿意，你可以有一个单独的开发容器，它可能让你访问内部资源，一个内部资源，或者一个，嗯，一个，你知道，不受控制的，不是 CUI 的，更开放和公开的模型，这使得它非常干净。>> 是的。在此基础上，并稍微增加能力建设的部分。让我们说，为了更好地说明，你有一个课程，或者一套技能或知识，以及你希望你的操作员知道如何使用。如果这些文件在 CUI 级别受到控制，在这些政府云产品中，对于人工智能系统，你可以将它们添加为模型可以引用的额外数据。所以你可以将你的 CUI 文件添加为模型可以访问的知识库或数据库，然后说，好的，这是我的课程，这是我需要我的操作员知道和做的一套知识、技能和能力，然后用人工智能系统查询它，说，你知道，给我一些关于如何根据我的要求开发培训的想法。所以，这正好引出了托比，因为托比目前正在与我们的一些政府合作伙伴合作，做贾里德刚才所说的。嗯，你知道，如何实际利用人工智能来最大化能力，在那里你实际上正在尝试建立技能，嗯，在托比的情况下，高度先进的技能，在网络操作和网络防御方面。托比，你如何做到这一点？你如何实际利用人工智能来构建，来扩展它以覆盖大量劳动力？>> 嗯。使用贾里德提供的关于开发容器和使用像 GovCloud 这样的基于云的产品以及 CUI 模型作为示例。我们有一个文件库，其中包括新兴网络保护团队的作战概念以及关于狩猎行动和网络地形是什么样的其他数据和演示文稿。所以，这些，它们是什么，70 或 100 份不同的文件，我们上传到这个语料库中，AWS 有一个模型，我认为它是一个 Lambda 函数，它将它们向量化，然后它创建一个，你知道，一个快速可访问的，那种浓缩的知识库是什么，然后，当我们引用我们的教学设计，我们的模块和课程时，关于参与者应该知道和理解什么，作为已经完成课程的人。当我们将其作为模板与这个语料库一起提供时，它就像一个锚点，让模型能够提供高度精确的结果，嗯，这有助于我们加速创建这些课程。>> 并且我们可以根据操作员将要放置的环境对其进行高度定制。所以，如果你知道，嗯，我们有这个 1000 页的文档 PDF，关于我们的基础设施以及如何使用我们的特定工具包，你只能通过它进行搜索，对吧？嗯，而你可以用自然语言提问，关于哪个工具和哪个命令，以及我如何做我需要知道的这个特定事情。嗯，人工智能系统可以非常快速有效地总结这些信息，这些信息是根据你的环境高度定制的。>> 所以我有一个问题刚刚进来。我想读一下并提供给小组。嗯，嗯，问题是，我同意关于使用容器的笼统说法是安全的。然而，容器化镜像由于共享资源，特别是内核，仍然构成重大威胁。所以你能做什么？嗯，我想起我刚看到的一篇文章，你知道，一个数据中心里挤满了，你知道，成百上千个这样的小型 Mac Mini，它们是隔离的，你知道，它们由开源编排框架进行编排，能够，你知道，真正使其成为一次性使用，就像你的烤面包机一样，用于进行人工智能任务，因此它不共享你可能在电脑上使用的任何东西。你能谈谈这个问题吗？关于，你知道，一些风险？>> 我认为这与任何容器化部署的担忧相同，对吧？即使在人工智能之前，我的意思是，人们一直在进行容器化部署来托管网站，将前端与 API 分开。我认为，你知道，在那里使用的最佳实践仍然有效，对吧？唯一新的是有一个请求出去，然后回来。>> 调用一个 LLM，例如。>> 对，好。所以，托比，你，我们俩都在谈论，嗯，某种程度的总结，访问可能非常大的受控信息库，以便构建，也许是课程或，你知道，一些基于文本的内容。但是，最近我们开始尝试，你知道，给人工智能喂一些提示，让它为我们的一些特定的政府客户构建一个动手实践的技能体验。你能详细说明一下吗？托比或贾里德。嗯，你知道，我们如何，嗯，把它提升到下一个层次，不仅仅是构建基于文本的“这是如何做某事”，而是更多地，“好吧，现在让我来练习。”>> 嗯。>> 当然。所以，嗯，我们 SEI 的团队在这里拥有超过几十年的开发这些动手实验的经验。我们开发了数百甚至数千份这样的内容。问题是，我们能够做到这一点的速度，对吧？一个人开发一个练习需要时间。嗯，所以我们可能需要几周时间来开发一个新的练习，但今天的网络节奏非常快。假设今天出现了一个零日漏洞，你需要你的操作员今天知道如何保护你的基础设施。嗯，通过使用我们可以训练的这些现有内容库，我们在过去 10 多年里构建了这些东西，我们可以稍微加快开发过程，说，这是这个新功能，这是关于它如何工作的文档，我们需要使用我们现有的内容模板集，作为，嘿，让我们构建一些新的东西，让我们快速推出它，在今天或几天内完成，而不是几周。>> 对，嗯，这就是我们之前提到的生产力提升、效率提升之一。嗯，这是一个，这是一个我们已经看到的东西。嗯，它只是令人惊讶于这些东西能够如此快速地为我们的合作伙伴提高生产力和效率，即使你只是想在家做点什么。嗯，我有一个小轶事。我的儿子在一家著名的七家科技公司之一工作。嗯，他刚给我讲了一个故事，你知道，当他，他是一名软件开发人员，他会，他会，你知道，他会被期望每周提交一个拉取请求，或者冲刺可能每隔一到两周一次，对吧？而这很正常，就像，嘿，让我们为这个功能添加一个功能，你有大约一周或两周的时间来完成。而这在四到六个月前是正常的，对吧？而这完全没问题。但最近他告诉我，上周末，他在周五能够提交九个拉取请求，九个不同的功能，都在一周内完成。所以，至少有九倍的增长，我的意思是，在他能够构建这个方面，是的，嗯，他的工作实际上是协调和指导代理式人工智能来生成功能，但真正的价值和人类，你知道，必不可少的是能够真正理解所创建的代码的作用，并能够确保它会做你想要的事情，不多也不少，并且还要保留你必须遵守的合规性标准。所以这只是一个例子。你们还有什么想补充的吗？达斯汀。>> 那是个很棒的故事。嗯，我认为与此相关的是，我一开始谈到的最后一个关卡，我认为最后一个关卡是，你知道，公司将不得不弄清楚他们想做什么。我的意思是，如果这说得通，对吧？想法很便宜。有很多想法，对吧？而想法的缓解因素是，嗯，这很难构建，对吧？或者这很昂贵，或者需要很长时间。但你知道我们都有，这是一个非常好的例子，开发速度现在非常快，而且相对便宜，对吧？所以想法很便宜，初步实施现在也很便宜，现在你有一个整个创新部门，他们一直在提出新想法。我们必须弄清楚我们到底做什么，对吧？就像那将是一个挑战，一个组织，我们应该在哪里关注？我们的业务在哪里？我们的任务合作伙伴在要求什么？话虽如此，但现在投资于小想法以了解它们的发展方向要容易得多，对吧？也许你留出一笔钱，你知道，我们将花费这么多时间或这么多，你知道，云令牌美元来探索新想法。但你可以，你可以几乎把它当作一个原型，而不是，你知道，纸质原型或白板的时代已经一去不复返了。就像，让我们去构建它，对吧？然后我们周一回来，它就会完成。>> 是的。我们实际上有一位同事，他做了一个一小时，实际上是 45 分钟的人工智能演示，给我们在 SEI 的同事。他想展示的是，给我一个你可能需要的新技术能力的想法。也许是专门的。然后，从小组中出现的一个想法是，我需要一个专门的协议分析器，用于操作技术方面的工作，也许 Wireshark 或其他一些功能没有完全达到我想要的效果。所以，经过一点来回，他们能够生成一些提示，并将其推送到基于云的，你知道，LLM，代理式人工智能，然后实际上在 30 分钟内，从提示开始到结束，就是一个功能齐全的基于 GUI 的协议分析器，它可以接收捕获的流量，无论是 Modbus 流量还是任何操作技术，并允许你专门与该技术互动，并搜索非常具体的 CVE 活动。这花了 20 分钟，我的同事告诉我，花了大约 2.60 美元在 20 分钟内从零开始，从文本提示创建了它。所以，这是另一个你可以做什么的例子。嗯，也许，让我，这是一个很好的过渡，因为我们还没有真正深入到，你知道，一些关于军事方面称为防御性网络运营的具体问题。所以，贾里德，你知道，你做的很多工作，特别是帮助军队建立防御性网络运营的能力和容量。你能，我猜你可能提到了几个不同的角度，你想解决这个问题。>> 是的。所以，嗯，我有点把这分成两部分。一是，嗯，我刚才已经解释了一点，我们如何利用人工智能来加速我们的培训速度，并提供实践内容，让人们熟悉他们每天工作所需的工具和技能。是的，以使他们的系统更安全。嗯，另一方面是，我们如何使人们能够在他们的日常工作中利用人工智能。所以，我们不像人工智能系统的保护者。只有我们被允许使用它，对吧？我们希望鼓励每个人都使用人工智能系统。所以，一个防御性网络操作员可能每天要处理数千甚至数百万个入侵检测系统警报或日志行。嗯，有些点是人类无法像 LLM 那样连接起来的。所以，嗯，在数百万甚至数十亿行日志或进出网络流量中找出模式，我们如何使防御方操作员能够利用这些来找到潜伏在我们网络中的更高级的威胁。所以，有那方面，但然后你也提到了什么可以真正赋权和支持，你知道，网络世界的防御者，让他们更有效地利用人工智能来完成他们的工作。所以，在座的各位可能都在想，好吧，我大概可以购买或等待我的 SIM 卡或我的主机 XDR 类型系统的提供商来提供集成的 AI 解决方案，但也许他们只是想自己学习，并开始将 AI 作为他们如何学习他们需要的人工智能技能的一部分，以便从这中受益？你怎么看？然后你可以向任何人开放。>> 乔，你对此有什么想法吗？也许。嗯，达斯汀和我最近讨论的一个项目是如何使用人工智能，而不仅仅是，而是如何更好地构建提示，以及更批判性的思维技能，关于如何迭代，不仅是理解工具，而且是工具如何使用，以及工具的力量，以便你可以以一种能够放大其原生能力的方式来架构和与之交互。嗯，在这个领域有很多可以做的事情，不仅仅是最初的炒作，就是现在我们有了这些工具，它们有 AI 组件，但是理解 AI 的作用以及如何最大化它的使用。>> 就像贾里德提到的，它擅长梳理大量的日志和数据，以识别异常。嗯，以及类似的东西。是的，就像我们内部有一个关于如何使用 LLM 的分类法或最佳方法，在几个不同的用例中，对吧？然后只是简单地，我走到一个窗口，问它问题，我陈述，它帮助我生成一些内容，对吧？我们有一个分类法，你知道，如何审问它以获得最佳响应，并确保响应被充分引用，是真实的，并且与世界上实际存在的东西保持最新。我们对此进行了很多讨论。我认为这对于劳动力发展很有趣，但对于学术界也是如此，对吧？你如何让学生参与这些工具？我认为可以说他们正在使用它们，对吧？我的意思是，现在已经回不去了。>> 嗯，就像你今天早上说的，一旦你碰了火，就回不去了。嗯，所以也许评估的一部分是，你如何使用这个工具？它是获得最大收益的最佳方式吗？我们只是，嗯，建立在达斯汀所说的基础上，你说我们有这个分类法，但下一个自然的问题是，好吧，我如何才能获得这个分类法？我如何决定对我来说使用这些东西的最佳方式是什么？我们可以，是的，当然，我们可以发布它。嗯，但发布它可能用途有限，因为它对我们、我们的团队来说是有效的。嗯，我们也许可以进行一些抽象，然后说，嗯，你知道，在一般情况下，它也可能以这种方式对其他人起作用，但这些系统足够灵活，我认为对我来说学习如何使用这些东西的最佳方式是>> 我们获得了访问权限，去尽情地探索，并弄清楚它如何为你工作，然后你可以调整你的工具和分类法，以完全满足适合你的需求。嗯，这是一个很好的观点。就像我们一直在使用的人工智能的所有工具和约束一样，你把它交给另一个团队，对吧，托比？你的团队使用它的方式与我所设想的完全不同，而且它有效。那就是它的力量，对吧？他们弄清楚了，所以，所以也许那里的教训是>> 人工智能不是特定于任何类别的。我做这个，或者我扮演这个角色，或者我在这个组织里。人们已经找到了非常富有创造性的方法来使用它，无论他们的任务是什么。>> 是的。就像达斯汀说的，想法很便宜。我们团队有几十个人。每个人都有想法。每个人都可以贡献，然后每个人都可以让系统变得更好。>> 而且事实是，嗯，我们被授予了访问权限和自由来找到适合我们的东西。这太棒了。>> 我认为那里的力量不仅仅是人工智能的普遍理念，而是应用人工智能。它是足够了解你的用例，以便你能够提供一些关于期望最终状态的具体细节。>> 是的。>> 然后，嗯，你知道，使用人工智能来实现这个目的，那时魔法才会真正发生。>> 好的。所以有几个问题我们需要回答。嗯，第一个问题是关于防御性网络运营，或者只是，嗯，你知道，网络安全方面的工作。它来了，它刚刚进来，它是关于我们如何使用人工智能来减少分析师的疲劳。>> 你们对此有什么想法吗？请继续。>> 所以，我们最近做了一个项目。我们有一个，嗯，我们有一个。她是一名情报官员，你知道，情报收集是非常辛苦的。有很多不同的数据源，大量的分析和筛选数据。她有一个很棒的想法，一个代理系统，代理会做特定的事情，你知道，有很多事情人们在做。她想要一个代理来处理其中的每一项。她帮助我们定义了他们需要什么样的信息，如何增强它，以及如何提供驱动下一个，你知道，下一个代理或下一组人来做这件事的输出。所以，你知道，构建那个应用程序是一回事，你知道，我们把它连接到它，它显然有几个不同的代理。它连接到像 Recorded Futures 这样的公司以及一些类似公司的威胁行为者评估。它接受 MITER 的编码。所以，什么是威胁画像？你的网络看起来像什么？所有这些事情，对吧？但它确实变成了一个软件、人员和流程项目，因为我们使她能够出去与实际从事这项工作的 CPT 团队合作，并讨论这个过程，获取我们构建的软件的反馈。>> 并真正让他们质疑，这是现在的流程。它一直在工作，但现在这些新的代理让我们能够将它分解成更小的块。>> 对。嗯，所以我们可能需要回去重新思考，因为我们以前做不到，但现在软件可以帮助我们做到这一点，也许这会变得，你知道，更快、更好、更便宜。>> 是的。所以，分析师，你提到了“辛苦”这个词。嗯，你知道，请原谅这个词，但它让我想起了 20 年前，当时我直接有网络安全防御人员为我工作，他们曾经，你知道，贬义地说，“我们只是一群傻瓜”，意思是他们只是看着入侵检测日志或别的什么，然后试图从中筛选出误报，并希望没有大量的漏报。嗯，考虑到这一点，嗯，你知道，疲劳是一个，是一个真正的因素。我的意思是，每个大公司，以及大多数小公司，都有某种形式的安全运营中心，或者至少>> 嗯，你知道，内部有一个组织，它试图保护组织免受网络威胁。嗯。>> 嗯，你知道，你们对此还有什么想法吗？比如实施，如果你在一个 SOC 里，看到你的团队或人们有点疲惫，你知道，也许你有一个 24 小时的 SOC 运营，你遵循太阳，你在其他国家也有人帮助你。你知道，有没有办法让这份工作变得更容易一点？不仅仅是更有效，而且更容易一点，让他们不至于精疲力尽？有什么想法吗？所以，如果我是 SOC 的经理，根据我在这里使用人工智能的经验，我认为我会做的是，在一些限制下，你知道，把我的操作员的钥匙给我，然后说，“嘿，这里有一些人工智能 LLM 账户，你可以使用。”>> 去吧。>> 尝试一下。是的。>> 看看有什么效果。你知道，当然，我们不能花太多时间离开日常工作，因为安全运营是第一位的，但是>> 弄清楚它如何为你工作。弄清楚我们可以做得更好，然后分享。让我们互相教导。>> 好的，这是我所做的。达斯汀，这对你有用吗？托比，你觉得呢？就像如果你>> 有这个蜂巢思维的理念，就是“这是城堡的钥匙”。让我们兴奋起来，让我们开始提问。什么可能？对我们有什么用？以及我们如何提高我们的能力？仅仅是获得这种环境就让我感到非常振奋。能够，天哪，这个东西还能做什么？>> 嗯，很多代理所做的事情是，它消除了其中的一些单调和平凡，它允许你更快地进行原型设计。所以你可以得到一个潜在的解决方案，比如 85% 的，你知道，足够接近>> 通过为它提供一个特定的定义范围并进行玩弄，让它做繁重的工作。有很多事情我们否则就无法做到，因为这需要太多时间，而且不值得付出努力。但如果我们释放一个或两个代理一段时间，然后比较输出，就像是的，这是可行的，而且是一个合理的解决方案。所以，我们还有更多问题要回答，但我想，我想也，重点是另一个例子。所以，贾里德，你提到了赋权 SOC 分析师或给他们访问权限，并给他们，你知道，嘿，你有一点时间，我们希望你尝试，我们希望你发挥创意。所以，又一个故事，回到我的儿子，他在一家著名的科技公司工作。嗯，在信息安全项目或小组那里。而这个小组所做的是，他们基本上说，“好吧，我们将有一个为期四天的黑客马拉松，我们将给你们所有人，你们必须组成三人或四人的团队，我们希望你们构建一些能够让我们的信息安全项目技术更强大，跳出框框思考，并大胆前进。”这是这个活动的大方向。嗯，他们也确实做到了。嗯，例如，我的儿子是一个团队的一部分，他们实际上在 60 多个团队中获得了第二名，嗯，在黑客马拉松中。但他们基本上研究了他们使用的技术，特别是关于警报和直接访问安全数据的技术。他们认识到，有一些工作流程确实让人们陷入困境，需要，你知道，完成这些特定的工作流程需要太长时间。所以，在四天内，他们实际上从零开始构建了一个全新的应用程序，它基本上是一个竞争性的，你知道，新开发的，并且与他们在这个非常大的公司购买的技术一样强大，甚至更强大，而且肯定减少了工作流程中的实际步骤数量。嗯，嗯，还有 40 个其他很棒的想法，人们在四五天内就有了，只是去说，“是的，我们，你知道，我们将授权你，赋权你，让你看看你能构建什么，以及你能走到哪里。”而令人惊叹的是他们从中学习到的东西。有些东西他们实际上可以实施并开始跟踪，以便能够说，“哇，我们为这个特定的商业工具支付了巨额的钱。我们有一个更好的，更适合我们需求的工具，我们的团队在四五天内创建了它。显然需要一些工作，但这些是我认为可以用来真正看到安全网络安全运营效益的例子。>> 嗯，回到一个问题，嗯，给你们所有人。嗯，首先回到你。嗯，有一个后续问题。嗯，它与情报有关，你知道，你们协助我们合作伙伴的应用。嗯，嗯，问题是这个。我们能获得访问权限或知道她使用哪个代理吗？嗯，所以，嗯，让我先说一句，然后我把它交给你。所以，嗯，在非营利性联邦研究实验室，软件工程研究所工作很酷的地方在于，我们的章程要求我们尽可能多地向公众发布，无论是通过开源软件，甚至是我们可以发布的开源内容，而贾里德可以详细介绍这一点。嗯，所以，嗯，你知道，随着我们在政府的合作伙伴认识到发布一些东西的价值，然后看到好处，因为其他商业行业合作伙伴可以进一步扩展它，然后将其提供给政府使用。这些是我们一直在做的事情，我认为我们稍后会在播客的结尾讨论，以确保你知道，什么已经提供给你了。你能实际拿到并使用的东西。但让我看看，你能否稍微详细地描述一下那个项目到底是什么，以及软件是如何工作的，也许。嗯，嗯，如果将来有可能公开发布这样的东西。>> 那个问题有点让我陷入困境。嗯，那是她的项目，所以这取决于她，我们尊重这一点。在某些情报环境中，显然是在高层环境中。嗯，所以她的担忧是，如果我们开源它，那么就会有一种看法，你知道，它到底适合哪里。所以，让我弄清楚它适合哪里，然后让所有这些机会都开放，然后我们将弄清楚如何开源它。我喜欢这个想法，我们喜欢这个想法。我的意思是，我们在开源社区做了大量工作。嗯，我认为我们都应该为此感到自豪。但，嗯，它还没有完全实现。是的。但她一直在寻找新的反馈和合作伙伴关系。所以，给克里斯发电子邮件，或者给我发电子邮件，我们会让你和她联系。>> 好的。>> 但有一件事我要说的是，嗯，你知道，我们工作流程今天使用的具体后端技术可能会在明天改变。对吧？进步的速度是天文数字。嗯，它就是如此之快，以至于>> 嗯，保持灵活性，并能够>> 以一种我们可以快速轻松地交换的方式来设计我们使用人工智能的方式，然后说，“哦，好的。嗯，有一个新的 LLM，它在这些方面要好得多。让我们把它换掉，用那个。”>> 到
在那一点上，我们在那个项目中换了两次，而那个项目并不长。>> 是的。是的。这是>>我们想利用的东西，不利用就太疯狂了。>>这是一个实验。所有这些都是在这里进行的，就像，好吧，也许这个擅长这个，也许那个擅长那个。让我们>>托比，你有什么评论吗？>>是的。嗯，几周前我在 FCA Rocky Mountain，然后，嗯，回到人工智能，是国防部最近发布了一份关于人工智能优先实施的声明。而且，嗯，没过多久，嗯，你知道，物理硬件是数据中心硬件的时代。然后虚拟化改变了人们的思维方式，或者转向了云优先或虚拟化优先的思维方式。现在我们到了需要速度或人工智能优先思维的阶段，这是一种不同的开发周期，而不是瀑布式方法或长期的规划和需求收集。它更快、更灵活，并且是关于快速产出和快速获胜，然后在事后进行迭代。>>好的。>>是的。这是工程的一部分。我们如何设计这些东西并以一种满足这种>>快速变化的人工智能优先模型的方式来设计它们，对吧？我们在构建时必须牢记这一点。>>所以，我们有一个非常有趣的问题刚刚进来，我只是要读一下，但它确实会让我们走上一条技术性较差的道路。所以，嗯，我们线上的朋友 lighted panda 说，这次谈话中缺失的是业务或任务合作伙伴的方面。人工智能是技术，而这项技术需要成为解决任务问题和加速优先事项的推动者。>>所以，有人对这个问题有什么想法或评论吗？>>我认为我们已经触及了。我们一直在谈论想法的成本以及探索这些想法的成本。这仍然回到了我们应该做什么的问题，对吧？>>嗯，领导层和你的任务合作伙伴必须决定什么最重要，对吧？这仍然回到了品味和优先排序。嗯，人工智能在这方面还不是真的很好。也许有一天我们会擅长这个，对吧？但决定做什么以及在某种程度上如何做，仍然是一个非常人性化的组织问题。我们谈了很多关于个人使用人工智能，而关于组织或企业或基于政策的使用人工智能的讨论较少，甚至更多的是组织之间的。嗯，所以能力建设，比如我们的一支团队正在与伙伴国家之间进行这项工作，然后想法是，你知道，人工智能是为了什么目的，它如何促进情报或减少语言障碍，减少各种合作伙伴之间的其他采用障碍，而且它总是以需求为导向，最终目标和用途，而不是为了人工智能本身而使用 LLM，对吧？>>对，这是一个关键的例子，所以，嗯，你知道，我们正在帮助一个政府组织，特别是为了在世界特定国家建立网络能力。嗯，然后，嗯，你知道，每个人都在说，我们能用人工智能做什么来建立我们的网络劳动力，我们如何才能更有效地做到这一点，以更高的生产力和更低的成本。嗯，所以，嗯，其中一个，所以这回到了 lighted panda 刚刚提出的问题，你知道，它的业务部分，你知道，这在哪里最有意义，我们如何利用人工智能来，嗯，来建立我们的业务，使我们的业务更具竞争力，嗯，我将以我们刚刚提供的例子来说明，那就是为可能不如美国成熟的合作伙伴建立网络能力。>>嗯>>这确实是一件大事。在这个一个上下文中，让我举一个例子。所以他们希望他们能够，嗯，在他们的网络专业人员所在的地方与他们见面。例如，你可能有一个人刚刚从初级培训学校毕业，在学术环境或培训学校环境之外从未真正做过任何事情。嗯，你该怎么处理他们？通常，你只是让他们和一个更有经验的专业人士配对，然后他们一起工作六到八个月，他们就学会了门道，可以说。>>但是，你如何才能，嗯，来，嗯，来压缩或减少这个时间量，使这个人更快地更有效？再次回到在他们所在的地方与他们见面。人工智能在这方面做得很好。人工智能可以，我们可以用它来构建适应性的劳动力发展或培训内容，首先要真正确凿地确定这个人在他们的技能方面在哪里，使用许多现有的免费框架，比如 NICE 框架和 DCWF 防御框架，然后进行映射。人工智能非常擅长映射这些，然后能够，嗯，你知道，了解这些人在他们的职业生涯和技能方面的状况，然后能够有效地将其与可用的内容进行匹配，或者如果没有内容可用，假设它不是，我们有很多英文内容，但他们不，你知道，英语是第二语言，对于这些年轻人来说，这确实是一门第二语言。嗯，所以我们可以做什么来用他们的母语构建内容，真正地在他们所在的地方与他们见面？我认为这是人工智能可以做得非常非常好的一个例子，并且具有成本效益地做一些我们坦白说我们根本做不到的事情。>>我们不能，我们不能用母语构建内容来满足某人的需求。嗯，但是有了人工智能的赋能，我们可以有效地做到这一点。>>另一方面是，嗯，也许是其他组织可以感同身受的事情。嗯，我们的待办事项清单上有一英里长的事情我们想做，事情我们必须做。嗯，然后，你知道，你在撰写任务合作伙伴工作计划方面比我更有经验。但我敢肯定，很多时候我们从任务合作伙伴那里收到的要求是，“哇，这需要很多时间和很多工程师才能满足所有这些要求。”我们很想这样做。嗯，并且通过人工智能系统的赋能，我们现在可以说，“哇，这个待办事项清单有一英里长，但现在都在范围内了。”嗯，你知道，我们可能不得不说，“嘿，嗯，你知道，要满足你所有的要求需要很多钱，我们很想这样做。”嗯，现在我们可以说，“还有什么？”你知道，我们可以做所有这些，还有什么？那就是，嗯>>我昨天告诉克里斯是四分之三英里。>>它每天都在增长。>>是的。嗯，我想这确实让我们感到惊讶，在过去，嗯，说实话，自从十二月以来。所以只有过去两三个月。嗯，你知道，我们，我们基本上不得不告诉我们的一个任务合作伙伴，你想要这个新功能和这个能力，嗯，我们将不得不分配一个人来为你编码。然后是质量保证工程师和测试以及所有这些东西，你知道，我们会说需要这么长时间，因此成本这么高。但现在，嗯，现在我们可以说，让我们试试吧。>>然后，嗯，我们也许能够构建这个功能，嗯，也许作为一个最小可行产品功能，很快。然后，嗯，然后，你知道，构建软件最有效的方式是让客户或用户始终处于循环中，这样他们就可以看到并评论说，哦，我喜欢那个，但你能让它做些不同的事情吗？嗯，这种事情现在有了人工智能，我不想用这个词，但它正在飞速发展，使我们和他人能够，嗯，嗯，以比以前快得多的时间和成本来创建新的内容、新的功能、新的功能。就像你提到的，我们现在可以在会议上实时完成。嗯，而不是说，好的，让我们把这个需求列表记下来。我们一周后会回复你。嗯，然后，嗯，然后，我们可以现在就做。>>对。>>嗯，它将重点从大量的维护和核心能力转移开，你可以假设通过快速扩展可以达到那里，然后让你专注于另一层，那就是我们如何从好到伟大？这可以是如此之好，当我们能够将精力集中在那个层面，而不是在升级一些基础库或，你知道，嗯，工作流程方面的事情的待办事项清单上。>>对，我们想确保我们得到的东西之一，我们还有大约五分钟的在线研讨会时间。嗯，你知道，有人问，嗯，你知道，我们能利用什么，我们有什么可以使用的，嗯，来，你知道，来建立我们的网络能力，无论是在任何组织中，你从劳动力发展角度来看，来建立你的劳动力的新能力，我们有很多开源能力，这些能力是由美国政府赞助的，现在对世界上任何人都免费提供。嗯，然后，嗯，你应该知道它们。所以，我们将提供一些链接到所谓的“坩埚框架”，它是一个，嗯，允许公司和学校以及任何组织，嗯，能够非常快速地构建新的网络安全培训内容，或者任何类型的内容。它不必与 IT 相关。嗯，并且在一个界面中完成，这个界面非常非常简化且易于使用。这消除了很多繁重的工作，你可能需要在虚拟机管理程序中花费很长时间，通过虚拟化环境来设置交换结构，你知道，确保所有网络都能正常工作。这些开源的、免费的工具在坩埚框架中抽象了所有这些，并使其变得非常简单。你只需输入你想要的网络的名称，嗯，以空格分隔的形式，然后在后端它就会创建这些网络并连接这些虚拟交换机，而你所做的只是输入 LAN 和 WAN 和 OT 网络或任何东西，它就会自动化所有这些，并从中节省大量劳动力。所以，嗯，我们将把链接发布到坩埚框架。我们将发布一些其他信息。嗯，我还想确保你了解下周四，也就是 3 月 12 日，我们将在弗吉尼亚州阿灵顿的办公室举办一个全天研讨会。嗯，我们将继续这次对话，并深入探讨，展示很多演示。嗯，它是免费向公众开放的，尽管我们正在优先考虑政府人员。嗯，但我鼓励你点击这个在线研讨会评论区的链接，并邀请你来。你还可以获得免费午餐，嗯，这现在很难得到了。嗯，下周四在弗吉尼亚州阿灵顿与我们一起，嗯，进一步讨论网络能力建设，嗯，你如何，嗯，利用人工智能来发展网络任务就绪性。嗯，是的，我们将有更多时间深入研究，并真正展示我们在过去几个月和几年中使用的许多能力。所以，嗯，在我们将要结束这次在线研讨会时，小组成员有什么最后的想法吗？>>是的，你提到了 Git 仓库和一些公开可用的东西。还有一些挑战和其他例子是开源的。嗯，然后是一些关于一些团队和任务就绪性的情况说明书或单页介绍。嗯，所以>>我可以打断你吗，因为我们真的时间不多了。杰瑞德，你是总统杯网络安全竞赛的负责人，你知道，我们做了五年半，为比赛创建了所有 300 多个技术挑战。嗯，这次在线研讨会的听众可以利用一些工作？>>是的，嗯，所有 300 多个挑战都可以在 GitHub 上作为开源内容获得。嗯，总统杯竞赛，嗯，我们与 SIZA 的任务合作伙伴继续进行。所以，嗯，我们成功地将这项工作转移回了政府。嗯，作为 FFRDC 的 SEI 的使命的一部分。嗯，但是，是的，查看开源的嗯，嗯，存储库。我们正在后端准备的一件事是，嗯，为人们提供一种更简单的方式，将这些内容导入到他们自己部署的坩埚框架中，就像你提到的。嗯，所以如果你在你自己的环境中部署了你自己的坩埚框架版本，很快我们就会有一种非常简单的方式，让你输入一个命令，然后导入我们在线提供的所有这些很棒的内容到你的。是的，我认为这是另一个重要部分，也许我们会让你带着这个想法离开。我之前提到过，你知道，我们有义务尽可能多地公开我们所做的事情，你知道，在有意义的地方。嗯，政府在过去几年中在这方面做得很好，认识到这一点并说，嘿，这是一个巨大的力量倍增器，如果我们能做到，那就去做。所以，我们在这个案例中的合作伙伴 SISA，你知道，说我喜欢它，他们一开始就说，我们将绝对让所有这些内容和所有这些工具和软件都提供给每个人，嗯，你可以拥有开源平台和工具，你知道，这确实需要一些技术知识才能让它们运行起来。也许我们正在努力做的是让人们能够轻松地使用它们，也许通过一个非常简单的界面使它们可用。也许你没有自己的基础设施，并将它们直接部署到云环境中，你可以访问并只为使用时间付费。嗯，另一件难事是如何快速轻松地将虚拟机和其中的工件，比如培训或网络安全挑战的实践活动，带入云端？嗯，这就是我们现在要为你解决的问题。所以，嗯，即将到来，我不会给出具体日期，但即将到来，我们将拥有这个能力，我们的组织，嗯，我们合作的组织，然后显然是其他合作伙伴和公众将能够说，我真的需要帮助我的员工学习如何应对这个特定的威胁，来自这个威胁行为者。我能做什么？嗯，让我们让他们接触到，让我们花很少的钱来设置这个云环境。所有软件都是免费的。所有内容都是免费的。现在我们只需要一种简单的方式来，嗯，获取并访问它。所以，这是我们正在努力解决的问题，即将到来。我们将让你了解情况。>>听起来我需要告诉我的 AI 代理开始工作，对吧？>>是的，这是个好问题。好了。嗯，所以，嗯，再次，各位，我们非常感谢您参加今天的在线研讨会。别忘了下周四，3 月 12 日，如果你碰巧在 Beltway 地区，嗯，在嗯，DC，弗吉尼亚州阿灵顿地区，嗯，请过来。你可以从链接注册，你将有更多机会与我们的团队互动，并看到我们一直在开发的更多很酷的东西。嗯，嗯，是的，我认为基本上就是这样。非常感谢您的参与，祝大家有美好的一天。热。热。热。热。