Transcription
大家好，欢迎来到 Bessa 的第二周。今天 Ashish actually 在休假。所以将由我们所有人来主持。嗯，和往常一样，让我们从一个破冰问题开始。所以，请允许我先添加一个屏幕，嗯，这个，这个。是的。所以，让我们从这里开始，谈谈你现在那里的天气怎么样。当你们添加评论时，请允许我介绍一下所有的志愿者。我是 Prasad。然后我和 Anil 一起，然后我们有 Rama 加入。他第一次加入我们。然后正如你所知，Pararna 去年，在去年的批次和去年的课程中都参加了。>> 去年也是。>> 去年也是。是的，没错。然后是 Achel。让我看看是否有其他志愿者加入我们。我在这里看到后面有几个人。所以，让我把他们加进来。是 Laura。哦，多么美丽的景象，Laura。感谢你的加入。嘿，Laura。>> 嘿，大家好。>> 把这个画面放进去。然后我们有 Cavia 和 Anol，以防你们想出现在屏幕上。所以，大家，在我们进行课程的同时，所有的 AWS 志愿者都会在幕后回答问题。所以，请随时在 YouTube 聊天中提问。但是，在这样做的时候，请不要问重复的问题。看看别人在问什么问题，如果问题已经得到解答，最好不要一遍又一遍地问同样的问题。一如既往，嗯，在课程结束后，我们将有一个 Discord 频道提供支持，但请允许我看看评论，嗯，哦，孟买有微风， wherever 有热。所以，在伦敦，嗯，谢天谢地，今天阳光明媚，不是那么热，但阳光明媚，你知道，我们很少能在这里看到阳光，但谢天谢地，今天有点阳光明媚，我们想念 Ashish，别问我有多想念 Ashish，你知道，在这里，但嗯，他下周就会回来，所以这应该是个好消息，然后班加罗尔阳光明媚，班加罗尔阳光明媚又热，很酷，好的，那么，让我们继续吧，我将移除所有人，然后我们将回顾一些基本的东西，然后我们将进入技术课程。所以，现在我将暂时从屏幕上移除志愿者，并将屏幕添加到这里。好的，感谢大家的加入。我看到已经有很多人了。好的。所以，对于任何第一次加入我们这个批次的人，我们专注于 AWS 上的 Agentic AI。这个批次于上周末，即 2 月 21 日开始，将持续六周。嗯，每个周末我们都会进行 90 分钟的直播，周六下午 3 点 GMT 到下午 5 点 GMT。然后在直播期间，我们会谈论技术，谈论行为，我们还会谈论研讨会，我们将在课程结束时提供有关研讨会的所有信息，我们有一个学习伙伴 vizlabs，他们提供一些资源。你们大多数人都应该收到邮件，如果没有收到，请不要担心，我们会批量上传所有注册我们的人，他们将直接从 vizlabs 收到我们的邮件。好的。就这六周的详细议程而言，第一周我们上次讲的是技术路线图，AI 代理的基础。它的录音可以在 YouTube 上找到。你也可以从 tech creator 网站访问它。嗯，无论你选择哪种方式，都没关系。我们直播的一切内容都会立即在 YouTube 上作为录音提供。在行为路线图方面，我们与 Roland 进行了一次主题演讲，非常棒，嗯，感谢所有人的精彩反馈，然后是动手研讨会，我知道有些人遇到了麻烦，比如请求访问权限和获取带有进入垃圾邮件的电子邮件的访问代码。我们已经尽力解决了许多问题。所以，希望这将是一个更顺畅的体验。这次有大约 2600 人注册了研讨会，直到上午 10 点 GMT 的截止时间。如果你错过了截止时间，很抱歉。我们无法提供研讨会环境，但你应该能够在自己的 AWS 账户中进行研讨会。我们还录制了视频，将在直播结束时，即 GMT 下午 4:30 播出，你可以观看。好的。现在，嗯，本周我们将从技术路线图开始，即使用 Agentic AI 进行构建，Anil 和 Parna 将在今天进行课程。然后在行为路线图方面，我们有 AI 作为解决方案架构师助手。这就是我们将要谈论的。Jeff Escott 和 Raj Menon 将进行这次课程。最后，我和 Para 将帮助你开始动手研讨会。我们将提供研讨会的预览以及如何开始。到那时，任何选择第一时段作为研讨会的人，他们都会收到带有访问代码的电子邮件，甚至会有演示视频。很酷。那么，现在让我们进入下一个。这是课程格式。前 60 分钟是技术课程。然后是 30 分钟的行为课程，在 AI 时代培养 SA 思维。嗯，最后 30 分钟将是研讨会和每周徽章。嗯，在 tech creator 网站上，你可以通过知识检查或测验。这是 15 个测验，将在直播后上线，你将能够完成知识检查，通过率为 80%。你可以尝试任意多次，如果你这样做，你将能够获得一个徽章。所以，上周我知道很多人都获得了这个徽章，好的，这些测验将在 BESAS 会议结束时，即 3 月 31 日之前提供。你不必这周就完成。花时间学习和尝试。研讨会有时间限制，因为我们提供研讨会环境，但测验和徽章你有六周时间，所以不用担心，任何完成所有六周课程的人都将获得我们的感谢证书。现在，我将播放一段欢迎视频，来自 Swami，他是 AWS Agentic AI 服务的副总裁。所以，让我这样做，让我们放一段他的欢迎视频，他想来，但显然同事们，你知道，和他安排时间很困难。所以，他为我们录制了一段简短的视频，以便我们开始。所以，让我把它放出来。大家好，我非常高兴地欢迎大家参加下一期成为解决方案架构师训练营计划或 BISA。自四年前推出以来，Bisa 已为超过 20,000 名学习者提供了指导和动手研讨会。在接下来的几周里，你将更深入地了解 AWS 上的云和 Agentic AI 服务。如今，AI 代理正在改变从软件开发到药物研究，从精准农业到建筑设计的各个行业。现在，在这个 AI 时代最让我兴奋的不仅仅是技术本身，而是它所带来的可能性。更快的迭代，更可靠的代理，以及人人都可以使用的 AI，即使你没有技术背景。这是一个参与这次旅程的好时机。我希望你能与你的同行建立联系，提问，学习，并保持好奇心。我迫不及待地想看到你在这个美好的未来将创造出什么。谢谢。>> 太棒了。非常感谢大家，也感谢 Swami 为我们这一批录制了这段欢迎视频。现在，让我们开始我们的技术课程。我将把 Anil 和 Parna 加到舞台上。>> 嗯，Prasad，我将分享我的屏幕。>> 是的。>> 是的。>> 你觉得这个视频怎么样，Anil？>> 太棒了。>> 是的，太棒了。我的意思是，嗯，很高兴看到 Swami 谈论这个社区。这真的很棒，嗯，我的意思是，我曾经在 reinvent 上见过他一次。是的。很高兴在这里看到他的视频。所以，也许将来我还会再见到他。>> 是的。谢谢。>> 你在分享你的屏幕吗？我还看不到你的屏幕。>> 还有一分钟。是的。>> 我正在处理我的屏幕。>> 来吧，Pera。你今天是客户，所以你必须准时，因为问题>> 我会让你等，对吧？我会试着让你等。>> 你能看到屏幕共享和幻灯片吗？>> 是的，我能看到。一切都好。我将离开屏幕，把技术课程交给你。非常感谢。>> 是的。谢谢，Prashad。是的。轮到你了，Pa。我想让你开始。>> 当然。嗯，大家好，嗯，Anil 你好。很高兴你在这里。嗯，我和我的工程师团队，他们都渴望成为 ML 工程师。我们正在尝试构建一个 Agentic AI 系统，我们真的遇到了困难。有这么多服务提供商提供的模型。我们非常困惑。嗯，我们真的需要像你这样的资深解决方案架构师的帮助，他可以给我们很多建议。所以，感谢你的到来。>> 是的，谢谢，让我介绍一下，大家好。我的名字是 Dr. Anil。我是一名解决方案架构师。我住在伦敦，在 ISP 工作了三年多。我的意思是，我负责 ISP 客户。所以，很高兴能参与到这个倡议中，感谢 Prasad 和 Aiz 以及 Pera。所以，今天我将在这里扮演 SA 的角色，Pa 将提问。所以，我将回答这些问题。这就像一个发现过程，你知道，SA 在现实情况中是如何表现的。所以，这就是我将要做的。我将给出一些技巧和窍门，你知道，如何处理困难的情况。所以，我从 HA 开始。所以，既然你问了这些问题，嗯，我的意思是，你的团队正在尝试构建一些 Agentic AI 解决方案，你正在寻找一种方法来选择模型，对吗，Pa？好的。所以，我的意思是，一般来说，我首先会这样提问，而不是选择哪种模型基本上适合你的代理。所以，我的方法是，我想知道你到底在尝试构建什么，或者我会问另一个问题，比如你正在尝试解决的业务问题。如果你能帮我解决这个问题，那将是很好的开始，而不是直接选择模型，对吧？>> 当然。所以，让我开始说，我们是一个 SaaS 平台，我们的客户是保险公司，我们正在尝试为自动化整个理赔处理和处理构建一个 AI 代理。这就是我们正在努力实现的，我们遇到了一个障碍，我们不知道如何继续前进。所以，也许你可以帮忙。>> 好的，太棒了。我的意思是，谢谢你告诉我，好的，所以，让我问你一个非常具体的问题。你介意分享一下细节吗？比如，你想告诉我们什么样的步骤，比如一步一步的过程？我的意思是，告诉我你如何尝试，我的意思是，例如，假设你的系统中发生了一些理赔处理，你知道，然后它是如何发生的，以及你打算如何在没有 Agentic 的情况下做到这一点？如果你能告诉我这个过程，我就可以看看我如何能帮助你。>> 当然。所以，我想告诉你，目前它是完全手动的。所以，有理赔处理员，他们实际上会去阅读上传的理赔申请。所以，这些都是大量的申请，他们需要仔细阅读。然后，他们需要参考冗长的文件，这些文件是保单承保条款等。他们需要分析这些。他们需要从我们的保单管理系统中交叉引用保单详情。然后，他们需要进行深入的分析和推理，然后得出结论，是接受还是拒绝，或者可能将其升级给高级处理员，当然，最后他们还需要记录他们是如何得出这个评估的。所以，这是一大堆手动工作，而且很容易出错。当然，这是一个漫长的过程。所以，这就是我们试图完全自动化的全部内容。AI 已经到来。我们想充分利用它。>> 好的，很好。嗯，让我再问几个问题。嗯，每次理赔需要多长时间？例如，假设我要提交理赔，需要多长时间？还有另一件事，你将什么类型的文件传递到你的系统中？是文本、图像还是表格，还是它们的组合，或者只是其中一些？所以，发生了什么？还有另一个问题我想问，只是为了了解，假设你构建了代理，如果代理做出了错误的决定怎么办？你有没有任何，你知道，我的意思是，假设我提交了一个理赔，你构建了代理，它做出了错误的决定。在这种情况下会发生什么？公司会面临诉讼吗？>> 当然。所以，首先是时间长度。所以，你问我需要多长时间。所以，显然，这必须是一个高度准确的决定。所以，我们的理赔处理员通常需要几天到几周的时间。所以，你可以想象即使是标准化的低风险理赔也浪费了多少时间。他们需要做大量的尽职调查，而这正是耗费时间的地方。我们当然希望使用 Agentic 将其缩短到几秒钟。你还问了我，嗯，这种理赔需要什么类型的文件或什么类型的补充材料。所以，请记住，可能有不同类型的保险，可能是汽车、医疗或住房。所以，根据保险类型，还有一些图像被上传，照片显示损坏，嗯，理赔处理员会评估这些照片，以了解严重性和真实性。有手写的理赔表格需要分析。有警方报告。有医疗报告，如果是医疗保险的话。所以，大量的非结构化数据被输入。所以，文本和图像。所以，这些信息是由理赔人上传的。所以，是的，这就是为什么你可以理解，这需要多长时间。>> 是的。好的，感谢你的澄清。所以，还有一些问题，因为我只是想深入了解你的系统，从头到尾。好的。好的。所以，你提到，我的意思是，有没有办法检查保单？有没有一个系统，你可以通过 API 调用来检查保单的类型，或者你内置了什么样的规则或规定，并且有一个系统在那里，你正在通过 API 调用来了解它？你的系统，我的意思是，你的系统是否与其他系统进行交互？所以，你的代理是否有可能与其他系统进行 API 调用？>> 你对此有清晰的认识吗？是的。>> 是的。所以，我想说这是一个多步骤的工作流程，理赔处理员必须与多个系统进行交互。所以，我们有一个保单管理系统，你可以说它是我们的数据库系统，它与之交互以检索所有保单详情。嗯，需要进行大量的验证来认证和验证理赔人，对吧？这是第一点，然后，他们需要参考大量的保单承保相关条款，这些是上传到 S3 的大型文档。所以，这些都是非常大的文档，除了这些，我们还需要检查欺诈性理赔，对吧？可能有重复的理赔，填写不一致，可能有某些重复的模式。所以，我们需要调用第三方 API 来检查这些欺诈性理赔。所以，我们也在使用它。最后，还有我们的理赔系统工作流程，我们的理赔处理员使用它来输入所有详细信息，然后更新状态。所以，所有这些共同构成了工作流程的一部分。>> 哦，太好了。是的，感谢你提供完整的详细信息。所以，让我回顾一下我听到的。我想总结一下，以便我们达成共识。我们理解了你试图通过构建代理来解决的确切问题。你说的第一点是，它是一个长文档，处理时间需要，我的意思是，你首先有一个长文档，然后第二点是，你正在调用第三方系统或数据库的 API，你正在寻求高准确性或决策能力。>> 而且应该有一种解释，我的意思是，你的代理应该能够解释它是如何做出决定的，对吧？我的意思是，你也需要可审计性。嗯，我从这次谈话中学到的是，你的文件可能包含文本和图像，所以，这就像这两种的组合，因为你说，会有一些事故，并且拍了照片，你会把它作为理赔传递，最后一个是，你正在寻求合理的响应时间，对吗？>> 是的。所以，现在，当我说是合理的时候，这取决于。但理想情况下，我们希望它在 5 秒以内。所以，这对于我们的大批量低风险理赔来说是可以的。但是，对于需要大量评估的复杂理赔，我们可以接受牺牲几秒钟。所以，这是我们的期望，我正在回顾一个未回答的问题。我想你问了我准确性需求的影响，我想重申一下它的重要性。所以，有很多合规性和监管机构在关注我们。所以，可审计性和决策必须绝对准确。为什么？因为如果存在不准确或欺诈性的理赔，对我们公司来说，当然会有财务影响。如果完全错误，并且我们不公平，可能会有诉讼，可能会有糟糕的客户体验。是的，我们会，所以，这些事情真的会影响我们的品牌和形象。所以，准确性是绝对必要的，延迟，就像我说的，在 5 秒以内。>> 希望这有帮助。>> 是的，这就是。是的。是的。是的。实际上，这正是我想要理解的，这样我就可以思考，你知道，我们如何能够找到好的模型，理解这里的所有内容，因为你开始时说，你有很多模型，当然，在 Bedrock 中，我们会详细讨论，但嗯，这不是关于选择一个模型然后开始，而是总是要看看你试图解决的问题。所以我对你试图解决的问题有了清晰的认识。所以，现在我有一个问题，在我们进入下一个部分，我们可以讨论一下有哪些模型可用以及最好的前进方式。对。所以，因为你正在工作，我的意思是，你的整个团队都在那里。所以，我想了解一下，团队在 ML 方面的经验如何？他们是否有处理 ML 问题的经验，或者，嗯，以及使用 AWS 服务，例如 Bedrock 或 SageMaker 或任何其他 AWS 服务方面的经验？所以，这将有助于我了解我们是否可以采用托管服务，或者我们是否可以考虑非托管服务。所以，是的，如果你能帮助我，那将是非常棒的。是的。>> 当然。所以，我们的团队仍在学习 AI/ML。所以，我们有几位 DevOps 工程师正在转向 AI/ML 领域，但他们从未在生产环境中部署过任何 AI 应用程序。>> 是的。>> 然而，我们在后端开发方面拥有深厚的专业知识，他们拥有 Python 专业知识。所以，这是好事，我们拥有那方面的专业知识。我们没有数据科学家，也不打算招聘。所以，这并不在我们的计划中。而且，因为我们不打算从头开始构建模型，因此我们一直在寻找 Bedrock，我们不希望有任何基础设施开销和维护。所以，我们纯粹寻求最低的运营开销。所以，>> 是的，我明白了。>> 是的，请继续，请继续，如果你想说什么。是的。>> 是的。所以，对于那个特定的团队，就像我说的，我们有一些工程师在 AWS 服务方面有过工作经验。所以，我想说我们对核心服务有所了解，但对 AI/ML 服务栈则不然。>> 是的，没关系。所以，这个完美的背景，嗯，告诉我，我们应该专注于托管服务，而不是非托管或其他需要专业知识的服务。所以，托管服务的优势是什么？例如，Bedrock，如果我说它保持简单，最小化运营开销，它是一个托管服务，所以你不需要做任何事情，你只需要 API 调用，你就好了。所以，是的，让我们谈谈 Bedrock 模型，它适合你的需求。我完全理解你的情况。所以，让我，你知道，如何谈论你如何做出选择模型的决定。但在我谈论这个之前，让我给你一个关于 Bedrock 如何工作以及 Bedrock 到底是什么的简要介绍。你已经说过，你的团队对 Bedrock 有点了解，而你的团队对 Bedrock 并不太了解，但只是告诉你，Bedrock 让你能够通过单个 API 访问来自多个提供商的模型。所以，如果你看看现在市场上的许多提供商，例如 Anthropic，比如 Claude，Llama，我的意思是，亚马逊本身，你知道，有很多模型可用，我会谈论的，所以你可以看到不同的模型提供商，但是使用 Bedrock，你可以选择适合你用例的模型，并且使用单个 API，你可以继续实现。Bedrock 的最佳之处在于，它不仅提供模型选择，还提供功能。所以，我不会深入探讨功能部分，只是想告诉你，因为这次讨论主要限于哪种模型适合你的用例。所以，让我们坚持这一点。所以，我将采用这种方式，我将选择一个框架，它叫做能力、延迟、成本和功能。这四个重要的方面，我们希望关注并尝试将你所说的所有用例，应用到这四个方面。例如，四个我们可以关注的方面，并在此基础上做出决定，是的，这个模型将是一个很好的选择，或者我们可以考虑使用多模型，这并不意味着只有一个模型适合解决整个问题。所以，让我们从那里开始。因为我一直在想，当我们看到这么多模型时，我一直在想，是否有混合搭配模型的可能性，就像你说的，有这种可能性，因为我认为不同的模型会有不同的功能，就像你说的，这四个是关键功能，我们可以根据这些功能来选择我们的模型。所以，我猜模型的选择将非常关键，取决于它们的功能，就像你说的，因为我认为我们有一个非常复杂的工作流程，需要深入推理。所以，它能够做到这一点非常重要。而延迟是我们的标准，就像我告诉你的，在 5 秒以内，成本我们想要一个平衡的成本。我们不想牺牲准确性。所以，给我们一些选项。>> 是的，这就是为什么我想提出这四个方面，比如能力。能力到底意味着什么？让我们来理解一下，让我们深入探讨一下。我会有一些问题。所以，你的理赔，我的意思是，如果你看你的理赔，你的理赔需要复杂的承保推理，而有些模型在这方面比其他模型更好。例如，假设，我的意思是，我只是在回顾你的问题陈述。你说它需要一种强大的推理。所以，你看，在 Bedrock 中有许多模型。有些模型在做决定和进行一些强大的推理方面做得很好。所以，这就是为什么我们必须检查哪种模型适合你的用例，它能够进行推理。所以，这就是我们谈论能力的原因。所以，如果你看这里，我在幻灯片中，你知道，你可以看到这里，我们有许多模型提供商，包括 Anthropic 和 Amazon，Noah，Ma，M，有很多。所以，不要只局限于这些模型，你知道，我只是，这是信息性的。你可以根据你的需求来决定。我正在帮助你，你知道，解锁一种，你知道，Bedrock 有哪些能力，这样你就可以做出明智的决定，这就是整个想法。所以，如果你看 Anthropic 的，我的意思是，最近 Opus 4.6 发布了。Net 4.6 已经有了。还有 HighQ 4.6。它们有不同的能力。所以，现在，根据你的用例，因为它需要强大的推理，我们可以选择一种提供强大推理的模型。而且成本较低。所以，我们必须在我们想要实现的目标和以最低成本实现目标之间进行权衡，而不会失去我们的 SLA，你知道，我们拥有的业务目标。所以，能力方面可以处理这些事情。我还有另一个问题。>> 当然。>> 你说，对于你的价格，有多复杂，我的意思是，你的，假设你只是传递你的理赔文件。推理有多复杂？我的意思是，是否有任何边缘案例需要细微的判断？我的意思是，假设有一些，你知道，保单，我的意思是，你传递的理赔文件。有时模型无法做出决定，这个文件属于这个特定的保单，或者这个保单是这种情况吗？>> 是的，绝对。所以，理赔可能非常复杂。首先，它必须对保险类型和理赔类型进行分类，它属于哪个类别。所以，它必须进行分析，一旦完成，你知道，将其分解为队列，它必须参考多个条款并相互关联这些条款，并理解它属于哪个类别，查看保单详情，它涵盖了哪些内容。所以，它需要进行大量的动态推理和深度推理，并不断地反思它试图达到的决定。所以，你可以理解我们需要的模型深度和思考能力。>> 太棒了。是的，这就是我想要关注能力的原因。所以，你看，有许多提供商，他们提供不同的模型。它们具有不同的能力，包括，你知道，我们称之为强大的推理。所以，如果你看，我的意思是，如果你回到上一张幻灯片，如果你看模型，你能看到这里的 Amazon Noah，我们有 Pro，我的意思是，Noah 2 Pro，它能够提供，我的意思是，它具有更强的推理能力。同样，Anthropic Claude，我的意思是，在 Claude 中，你可以看到不同的模型，它们在推理方面非常强大。所以，如果你的用例需要强大的推理或复杂的决策，那么我们需要考虑使用 Pro 或高级版本。>> 好的。>> 但是，让我们谈谈其他功能，因为一旦我们查看了所有四个维度，基于此，我们可以考虑哪个模型，或者也许不同的模型一起将是最终的决定。所以，让我问另一个问题。你提到，我的意思是，处理员，特别是，我的意思是，假设我提交了一个理赔，我不能长时间等待就知道我的决定，如果它是代理，那么它应该很快做出一些决定。所以，确切的延迟要求是什么？你之前说的是 5 毫秒，5 秒的响应，还是可以容忍更长的时间？我的意思是，我问这个的原因，让我补充几点，抱歉打断你，我之所以问这个问题，是因为有些模型非常出色，但如果你给它们更多时间，当然，你可以平衡成本和延迟之间的权衡。所以，这就是我的想法。所以，我的问题是，你的系统可以容忍更长的延迟要求吗？>> 是的，我们可以容忍。就像我说的，如果是复杂的理赔，我们愿意超过 5 秒的限制。所以，没关系。>> 好的，太棒了。你获得了明确的成本效益，比如，使用一个较小的模型，成本较低，但速度更快，但当然也很准确，那么我们也可以选择它，因为我们的整个工作流程中有多个阶段。所以，我想知道我们是否可以在中间放入其他模型。>> 是的，是的，当然，我将在稍后谈论这一点，因为我只是在触及所有四个维度。一旦我们理解了这一点，作为客户，你将与你的团队一起工作。那么，你如何决定为正确的案例选择正确的模型？也许你有一个冗长的过程，例如，理赔过程在不同阶段需要。在每个阶段，你需要不同类型的功能。所以，也许你不会只构建一个代理，也许你会构建不同的代理。一个代理将执行某些任务，另一个代理将执行某些任务。所以，也许一个代理只需要一个需要文本信息的模型，而另一个代理需要分析图像。在这种情况下，你需要一个具有视觉能力的模型。所以，这不是一个万能的解决方案，我的意思是，我们不能选择一个能够完成所有任务的模型，但是的，我们可以考虑为不同的阶段使用不同的模型。我们将在稍后讨论这一点，我将稍微谈论一下不同的架构模式，在那里我们可以看到，如果有一个多模型管道，如何构建管道，这样我们就可以看到哪个模型适合仅仅做出一个决定，是的，这是一个文本需求，或者这是一个多模型，或者文本和图像都可以一起完成。是的。所以，让我，嗯，问另一个问题，因为我们对推理部分很清楚，因为你的用例需要强大的推理。>> 是的。第二个是>> 是的。所以，我明白我们也可以使用所谓的评估。如果我错了，请纠正我，在那里我比较不同的模型，它们的性能，它们的延迟和成本，你提到的所有因素，总的来说，延迟、成本以及它们的表现如何，我们可以使用所谓的 Bedrock 评估，对吗？>> 是的，没错，没错，你听对了。所以，这就是我的下一个问题，感谢你提出这个问题，我真的很喜欢这种已经有所了解的客户。谢谢你告诉我，因为作为 SA，有时很难从客户那里获取正确的信息。所以我很高兴知道你已经了解了一些事情，这真的很酷。是的。所以，接下来的部分是，我想了解一下，然后我将谈论一下，我们如何能够管理你所说的部分。所以，你喜欢，你期望的量是多少？例如，假设今天有五个理赔，明天十个理赔，或者二十个理赔，或者会有多少理赔进入？我的意思是，因为这有助于我们做出明智的决定，如何构建我们的 Agentic 解决方案，使其能够扩展。所以，我们必须关注可扩展性。所以，在那里我们可以看到如何管理成本。所以，你能帮我一下吗？你知道，你有没有想过，你的系统将会有多少请求？我的意思是，你将要构建的系统。>> 坦率地说，我们只是想到了拥有这个 AI 代理的想法，并且我们已经将其传达给了我们的潜在客户。我们现在并不确定音量。我们将与试点客户进行测试，但我们看到了他们所有人的积极响应，所以我希望我们将有大量的音量，尤其是在工作时间，而且这肯定会随着时间的推移而增长和扩展。所以我没有一个清晰的数字可以给你，但我可以告诉你，这将是一个巨大的音量，我们需要一致的性能，我们将有一个大的吞吐量，这是 P 所必需的。这完全没问题，而且，我的意思是，当我与其他客户交谈时，我们也遇到过这种情况，有时客户并不非常确定，他们将有多少音量进入他们的系统。所以，有一种方法，有一种最佳策略。>> 第一种策略是，好的，你可以去构建 P，就像我之前说的，我们一直在谈论，我的问题是，有没有办法评估不同的模型以及价格？所以，首先，让我在这里提出定价点，在 Bedrock 或任何模型中，如果你看大多数模型，它们都是根据你传递和消耗的令牌数量来收费的。例如，如果你传递，比如说 100 个令牌，或者你得到，比如说 200 个令牌，那么总共你将根据传递的令牌数量收费。Bedrock 也有相同的概念。所以，我试图向你解释的重点。假设如果我们有两个模型，我们想评估一下，在这两个模型中，哪个模型在延迟和价格方面更适合。如果我们传递相同的提示给两个模型，我们可以看看哪个模型在我的用例中表现更好，特别是你整个管道的哪个部分我们正在解决。如果它能够回答并解决相同的，我的意思是，你传递的提示，用相同的提示，你得到了更好的答案，以最低的价格，我们愿意选择它。整个想法是确保我们以最低的成本实现我们的业务目标。这样我们就可以明确地关注。顺便说一句，如果你还记得，在模型，有不同的模型，如果你看模型的数量，你知道，你称之为，你一定见过，比如说 Meta 700 亿，那就是参数，数字越高，能力当然越高，但价格也越高。所以，我们需要关注这一点。>> 对，这意味着消耗更多的令牌，因此我们将支付更多，对吗？好的。>> 是的。而且你已经提到，文件会很长。所以，有时你需要关注上下文窗口。上下文窗口就像你一次性传递的令牌数量的长度。所以，这是另一个我们必须关注的标准。所以，考虑到所有这些，我们可以看到不同类型的定价层。我不会说这是正式宣布的，或者写在某处，但是的，如果你看看 Amazon Noah，比如说 Pro，它价格稍高，但如果你看看 Light，以及一些其他 Micro。同样，在 Claude 中，你可以看到，如果价格较低，当然较低，但上下文窗口有点不足。所以，我们必须看看哪个模型，以及上下文窗口和价格、延迟，哪个将适合你的特定案例。这就是我们可以关注的方式。我们可以看到不同类型的定价层。所以，是的，这样可以帮助你决定哪个模型符合你的业务目标，并且价格较低。所以，这里有一个定价层，稍微有点。>> 明白了，我一定会查看那些文件。>> 所以，嗯。>> 所以，我的意思是，你一定在想，如果我选择较低的那个，会不会有什么质量差异，对吧？>> 我想和你确认一下，因为我一直在想，为了节省成本，比如说，我选择 Nova Light 来提取我的文件。那么，我会在准确性或质量方面有所损失吗？还是不同的模型适合不同的任务？所以，是的，它是如何工作的？是的。>> 是的。很棒的问题，这正是我们需要测试的。但有一个不同的策略。我们不必为所有事情使用一个模型。这就是我刚才说的，对吧？所以，>> 我的意思是，让我谈谈功能需求，可能在其中我会涵盖。所以，如果你看，现在这四个维度，我们谈到了能力，我们谈到了延迟，我们谈到了成本。我们如何决定成本？下一个是功能。所以，正如你已经提到的，你知道，理赔也包含照片。所以，就像我，你提到你正在寻找视觉能力，对吧？>> 所以，我们必须看看哪个模型也具有视觉能力，对吧？所以，我们有选择，我们可以。是的。所以，我们也必须看看这些选项，我们必须看看价格。我们也必须看看延迟。对吧？所以，让我再问一个问题，你已经提到了，我只是在重申。所以，你说你的代理也会进行一些 API 调用，对吧？第三方 API 调用，对吗？>> 是的。是的。所以，为了检测欺诈性理赔，我们正在使用第三方 API。所以，它需要具备与外部系统通信的能力。>> 是的。所以，这里出现了另一个角度。所以，并非所有模型都具有工具能力。所以，我们必须看看将要用于代理的模型，并且它具有工具能力。如果我说工具，意味着调用其他 API。所以我现在不想引入 MCP 之类的东西。也许以后会有单独的课程，但是的，暂时让我们专注于工具能力。>> 你的意思是，嗯，每次 API 调用都可以意味着它是模型的一个工具。你是这个意思吗？>> 是的。所以，基本上，在模型中，我们可以，我的意思是，我们将谈论 Converse API。所以，通过它的帮助，你的模型将进行 API 调用，比如说 API 调用意味着你必须调用的工具。但是，想象一下，比如说，我想创建一个代理机器人，它会告诉我现在天气怎么样。所以，当然，天气模型无法告诉你当天的确切天气或时间，对吧？所以，它需要 API 调用。在这种情况下，你需要一个工具，这意味着你的模型应该足够强大，能够调用 API 来获取正确的信息，或者特别是，比如说，当有其他信息时。所以，这就是我说的原因。所以，如果你看这四个象限，我的意思是，特别是能力和延迟、成本以及功能。功能方面，我试图关注工具能力。所以，如果所有这四个都符合你的用例，我的意思是，我可以看到所有这四个都符合你的用例。所以，我有一个，我想提出一种模型策略，多模型策略，所以，我可以快速地向你介绍一下，你应该采取什么样的策略，好吗？>> 是的，当然。>> 所以，>> 是的，所以，我建议，我的意思是，根据到目前为止的对话，我能感觉到，我能看到，使用一个模型不会是一个好的选择。所以，我们需要构建你的，你知道，你的 Agentic 解决方案，分为四个阶段。第一个是文档提取部分。也许我们可以使用一个足够好的模型，你知道，从文档中提取信息，或者也许做出决定将其发送给其他模型。第二个是视觉能力，比如说图像分析部分，第三个是真正非常重要的，因为你说。
那样，嗯，我的意思是，如果你的代理人以某种方式失败了，或者做出了错误的决定，就会发生诉讼。在这种情况下，当然我们需要有一些评估，你知道，或者有指标。如果它没有达到指标，那么当然它应该失败，或者应该让一个人介入，对吧？那么，是的，在这种情况下，在策略推理部分，我们需要使用一个真正好的模型，它具有做出决策的能力，对吧？这就是我的看法，它就像，当然，决策生成，一旦所有这些信息都在一个地方，你的模型就能够，你知道，根据它从不同地方带来的规则和法规做出决策，因为它调用了第三方API等等。这意味着你将实施，你的团队将实施这些东西。所以一旦所有信息都在一个地方，你的模型就能够做出决策。所以在这四个阶段，你可以看到没有一个模型，有不同的模型，对吧？我们能，这个有什么好处？所以第一个好处是，如果你使用，比如说，最高的模型，或者你可以说拥有所有推理能力的模型，并且你将为所有阶段使用相同的模型，你可能会最终支付很多钱，对吧？但是，如果你根据这四个，你知道，维度来决定，借助四个维度，你可以弄清楚并尝试找到一个最佳点，嗯，我的意思是，在这四个之间，然后这将帮助你降低成本，比如60%到70%。我不是说这是确切的数字，但是的，我见过客户。是的，这样你就可以肯定地，你知道，降低成本，而且你不会失去你的业务，你知道，目标，我的意思是，你必须实现的那种业务目标，你可以通过这种方式实现。所以简而言之，我在这里试图解释的是，我们应该采用多模型索赔流程，对吧？它不像一个模型就能解决所有问题。到目前为止，有道理吗？是的，绝对。有道理。现在，有了我掌握的所有这些信息，接下来我想知道的是，我现在想从PC升级到一个生产就绪的工作负载。现在，我的团队在使其具有弹性、可靠性、一个非常健壮的系统时，需要注意哪些事项？我可能遗漏了告诉你的事情之一是数据驻留非常重要。我们不希望关于我们索赔人的敏感关键信息流向其他地区。我们希望数据和隐私受到保护和加密。那么，我可以使用Bedrock作为服务来处理哪些事情？是的，感谢你提出这个问题，让我先带你走一遍，然后我会谈到这三个要点，特别是弹性和推理配置文件，因为这是即将出现的问题，但是的，只是让你知道，首先，让我谈谈实施方法，所以首先，让你的开发人员，你知道，有一个沙盒账户用于实验目的。让他们玩玩，试着让他们熟悉，你知道，模型的各种能力。有什么功能，对吧？让他们也知道，不同的模式，比如基本的模型调用或多模型，你知道，比较，比如如何进行多模型比较和工具使用实现，以及如何处理错误，对吧？有时候，说实话，我见过很多客户在这方面遇到困难，因为他们认为，如果他们继续使用Bedrock提供的模型，它永远不会节流，但这不是现实，对吧？这是一个非常常见的模式。是的，所以那里有配额，所以如果开始有大量请求进来，当然它会失败，所以他们需要知道如何回退，以及重试机制。所以也许在开发环境中，它没有那么大的意义，但一旦进入生产环境并且失败了，它就失败了，我的意思是，你需要知道这个机制，音量，对吧？我们不知道。所以我们想，你知道，优雅地降级。所以这就是为什么，你知道，我非常有兴趣了解如何使其具有弹性。所以我看到你提到了推理配置文件。那么它与这里的弹性有什么关系呢？是的。所以，让我告诉你，我的意思是，这正是我想要带来的，这也是我向你解释的原因，你知道，有时会遇到什么挑战，你知道，如果请求发送到某个区域的模型，它可能会失败，它可能会节流，我不会说失败，也许它会节流，对吧？它节流意味着你无法从模型中获得响应，在这种情况下，你知道，Bedrock提出了一个想法，比如链接，我的意思是，做出路由决策，比如如果请求进入一个区域，如果存在容量问题，它可以被重新路由到另一个容量已经存在的区域。为此，我们需要推理配置文件。有两种推理配置文件。一种我们称之为跨区域，第二种我们称之为应用程序。我的意思是，你一定很感兴趣，这两者有什么区别。所以跨区域意味着，是的，所以跨区域意味着，我的意思是，这是一个区域组，如果一个区域，我的意思是，一个区域的容量被节流了，那么它当然会重新路由你的请求到另一个预定义的区域，所以你可以，你可以，你知道，使用交叉引用来允许你的请求进入该区域，一旦它在另一个区域失败。所以我可以选择地理位置，比如，是美国。好的。所以它会离开整个地理区域，对吧？所以我非常担心这一点。好的。是的，我会谈谈你的担忧，因为我理解你正在考虑合规性。让我再带来一个角度，有一个叫做应用程序的东西，我会分享文档，这肯定会帮助你的，你知道，开发人员理解它的能力以及它的优缺点。对吧？所以你可以，当然可以看一看，但简而言之，我只是试着给你一个区别，正如我所说的，跨区域引用意味着我们有一组区域，如果你使用该配置文件，那么一个区域失败了，另一个区域，我的意思是，你的请求将进入另一个区域。有一个叫做应用程序，你知道，推理，你实际上可以选择区域。我的意思是，在许多SaaS提供商中，我的意思是，如果你看看SaaS提供商，他们构建应用程序并与不同的客户共享，他们希望跟踪成本。在这种情况下，跟踪成本变得非常棘手，我的意思是，如何跟踪成本。所以应用程序推理可以帮助你，但在应用程序推理中，有一个功能，你可以告诉你的请求不应该进入这个特定区域，你可以决定哪个区域适合你，如果你有合规性，那么让我来解决这个问题，我将告诉你，因为我看到很多客户问这个问题，所有发送到Bedrock中模型的请求，你首先捕获信息吗？这是问题，你会用它来训练，重新训练模型吗？绝对不，不，让我告诉你，因为这不仅仅是你，我的意思是，我看到很多其他客户也问这个问题，我们不使用你的数据进行任何形式的模型训练，或者重新训练，或者微调，我们不做。所以请放心，它不是，我的意思是，它都在那里，我的意思是，你可以去查看，没有这样的事情，对吧？所以我希望这能让你了解，你知道，跨区域推理的目的，以及我如何确保，我们如何确保合规性。还有很多其他事情我可以谈论，比如审计目的。让我们说，我们有可观察性。如果你进入Bedrock，你可以启用它，所以所有的API调用都通过CloudWatch和CloudTrail进行跟踪。所以你可以在CloudWatch的仪表板上查看这些东西。所以有这个选项，对吧？所以这实际上很有帮助，Anil，因为你提到了应用程序推理配置文件，这对我们作为SaaS公司来说真的很有帮助，因为对于我们每一个保险客户，我们都希望通过标记他们来单独跟踪他们的成本，否则很难跟踪每个客户的使用情况。所以我想应用程序推理配置文件非常适合我们，你提到的地理范围内的配置文件也很棒。所以我们的数据不会离开那些区域。这是非常好的信息。但有一件事我真的很想知道的是，你知道，我们谈到了在我们的工作流程中使用多个模型，但是，如果我没记错的话，Bedrock中有一个叫做智能路由的东西。我以为它可以自动选择模型，而不是我们自己去实现它。有这样的功能吗？是的，让我快速给你一些信息。是的，我们称之为智能路由。基本上，整个想法是，我的意思是，如果你看看，比如说，有一个模型，你问问题，比如某个国家的首都是什么，对吧？你认为这会是一个大问题吗？因为某个国家的首都是已经存在的，而且大多数模型都知道，不需要太多推理。所以当然它应该去那个不需要太多，你知道，我的意思是，一个很小的模型就能帮助的模型。但是如果你问一个非常复杂的问题，需要大量的推理，那么当然它应该去那个拥有良好推理能力的模型。我们如何确保这一点呢？因为如果你将相同的提示传递给智能模型，当然它会花费你更多，而不是传递给小型代理。那么我们如何去平衡呢？我们有，我们称之为提示路由。所以它可以提示，我的意思是，它可以将提示发送到同一个，你知道，模型家族中的正确模型。是的。所以答案是肯定的，有这个选项。这都是自动的。是的，正如我所说的，这是一个托管服务。Bedrock是一个托管服务。大部分事情都由AWS负责。你不用担心。是的，有机制可以做到这一点。我的意思是，当然，它将是自动的。还有一件事我想快速告诉你，它发生在同一个模型家族内。不是说，例如，你要发送给不，它就像同一个模型家族。是的。明白了。是的。所以在，是的。所以，还有其他问题吗？现在没有了。嗯，不，我的意思是，我认为你已经涵盖了大部分内容。如果你能谈谈是否有任何计划可以让我利用来降低成本，或者你可以告诉我，或者我的下一步是什么。我非常想知道，我得到了这些信息，但我不知道接下来该做什么。是的。所以，我肯定会谈论，我的意思是，首先，让我给你计划。首先，你应该，我的意思是，打开，我的意思是，如果你有账户，那太好了。让你的，你知道，所有，我的意思是，愿意开始工作的员工或团队，所以从那里开始。你可以去下一张幻灯片，我认为那是我已经告诉你的信息，我相信，是的，所以你可以去准备，我的意思是，让你的团队准备好，然后开始那种，你知道，P，有一个有效的P，并测试它，并测试不同类型的准确性和每个阶段的延迟。正如我所说的，这不是，我的意思是，我们正在寻找的解决方案。它不是一个模型解决方案。我们可以为不同的任务使用多模型，当然，我们可以设置另一个电话来与你的团队讨论完整的架构，并且肯定会提供帮助。所以首先准备，比较不同类型的，你知道，我的意思是，你将要构建的P，测试它，看看它是否符合你的业务目标，所有指标，然后移动到，你知道，生产端，然后，你称之为，你知道，监控到位，可观察性之类的事情，所有这些事情都需要你来处理，对吧？所以为了节省时间，我因为我还有另一个会议安排，所以我想让你快速浏览一下这部分，我们可以安排另一个会议。所以我们可以更多地讨论这个问题。我希望这能帮助你，你知道，如何为你的用例选择正确的模型。是的，这绝对非常有帮助和富有洞察力，我的意思是，我的团队真的会感谢你所做的一切。但在我把它交给Prasad之前，我想也许你能和我们的听众分享一些见解。我有一个观点要分享，我的意思是，在我把它交给Prasad之前。是的，感谢大家，我知道，我的意思是，这一个小时，我和Pera试图，你知道，模拟一种角色扮演，SA如何与客户交谈，以及我们如何试图发现，你知道，客户面临的问题，并作为SA，如何帮助客户做出明智的决定，对吧？所以，我职业生涯中学到的一件事，我想与大家分享，我引用了一句话，非常简单的一句话，提问的艺术和科学是所有知识的来源，所以作为SA，重要的是，我认为你需要知道如何提问，也许我在这里一个小时听起来不太好，但是的，我们必须准备好，去，你知道，了解客户想要什么，所以这是提问的艺术，这对成为SA来说非常重要，是的，我希望这对你理解如何处理像Pera这样的难缠客户有所帮助，但是的，非常感谢，祝你有美好的一天，是的，相信我。谢谢，谢谢Anil，谢谢，这真的很棒，我们将继续前进，因为我们还有很多议程要涵盖，所以我要，添加到屏幕上Jeff和Raj，为我们的下一部分，但再次非常感谢Anil和Para，这真的很有信息量，观众们，我知道有很多问题，我们试图回答大部分问题，但仍然有未回答的问题，请随时使用Discord频道提问，并记住，你知道，我们有不同学习阶段的观众，所以我们需要满足所有人，如果你在AWS旅程中领先，请耐心等待，如果你认为你落后了，没什么大不了的，我们有以前批次录制的视频，可以帮助你理解，你知道，基本的AWS服务以及AWS GR服务的基础知识。所以请随意观看。好了，现在让我们进入下一部分，Raj和Jeff谈论SA心态。我将把Para和Anil从屏幕上移除，然后让Jeff和Raj介绍自己。早上好，下午好，晚上好，来自世界各地的各位。欢迎来到Bisa的第二周和我们行为轨道的第一周。我的名字是Jeff Escott。我是AWS的一名首席SA，我在企业和解决方案架构领域工作了近30年，并且多年来一直热衷于帮助开发新兴和成长的架构师，在这个系列中，从今天开始，一直到最后，我将向你展示AI是如何作为你作为SA可用的工具箱中的一个增强工具，而不是替代品。我在这里和我的同事Arj一起。大家好。Raj Menon。很高兴来到这里。我与AWS合作，并在客户解决方案部门工作，我们与客户合作，帮助他们充分利用AWS云能力。所以我们今天要做的是，我们将进行角色扮演。Jeff扮演他作为企业架构师的真实角色，而我扮演一个职业生涯中期的解决方案架构师，他开始探索AI，对AI有担忧，以及如何使用AI，并且还担心AI是否会取代角色的许多方面。所以这次谈话将通过Jeff作为架构师遇到的一些场景，以及我们如何使用AI为架构师增加更多价值。说到这里，Jeff，你准备好了吗？我准备好了。好的。所以Jeff，我可以对你说实话吗？上周我观看了一个演示，有人在ChatGPT中输入了几句话，它就生成了一个完整的零售分析平台的三层架构图，字面意思是花了90秒，而这至少需要我一天半的时间。所以，所以告诉我，我的意思是，我们过时了吗？我也看到了同样的演示，我可以看到它可能会，你知道，动摇一些人。你知道吗？让我问你，当你观看那个演示时，以及之后，当你看到架构时，你信任它吗？嗯，当它看起来是对的时候，我看到了VPC，我看到了子网，我看到了负载均衡器，RDS。我的意思是，它看起来是一个干净的架构。当然，它看起来是对的，而且可能有效。然而，它是否考虑了客户的本地Oracle数据库，他们完全不想迁移？合规团队是否要求在法兰克福进行数据冗余和数据驻留？以及那个因为过去的冷启动而受过伤，现在对无服务器失去信任的CTO？不，显然没有。对吧？而且，我认为这就是重点，AI，它给出了一个技术上可行的架构，一个可以运行的架构。然而，我们作为架构师的工作现在，而且一直以来都不是仅仅关于技术可行性。它是关于在我们自己的环境和我们的客户所处的混乱的人际政治、预算现实中进行导航。你知道，这就是我们可以做的。而这正是AI目前无法为我们做的。但是，你认为它需要多久才能做到？你知道吗？我当然认为这是一个悬而未决的问题，我喜欢思考一个不同的问题，你知道，思考计算器出现的时候，我知道这在我们俩的时代之前，然而，数学家消失了吗？不，现在那些只能做算术的人，这就是为什么他们依赖计算器，当然，他们遇到了问题，然而，那些理解为什么解决某些方程以及何时应用哪个模型，结果的含义，上下文，你知道，那些人变得更有价值了。我喜欢把AI看作是我们的计算器，而我们是，你知道，我们是，你知道，不断成长的数学家。所以问题不是它是否取代我们。而是你是否是那个只做算术的架构师，还是那个理解数学并知道如何应用方程的人？这是一个公平的观点。但现实情况是，Jeeoff，你已经做了很多年的架构师了。AI实际上是如何改变你的日常工作的？是的。你知道，让我来谈谈我最近的一个例子。这是三周前，我参与了一个新的项目。一家中型医疗保健公司，在AWS上处理患者数据分析平台，你知道。好吧，旧世界，你知道，我会做什么？第一天，我会阅读HIPPA文档，只是了解一下情况，你知道。第二天，我会比较，你知道，Redshift、Athena和Elastic Map Reduce，关于你知道，解决方案的技术组件可能是什么，最后，第三天，我会真正开始起草架构。所以你可以看到，你知道，多天的工作。我读了很多东西。我研究了很多东西。嗯，这听起来也像我的工作流程。是的。我的意思是，这是我们都在做的事情。这是我们被教导要做的事情，你知道，旧世界。让我们看看新世界，你知道，我实际上做了什么？好吧，我打开了Claude，我说，比较，你知道，我从一个提示开始。嘿，比较AWS Redshift、Athena和EMR用于医疗保健，医疗保健分析，工作负载处理。大约有两TB的患者数据。必须符合HIPPA合规性。哦，对了，考虑成本，查询性能，以及，你知道，S3数据湖集成。几分钟之内，我就得到了一份详细的比较表，列出了优点、缺点、成本比较、HIPPA考虑因素，你知道。所以，我曾经需要好几天才能完成的事情，你知道，我可以在我的咖啡煮好时就完成了。所以，所以你的意思是，你节省了两天。现在，这让我害怕。从工作保障的角度来看，这太可怕了。你知道，表面上看，绝对是这样。这可能很可怕。如果你是那个被计算器取代的数学家。当然。然而，AI的输出是好的。它确实为我节省了一些时间，而且可能让我完成了70%到75%的工作。你知道，但有些事情它没有做到。你知道。首先，它确实推荐了Redshift Serverless，技术上是合理的。但是这个客户的财务团队是按固定的年度预算运行的，他们无法处理可变的月度成本。所以，他们需要类似预留和重新预留服务以及预留实例的东西。AI不知道这一点。它只是选择了最佳方案。它只是想办法解决问题。它提到了HIPPA合规性。然而，它只是表面地提了一下。它忽略了他们的用例涉及与一所研究大学的跨账户数据共享，这会触发一套完全不同的合规性对话，关于根据HIPPA安全港法进行去标识化。第三，AI建议了标准的三个可用区部署。虽然技术上是合理的，但这个客户之前发生过一次引起新闻报道的故障。他们的董事会现在规定，他们必须是，你知道，活跃的、多区域的，用于面向患者的事情。所以这是他们的公司要求，你知道，政治上的。它不是技术上的。所以，所以你的意思是，你把所有这些知识都叠加在AI的输出之上？是的，正是如此。所以，AI的输出真的只是我的起点，而不是我的终点。它为我做了很多研究。我需要验证它。我添加了客户联系方式，你知道，我根据客户的政治环境方面进行了调整，预算，然后我在四个小时内交付了最终架构，而不是三天。我真正关注的是更高价值的事情，你知道，这如何以及为什么对客户有效，而不是仅仅是解决方案的技术方面。你知道，它比我独自一人完成所有这些工作，就像旧世界一样，质量更高。因为AI让我能够专注于这些高判断力的部分，而不是，你知道，做很多研究。很好。所以，如果我理解正确的话，AI处理了“什么”，而你处理了“为什么”和“如何”，对吧？是这样吗？这是一个很好的思考方式。是的。你知道，记住这个框架，你知道，这是整个论点，AI提供“什么”，而你，SA提供“为什么”和“如何”在解决方案和解决方案架构中，对于那些花时间在这方面的人，以及那些有志于此的人来说，“为什么”和“如何”与技术上可行一样重要，因为解决方案必须适合你的团队，适合你的客户，在他们所处的环境中，并满足他们拥有的约束。好的。你能帮我把它分解一下吗？我把什么交给AI，又把什么留在我的代码里？我为自己做的，以及我与他人谈论它的方式是，这种关于研究与判断分离的思维模式。简单的规则。如果可以查到，你知道，就是研究。AI来做。AI做得很好，而且AI做得比我快。如果需要不确定性下的判断，那就是你作为SA今天绝对需要做的事情。所以，你知道，可以交给AI的事情，你知道，知识检索，比较不同的，你知道，云服务，比较不同的技术，总结你可能得到的文档。是的，你，你，你，你知道，这里的例子，HIPPA文档，它很长。你知道，你可以用它来总结，你知道，综合不同云提供商的文档，找到最佳答案。要求它寻找，你知道，模式生成之类的事情。它可以寻找可能出现的模式，比如这里我们可以有事件驱动的架构，或者这里我们可以有微服务，或者数据湖之类的东西。它擅长理解在哪里可以找到模式。它擅长代码生成。你，它擅长基础设施即代码，无论是生成Terraform还是CloudFormation，以及，你知道，容器环境的清单。最后是文档，你知道，一旦你，你知道，作为人类在循环中验证了这一切，你就可以用它来生成文档草稿，用于演示，用于图表，用于解决方案架构文档和架构决策记录，相信我，作为一名在职业生涯中花费了多年时间进行这些文档编写的人，我知道它们很有价值且必要，它们需要我们付出很多努力。这些都是可以交给AI的绝佳事项。好的。那么，什么仍然是我们的，作为架构师？嗯，是的。你知道，你知道，客户环境特定的，你知道，约束，你知道，我们之前谈到的一些事情，你知道，可能存在对某些技术的偏见，或者某些事情，比如预算限制，你知道，组织内的政治。非常重要的是要了解团队的能力。你知道，你可以问任何一个模型，你知道，这是我的场景，我需要一个解决方案，它会，你知道，为你列出最佳的、技术上最出色的、可行的解决方案。然而，如果这是一个15年来没有构建过任何新东西的团队呢？你知道，你必须根据团队的能力和他们的风险承受能力来工作。利益相关者管理，你知道，AI不与房间里做决策的人互动，那个怀疑的CTO，那个注重成本的CFO，那个总是警惕危险的CISO。所以你必须与这些人，这些利益相关者以及他们的偏见和他们的担忧打交道。还有，比如架构权衡和分析，你必须做到，你知道，进行这些权衡，比如我们可能希望优先考虑可用性而不是一致性，正如我所说的，我们总是在不同事物之间做出权衡，因为我们没有无限的预算，也没有无限的时间。然后，你知道，长期的战略思维，比如业务在三到五年内将走向何方，你知道，你需要考虑，你知道，你如何为现在和未来可能发生的事情奠定基础。好的。所以，如果我来总结一下，AI处理有正确答案的“什么”，而我们作为架构师，我们可以查找，我们处理“为什么”和“如何”在不确定性的情况下进行判断。是这样吗？是的，绝对是。而这正是关键所在。那就是不确定性下的判断，作为SA，我们生活在灰色地带，你知道，介于非常二元的事物之间的空间。而这正是客户，你知道，经理，你知道，真正依赖我们的地方，就是能够，你知道，有时在信息有限的情况下做出决定，你知道，了解我们所处的环境，你知道，而AI确实消除了我们工作中价值最低、最繁琐的部分。所以，你知道，我喜欢，我学会了我的反应不应该是对这些工具的恐惧，而应该真正地看待它。这是一种解脱，因为它能帮助我，加速我完成那些，你知道，我过去花费大量时间的辛劳和繁琐的事情。现在，你知道，我明白了不同的部分。你能否带我走一遍实际的工作流程？你现在是如何处理一个项目的？是的，我实际上是在我称之为的“三环工作流”中工作的。你知道，我做的每一个项目都有这三个阶段，AI在每个阶段都扮演着角色。所以，我今天会给你一张地图，然后我会，你知道，重点介绍我们可以在未来深入探讨的每个阶段。所以，所以第一环，我称之为发现和框架。在这里，AI是研究助理。所以，把它想象成你在参加客户会议之前，AI可以做大量的研究工作，对公司的研究，你将要开会的公司，该客户的行业趋势，监管环境，竞争对手，以及竞争对手的模式。所以，你可以获得大量信息。然后，会议结束后，你有了笔记。你甚至可能有会议的文字记录摘要。你知道，你可以让AI，你知道，阅读这些东西。你知道，找出你忘记问的差距，然后你就可以更充分地准备好，并且在会议中留下更少的盲点。你知道，在我们第三周，我们将专门关注这一点，你知道，如何在不牺牲质量的情况下，将几天的准备工作压缩到几个小时。然后第二环，架构设计。这是AI作为设计伙伴，我真的强调“伙伴”这个词。而这正是我认为AI开始真正发挥作用的地方。你知道，无论是生成参考架构还是服务比较，还是基础设施即代码模板，你知道，AI生成这些设计的起点，然后你需要运用你的判断力作为SA，为客户，你的名字，你所处的环境，使其成为现实。而且，在进行这个阶段时，请始终记住，你知道，三个简单的问题，在将这个工件，你正在处理的这个文档，这个架构决策交给任何人之前，你可以用它作为过滤器。你知道，一，它是否符合你现在所处的实际约束？你是否验证了你所做的这些声明，并且它有效？你能否在一群怀疑者面前为它辩护？因为我认为没有一个SA会提出一些东西，而不会被问到为什么以这种方式解决问题，你是否考虑过其他事情？你必须准备好回答这些问题。而在我们第四周和第五周，我们将真正动手操作，包括，你知道，你可以使用的提示以及区分，你知道，好的AI评估设计和所谓的，你知道，糟糕的AI助手设计的验证技术。最后，第三环，交付和沟通。AI作为写作助理。你知道，你做了所有的研究，这很棒。你提出了这个架构，这也很棒，但总有一天，你必须谈论它并向某人展示它。AI可以起草你的执行摘要，你的架构决策记录。天哪，它甚至可以帮助你，你知道，创建你的演示大纲，你可以和它谈谈你如何以不同的方式构建这些东西，以及你可能拥有的谈话要点。你知道，沟通策略，你知道，谁被告知什么，以什么顺序，以什么框架，这仍然是你的。所以，你可以进行角色扮演场景，比如，如果有一个怀疑的CIO，你知道，我应该强调什么？但是你必须告诉模型，我正在处理这些事情。我们将在第五周和第六周谈论如何展示和辩护你的架构建议。很棒。是的，我期待着这些会议。但回到你的三个循环，你知道，思维模式，对吧？很棒。发现和设计，然后交付，对吧？所以，是的。是的，这很棒。感谢你分享这个思维模式和你的方法。所以，在每个阶段，你都在利用AI来提高速度和覆盖范围，而你就是质量关卡，对吧？是的。是的。我喜欢把它想象成AI工具是我的暑期实习生。你知道，当我领导和继续领导暑期实习生时，你知道，他们是我团队的宝贵补充。我发现他们工作速度快。他们很好地接受指示，并且会制作设计、可工作的代码，甚至文档。然而，我的角色是给出这些指示，审查工件和决策，然后向他们提供关于如何改进他们未来工作的指导。当你作为SA使用AI工具时，情况也是如此，你知道，你的工作是提供方向、领导力，工具会增强你，然而，你必须微调一切才能得到你想要的产品。这是一个很好的类比。是的。哦，有道理。所以我觉得这里有一个比仅仅使用AI工具更深层次的转变，对吧？嗯。是什么？你能带我走一遍吗？是的，我认为这是SA身份的一种转变。你知道，多年来，我们的价值是我们的知识。你知道，我们会争先恐后地获得认证，记住服务，并且能够脱口而出地比较它们。你知道，谁能凭记忆背诵EBS卷的区别。你知道，这就像一个知识护城河，而AI填补了我们的知识护城河。然而，知识并不总是我们被看重的关键。真正的护城河总是围绕着综合，将这些技术能力、业务需求、人为约束、风险承受能力综合起来，形成一个在现实世界中起作用的连贯架构。这一点非常重要。它，它，我们生活在这个现实世界中，我们不生活在一个我们拥有无限技能、无限能力、无限预算来做这些事情的真空中。你知道，处理这些需求需要经验、同情心、创造力和判断力。而这些是AI目前还不能为我们做的。而这，你知道，是我们的身份进一步成长的地方。所以，如果我理解正确的话，我之所以有价值，不是因为我所知道或记住的东西，而是因为我的思维方式。是的。是的。那些蓬勃发展的架构师将使用AI，并且会积极地将其用于知识密集型工作。你知道，投资它来解放自己，进行更深入的客户对话和关系，并花费更多时间在，你知道，那种敏锐的战略思考上。那些挣扎的人将坚持知识作为他们的身份。就像我知道这项服务或这项技术比任何人都多，而这并不真实，因为任何人都可以问你最喜欢的模型，根据该文档快速获得答案。所以那些依赖知识作为身份的人，他们会抵制AI，因为它感觉就像他们承认自己不再需要了。哦，这太真实了。很多时候我一直在想，嘿，我应该读文档，而不是只让AI总结，对吧？我感觉我像是在作弊。嗯，当然会感觉是这样。而且，而且，而且把它想象成这样，就像，它是一种作弊吗？一个拒绝使用MRI的外科医生，因为他们觉得应该通过触摸来诊断，他们是在作弊，因为他们使用MRI来辅助他们的临床判断，还是他们在利用一项出色的技术来帮助他们为患者做出最佳决定？我认为这就是我们的模式。认识到这些工具可以帮助我们获得更好的答案。是的。所以，Jeeoff，你知道，我们谈了很多事情，对吧？所以，你能给我三个从周一开始关注的事情吗？是的。是的。我认为一，你知道，每次参与项目时，都要开始，你知道，向你正在使用的AI工具介绍客户，你知道，就像进入研究部分。你知道，行业是什么？他们的技术栈是什么？约束是什么？你知道，也许是什么让他们的CTO晚上睡不着觉。你知道，你给AI工具的介绍越好，你得到的输出就越好。二，你知道，建立一个强大的提示库，我们将在未来的几周内讨论这一点。你知道，认识到将有一套标准化的提示，你可以在你所处的任何环境中都使用。比如，在最初的90天里，最大的五个运营风险是什么？如果预算削减了40%，你知道，你必须牺牲什么？你知道，这些可以成为你工具箱中的强大工具。第三，永远不要跳过验证。你知道，你知道，AI会产生幻觉。AI可能会出错，它可能会给你一些听起来非常自信的信息，即使它是错误的。你知道，永远，你知道，信任但验证。在任何东西离开你的手并交给你的团队或客户之前，你都需要成为那个在循环中的人。告诉你，我带着恐惧来到这次谈话，现在我带着兴奋离开。这很奇怪吗？不，我不认为，我很兴奋。我认为，我的意思是，现在是成为一名解决方案架构师的最好时机。你知道，我们工作中繁琐的部分正在被自动化。然而，增值部分，有趣的部分，老实说，我们工作中好玩的部分，战略思维，创造性问题解决，我们与人建立的人际联系，变得更加有价值。AI是你的助手。它不是你的替代品。那些弄清楚这一点，首先，它是你的助手，的架构师将拥有巨大的优势。现在，Raj，你是其中之一。是的。不，这很令人兴奋。所以，我将要做的是，我将开始处理一个新的客户项目，从周一开始。我将，你知道，我将首先做什么？我将开始向Cloud介绍客户，对吧？从那里开始。我认为这很棒。而且请记住那三个问题，就像，你知道，模型给你反馈后。你知道，它是否符合实际约束？你知道，它是否验证了这些声明？你能否在怀疑者面前为它辩护？这真的是全部。全部。谢谢Jeff，这非常有帮助。当然了，Raj。现在出去，用你新获得的技能去冒险。谢谢大家。回到你。是的。太棒了。谢谢。我喜欢这次谈话，而且，我完全被你讨论的内容吸引住了，而且在我作为SA的日常工作中，我每天都会遇到这些问题，并且试图帮助解决这些问题。所以，感谢这次谈话。有一个非常好的问题是，作为SA，你使用什么AI工具？我认为这将在未来的会议中出现，对吧？我们计划了完整的Bedrock会议，这是我们将要讨论的一个主题，作为SA，我们的工具包是什么？但如果我谈谈我自己的快速经验，我的一个，我的一个合作伙伴，他们做了很多Well Architected Review。他们是一个大型的Well Review合作伙伴。他们每个月做很多。所以，合作伙伴中的一个解决方案架构师说，他们每周能够完成一到两个Well Architected Review之前。现在他们能够完成六到七个。这就是他们获得的生产力提升的水平。而且，在未来的会议中，我们可以分享。有一些由一些SA创建的新Well Review，它使用了生成式AI。你所要做的就是提供一些信息，而我们作为SA过去手动提问和手动推导的所有问题，现在都由生成式AI完成。我相信他们现在正在为Agentic AI更新它。所以它提高了生产力。所以正如你所提到的，它就像，你知道，它帮助我们用更少的时间做更多的事情。这太棒了。绝对。太棒了。所以，让我们继续，我将把Parna添加到舞台上，进行最后的会议。Para，你在吗？我没有在摄像头上看到你，但我将把你添加到屏幕上，因为你将对这个最后的环节至关重要。所以感谢Jeff和Raj。我们将进入研讨会的下一部分。干杯。是的，我将分享我的屏幕。请给我一点时间。请给我一点时间。首先，让我分享屏幕并谈论一件事，然后我将把它交给你来完成本周的。
研讨会。是的。>> 是的。好的。好的。非常快。我知道人们在问，并且对他们何时会收到电子邮件感到不耐烦。他们现在就会收到电子邮件。所以，电子邮件已安排在此时间开始发送。所以，它是所有批量电子邮件，都预先安排好了，包含访问代码，给所有注册了第一个时段的人。所以，任何在格林威治标准时间星期四上午 10 点到格林威治标准时间星期六上午 10 点之间注册了第一个时段的人，他们将在格林威治标准时间下午 4:30 收到电子邮件。对于第二个时段和第三个时段，他们将在开始时间前 30 分钟收到电子邮件。对吧？所以，您会收到一封电子邮件，通过这封电子邮件，您将能够获得链接，通过该链接您将能够访问。所以，如果我谈论电子邮件，电子邮件看起来会是这样的，其中包含研讨会说明、常见问题解答以及所有内容。所以，请仔细阅读常见问题解答。请仔细阅读研讨会说明以及其中的链接。嗯，这将带您到一个像这样的页面，您将能够通过一次性电子邮件密码登录，一旦您这样做，嗯，您将能够嗯，你知道，进入环境，然后从那里您将能够做到。所以，如果您觉得您到现在还没有收到电子邮件，它应该会在接下来的 10 分钟内最多到达您的收件箱，因为它现在已安排发送。发送数千封电子邮件需要一些时间。如果您没有收到，那意味着它在您的垃圾邮件文件夹里。电子邮件已送达。我们已经检查过，送达成功率为 99.99%。如果任何电子邮件未发送，我们会检查后端电子邮件系统并将其发送出去。所以，它会在您的垃圾邮件文件夹里。所以，请检查一下。这就是我需要分享的全部内容。请随时分享您的屏幕。>> 是的，请给我一分钟。嗯，希望您能看到屏幕。它显示了研讨会工作室。>> 是的。>> 好的。我也会很快分享幻灯片给 Prasad。所以我将快速浏览一下，然后分享幻灯片。嗯，好的，各位。所以，本周的研讨会非常令人兴奋。您将构建一个天气人工智能代理，而且它相当简单。您不需要编写代码。代码都已提供给您。您只需要理解构建块，如何使用 bedrock 客户端服务连接到 bedrock 运行时。选择您的模型，选择您的区域，然后您将如何选择您的工具。对吧？所以，显然，代理是，如果您只使用带有 LLM 的代理，它就没有多大用处，对吧？它就像您在与 ChatGPT 对话，它只是给您答案。您想做智能的事情，您想采取行动。行动部分来自于它使用工具。所以，在这个特定的研讨会中，您将使用的工具是一个接口，一个 API。它是一个天气服务 API，它将智能地选择并策划一个 URL。当然，LLM 不是执行或运行该 URL 的那个。是代理。LLM 是为您构建该 API URL 的那个。好的。所以，这是一个小概述。我将用我的幻灯片提供一个更好的概述。但这里有一些需要注意的事项。所以，既然您在一个活动设置中，您仍然需要在此特定研讨会中执行一些步骤。并不是每个环境都已设置好。您必须去设置您的 Python 环境。所以，请确保您执行这些步骤。嗯，不熟悉编码的人，这一步只是为 Python 创建一个隔离的环境。所以，当您是一名开发人员并且有多个项目在进行时，这一点更为重要。所以，一个 Python 环境将使用不同的包或不同的版本。那时您就会创建虚拟环境。所以我知道您只处理一个项目，但这些步骤在您处理多个项目和多个环境时更为重要。好的。所以，您需要这样做。您将获得一个 VS Code 环境。它看起来会是这样的。好的，这看起来几乎和 VS Code 一样。如果您使用过 VS Code，它是一个 IDE，集成开发环境，您可以在其中编写代码。它看起来非常相似。您不必编写太多代码。您将看到的大部分代码都已在此处提供。好的。所以，如果您查看步骤，代码几乎都已提供给您。但我建议不要完全照搬复制代码。这里有一个剪辑按钮，供您复制并粘贴到您的文件中。但我建议，如果您有任何 AI 工具并且不熟悉编程，只需将此代码放入其中，然后尝试理解那里发生了什么。您会发现有多个步骤，多个函数涉及其中，我稍后会以图示的方式向您展示。所以，对于那些不真正理解编码的人来说，他们会理解工作流程中到底发生了什么。所以，使用一些 AI 工具运行您的代码，以了解代码的作用。这是我希望您记住的一件事。另一件事是，在研讨会期间，将有一个阶段，您将设置一个 Streamlit 网页应用程序。好的。所以，当您运行您的 Streamlit 网页应用程序时，它看起来会是这样的，并且右侧会有一个弹出窗口，其中会提供您的网页应用程序的链接，该链接将在浏览器中打开。所以，您可能会错过那个弹出窗口，因为它也发生在我身上，您可能会想我如何打开它？所以，请记住，如果您错过了弹出的窗口，一旦您启动 Streamlit 应用程序，您需要做的就是回到您的控制台，这是您进入研讨会后获得的 IDE 的 URL。向下看，您会看到事件输出，这就是带您到 IDE 的 URL。好的，所以您需要记下第一部分，CloudFront 部分。您会看到它在这里匹配，后面跟着端口。好的，后面跟着端口，然后是斜杠和端口号 8501。所以，这只是如果您错过了弹出窗口，因为弹出窗口会很快消失。好的，如果您注意到了，您可以直接点击它。我只是告诉您，如果您没有注意到，这就是您如何找到它。我再说一遍。在此处输入您的 CloudFront 域。您可以在底部从您的研讨会中获取它。第一部分，后面跟着端口，8501 是端口号。好的。端口号也在这里，8501。好的。所以，如果您尝试在此处点击，它将无法打开。好的。所以，这些是您需要记住的几件事。现在，回到研讨会的内容，只是为了将其分解为清晰的概念。请给我一分钟。让我拉起来。好的。所以，您在这里构建的是一个代理。现在，代理与直接与 LLM 对话有何不同？请记住，代理不仅会吸收您的问题陈述。它将进行规划，在规划和推理之后，它将采取行动。好的。所以，它实际上会采取行动。嗯，您可能听了我们上次会议我和 Ashish 的谈话，我们说在生成式 AI 中，它只是给您一个输出，它并没有真正做什么。如果您要求一个行程，它会给您一个行程，它不会为您预订任何东西。然而，在这里我们正在设置一个天气人工智能代理的构建块，它不仅会从您那里获取暂定的位置，以自然语言表示。所以，不一定您会说“给我芝加哥的天气预报”或“给我西雅图的天气预报”。您可以说任何话。您可以只给一个地标。您可以给一个邮政编码，LLM 足够智能，可以去获取坐标，纬度经度，然后它会看到“好的，我现在有了这些信息，我还能做什么？我的目标还没有实现。我不能给用户纬度经度，对吧？那不是天气。所以，我有什么工具？那时它会意识到“嘿，我有了这个 API，我可以调用它，所以让我创建 API URL”。所以，请记住，LLM 不是那个进行调用的人，它只是会为您创建 API URL，然后代理本身将使用 curl 命令执行它。所以，您会看到在这个研讨会中，有一些关键函数。好的，call claw set 是大脑。好的，这是将调用您的 sonnet 4.5 的那个，那是您的 LLM。好的，所以它将传递提示，调用将在这里发生。Execute curl 是您在这里看到的另一个函数。那是将运行 curl 语句的那个，使用 LLM 为您创建的 API。好的，这就是您的双手。它在做实际的工作。有一个名为 generate API calls 的函数。好的，这里正在进行规划。一旦您给它目标或告诉我一个地方的天气，它就必须开始思考，对吧？“我如何找到那个地方的天气？”所以，规划将是这样的，它将为您创建 API URL，并使用该 API URL，它将检索一些信息，并使用该信息，它将为您提供详细信息。好的，您在这里看到的最后一个函数是 process the response。好的，这是另一个函数。这是将协调它获得的所有信息的那个。所以，谁将协调它？再次，是这里的 LLM。大脑将收集这些信息。请记住，当您调用 API 时，您不会以自然语言获得它。它以 JSON 的形式出现，例如。它以某种结构化数据出现。那必须被转换成自然语言，人类可理解的格式。谁将这样做？再次，是 LLM 将这样做，这将在该函数中发生。您会注意到一段代码，其中发生了 bedrock 配置。所以，我们正在使用 boto3，它是 AWS 的 Python SDK。好的。所以，您将在您的步骤中看到我们将它安装在您的环境中。使用它，我们将创建一个称为 bedrock 客户端的东西。好的。所以，我们需要与 bedrock 服务通信。所以，我们创建一个客户端，它将与 bedrock 运行时通信。现在，bedrock 与谁通信？我们必须告诉它，在您身后有 N 个模型。我想与 X 模型通信。所以，我们需要提供模型名称或 ID，我们还提供区域。好的。所以，某些模型只在某些区域可用。所以，您也必须提供这些信息。好的。所以，这就是这里发生的事情。所以，现在在这个整个研讨会中到底发生了什么？有两个部分调用了大脑。大脑是 LLM。一个是规划时间，即我需要做什么才能实现我的目标，即提供天气，这是规划大脑，最后是整理信息并给出响应，那时大脑被使用，在两个时间点，执行引擎在哪里？所以，这是代理，它将实际执行 curl 命令或运行 curl 命令，使用 LLM 提供的 API URL。所以，它将经历不同的步骤。好的。所以，首先是您给出城市名称，或者您可以给它一个地标，或者您可以给它一个邮政编码，或者您可以给它一个暂定的地点，您可以说“嗯，嗯，白宫所在的城市”。好的，类似的东西。所以，它，LLM 非常聪明。它将要做的是，它将去找到您所谈论的暂定地点，并检索纬度经度。现在，在代码中，您将看到我们正在使用两个 API。一个是 points API。现在，points API 需要纬度经度。您不能像这样给它暂定信息，白宫所在的城市，对吧？您必须给它纬度经度。所以，LLM 是那个检索这些纬度经度的人，它将创建那个 API URL，points API URL，然后有一个调用将由 extract URL 做出。好的，那将进行 curl 调用。一旦数据被检索出来，我们仍然没有天气信息。好的，我们仍然没有。我们有什么？我们有称为预报办公室和网格的东西。好的，您会在您的代码中注意到，它是预报办公室代码以及 X 和 Y 网格。所以，这些信息是形成预报 API 所必需的，然后我们运行它，那时我们才能获得实际的预报。好的。现在，显然，这个预报 API 再次，它将以 JSON 格式给出，这对于人类来说是不可理解的。所以，我们需要什么？我们再次需要一个 LLM 来解读返回的内容，并以人类可读的格式显示。好的。所以，这，这将给您一个清晰的画面，您的代码中到底发生了什么。好的。所以，用户将提供一个位置或一个邮政编码或一个暂定的位置，就像我说的，他们甚至可以提供尼亚加拉大瀑布。好的。现在，有一件事我想让您注意，我们正在使用国家气象局 API，它只覆盖美国地点。好的。所以，如果您输入您的本地信息而没有得到预期的答案，请不要失望，因为它只适用于美国本地。所以，为了实验目的，请尝试输入地点。您也可以输入其他地点。它，它被设计成不应该失败。好的。所以，实验室不会失败。它只会给您一条消息，说这不包括在内等等。好的。现在，假设您输入了一个美国地点。这里的代理将做什么？它将发送这些信息。它将通过我向您展示的 bedrock 客户端提示您的 sonnet，并告诉它这是我获得的信息。有一个提示。如果您看到代码，有一个完整的结构化提示，告诉 Sonnet 该做什么。好的。所以，它告诉 Sonnet，您是一个天气代理。您必须，您可以使用此 API。您必须创建此 API。找到暂定的坐标并制作它。它还给它一些例子，以便 Sonnet 知道如何制作 API URL。请记住，如果它给出了错误的 URL，执行将失败。curl 命令将无法运行。然后 Sonnet 会用 points API URL 回复。一旦有了那个，然后代理就是运行它的人。所以，这就是我一直强调的。LLM 不运行您的 API。好的？所以，代理是那个将运行它的人。它将命中 points API，返回一些元数据和一些天气预报 URL。它不会给您实际的预报。好的？它只会返回一个 URL 和一些其他附加数据。代理接下来要做的是，它必须提取。在这个阶段将发生一些数据提取。它将检索那个预报 URL，然后它将再次发出一个 curl 命令并命中预报 API。好的，那时您将获得实际的天气数据，而这些天气数据是原始格式的，就像我说的。好的，您不能直接将其呈现给用户。所以，它必须再次发送给 Sonnet。好的。所以，处理这些原始数据并以精美的格式呈现。所以，您将再次看到一个提示，告诉 Sonnet 如何格式化它，它将以一种漂亮的时尚返回给您，并显示出来。好的。所以，这就是正在发生的一切，而且，坦率地说，您可以直接去给它一些描述。您可能会说，它有什么智能之处？现在，如果我只是进行普通的 API 调用，如果我给出了一个暂定的指示，比如“霍姆斯特德附近的国家公园”，任何其他基于代码的 API 都无法做到这一点。但是因为我把它给了一个 LLM，AI 将自动找出坐标。从坐标内部，它将进行 API 调用，提取 URL，进行进一步的 API 调用，并以自然语言以漂亮的格式给您答案。好的，所以正在发生的是自然语言被转换成天气预报。您可能会问我，它有什么代理之处？所以，当一个应用程序被称为代理式，或者一个模式被称为代理式时，当它具有这些特定的模式时。所以，它正在进行规划，对吧？一旦您给它一个指示，它背后的 LLM 大脑，它正在分析位置。所以，如果我给出尼亚加拉大瀑布，它必须弄清楚它在哪里，对吧？如果我给出白宫，它必须弄清楚，好的，它在华盛顿。所以，这种分析是由 AI 完成的，它会找出纬度经度。然后它必须规划，好的，现在我需要做什么？那不是预报，我需要创建那些 API 调用。一旦完成，然后就有行动规划。行动。好的，行动是您将去执行那些 API 调用的部分。好的，就像我说的，有两个 API 调用会发生。所以，那是您的行动部分。然后显然会有后处理，因为您会得到一些原始数据。您不能直接将其发送给用户。将会有一些处理，甚至为了美化那个响应，您将再次使用您的 LLM。好的。所以，因为有规划和行动，所以我们称之为代理式。它正在自动进行推理。好的。所以，这就是您的代理式发挥作用的地方。我希望这有道理。如果您现在看到，当您打开这个，这是研讨会的 Web 界面。显然，研讨会有两个部分。一个是您将直接调用您的 Python 代理。好的。所以，第一部分您在这里创建您的 Python 代码，代理，您可以直接调用它。第二部分是有一个漂亮的 Streamlit 在前端，这就是您将看到的。好的。所以，例如，在这里您可以进行实验，我说，因为我一直重复同样的事情，我会尝试一些别的东西。好的。所以，这里它会准确地显示。好的。所以，当我告诉您 points API 时，现在请记住，我们给了它迈阿密，这个值是从哪里来的？好的。这就是 LLM 实际检索纬度经度的地方。它是如何构建这个 API 调用的？因为它智能地提示了它。所以，花些时间仔细阅读这段代码。好的。所以，这里有代码。嗯，我想在下一个。嗯，让我们看看。嗯，这里是提示。只是想向您展示提示。是的。所以，花时间仔细阅读这个提示。好的。这就是所有魔法发生的地方。看，您是一位专家，正在处理国家气象局 API。首先确定近似的纬度经度。好的。所以，根据我输入的内容，它会这样做。然后它应该生成 API URL。您可以看到，如果您听说过零次、一次、多次提示，我们正在给它例子。好的。所以，所以它不会犯错误。所以，这就是您给它例子的地方。最后，您非常严格。只返回 API。不要添加任何其他东西。对吧？所以，这就是第一次调用 URL 时魔法发生的地方。好的？好的。所以，如果您想知道这个 URL 是如何出来的，请去看看那个提示。好的。第二步，就像我告诉您的，它只会返回预报办公室和网格 X 和 Y 网格坐标。好的，您只获得这些信息。它不会给您预报。所以，在第二步，检索到这个特定的 URL。再次，去看看代码中的那部分。嗯，是的，所以 get forecast URL，您将看到它实际上是从第一个 API 的响应中提取那个 URL。好的。最后，一旦您有了那个预报，请记住，它也将调用 curl 命令。好的，所以代理将调用 curl 命令。好的，这是实际执行发生的功能。所以，您可以看到它实际上也在进行调用。请也阅读错误处理部分，因为您的代理能够安全地失败至关重要。如果有错误，就像我说的，尝试进行实验。尝试输入一些别的东西，看看响应是什么。也许是一些未知的位置，或者我可以输入一些东西。我在这里。所以我现在在孟买，对吧？所以，孟买不在国家气象局的覆盖范围内。让我们看看会发生什么。所以，代码如何处理错误。好的。所以，它不应该破坏应用程序。所以，这也是值得学习的地方。好的。所以，您可以看到这里，它解释了孟买位于印度，而国家气象局不提供该地区的数据，例如。所以，您可以尝试所有这些，然后看看它对您来说效果如何。所以我希望您对它的工作原理有了一个简要的了解。Prasad，您想在这里添加什么吗？或者我错过了什么？>> 不，我认为您已经涵盖了所有内容。有很多问题，我们正在尝试回答，但有些人说请分享研讨会 URL。任何注册了第一个时段的人，电子邮件已经发出，您应该已经收到电子邮件了，我可以看到后面，大多数人都正在登录并开始使用研讨会。如果您注册了第二个或第三个时段，您将在您的时段开始前 30 分钟收到电子邮件。您将有 8 小时的时间来完成研讨会。坦率地说，研讨会最多只需要一两个小时。即使您按照自己的节奏进行，最多也只需要几个小时，对吧？所以，8 小时的时间窗口非常大。而任何尚未注册的人，我们将通过电子邮件发送视频。视频现在已经上线了，是关于演练的，对吧？每个步骤的演练都已上线。正如 Prasad 所解释的，它非常详细地解释了整个工作流程将如何进行。所以，请再次查看这个视频以及研讨会 URL，以便您可以在您自己的账户中进行。我们理解人们可能在周末很忙。但至少对于这一批来说就是这样，如果您无法完成，请在您自己的账户中完成。现在有一个关于我们应该能够提供成本的问题，关于它将花费多少。坦率地说，它并不多，但我们无法提供任何具体的数字或范围，因为它取决于您的使用方式。如果您长时间保持开放状态，可能会花费很多钱，我们不想陷入任何这样的承诺，说它将花费这么多。所以，它并不多。如果任何社区成员想这样做并分享，请这样做。但我们作为官方的促进者，将无法提供这些研讨会的成本。好的。对。>> 嗯，抱歉。请继续。>> 是的。所以，就像它所说的，这个特定的研讨会使用最少的资源，就像您看到的，它只是 Python 代码。所以，主要的费用基本上是托管 IDE 的费用。但如果您长时间运行它，您当然会看到高昂的费用，而且您也可以在您自己的账户中进行。所以，一旦您完成了编码，您就可以下载代码。您可以下载 Python 代码，然后您也可以进行实验。所以，这个，它不像之前的研讨会那样使用过多的资源。好的。所以，它需要最少的时间，但如果您花时间理解代码，那就太好了。所以，我认为如果您不花时间去理解代码，您应该在 45 分钟内完成。>> 是的，我粘贴了常见问题解答的链接。它包括演练视频的链接。它包括直接研讨会 URL 的链接，您也可以在您自己的账户中进行。但请仔细阅读常见问题解答。所有问题都在其中得到了回答。如果您在检查了垃圾邮件后仍有任何疑问，请在 Discord 频道上联系。是的，我们今天准时了。所以，正好准时。所以，感谢大家的参与，并在 Discord 频道上见。我们有一个志愿者团队，将在接下来的 24 小时内帮助您完成研讨会。让我非常快速地将其他人添加到屏幕上。到目前为止，任何有空的人。我看到几个人。如果您想打开摄像头，Anil，Anchal 和 Mul。再次感谢。嗯，好的。酷。所以，这里是>> 大家好。>> 是的。亚马逊的那些人。嗯，还有一些人不得不离开。这是一个周末，所以每个人都有自己的日程安排，但感谢大家。>> 感谢大家。下周见。>> 下周见。