使用 Amazon Bedrock 构建亚马逊云科技解决方案架构师代理

## 视频 <video src="https://dev-media.amazoncloud.cn/30-LibaiGenerate/31-LiBaiRebrandingVideo/BOA306-Building_an_AWS_solutions_architect_agent_with_Amazon_Bedrock-LBrebrandingWCaptionCN.mp4" class="bytemdVideo" controls="controls"></video> ## 导读 在复杂的云解决方案中导航可能是一项艰巨的任务。在本论坛中，了解生成式 AI 如何通过构建亚马逊云科技解决方案架构师代理，帮助解决该问题。使用 AmazonBedrock，学习如何构建一个生成式 AI 代理，该代理可以查询亚马逊云科技文档、生成代码和创建图表。会议以现场演示结束，其中我们的生成式 AI 代理处理各种任务，大大减少了手动工作和错误。获得实用见解和专有技术，以构建生成式 AI 代理，缓解类似的痛点。 ## 演讲精华 <font color = "grey">以下是小编为您整理的本次演讲的精华，共1200字，阅读时间大约是6分钟。如果您想进一步了解演讲内容或者观看演讲全文，请观看演讲完整视频或者下面的演讲原文。</font> 亚马逊云科技的Banjo Bia和Olivia两位主讲人深入探讨了构建智能代理的技术细节，作为亚马逊基石解决方案架构师。他们首先描述了AI构建领域中的不同层面。在底层，包括专为训练大型[机器学习](https://aws.amazon.com/cn/machine-learning/?trk=cndc-detail)模型而设计的亚马逊Trainium等ML基础设施，以及专门用于执行这些经过训练的模型的优化硬件芯片。 在层级结构中上一层，还包括诸如[Amazon SageMaker](https://aws.amazon.com/cn/sagemaker/?trk=cndc-detail)等AI服务，该服务为实践者提供了使用流行框架（如PyTorch和TensorFlow）微调预训练模型的工具，以便将其适用于特定用例。 主讲人解释道，再上一层包括诸如[Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail)等AI服务，它提供了对称为基础模型的大型预训练语言模型的访问。Bedrock通过简单的开发者API提供支持，因此发送文本输入会产生相关的输出，如图像或文本，而无需具备[机器学习](https://aws.amazon.com/cn/machine-learning/?trk=cndc-detail)技能。 在最顶层是完整的最终用户AI应用程序，如Alexa。主讲人强调，[Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail)位于理想的层，建造者可以开始拓展他们的技能并玩弄驱动基于代理的应用程序。构建代理被视为AI工程的“Hello World”，无数开发人员渴望能够打造能够进行对话或执行有用操作的代理。 主讲人明确定义了一个AI代理为一个由大型语言模型驱动的应用程序，结合定制指令来指导其行为，以及它可以利用的工具来完成定义的任务。例如，一个代理可能具有部署Lambda函数或根据文本提示生成图表的工具。 一个重要宣布是，[Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail)代理现在已普遍可用，允许建造者组装各种新颖的AI驱动的体验。 主讲人概述了一些可用于构建代理的常见工具： - Streamlit - 一个Python框架，使开发者能够在不使用HTML、CSS或JavaScript的情况下仅使用Python构建交互式Web应用。这简化了创建演示和原型的工作。 - LangChain - 为许多常规任务（如网络爬取、将数据存储在矢量数据库中以及调用基础模型）提供了开发者API。这简化了将大型语言模型整合到应用程序中。 亚马逊代码助手（[Amazon CodeWhisperer](https://aws.amazon.com/cn/codewhisperer/?trk=cndc-detail)）是一款提升编程和文档编写能力的辅助工具。据研究证实，它能使开发者的工作效率提高57%，同时任务完成成功率提升27%。 以一个具体案例为例，一位演讲者计划创建一个名为“Agent Amazon Cloud Expert”的虚拟专家，旨在帮助客户了解亚马逊云科技的最佳实践。这个代理将配备涵盖Well Architected Framework、编写和部署代码以及生成亚马逊云科技架构图的工具。 该框架将包含一个用于访问工具的Lambda函数、一个存储规格的S3存储桶、用户提问的功能，以及代理通过使用适当工具回应问题的功能。首先，演讲者将独立构建这些工具，然后将它们与Lambda函数集成，通过Bedrock控制台向代理提供指令，并最终使其能够根据分析用户的问题来调用适当的工具。 他们收集的工具包括： - Well Architected - 将所有文档摄入利用Bedrock Embeddings的向量数据库中，以便快速确定解决基础设施架构问题的相关文档； - 编写代码 - 构建一个自动根据解码用户自然语言意图的Lambda函数，用于在飞行过程中打包和部署代码； - 图表 - 使用Diagrams Python库生成的图表示例对模型进行微调，因为如果不进行调整，模型通常会产生错误的代码而不是输出正确的图表代码。 在编译工具后，接下来需要将这些工具集成到代理中： - 将方法捆绑到一个Lambda函数中。 - 授予从Lambda调用Bedrock模型的权限。 - 通过Bedrock控制台将Lambda添加到代理的操作组中。 - 提供OpenAPI 3.0规范，用于将文本请求映射到每个工具的API端点。 - 首先在隔离环境中测试Lambda，然后再将其连接到代理。 通过这些工具的支持，代理现能解析自然语言问题，并根据需求调用相应的工具API以满足用户请求。 总的来说，演讲者阐述了[Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail)如何使生成性人工智能的访问民主化，使得开发者能够设计创新性的新体验。随着技术的发展，AI代理在生成性AI用例和创建引人入胜的用户互动中的作用将变得越来越重要。演讲者展示了一个虚拟解决方案架构师的示例代理，该代理利用各种工具来生成代码、图表和查询框架。关键在于代理能评估请求并选择合适的工具来完成每个任务。为代理提供更多工具将使其具备更多样化的功能。 演示展示了如何通过[Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail)构建具有定制技能的智能代理，以辅助用户。例如，示例代理可以自动化提议亚马逊云科技解决方案架构的许多方面。这表明Bedrock代理有潜力显著提高生产力和用户体验。 尽管演讲主要关注的是构建代理的技术细节，但探讨其实际应用场景和用户故事也颇具启发性。一些智能代理能够提供价值的实例包括： - 客户支持 - 代理可以回答常见问题，提供设置说明或诊断问题，从而可能减少等待时间并提高满意度。 - IT帮助台 - 代理可以处理诸如密码重置等琐事，让人工工作人员能专注于解决更复杂的问题。 - 个人助理 - 代理可以与日历、电子邮件和待办事项列表集成，以自动化调度、通知和组织。 - 设计顾问 - 代理可根据最少标准推荐图形设计模板、颜色方案和布局。 - 销售助手 - 分析客户数据以建议产品、定制推介和突出显示相关促销活动。 - 个人导师 - 根据学生的进步提供个性化的学科指导。 - 营养顾问 - 提出考虑健康状况、饮食需求和偏好的餐点计划。 - 游戏机器人 - 在多人游戏中作为智能队友或对手行动。 当智能代理能够快速构建以自动化专业知识和知识时，潜在的机会是无穷的。[Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail)为更广泛的受众解锁了AI开发，其持续的发展将带来我们无法预料的解决方案。 演讲者们展示了一个令人振奋的未来景象，在这个未来，人工智能可以由任何开发者利用，以提高工作和生活的各个方面。他们通过实际操作向观众展示了如何创建具有强大功能的代理的过程，并展示了Bedrock如何使这一强大的技术为所有人所用。 **下面是一些演讲现场的精彩瞬间：** 奥利维亚作为亚马逊云科技的一位资深倡导者，向人们介绍了如何利用[Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail)构建亚马逊云科技解决方案架构。  她展示了如何将亚马逊云科技的工具融入各种应用程序中，以实现多功能应用。  特别地，她强调了CodeGuru如何自动化大部分常规的将[机器学习](https://aws.amazon.com/cn/machine-learning/?trk=cndc-detail)模型部署到亚马逊云科技Lambda的工作。  用户可以利用开发出的创建Lambda函数工具部署一个用于生成1到3000之间随机数的Lambda函数。  通过精心优化的模型，可以生成有效的Python代码来创建包含S3和EC2的图，而基本模型则只能猜测代码。  然而，精心优化的模型可能会带来高昂的成本，因此应仅限于非常特定的领域用例。  此外，她还探讨了[Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail)如何帮助构建者通过生成性AI改变客户体验。  ## 总结 亚马逊Amazon在re:Invent上举办了一场名为“借助亚马逊基石构建亚马逊云科技解决方案架构师代理”的讲座，由亚马逊云科技开发人员Banjo Obayomi和Olivia Zoe主讲。这场讲座概述了如何利用亚马逊基石这一用于访问大型语言人工智能模型的托管服务来构建能够帮助客户遵循亚马逊云科技最佳实践的智能代理。 首先，演讲者在AI服务领域中阐述了基石的重要性，解释了其如何让建设者轻松地将大型语言模型集成到应用程序中，而无需[机器学习](https://aws.amazon.com/cn/machine-learning/?trk=cndc-detail)专业知识。接着，他们定义了AI代理为一个受语言模型驱动的应用，具有自定义的行为指令以及执行特定任务的工具。 随后，演讲者们概述了在基石上创建代理的过程，包括通过OpenAPI规范定义其功能，将其连接到包含工具的Lambda函数，以及配置IAM权限。他们还展示了如何为他们的代理创建三个工具：将亚马逊云科技架构良好框架的内容摄入知识库以回答问题，使用精细调整的模型生成图表，以及通过生成代码部署Lambda函数。 最后，他们展示了代理如何通过确定哪个工具来根据问题进行调用，从而如何使用这些工具来回答客户问题。例如，当被问及如何设计安全的VPC时，它会查询架构良好的知识库；而当被要求部署一个Lambda函数时，它会生成并部署代码。 总之，演讲者展示了如何将基石的大型语言模型和代理功能结合起来，以创建能够理解自然语言请求并完成复杂任务的智能助手。这次演讲强调了建设者快速创建复杂的AI驱动的应用程序的潜力。 ## 演讲原文 ## 想了解更多精彩完整内容吗？立即访问re:Invent 官网中文网站！ [2023亚马逊云科技re:Invent全球大会 - 官方网站](https://webinar.amazoncloud.cn/reInvent2023/?s=8739&smid=19458 "2023亚马逊云科技re:Invent全球大会 - 官方网站") [点击此处](https://aws.amazon.com/cn/new/?trk=6dd7cc20-6afa-4abf-9359-2d6976ff9600&trk=cndc-detail "点击此处")，一键获取亚马逊云科技全球最新产品/服务资讯！ [点击此处](https://www.amazonaws.cn/new/?trk=2ab098aa-0793-48b1-85e6-a9d261bd8cd4&trk=cndc-detail "点击此处")，一键获取亚马逊云科技中国区最新产品/服务资讯！ ## 即刻注册亚马逊云科技账户，开启云端之旅！ [【免费】亚马逊云科技“100 余种核心云服务产品免费试用”](https://aws.amazon.com/cn/campaigns/freecenter/?trk=f079813d-3a13-4a50-b67b-e31d930f36a4&sc_channel=el&trk=cndc-detail "【免费】亚马逊云科技“100 余种核心云服务产品免费试用“") [【免费】亚马逊云科技中国区“40 余种核心云服务产品免费试用”](https://www.amazonaws.cn/campaign/CloudService/?trk=2cdb6245-f491-42bc-b931-c1693fe92be1&sc_channel=el&trk=cndc-detail "【免费】亚马逊云科技中国区“40 余种核心云服务产品免费试用“")