再添新功能！Amazon Bedrock Prompt Management 用起来

**[Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail) Prompt Management 现已全面上市**，其新功能为配置提示和实现无缝集成提供了更多选项，以便在生成式 AI 应用中调用这些提示。 [Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail) Prompt Management 简化了提示的创建、评估、版本管理和共享，可帮助开发者和提示工程师从基础模型 (FM) 中获得更好的响应，以满足多样化的场景需求。 **本文将探讨 [Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail) Prompt Management 的主要功能，并举例说明如何使用这些工具优化提示性能和特定用例的输出。** ### **Amazon Bedrock Prompt Management 的新功能** [Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail) Prompt Management 提供了新功能，可简化生成式 AI 应用程序的构建过程： * **结构化提示**——在构建提示时定义系统指令、工具和附加信息。 * **Converse 和 InvokeModel API 集成**——直接从 [Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail) Converse 和 InvokeModel API 调用中调用您编目的提示。 为了展示新添加的功能，**本文以构建财务文件摘要提示为例进行说明。** ### **创建新提示** 完成以下步骤创建新提示： 1. 在 [Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail) 控制台上，在导航窗格的“生成器工具”下选择“提示管理”。 2. 选择创建提示。 3. 提供名称和描述，然后选择创建。  ### **建立提示** 使用提示创建器自定义提示： 1.对于系统指令，请定义模型的角色。在本例中，我们输入以下内容： ``` You are an expert financial analyst with years of experience in summarizing complex financial documents. Your task is to provide clear, concise, and accurate summaries of financial reports. ``` 2.在用户信息框中添加文本提示。 您可以用双大括号括住变量名来创建变量。随后，您可以在调用时为这些变量传递值，并将其注入到提示模板中。本文中我们使用以下提示语： ``` Summarize the following financial document for {{company_name}} with ticker symbol {{ticker_symbol}}: Please provide a brief summary that includes 1.  Overall financial performance 2.  Key numbers (revenue, profit, etc.) 3.  Important changes or trends 4.  Main points from each section 5.  Any future outlook mentioned 6.  Current Stock price Keep it concise and easy to understand. Use bullet points if needed. Document content: {{document_content}} ```  3.在工具设置部分为函数调用配置工具。 您可以定义带有名称、描述和输入模式的工具，使模型能够与外部功能交互并扩展其功能。提供包含工具信息的 .json 模式。 在使用函数调用时，大语言模型（LLM）不会直接使用工具；相反，它会指明使用工具所需的工具和参数。用户必须根据模型的请求实现调用工具的逻辑，并将结果反馈给模型。如需了解更多信息，请参阅使用工具完成 [Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail) 模型响应。 4.选择“保存”保存设置。  ### **比较提示变量** 您可以创建并比较多个版本的提示，以找到适合您的使用情况的版本。**这一过程是手动和可定制的。** 1. 选择比较变体。 2. 原始变体已经填充。您可以指定要创建的变体数量，手动添加新的变体。 3. 对于每个新变量，您都可以自定义用户信息、系统说明、工具配置和其他信息。 4. 您可以为不同的型号创建不同的变体。选择“选择模型”，可选择特定的 FM 来测试每个变体。 5. 选择“全部运行”，比较所选模型中所有提示变体的输出。 6. 如果变体的性能比原始的好，您可以选择替换原始提示来更新您的提示。 7. 在“提示生成器”页面，选择“创建版本”保存更新后的提示。 通过这种方法，您可以针对特定模型或用例对提示进行微调，并可直接测试和改进结果。  ### **调用提示** 要从应用程序中调用提示，您现在可以将提示标识符和版本作为 [Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail) Converse API 调用的一部分。下面的代码是一个使用 Amazon SDK for Python (Boto3)的示例： ``` import boto3 # Set up the Bedrock client bedrock = boto3.client('bedrock-runtime') # Example API call response = bedrock.converse(   modelId=<<insert prompt arn>>,   promptVariables = '{ "company_name": { "text" : "<<insert company name>>"},"ticker_symbol": {"text" : "<<insert ticker symbol>>"},"document_content": {"text" : "<<Insert document content>>"}}' ) # Print the response response_body = json.loads(bedrock_response.get('body').read()) print(response_body) ``` 我们在模型 ID 参数中传递了 Amazon 资源名称 (ARN)，并将提示变量作为单独参数传递，[Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail) 会直接从我们的提示管理库中加载我们的提示版本，以运行调用，而不会产生延迟开销。这种方法通过 Converse 或 InvokeModel API 实现直接提示调用，**无需手动检索和格式化，从而简化了工作流程**。它还允许团队重复使用和共享提示，并跟踪不同的版本。 有关使用这些功能的更多信息，包括必要的权限，请参阅文档。 您还可以通过其他方式调用提示： * 使用 [Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail) Prompt Flow。使用流程 prompt 节点，包含 [Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail) Prompt Management 中的任何 prompt 版本。 * 使用 [Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail) SDK 和 get_prompt，这样您就可以将提示信息集成到您的代码应用程序中，或者根据需要使用 LangChain 或 LlamaIndex 等开源框架。有关详细信息，请参阅在 LangChain 应用程序中集成 [Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail) 提示管理。 ### **现已可用** [Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail) Prompt Management 现已在美国东部（弗吉尼亚州北部）、美国西部（俄勒冈州）、欧洲（巴黎）、欧洲（爱尔兰）、欧洲（法兰克福）、欧洲（伦敦）、南美洲（圣保罗）、亚太地区（孟买）、亚太地区（东京）、亚太地区（新加坡）、亚太地区（悉尼）和加拿大（中部） 的亚马逊云科技区域全面提供。 ### **总结** **[Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail) Prompt Management 的全面推出，引入了强大的功能，可增强生成式 AI 应用的开发**。通过提供一个创建、定制和管理提示的集中平台，开发者可以**简化工作流程，努力提高提示性能**。定义系统指令、配置工具和比较提示变体的能力使团队能够根据特定用例制作有效的提示。 通过与 [Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail) Converse API 的无缝集成以及对流行框架的支持，企业现在可以**毫不费力地构建和部署更有可能生成相关输出的人工智能解决方案。** > 生成式 AI:前述特定亚马逊云科技生成式人工智能相关的服务仅在亚马逊云科技海外区域可用，亚马逊云科技中国仅为帮助您了解行业前沿技术和发展海外业务选择推介该服务。