Amazon Bedrock 可用于访问 Anthropic 的最新款模型 Claude 2.1简介

re:Invent
Amazon Command Line Interface
Amazon Bedrock
0
0
今天,我们宣布 Claude 2.1基础模型(FM)已经在 [Amazon Bedrock ](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail)正式上线。上周,Anthropic 推出最新款模型 Claude 2.1,为企业提供非常关键的使用功能和服务,其中包括业界领先的 200,000个令牌上下文窗口(是 [Claude 2.0](https://www.anthropic.com/index/claude-2-1?trk=cndc-detail) 上下文窗口的 2 倍)、大幅度降低幻觉率、提高长文档的准确性、系统提示功能以及用于函数调用和工作流协调测试工具的使用功能。 随着 Claude 2.1 在 [Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail) 中的正式推出,您可以使用 Anthropic 提供的人工智能系统构建企业的生成式人工智能 ([AI](https://aws.amazon.com/cn/generative-ai/?trk=cndc-detail)) 应用。现在,您可以在  [Amazon Bedrock console](https://signin.aws.amazon.com/signin?redirect_uri=https%3A%2F%2Fus-east-1.console.aws.amazon.com%2Fbedrock%3FhashArgs%3D%2523%26isauthcode%3Dtrue%26region%3Dus-east-1%26state%3DhashArgsFromTB_us-east-1_a3e32b0bdbeaa58b&client_id=arn%3Aaws%3Asignin%3A%3A%3Aconsole%2Famazon-bedrock&forceMobileApp=0&code_challenge=kDQ5X0dQcvtVIlEzxL6hfyysXTovo1RV9IS3RJDB4Zo&code_challenge_method=SHA-256?trk=cndc-detail) 中使用访问 Anthropic 的 Claude 2.1 模型。 ![屏幕截图 2023-12-26 220844.png](https://dev-media.amazoncloud.cn/c4e2e2721d944b84b5c64e91ffb8d43e_%E5%B1%8F%E5%B9%95%E6%88%AA%E5%9B%BE%202023-12-26%20220844.png "屏幕截图 2023-12-26 220844.png") 以下是 [Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail) 推出的 Claude 2.1 模型的一些主要亮点: **200,000 个标记上下文窗口**——企业应用程序在处理产品指南、技术文档、财务或法律声明等长篇文档时,需要借助更大的上下文窗口和更准确的输出能力。Claude 2.1 可以支持 200,000 个标记,相当于大约 150,000 个单词或超过 500 页的文档数量。在向 Claude 上传大量的信息时,您可以同时进行汇总、问答、趋势预测等操作,并对多个文档进行横向比较和纵向对比,以便快速完成商业计划书的起草,或者分析复杂的合同。 **准确性大幅提升**——与 Claude 2.0 相比, Claude 2.1 在诚实性能方面也取得显著进步,幻觉率降低 2 倍,开放式对话和文件问答中的幻觉减少 50%,与 Claude 2.0 相比,错误答案减少30%,错误断定文档支持特定主张的比率降低 3-4 倍。Claude 可以快速准确地分辨信息的真实性和准确定,从而帮助用户解决潜在的问题。随着准确性的提高,可以为企业和员工构建更加可靠的关键性应用程序。 **系统提示功能**——Claude 2.1 版可以提供系统提示功能服务,这项新功能可以通过多种方式提高 Claude 的表现,包括在角色扮演场景中提高角色深度和角色一致性,特别是在较长的对话中,以及更严格地遵守指南、规则和指令。这在本质上代表了结构上的变化,但与以前 Claude 的提示方式相比,并没有太多内容变化。 **用于函数调用和工作流协调的工具**——作为测试版功能, Claude 2.1可以与现有内部流程、产品和应用程序接口集成通用,从而构建生成式人工智能应用。Claude 2.1 可从其他知识源准确地检索和处理数据,并为给定任务调用函数。Claude 2.1 可以通过使用专用的 API 和网络搜索 API 检索数据库资源来回答问题,将自然语言请求翻译成结构化 API 调用,或连接到产品数据集,以便提出建议并帮助客户完成购买。该功能目前仅限于特定的早期访问合作伙伴使用,计划在不久的将来开放更多访问权限。如果您有兴趣获得早期访问权,请联系您的亚马逊云科技客户团队。 如果您想要了解更多有关 Claude 2.1 功能和性能的信息,请访问 [Anthropic Claude on Amazon Bedrock](https://aws.amazon.com/cn/bedrock/claude/?trk=cndc-detail) 和 [Amazon Bedrock documentation](https://docs.aws.amazon.com/bedrock/latest/userguide/what-is-bedrock.html?trk=cndc-detail) ##### 实际运行中的Claude 2.1 当在 [Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail) 中使用 Claude 2.1时,请访问 [Amazon Bedrock console](https://signin.aws.amazon.com/signin?redirect_uri=https%3A%2F%2Fus-east-1.console.aws.amazon.com%2Fbedrock%3FhashArgs%3D%2523%26isauthcode%3Dtrue%26region%3Dus-east-1%26state%3DhashArgsFromTB_us-east-1_df25e3949961748d&client_id=arn%3Aaws%3Asignin%3A%3A%3Aconsole%2Famazon-bedrock&forceMobileApp=0&code_challenge=xMT1n3vBg3jyKqNtMEpmMRCXRrCvYV5hsJU0lhrYSZI&code_challenge_method=SHA-256?trk=cndc-detail)。在左下方窗格中选择 “Model access”,然后在右上方选择 “Manage model access”,提交用户信息并申请 Claude 模型的访问权限。在获取模型访问权限时可能需要耐心等待几分钟时间。如果您已经拥有对 Claude 模型的访问权限,则无需单独申请 Claude 2.1 的访问权限。 ![屏幕截图 2023-12-26 221059.png](https://dev-media.amazoncloud.cn/ee7d4f5677b34613b7397a94a21a4e59_%E5%B1%8F%E5%B9%95%E6%88%AA%E5%9B%BE%202023-12-26%20221059.png "屏幕截图 2023-12-26 221059.png") 要在聊天模式下测试 Claude 2.1,请在左侧菜单窗格的 **Playgrounds** 下选择 **Text** 或 **Chat**。然后选择 **Anthropic** ,再选择 **Claude v2.1** 。 ![屏幕截图 2023-12-26 221154.png](https://dev-media.amazoncloud.cn/9f7a33a36b164e949d3d474717277fa3_%E5%B1%8F%E5%B9%95%E6%88%AA%E5%9B%BE%202023-12-26%20221154.png "屏幕截图 2023-12-26 221154.png") 通过选择 **View API request** ,您还可以通过 ++Amazon Command Line Interface (Amazon CLI)++ 和 Amazon SDK 中的代码示例访问模型。下面是 Amazon CLI 命令的参考示例: ![image.png](https://dev-media.amazoncloud.cn/1fdc5c337ee44a96b57020248d1a7a06_image.png "image.png") 将源数据和文档放在所有引用或使用内容的问题前面时,就可以使用 Claude 2.1 的模型方法来开启系统提示。输入的内容可以是自然语言文本、结构化文档或使用 document , papers , books , 或 code 标记的代码片段等。您还可以使用会话文本(例如聊天记录)和检索增强生成结果( RAG ,例如文档分块)。 下面是一个系统提示示例,可供操作人员根据公司文件回答客户问题。 ![image.png](https://dev-media.amazoncloud.cn/71102d64aa164772a019b7e97bce682f_image.png "image.png") 要了解有关 [Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail) 提示工程的更多信息,请参阅 [Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail) 文档中的 [Prompt engineering guidelines](https://docs.aws.amazon.com/bedrock/latest/userguide/prompt-engineering-guidelines.html?trk=cndc-detail) 。您可以了解适用于 [Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail) 文本模型(包括 Claude)的一般提示技术、适用模板和参考示例。 ##### 正式上线使用 Claude 2.1 今天在美国东部(弗吉尼亚州北部)和美国西部(俄勒冈州)地区正式上线。 您只需按使用数量付费,就使用时间而言无任何限制。对于文本生成模式,您需要为处理每个输入标记和生成每个输出标记付费。您也可以选择[ provisioned throughput](https://docs.aws.amazon.com/bedrock/latest/userguide/prov-throughput.html?trk=cndc-detail) 模式来满足您应用程序的性能要求,此时使用时间有固定的套餐选择。如果您想要了解更多信息,请参阅 [Amazon Bedrock Pricing。](https://aws.amazon.com/cn/bedrock/pricing/?trk=cndc-detail) 快去 [Amazon Bedrock console](https://signin.aws.amazon.com/signin?redirect_uri=https%3A%2F%2Fus-east-1.console.aws.amazon.com%2Fbedrock%3FhashArgs%3D%2523%26isauthcode%3Dtrue%26region%3Dus-east-1%26state%3DhashArgsFromTB_us-east-1_ed0d59cf3e2a656b&client_id=arn%3Aaws%3Asignin%3A%3A%3Aconsole%2Famazon-bedrock&forceMobileApp=0&code_challenge=brpM57KJU2a78qtcA1_rGspRtSNaMLzjzvUC_YU_MK0&code_challenge_method=SHA-256?trk=cndc-detail) 中试用 Anthropic Claude 2.1 吧,并将反馈发送到 [Amazon re : Post for Amazon Bedrock](https://repost.aws/tags/TAQeKlaPaNRQ2tWB6P7KrMag/amazon-bedrock?trk=cndc-detail) 或通过您常用的亚马逊云科技支持联系人发送即可。 — [Channy](https://twitter.com/channyun?trk=cndc-detail)
0
目录
关闭