Anthropic Claude 3 Sonnet 基础模型现已登陆 Amazon Bedrock

2023 年 9 月，亚马逊云科技宣布与 [Anthropic 进行战略合作](https://press.aboutamazon.com/2023/9/amazon-and-anthropic-announce-strategic-collaboration-to-advance-generative-ai?trk=cndc-detail)，双方将结合各自在[生成式人工智能 (Generative AI)](https://aws.amazon.com/generative-ai/?trk=cndc-detail) 领域的技术和专长，协作促进[Anthropic Claude 基础模型](https://aws.amazon.com/bedrock/claude/?trk=cndc-detail) (FM) 发展，并向亚马逊云科技客户推出相关模型。现在，我们就可以在 [Amazon Bedrock](https://aws.amazon.com/bedrock?trk=cndc-detail) 中提前使用 Anthropic Claude 模型的独特功能，来改善用户体验，优化业务，加快对生成式 AI 的应用。 2023 年 11 月，[Amazon Bedrock 新增支持 Anthropic Claude 2.1](https://aws.amazon.com/blogs/aws/amazon-bedrock-now-provides-access-to-anthropics-latest-model-claude-2-1/?trk=cndc-detail)，这个版本提供了企业构建生成式 AI 的关键能力。Claude 2.1 提供的上下文窗口支持高达 20 万个 Token，降低了“幻觉”发生率，提高了长文档处理的准确性，优化了系统提示，并提供函数调用和工作流编排的测试工具使用功能。 目前，[Anthropic 推出了 Claude 3](https://www.anthropic.com/news/claude-3-family?trk=cndc-detail) AI 模型系列。我们可以结合业务对人工智能水平、速度和成本控制需求，从这个 AI 模型系列中选择适合业务需求的模型。这个系列包括三款模型：Claude 3 Haiku，一款具有迅速响应能力，最快速并且最紧凑的模型；Claude 3 Sonnet，一款平衡了技能与速度的模型；以及 Claude 3 Opus，针对高度复杂任务提供的高智能、高性能模型。 另外，亚马逊云科技还宣布 Amazon Bedrock 今天上线 Anthropic Claude 3 Sonnet 模型。并且，Claude 3 Opus 和 Claude 3 Haiku 也即将上线。在处理绝大多数工作负载方面，Claude 3 Sonnet 模型的速度是 Claude 2 和 Claude 2.1 的两倍，并且 Claude 3 Sonnet 提供更高的可控制性，以及新增了图像转文本的视觉能力。 我们可以使用 Amazon Bedrock 上 Claude 3 Sonnet 模型来构建高性价比、高智能、高可靠性、高速度的生成式 AI 应用。登录 [Amazon Bedrock 控制台](https://console.aws.amazon.com/bedrock/?trk=cndc-detail)后，就可以试用 Anthropic 的最新模型 Claude 3 Sonnet。 ### Anthropic Claude 3 Sonnet 简介 Amazon Bedrock 中 Claude 3 Sonnet 模型有以下亮点： **2 倍速度提升**：Claude 3 在速度上有明显提升。在处理绝大多数工作负载方面，它的速度是 Claude 2 和 Claude 2.1 等高性能 Anthropic 模型处理速度的两倍，同时还保持了相同的智能水平。这种速度和技能的结合使得 Claude 3 Sonnet 非常适合用于处理需要快速响应的智能任务，比如知识检索或销售自动化。因此，Claude 3 Sonnet 适用于内容生成、内容分类，数据提取、研究和检索，以及在知识库中进行准确搜索等使用场景。 **高可控性**：增强了AI 系统的可控性。这样，用户更能控制输出内容，提供可预测的、质量更高的结果。同时，大大减少了由于系统的安全防护机制为了防止有害输出而拒绝回答临界问题的可能性。Claude 3 Sonnet 更易于控制，并在 JSON 等主流结构化输出中表现更好，使开发人员能更轻松地构建企业应用和前沿应用。这一特性非常适合某些行业应用，例如[自动驾驶汽车](https://aws.amazon.com/automotive/autonomous-mobility/?trk=cndc-detail)、[健康与医疗诊断](https://aws.amazon.com/health/?trk=cndc-detail)，以及[金融服务](https://aws.amazon.com/financial-services/?trk=cndc-detail)等数据敏感领域的算法决策。 **图像转文本视觉能力**：Claude 3 提供处理图像并返回文本输出的视觉能力。它在分析和理解图表、图形、技术性图表、报告和其他图像资源方面具有极为强大的能力。Claude 3 Sonnet 具有显著速度优势的同时，还提供与其他具有图像处理功能的顶尖模型相当的性能水平。  **新增语言支持**：laude 3 提高了对法语、日语和西班牙语等非英语语言的理解和响应能力。语言覆盖范围的扩展使 Claude 3 Sonnet 更适用于需要跨地理区域和语言使用 AI 应用的跨国公司，以及需要精确翻译服务的企业。Claude 3 Sonnet 在编程开发和数学处理方面也更为强大，这一点从 Anthropic 在小学数学问题（GSM8K 和 Hendrycks）和 Codex (HumanEval) 的处理评估得分可以看出来。 如果你想了解更多关于 Claude 3 Sonnet 的功能和能力，可以访问 [Amazon Bedrock 上的 Anthropic Claude 模型](https://aws.amazon.com/bedrock/claude/?trk=cndc-detail)和亚马逊云科技文档中关于[ Anthropic Claude 模型](https://docs.aws.amazon.com/bedrock/latest/userguide/model-parameters-claude.html?trk=cndc-detail) 文档。 ### 快速开始使用 Amazon Bedrock 中的 Anthropic Claude 3 Sonnet 如果你第一次使用 Anthropic 模型，需要先登录 [Amazon Bedrock 控制台](https://console.aws.amazon.com/bedrock/?trk=cndc-detail)，并在左下方面板中选择 Model access（模型访问）。然后，申请 Claude 3 Sonnet 访问权限。  在控制台中测试 Claude 3 Sonnet 的操作步骤：在左侧导航栏中的 Playgrounds 下选择 Text（文本）或 Chat（聊天）。单击 Select model（选择模型），然后选择 Anthropic 类别，选择 Claude 3 Sonnet 模型。  如果你想要测试更多 Claude 提示语示例，可以点击 Load examples（加载示例）。你也可以查看和运行 Claude 3 的特定示例，例如带引用的高级问答、制作设计简报和生成非英语内容。 点击 View API request（查看 API 请求），然后通过 [Amazon 命令行界面 (Amazon CLI)](https://aws.amazon.com/cli/?trk=cndc-detail) 和 Amazon SDK 中的示例代码查看如何使用 Claude 3 Sonnet 模型。Amazon CLI 命令示例： ```Bash aws bedrock-runtime invoke-model \ --model-id anthropic.claude-3-sonnet-20240229-v1:0 \ --body "{\"messages\":[{\"role\":\"user\",\"content\":[{\"type\":\"text\",\"text\":\"Write the test case for uploading the image to Amazon S3 bucket\\nCertainly! Here's an example of a test case for uploading an image to an Amazon S3 bucket using a testing framework like JUnit or TestNG for Java:\\n\\n...."}]}],\"anthropic_version\":\"bedrock-2023-05-31\",\"max_tokens\":2000}" \ --cli-binary-format raw-in-base64-out \ --region us-east-1 \ invoke-model-output.txt ``` 上传一张图片，然后测试图像转文本视觉能力。例如，我上传了这篇博文的封面图片，然后收到了这张图片的详细描述。  你可以调用 API 来处理图像，并指定以英语和多种其他语言返回输出文本。 ```JSON { "modelId": "anthropic.claude-3-sonnet-v1:0", "contentType": "application/json", "accept": "application/json", "body": { "anthropic_version": "bedrock-2023-05-31", "max_tokens": 1000, "system": "Please respond only in Spanish.", "messages": [ { "role": "user", "content": [ { "type": "image", "source": { "type": "base64", "media_type": "image/jpeg", "data": "iVBORw..." } }, { "type": "text", "text": "What's in this image?" } ] } ] } } ``` 在这次合作发布的庆功会上，[Neerav Kingsland](https://www.google.com/url?sa=t&rct=j&q=&esrc=s&source=web&cd=&cad=rja&uact=8&ved=2ahUKEwjUjOuR5NqEAxWlweYEHTlmDcMQFnoECBEQAQ&url=https://www.linkedin.com/in/neerav-kingsland-4991a828&usg=AOvVaw20_n-Aj7qiioBCBnLYQSAa&opi=89978449?trk=cndc-detail)，Anthropic 全球客户总监，谈到了 Anthropic 和亚马逊云科技合作的意义，他说： > “Anthropic 的核心是一家研究公司，致力于打造全球最安全的大型语言模型。借助于 Amazon Bedrock，我们得以将这种技术推向全球，同时我们确保以极致安全和保证数据安全的方式进行。” **点击查看 YouTube 视频：** [Anthropic's Claude on Amazon Bedrock | Amazon Web Services](https://www.youtube.com/watch?v=ZLEm-cLTXEo) ### 现已上线 Claude 3 Sonnet 现已在 US East (N. Virginia) 和 US West (Oregon) 地域推出；有关后续推出的地域，可以关注[完整地域列表](https://docs.aws.amazon.com/bedrock/latest/userguide/models-regions.html?trk=cndc-detail)。Anthropic Claude 3 Opus 和 Haiku 也即将在 Amazon Bedrock 上推出。 在计费方法方面，你可以选择按需 (On-Demand) 或批量 (Batch) 模式。这样，你可以根据模型推理和定制的资源使用量进行按量付费，无需长期订阅即可使用基础模型。也可以使用预配吞吐量模式，为特定的基础或自定义模型购买模型单元。计费相关信息，请参阅 [Amazon Bedrock 定价](https://aws.amazon.com/bedrock/pricing/?trk=cndc-detail)。 您可以现在前往 [Amazon Bedrock 控制台](https://console.aws.amazon.com/bedrock?trk=cndc-detail)试用 Anthropic Claude 3 Sonnet 模型。如有遇到任何问题，可以通过[亚马逊云科技 re:Post for Amazon Bedrock](https://repost.aws/tags/TAQeKlaPaNRQ2tWB6P7KrMag/amazon-bedrock?trk=cndc-detail) 联系的亚马逊云科技支持人员反馈问题和意见。 无需等待，Claude 3 即刻体验！扫描下方二维码[填写问卷](https://dev.amazoncloud.cn/questionnaire?id=65e7f70c0543436a63933c3e)，[即刻体验基于 Amazon Bedrock 的 Claude 3 模型](https://portal.cloudassist-beta.sign-up.china.aws.a2z.com/demo/qrcode?trk=othercontent)。  *Amazon Bedrock 是一项完全托管的服务，可以帮助您轻松访问各种领先的基础模型*