【Claude3】基于 Amazon Bedrock 宝藏平台限时玩转 Claude 3 大模型

> 文章作者：云矩阵 > 快速上手体验 Claude 3模型链接入口：https://lab.amazoncloud.cn/demo/qrcode?trk=KOCKOL?trk=cndc-detail **Claude 3 模型在 [Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail) 限时体验活动即将于3月11日零点正式结束。** 通过本博文，将了解体验到在 [Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail) 中 Claude 3 的基本使用方法，以便快速构建强大安全的 Large Language Model 应用。 ### 前言 在 Anthropic 的 Claude 模型系列（Haiku、Sonnet 和 Opus）中，客户可根据自身的业务需求选择具备适当智能、速度和成本的模型。公司最强大的模型 Claude 3 Opus 已就基准设定市场标准。所有最新的 Claude 模型都具有可处理和分析图像数据的视觉功能，从而满足了日益增长的如下需求：可处理不同数据格式的多模式人工智能系统。 尽管该系列的总体性能令人印象深刻，但 Claude 3 Haiku 是其智能类别市场中最实惠、最快速的模型之一。 ### 一、什么是 Amazon Bedrock [Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail) 则是一项完全托管的服务，可通过单个 API 提供来自 AI21 Labs、Anthropic、Cohere、Meta、Stability AI、Mistral AI 和 Amazon 等领先人工智能公司的高性能基础模型，以及通过安全性、隐私性和负责任的 AI 构建生成式 AI 应用程序所需的一系列广泛功能。 通过 [Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail)，客户可以轻松使用 Anthropic 的最新模型进行构建。这不仅包括自然语言模型，还包括扩展的多模态人工智能模型，能够跨文本、图像、图表等进行高级推理。我们的合作已经帮助客户加速了生成式 AI 的采用，并为他们带来了商业价值。 ### 二、Bedrock 和 Claude3 的关系 > **目前 [Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail) 是第一个也是唯一一个提供 Claude 3 Sonnet 的托管服务。** Anthropic 公司的 Claude 3 Sonnet 基础模型现已在[Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail) ( 海外区域) 上全面可用(GA)。 Claude 3 Sonnet 模型现在已可在亚马逊云科技的 [Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail) 正式可用！下一代 Claude (Claude 3) 的三个模型 Claude 3 Opus、Claude 3 Sonnet 和 Claude 3 Haiku 都将陆续登陆 [Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail)。**目前 [Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail) 是第一个也是唯一能提供 Claude 3 Sonnet 的托管服务。** Anthropic 目前的评估表明，Claude 3 模型系列在数学应用题解决（MATH）和多语言数学（MGSM）基准（目前用于大语言模型的关键基准）方面优于同类模型。Claude 3 模型的视觉功能经过训练，可以理解不同格式的结构化和非结构化数据，不仅是语言，还包括图像、图表、图表等。模型还具备一流的基准水平，在数学问题、编程练习和科学推理等标准化评估方面超越了现有模型。并且 Claude 3 模型通过宪法人工智能技术减轻幻觉，这些技术为模型的推理提供了透明度，并提高了准确性。 **通过 [Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail)，客户可以轻松使用 Anthropic 的最新模型进行构建**， 包括自然语言模型、多模型人工智能模型，可跨文本、图像、图表等进行高级推理。 Claude 3 模型系列可满足各种需求，允许客户选择最适合其特定用例的模型，在 [Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail) 上运行 **Claude 3 模型**，可以为各种规模的组织提供多项重要服务： - **大幅提升性能**： 由于硬件和软件的优化，Claude 3 模型的实时交互速度显着加快。 - **准确性和可靠性**： 通过大规模扩展以及新的自我监督技术，上下文中复杂问题的准确性预期提高 2 倍，这意味着人工智能更加有用、安全和诚实。 - **简单、安全定制**： 定制功能，例如检索增强生成（RAG），可以简化专有数据的训练模型，并构建由不同数据源支持的应用程序，以便客户根据自己的独特需求进行人工智能调整。 ### 三、访问 Amazon Bedrock UI 如果是第一次使用 Anthropic 模型，请前往 [Amazon Bedrock 控制台](https://signin.aws.amazon.com/signin?redirect_uri=https%3A%2F%2Fus-east-1.console.aws.amazon.com%2Fbedrock%3FhashArgs%3D%2523%26isauthcode%3Dtrue%26region%3Dus-east-1%26state%3DhashArgsFromTB_us-east-1_24ffebaff245c993&client_id=arn%3Aaws%3Asignin%3A%3A%3Aconsole%2Famazon-bedrock&forceMobileApp=0&code_challenge=lhZtmicze_wZWuhPI6ZRAuuRS1xsFvwb65zSnet7D4U&code_challenge_method=SHA-256?trk=cndc-detail)，然后在左下方窗格中选择**模型访问权限**。单独申请 Claude 3 Sonnet 的访问权限。   ### 四、在 playgrounds 中选择 Claude 模型 在左侧的导航栏中点击 Playgrounds - Chat  点击 Select model 来选择我们要使用的基础模型（[大语言模型](https://aws.amazon.com/cn/what-is/large-language-model/?trk=cndc-detail)）  首先选择 Anthropic 的 Claude 3 模型来体验其强大的推理能力和中文处理能力，点击 Apply  ### 五、与 Claude 3 Sonnet 开启聊天互动模式 首先，将 Maximum Length 调整到 4096（防止返回结果因为 token 限制被截断； UI 上的限制为 4096 token， API 支持最大 token 为 200k），如下图所示。  其次，通过 Chat 来让 [Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail) 回答问题“请列出 kubernetes 中有哪些 Pod 状态？”。将该问题输入到聊天窗口中，点击 Run。  可以在对话区域看见大模型的返回结果；同时也可以在最下方看见我们这次调用的耗时，输入输出 token 数以及花费（本实验不会产生任何花费或账单）  ### 六、利用 Claude 3 Sonnet 充当文本处理工具 通过动画演示效果，Claude 在回答质量上，速度响应上都领先同类型模型。   ### 七、总结 对使用 Claude 3 模型与 [Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail) 聊天，进行基本文字处理以及文生图等功能有了初步了解，但 Claude 3 模型家族的强大远不止于此。经过训练的 Claude 3 模型家族，除去本次体验的功能外，也可理解图表、技术示意图等不同格式的结构化和非结构化数据；同时在数学问题、编程练习和科学推理等标准化评估方面也超越了现有模型；另外该模型也可通过人工智能技术减轻幻觉，为模型推理提供了透明度，并提高了准确性。 如果经过这次体验，进一步激发了你对模型的兴趣，在 [Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail) 上不仅可以继续深入了解探索 Claude3 模型家族的更多功能，还能通过 [Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail) ，找到 Amazon Titan，Command， Mistral 以及 Llama2 等更多基础模型。 ### 八、参考资料 1. https://aws.amazon.com/cn/blogs/china/anthropics-claude-3-sonnet-foundation-model-is-now-available-in-amazon-bedrock/?trk=cndc-detail 1. https://aws.amazon.com/cn/bedrock/?trk=cndc-detail 1. https://lab.amazoncloud.cn/demo/qrcode?trk=KOCKOL?trk=cndc-detail **前述特定亚马逊云科技生成式人工智能相关的服务仅在亚马逊云科技海外区域可用，亚马逊云科技中国仅为帮助您了解行业前沿技术和发展海外业务选择推介该服务。*