【Claude3】基于 Amazon Bedrock 宝藏平台限时玩转 Claude 3 大模型

生成式人工智能
Amazon Bedrock
技领云博主
0
0
> 文章作者:云矩阵 > 快速上手体验 Claude 3模型链接入口:https://lab.amazoncloud.cn/demo/qrcode?trk=KOCKOL?trk=cndc-detail **Claude 3 模型在 [Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail) 限时体验活动即将于3月11日零点正式结束。** 通过本博文,将了解体验到在 [Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail) 中 Claude 3 的基本使用方法,以便快速构建强大安全的 Large Language Model 应用。 ### 前言 在 Anthropic 的 Claude 模型系列(Haiku、Sonnet 和 Opus)中,客户可根据自身的业务需求选择具备适当智能、速度和成本的模型。公司最强大的模型 Claude 3 Opus 已就基准设定市场标准。所有最新的 Claude 模型都具有可处理和分析图像数据的视觉功能,从而满足了日益增长的如下需求:可处理不同数据格式的多模式人工智能系统。 尽管该系列的总体性能令人印象深刻,但 Claude 3 Haiku 是其智能类别市场中最实惠、最快速的模型之一。 ### 一、什么是 Amazon Bedrock [Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail) 则是一项完全托管的服务,可通过单个 API 提供来自 AI21 Labs、Anthropic、Cohere、Meta、Stability AI、Mistral AI 和 Amazon 等领先人工智能公司的高性能基础模型,以及通过安全性、隐私性和负责任的 AI 构建生成式 AI 应用程序所需的一系列广泛功能。 通过 [Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail),客户可以轻松使用 Anthropic 的最新模型进行构建。这不仅包括自然语言模型,还包括扩展的多模态人工智能模型,能够跨文本、图像、图表等进行高级推理。我们的合作已经帮助客户加速了生成式 AI 的采用,并为他们带来了商业价值。 ### 二、Bedrock 和 Claude3 的关系 > **目前 [Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail) 是第一个也是唯一一个提供 Claude 3 Sonnet 的托管服务。** Anthropic 公司的 Claude 3 Sonnet 基础模型现已在[Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail) ( 海外区域) 上全面可用(GA)。 Claude 3 Sonnet 模型现在已可在亚马逊云科技的 [Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail) 正式可用!下一代 Claude (Claude 3) 的三个模型 Claude 3 Opus、Claude 3 Sonnet 和 Claude 3 Haiku 都将陆续登陆 [Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail)。**目前 [Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail) 是第一个也是唯一能提供 Claude 3 Sonnet 的托管服务。** Anthropic 目前的评估表明,Claude 3 模型系列在数学应用题解决(MATH)和多语言数学(MGSM)基准(目前用于大语言模型的关键基准)方面优于同类模型。Claude 3 模型的视觉功能经过训练,可以理解不同格式的结构化和非结构化数据,不仅是语言,还包括图像、图表、图表等。模型还具备一流的基准水平,在数学问题、编程练习和科学推理等标准化评估方面超越了现有模型。并且 Claude 3 模型通过宪法人工智能技术减轻幻觉,这些技术为模型的推理提供了透明度,并提高了准确性。 **通过 [Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail),客户可以轻松使用 Anthropic 的最新模型进行构建**, 包括自然语言模型、多模型人工智能模型,可跨文本、图像、图表等进行高级推理。 Claude 3 模型系列可满足各种需求,允许客户选择最适合其特定用例的模型,在 [Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail) 上运行 **Claude 3 模型**,可以为各种规模的组织提供多项重要服务: - **大幅提升性能**: 由于硬件和软件的优化,Claude 3 模型的实时交互速度显着加快。 - **准确性和可靠性**: 通过大规模扩展以及新的自我监督技术,上下文中复杂问题的准确性预期提高 2 倍,这意味着人工智能更加有用、安全和诚实。 - **简单、安全定制**: 定制功能,例如检索增强生成(RAG),可以简化专有数据的训练模型,并构建由不同数据源支持的应用程序,以便客户根据自己的独特需求进行人工智能调整。 ### 三、访问 Amazon Bedrock UI 如果是第一次使用 Anthropic 模型,请前往 [Amazon Bedrock 控制台](https://signin.aws.amazon.com/signin?redirect_uri=https%3A%2F%2Fus-east-1.console.aws.amazon.com%2Fbedrock%3FhashArgs%3D%2523%26isauthcode%3Dtrue%26region%3Dus-east-1%26state%3DhashArgsFromTB_us-east-1_24ffebaff245c993&client_id=arn%3Aaws%3Asignin%3A%3A%3Aconsole%2Famazon-bedrock&forceMobileApp=0&code_challenge=lhZtmicze_wZWuhPI6ZRAuuRS1xsFvwb65zSnet7D4U&code_challenge_method=SHA-256?trk=cndc-detail),然后在左下方窗格中选择**模型访问权限**。单独申请 Claude 3 Sonnet 的访问权限。 ![image.png](https://dev-media.amazoncloud.cn/f4af09374d1649d4acfde5456c82f5fe_image.png "image.png") ![image.png](https://dev-media.amazoncloud.cn/77ffb70fbeda4d6ea6fa0b234aa3a391_image.png "image.png") ### 四、在 playgrounds 中选择 Claude 模型 在左侧的导航栏中点击 Playgrounds - Chat ![image.png](https://dev-media.amazoncloud.cn/908824b5530a4d728b7cfa94497d7d5a_image.png "image.png") 点击 Select model 来选择我们要使用的基础模型([大语言模型](https://aws.amazon.com/cn/what-is/large-language-model/?trk=cndc-detail)) ![image.png](https://dev-media.amazoncloud.cn/3e00354ac4e94aa4bf7092b69fee3023_image.png "image.png") 首先选择 Anthropic 的 Claude 3 模型来体验其强大的推理能力和中文处理能力,点击 Apply ![image.png](https://dev-media.amazoncloud.cn/7e886bd123084556ba10bbe4967404e2_image.png "image.png") ### 五、与 Claude 3 Sonnet 开启聊天互动模式 首先,将 Maximum Length 调整到 4096(防止返回结果因为 token 限制被截断; UI 上的限制为 4096 token, API 支持最大 token 为 200k),如下图所示。 ![image.png](https://dev-media.amazoncloud.cn/b34fbbe37a164f8ba59d04e6620a6550_image.png "image.png") 其次,通过 Chat 来让 [Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail) 回答问题“请列出 kubernetes 中有哪些 Pod 状态?”。将该问题输入到聊天窗口中,点击 Run。 ![image.png](https://dev-media.amazoncloud.cn/e7eae1e094c34bb1ab5a3090150b348f_image.png "image.png") 可以在对话区域看见大模型的返回结果;同时也可以在最下方看见我们这次调用的耗时,输入输出 token 数以及花费(本实验不会产生任何花费或账单) ![image.png](https://dev-media.amazoncloud.cn/9ff0496d4a9d4a1aa233040c554776d6_image.png "image.png") ### 六、利用 Claude 3 Sonnet 充当文本处理工具 通过动画演示效果,Claude 在回答质量上,速度响应上都领先同类型模型。 ![c1aa9b0a55c1caf2153de029201d7e3c.gif](https://dev-media.amazoncloud.cn/43c9ad42530e417b9ca7e52b136d9110_c1aa9b0a55c1caf2153de029201d7e3c.gif "c1aa9b0a55c1caf2153de029201d7e3c.gif") ![image.png](https://dev-media.amazoncloud.cn/69dd1f8fbdf34287a24d91eb2f629f54_image.png "image.png") ### 七、总结 对使用 Claude 3 模型与 [Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail) 聊天,进行基本文字处理以及文生图等功能有了初步了解,但 Claude 3 模型家族的强大远不止于此。经过训练的 Claude 3 模型家族,除去本次体验的功能外,也可理解图表、技术示意图等不同格式的结构化和非结构化数据;同时在数学问题、编程练习和科学推理等标准化评估方面也超越了现有模型;另外该模型也可通过人工智能技术减轻幻觉,为模型推理提供了透明度,并提高了准确性。 如果经过这次体验,进一步激发了你对模型的兴趣,在 [Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail) 上不仅可以继续深入了解探索 Claude3 模型家族的更多功能,还能通过 [Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail) ,找到 Amazon Titan,Command, Mistral 以及 Llama2 等更多基础模型。 ### 八、参考资料 1. https://aws.amazon.com/cn/blogs/china/anthropics-claude-3-sonnet-foundation-model-is-now-available-in-amazon-bedrock/?trk=cndc-detail 1. https://aws.amazon.com/cn/bedrock/?trk=cndc-detail 1. https://lab.amazoncloud.cn/demo/qrcode?trk=KOCKOL?trk=cndc-detail
0
目录
关闭