隔靴挠痒不如鞭辟入里,通过 Amazon Bedrock 访问 Claude 3

Amazon Simple Storage Service (S3)
Amazon Identity and Access Management(IAM)
Amazon Bedrock
Amazon Titan
技领云博主
0
0
> 文章作者:沐然云计算 > 大模型、生成式 AI 信息真是层出不穷,一觉醒来频繁被朋友圈刷屏,还是得挤时间赶紧掌握动态、跟上节奏。这不,最新发布的 Claude 3 在各项测评中有非常亮眼的表现,并且是能挤掉 GPT 榜首位置的“新秀”。 ![image.png](https://dev-media.amazoncloud.cn/4733432ad62541db8c9364fa5c092f5a_image.png "image.png") 隔靴挠痒不如鞭辟入里,只有真的用起来才能评价是否真的好,只有真的用起来对自己才是实实在在的价值。可是Claude 3目前仅面向部分用户开放访问,无魔法也要成功,[Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail) 集成了包括 Claude 3、Amazon Titan 等在内的多个大模型,Amazon Web Service Global 账号账单地址不在国内的用户可尝试访问调用。海外账户下的 [Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail) 上已经支持了 Claude 3 Sonnet Haiku,另外的 Opus 也即将上线。 ### 在 Bedrock 中使用 Claude 3 [Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail) 是一项完全托管的服务,通过单个 API 提供来自 AI21 Labs、Anthropic、Cohere、Meta、Stability AI 和 Amazon 等领先人工智能公司的高性能基础模型(FM, Foundation Model),以及通过安全性、隐私性和负责任的 AI 构建生成式人工智能应用程序所需的一系列广泛功能。[Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail) 目前提供的模型和支持的应用能力如下。 ![image.png](https://dev-media.amazoncloud.cn/76f3ecdd49934c62b3575a0e40d82c5f_image.png "image.png") ![image.png](https://dev-media.amazoncloud.cn/d1f2487502f7483c827300478b4b8aa7_image.png "image.png") [Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail) 相当于对底层各个大模型进行了封装,不用再逐个适配对接不同提供商的大模型,在这里你只需要基于你的应用设计来选择不同能力特色的模型来服务,而只需要替换大模型 ID 即可完成大模型的切换。 对于开发者来说,Bedrock 中提供 CLI、API 来调用大模型服务,在应用层构建服务则可以和后端模型进行解耦;而对于非开发者来说控制台界面使用也没啥卡点(除了 Playgrounds 翻译成了“操场”、Agents 翻译成了“座席”)。 ![image.png](https://dev-media.amazoncloud.cn/3fe5a4db53dc49e6b235b3cbeb3b964a_image.png "image.png") 我们可以在模型提供商这里选择 Anthropic,并选择 Claude 3 Sonnet。 ![image.png](https://dev-media.amazoncloud.cn/bee644ed66a943a38fc5fbdfccf82b6b_image.png "image.png") ### 基础使用 #### **Chat 对话** 搓搓激动的小手,赶紧体验下吧。在 Chat 聊天这里输入 “introduct cloudcomputing” 可以非常迅速地获得响应。来测试下多模态,我们上传一张图片,能够解释这张图片中包含的内容,信息准确度挺高的。 ![image.png](https://dev-media.amazoncloud.cn/a76fc36864304f98abcafe0603f1d367_image.png "image.png") ![image.png](https://dev-media.amazoncloud.cn/ff1a937613884ba485e1cf743d2f4dc2_image.png "image.png") #### Text 文本 还是继续使用 Calude 3 Sonnet 试下文本生成,可以根据 Prompt 生成对应文本。 ![image.png](https://dev-media.amazoncloud.cn/443cef24bcd442958007efe05a4cc43d_image.png "image.png") #### Image 图像生成 为了体验 [Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail) Image 图像能力,我们切换到 Stability AI SDXL 0.8 模型,根据示例提示输入 “Sri lanka tea plantation.”,可以获得如下的响应,这画质咋样<<\__>> ![image.png](https://dev-media.amazoncloud.cn/c0f9d216c1fe4e75844b4d899e7fee88_image.png "image.png") ![image.png](https://dev-media.amazoncloud.cn/83eb54e5543f4f47add1923152cdb548_image.png "image.png") 再换个例子,比如 “a boy is writing homework”、“a chinese boy is writing homework”。 ![image.png](https://dev-media.amazoncloud.cn/9710f24168eb489ea4b219dc653a6f15_image.png "image.png") 基于已有的结果我们可以选择一张继续“生成变体”,也就是基于前面的三张图片你挑选一张最满意的,[Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail) 继续调用底层模型对这张图片继续优化。 ![image.png](https://dev-media.amazoncloud.cn/175f2f32663e4e71a64ad9da35c94677_image.png "image.png") #### **模型提供商管理** 前面提到了 [Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail) 支持多个提供商的多个模型,用户可以自行管理这些模型并查看对应的 Prompt 示例。 ![image.png](https://dev-media.amazoncloud.cn/34ba2c370c7340e5a4e042ec7a0f20fd_image.png "image.png") 不同提供商的模型使用不同的使用协议,比如 Anthropic Claude、Cohere Embed Multilingual 等模型则需要用户提供申请信息。当然,Amazon Titan 系列模型是直接开通可使用的。 ![image.png](https://dev-media.amazoncloud.cn/3f3af10c5af1456ca9f8126dbfc933c7_image.png "image.png") ### 进阶最佳实践 #### 多模型同界面对比 单个大模型效果具体如何平时只有感官感受,[Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail) 提供了一个有意思的功能,将2-3个大模型并行对比,响应速度、输入/输出 Token、成本等信息一目了然。对于模型指标还支持自定义指标标准,比如延迟超过 2000ms 就标记为红色等等。 ![image.png](https://dev-media.amazoncloud.cn/133273482063450d9e4603c36b61b74c_image.png "image.png") ![image.png](https://dev-media.amazoncloud.cn/202488a75b464c7ca64d8ce5166b9608_image.png "image.png") ![image.png](https://dev-media.amazoncloud.cn/6fa3543d04084f5c95a19d6e92ad9d88_image.png "image.png") ![image.png](https://dev-media.amazoncloud.cn/a9f91a26e438408684888490974f69f0_image.png "image.png") #### **模型指标** 通过可量化的指标观察大模型的效果。 ![image.png](https://dev-media.amazoncloud.cn/e66aecdf99444c44ac8ac26bbdb0f06a_image.png "image.png") ![image.png](https://dev-media.amazoncloud.cn/22c0e28da8274a01b19a746533e0c51b_image.png "image.png") #### **水印检测** 通过大模型生成的图片,大模型是否还记得?可以通过 [Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail) 水印检测来判断,上传一张图片,随即可获得是否是大模型生成的图片的结果。 ![image.png](https://dev-media.amazoncloud.cn/9b3f4838d6a24dd9ab7e2364fd1d4286_image.png "image.png") #### **Agents** 在 Agents 座席中可以创建自己的智能体(也就是 Agents),不过和其他一些平台不同的是,[Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail) 使用了 IAM 权限、对接 S3、提供 ARN 等信息,和使用其他服务没有差别。 ![image.png](https://dev-media.amazoncloud.cn/611ba403781a4ec88ffacf0b5acc98c5_image.png "image.png") ### 总结:云和 Gen-AI 浑然天成 Amazon Web Service 提供云服务,也提供 Gen-AI 和大模型的多项服务,是互相融合在一起还是独立互不相干?我们问个问题。 * 知识库应该单独维护,还是应该用现有的对象存储? * Lambda 提供计算能力,我们自己采用编程/代码插件应该各个系统单独开发还是应该采用云端的计算能力?我们在推动其他用户和开发者上云,但自己却不使用却忘了上云。 #### **和 Lambda 集成** ![image.png](https://dev-media.amazoncloud.cn/57e7d580d2e140f097b2cbe627ed8420_image.png "image.png") #### 使用 CLI 来调用 ![image.png](https://dev-media.amazoncloud.cn/827d8e3c86fd4ed49dc7882ef70c6ec0_image.png "image.png") #### **举个例子** 用户通过自然语言和前端应用进行交互,并交由计算和业务逻辑来进行任务编排、查询数据,通过 [Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail) 调用底层大模型能力来响应用户的需求。 ![image.png](https://dev-media.amazoncloud.cn/97853feb78714018a5edae8be6080f77_image.png "image.png") #### **总结** 在这里,[Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail) 并非孤立的产品,Amazon Web Service 提供的不仅是 Gen-AI 服务,还有 Cloud Computing,任何服务和产品设计都尽可能使用现有平台能力,比如 [Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail) RAG 知识库使用 S3,支持 CLI 和 Lambda 发起请求。这样设计一方面减少用户跨产品切换进行数据转移的工作量,S3 本身就是存储知识库等数据的最佳选择之一,当然要支持用户去使用最佳实践;另一方面,参照 Amazon Well-Architected Framework 思路,使用云平台基础能力也为数据安全性、良好/最佳的架构框架迈进一步。 ### 学习资源 ![image.png](https://dev-media.amazoncloud.cn/ef135dc2a21c4d888502f0e40477b9f8_image.png "image.png")
目录
亚马逊云科技解决方案 基于行业客户应用场景及技术领域的解决方案
联系亚马逊云科技专家
亚马逊云科技解决方案
基于行业客户应用场景及技术领域的解决方案
联系专家
0
目录
关闭