利用 Amazon SageMaker Canvas 使用基础模型进行大规模业务分析

re:Invent
Amazon Kendra
Amazon Bedrock
Amazon Titan
Amazon SageMaker Jumpstart
0
0
今天,我非常高兴向大家介绍 [Amazon SageMaker Canvas](https://aws.amazon.com/cn/sagemaker/canvas/?trk=cndc-detail) 的一项新功能,通过无代码体验,可以使用 [Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail) 和 [Amazon SageMaker](https://aws.amazon.com/cn/sagemaker/?trk=cndc-detail) Jumpstart 中的基础模型( FM )。这个新功能使您更容易评估和生成适用于您特定用例的基础模型的响应,并具有高准确性。 每个企业都有其一套独特的特定领域词汇,通用模型没有经过训练来理解或响应这些词汇。 [Amazon SageMaker](https://aws.amazon.com/cn/sagemaker/?trk=cndc-detail) Canvas 的新功能有效地弥合了这一差距。 SageMaker Canvas 会为您训练模型,因此您不需要使用公司数据编写任何代码,从而使模型的输出反映您的业务领域和用例,例如完成市场分析。对于微调过程, SageMaker Canvas 会在您的账户中创建一个新的自定义模型,用于微调的数据不会被用来训练原始基础模型,从而确保您的数据隐私。 今年早些时候, 我们扩展了 [Amazon SageMaker](https://aws.amazon.com/cn/sagemaker/?trk=cndc-detail) Canvas 中现成模型的支持范围,纳入了基础模型( FM )。因此,您可以通过无代码界面访问、评估和查询 FM ,例如 Claude 2 、 Amazon Titan 和 Jurassic-2 (由 [Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail) 提供支持),以及公开可用的模型,如 Falcon 和 MPT (由 [Amazon SageMaker JumpStart](https://aws.amazon.com/cn/sagemaker/jumpstart/?trk=cndc-detail) 提供支持)。为了扩展这一体验,我们还增加了通过查询 FM 从企业文档索引(例如 [Amazon Kendra](https://aws.amazon.com/cn/kendra/?trk=cndc-detail) )中生成见解这一功能。虽然查询FM非常有价值,但客户希望构建能为其用例生成响应和见解的 FM 。即日起,构建FM的新功能解决了生成自定义响应这个需求。 首先,我打开 SageMaker Canvas 应用程序,然后从左侧导航窗格中选择 My models 。我选择 New model 按钮,选择 Fine-tune foundation model ,然后选择 Create 。 ![屏幕截图 2023-12-26 183317.png](https://dev-media.amazoncloud.cn/f975c9ee758641bb81d491e24b88acfd_%E5%B1%8F%E5%B9%95%E6%88%AA%E5%9B%BE%202023-12-26%20183317.png "屏幕截图 2023-12-26 183317.png") 我选择训练数据集,至多可以选择三个模型进行调优。我选择带有提示文本的输入列和带有所需输出文本的输出列。然后,我选择 Fine-tune 来启动微调过程。 ![屏幕截图 2023-12-26 183356.png](https://dev-media.amazoncloud.cn/cfe9eb6780554328b4247c1c01daf83e_%E5%B1%8F%E5%B9%95%E6%88%AA%E5%9B%BE%202023-12-26%20183356.png "屏幕截图 2023-12-26 183356.png") 微调过程完成后, SageMaker Canvas 会提供对微调模型的分析,包括困惑度和损失曲线、训练损失、验证损失等不同指标。此外, SageMaker Canvas 还提供模型排行榜,使我能够衡量和比较生成模型的质量指标。 ![屏幕截图 2023-12-26 183845.png](https://dev-media.amazoncloud.cn/e80060f8c0954b8e910e8260f66be15d_%E5%B1%8F%E5%B9%95%E6%88%AA%E5%9B%BE%202023-12-26%20183845.png "屏幕截图 2023-12-26 183845.png") 现在,我准备测试模型并与原始基础模型的响应进行比较。为了进行测试,我从Analyze 页面中的" Ready-to-use models "中选择" Test "。经过微调的模型会自动部署,并且现在我可以进行对话并比较响应。 ![屏幕截图 2023-12-26 183905.png](https://dev-media.amazoncloud.cn/3a40f06e92b1475e9d470a03b10441ef_%E5%B1%8F%E5%B9%95%E6%88%AA%E5%9B%BE%202023-12-26%20183905.png "屏幕截图 2023-12-26 183905.png") 现在,我准备生成和评估适合我用例的见解。锦上添花的是不用写一行代码就能实现这一点。 #### 了解更多信息 ● [Amazon SageMaker Canvas 产品页面](https://aws.amazon.com/cn/sagemaker/canvas/?trk=cndc-detail) ● [Amazon SageMaker Canvas 开发者指南](https://docs.aws.amazon.com/sagemaker/latest/dg/canvas.html?trk=cndc-detail) 立即开始构建! 【文章来源:https://aws.amazon.com/blogs/aws/leverage-foundation-models-for-business-analysis-at-scale-with-amazon-sagemaker-canvas?trk=cndc-detail/】 — Irshad 附言:在亚马逊云科技,虽然您在文章标题下只看到一个名字,但是写一篇博客文章往往需要一个团队的努力。在此我要感谢 [Shyam Srinivasan](https://www.linkedin.cn/incareer/in/sshyamp/?trk=cndc-detail) 提供的技术援助。
目录
亚马逊云科技解决方案 基于行业客户应用场景及技术领域的解决方案
联系亚马逊云科技专家
亚马逊云科技解决方案
基于行业客户应用场景及技术领域的解决方案
联系专家
0
目录
关闭