「构」向云端征文大赛 |使用 Amazon Bedrock 完成你的问答需求

re:Invent
Amazon Bedrock
0
0
**#「构」向云端,构建者征文大赛 #** re:Invent 2023 带来的全新技术风向标。在本次大会期间,我们广下英雄帖,举行了「**构」向云端,构建者征文大赛**,邀请构建者们一同提笔畅想生成式 AI 与云碰撞的无限可能。本次赛事征集到了众多优秀文章,今天和大家一起分享其中一篇精选作品,让我们一起「构」向云端,感受技术的魅力! ### **使用 Amazon Bedrock 完成你的问答需求** **作者:JennyHoler** #### **1、Amazon Bedrock 简介** Amazon Bedrock 是使用 LLM 构建和扩展生成式人工智能应用程序的最简单方法。Amazon Bedrock 是一项完全托管的服务,可通过 API 提供来自 Amazon 和领先 AI 初创企业的 LLM,因此您可以从各种 LLM 中进行选择,找到最适合您的应用场景的模型。 #### **2、模型列表** Amazon Bedrock 是一项完全托管的服务,可通过 API 提供来自领先 AI 初创公司和 Amazon 的 FM,因此您可以从各种 FM 中进行选择,找到最适合您的使用案例的模型。 ![image.png](https://dev-media.amazoncloud.cn/c2c53c26dd08475481ffe94a284903cb_image.png "image.png") **AI21 Labs 的 Jurassic 系列模型** Jurassic-2 Ultra 是 AI21 最强大的模型,适用于需要高级文本生成和理解的复杂任务。流行的用例包括问答、摘要、长格式副本生成、高级信息提取等。 Jurassic-2 Mid 的功能不如 Ultra 强大,但经过精心设计,可在卓越品质和经济实惠之间取得适当的平衡。Jurassic-2 Mid 可应用于任何语言理解或生成任务,包括问答、摘要、长格式副本生成、高级信息提取等。 ![image.png](https://dev-media.amazoncloud.cn/3b91b87db3934106a19f8454aab70f38_image.png "image.png") **Amazon 的 Titan 系列模型** Amazon Titan Foundation 模型经过大型数据集的预训练,使其成为强大的通用模型。按原样使用它们,或者通过使用您自己的数据针对特定任务微调模型来自定义它们,而无需注释大量数据。 ![image.png](https://dev-media.amazoncloud.cn/a3b3fb7cd96b483c83d7ceb331303ea0_image.png "image.png") Titan 模型分为三种类型:嵌入、文本生成和图像生成。 * **Titan Embeddings G1** – 文本模型将文本输入(单词、短语或可能的大型文本单元)转换为包含文本语义的数字表示(称为嵌入)。虽然该法学硕士不会生成文本,但它对于个性化和搜索等应用程序很有用。通过比较嵌入,该模型将产生比单词匹配更相关和上下文的响应。新的 Titan Multimodal Embeddings G1 模型适用于通过文本搜索图像、通过图像相似性或通过文本和图像的组合搜索图像等用例。它将输入图像或文本转换为嵌入,该嵌入在同一语义空间中包含图像和文本的语义。 * **Titan Text 模型**是生成式 LLM,适用于摘要、文本生成(例如,创建博客文章)、分类、开放式问答和信息提取等任务。他们还接受过许多不同编程语言以及表格、JSON 和 csv 等富文本格式的培训。 * **Titan Image Generator G1** 是一种生成基础模型,可从自然语言文本生成图像。该模型还可用于编辑或生成现有或生成的图像的变体。 为了继续支持负责任地使用人工智能的最佳实践,泰坦基金会模型旨在检测和删除数据中的有害内容,拒绝用户输入中的不当内容,并过滤包含不当内容(例如仇恨言论)的模型输出 、亵渎和暴力)。Titan Image FM 为所有生成的图像添加了隐形水印。未来将提供水印检测 API,通过检查是否存在水印来帮助您确认图像是否是使用 Titan 模型生成的。 ![image.png](https://dev-media.amazoncloud.cn/bde3d9fef15c40ebbeb92bdac398f5c0_image.png "image.png") **Meta 的 Llama 系列模型** Llama 是一系列大型语言模型,使用公开数据进行训练。这些模型基于变压器架构,使其能够处理任意长度的输入序列并生成可变长度的输出序列。Llama 模型的关键特征之一是它能够生成连贯且上下文相关的文本。这是通过使用注意力机制来实现的,该机制允许模型在生成输出时关注输入序列的不同部分。此外,Llama 模型使用一种称为“掩码语言建模”的技术在大型文本语料库上对模型进行预训练,这有助于它学习预测句子中缺失的单词。 Llama 模型已被证明在各种自然语言处理任务上表现良好,包括语言翻译、问答和文本摘要,并且还能够生成类似人类的文本,这使得 Llama 模型成为创意写作和其他应用程序的有用工具。自然语言生成很重要。 总的来说,Llama 模型是强大且多功能的语言模型,可用于广泛的自然语言处理任务。该模型能够生成连贯且上下文相关的文本,这使得它对于聊天机器人、虚拟助手和语言翻译等应用程序特别有用。 不过模型支持的最大输入长度为4096,支持语言英文效果最好。 **Stability AI 的 SDXL 系列模型** SDXL 比其前身 Stable Diffusion 2.1 生成更详细的图像和构图,代表了 Stability 图像生成模型系列向前迈出的重要一步。SDXL 还具有超越文本到图像提示的功能,包括图像到图像提示(输入一张图像以获取该图像的变体)、修复(重建图像的缺失部分)和修复(构建无缝扩展)现有图像。 #### **3、构建属于自己的问答应用** **注册 Bedrock** 使用 Bedrock 只需要完成亚马逊云科技注册即可,然后打开下面链接,可以进入 [Bedrock 主页](https://us-east-1.console.aws.amazon.com/bedrock?trk=cndc-detail)。 ![image.png](https://dev-media.amazoncloud.cn/4512c6091a99450abdb69be062c94602_image.png "image.png") **获取模型权限** ![image.png](https://dev-media.amazoncloud.cn/90a53add92f14166b0aa73261e229cbb_image.png "image.png") 点击左侧导航的 Overview 标签,然后可以看到右侧的 Spotlight 板块,点击 Request model access 按钮: ![image.png](https://dev-media.amazoncloud.cn/4a61bbe41d5949a5a4e8a773099f894e_image.png "image.png") 在这个下面可以选择自己想使用的模型,有的模型需要填写个人呢资料以及使用背景。 **体验 Demo** 官方提供了 33 个生成式应用的 Demo: ![image.png](https://dev-media.amazoncloud.cn/aee498b65a07472da16c9367ceabeebd_image.png "image.png") 我们可以直接点击 Open in Playground,进入对话应用,下面是讲一个会议记录转换为会议纪要的例子: ![image.png](https://dev-media.amazoncloud.cn/9a1b9cd45e4b48c1ab4d82a54ddb9e4b_image.png "image.png") **构建自己的对话应用** 在浏览模型列表之后,发现部分可以支持中文的,下面我们可以构建自己的中英对话应用,以及对比不同模型的效果。 > 根据主题撰写内容翔实、有信服力的论文。 > > 我希望你能作为一名学者行事。你将负责研究一个你选择的主题,并将研究结果以论文或文章的形式呈现出来。你的任务是确定可靠的来源,以结构良好的方式组织材料,并以引用的方式准确记录。我的第一个建议要求是 '论文主题' ![image.png](https://dev-media.amazoncloud.cn/bad1109584b043e7a3aea159128b8b1a_image.png "image.png") 右侧我们可以修改模型超参数,我们可以看到在调整模型输出最大长度之后,模型效果变化很大: ![image.png](https://dev-media.amazoncloud.cn/627c198be19f463ea6635f6e762d5867_image.png "image.png") **不同模型对比** > Write a highly detailed essay in Chinese with introduction, body, and conclusion paragraphs responding to the following: [问题] ![image.png](https://dev-media.amazoncloud.cn/50ff5b251c994f758695ffd9c8d19fa7_image.png "image.png") **#欢迎观看更多精彩作品#** 「构」向云端,构建者征文大赛现已评奖,欢迎大家扫描二维码或点击阅读原文,阅读更多精彩内容! ![image.png](https://dev-media.amazoncloud.cn/e618de2e20654ef5a269a7728f8794d8_image.png "image.png") ![开发者尾巴.gif](https://dev-media.amazoncloud.cn/89531baa09694a91bc0c5dcbd82c9dd2_%E5%BC%80%E5%8F%91%E8%80%85%E5%B0%BE%E5%B7%B4.gif "开发者尾巴.gif")
0
目录
关闭
contact-us