「构」向云端征文大赛｜深度测评 Amazon Bedrock

### #「构」向云端，构建者征文大赛# > re:Invent 2023 带来的全新技术风向标。在本次大会期间，我们举行了「构」向云端，构建者征文大赛，邀请构建者们一同提笔畅想生成式 AI 与云碰撞的无限可能。本次赛事征集到了众多优秀文章，我们将陆续和大家一起分享精选作品，一起「构」向云端，感受技术的魅力！ **本文作者 桃花键神** 亚马逊云科技 re:Invent 2023 大会的核心是生成式 AI。生成式 AI 有潜力推动技术变革，从而重塑人们的一切行为方式，无论是信息搜索还是以全新的方式编写和构建应用程序。亚马逊云科技在三层堆栈的每一层提供解决方案，包括专门构建的基础设施、工具和应用程序，帮助客户更好地利用生成式 AI。 亚马逊云科技人工智能/[机器学习](https://aws.amazon.com/cn/machine-learning/?trk=cndc-detail)部门副总裁 Bratin Saha 博士带我们了解了最新的亚马逊云科技服务、基础架构创新，以及亚马逊云科技的一些企业客户已经使用生成式 AI 构建了哪些业务。由于亚马逊云科技提供一百多种产品的试用，所以在本场直播结束后，我迫不及待的开始动手实验起来，本文是对亚马逊云科技生成式 AI 服务 [Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail) 进行的深度测评。 ### 产品介绍 [Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail) 服务于 2023 年 9 月 28 日正式可用，这是使用基础模型构建和扩展生成式 AI 应用程序的简单方法。[Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail) 是一项完全托管的服务，提供来自 AI21 Labs、Anthropic、Cohere、Meta、Stability AI 和亚马逊云科技等领先提供商的高性能基础模型，以及客户构建生成式 AI 应用程序所需的一套广泛功能，简化开发，同时维护隐私和安全。 本次测评选用文本生成模型 Titan Text G1 - Express，该模型具有多达 8,000 个令牌的上下文长度，使其非常适合广泛的高级通用语言任务，例如开放式文本生成和会话聊天，以及对检索增强生成（RAG）的支持。 ### 产品体验 首先我们登录控制台后搜索 [Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail)，点击进入 [Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail) 控制台：  点击 Model access，设置模型访问权限。注意，这里一定不要直接去操作台选择文本操作或者图像操作，没有模型访问权限是无法使用模型的。  这里可以选择你需要用到的模型，本次实验我选用文本生成模型 Titan Text G1 - Express：    点击 Text playground 进入文本操作，点击 Select model 选择模型：  选择“Amazon”可以看到刚刚设置过权限的模型 Titan Text G1 - Express，点击 Apply 应用。  应用模型之后我们来深度体验一下它有哪些功能。首先测试一下文本分类能力，对于文本分类，提示包括一个问题，问题的答案有几个可能的选择，模型必须用正确的选择进行响应。此外，如果我在提示中包含答案选项，[Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail) 上的 llm 会输出更准确的响应。 #### 例一 第一个例子是一个简单的多项选择分类问题： > 翻译：今天的午饭事件是这样的：我今天吃了一种看起来像老鼠头的东西，让我感到恶心。请描述这件事，并将其归类为以下之一：积极、消极、中性。 可以看到回答是归类到“消极”：  #### 例二 第二个例子是一个稍微复杂一点的多项选择分类问题： > 翻译：今天的午饭事件是这样的：今天中午，我在餐厅吃饭时，与一位陌生人发生了争执。我们的争论围绕着菜品的质量和价格展开，他认为菜品不够新鲜，而我则认为价格过高。我们两个的声音越来越大，引来了周围人的注意。尽管我试图保持冷静，但情绪逐渐升温，最终演变成了一场激烈的争吵。我们互相指责，言辞激烈，直到有人前来劝解，我们才逐渐平息下来。请描述这件事，并将其归类为以下之一：积极、消极、中性。 回答是归类到“消极”。 #### 例三 第三个例子我们来个 400 字的事件，看看能不能判断出来： > 翻译：事件是这样的： > > 在一个平凡的周末，阳光洒满大地，我心情格外舒畅。那天，我刚好路过一家彩票店，心血来潮之下，决定买一张彩票试试手气。我选了一个看似顺眼的号码，付完钱后便离开了彩票店。当时的我并没有抱太大的期望，毕竟中奖的概率微乎其微。然而，就在当晚的开奖时刻，我惊讶地发现，我所选的那组号码竟然与开奖号码完全一致！我不敢相信自己的眼睛，揉了揉双眼再次确认。没错，我真的中了 500 万大奖！我欣喜若狂地跳了起来，心中涌上一股难以言表的喜悦。当晚，我激动得几乎无法入睡，一直在想象着这笔巨额奖金将如何改变我的生活。第二天一大早，我迫不及待地前往彩票店兑奖。当我拿到那张支票时，手中的重量仿佛承载了我未来的幸福和梦想。我决定将这笔奖金用于实现自己的目标和梦想，同时也计划将一部分用于慈善事业，帮助那些需要帮助的人。中奖的经历让我深刻体会到人生的无常和幸运的存在。这笔意外的财富不仅让我实现了许多梦想，也让我更加珍惜现在的生活，并激励我继续努力追求更好的未来。请描述这件事，并将其归类为以下之一：积极、消极、中性。 回答是归类到“积极”。 再测试一下在没有上下文的情况，模型是如何回答的。在没有上下文的问答提示中，模型必须用其内部知识回答问题，而不使用任何上下文或文档。 > 翻译：科幻小说《三体》讲的是什么事件 可以看到回答的很全面，亚马逊云科技在文本生成 AI 的知识储备方面具有较为丰富的积累。  该模型经过了大量的数据训练，能够根据输入的文本内容自动生成简洁、准确的摘要。下面我们来测试一下。 **提示词：** 以下是一篇餐馆评论的文字： > 我一直想吃海鲜自助餐，但我担心海鲜不新鲜，品种太少。经同事介绍到周氏，一进店里，海鲜的味道就扑面欲穿，就像市场的海鲜区一样，三眼蟹都很新鲜，鲍鱼又大又脆，罗氏虾，基本虾都活灵活现，简直是我的最爱。贝类又大又甜。熟食区有各种海鲜，大闸蟹，椒盐虾，我最喜欢的肥肠也很好吃，提番区有烤羊排，烤鹅肝我一个人可以吃五份，还有各种生鱼片，寿司，火锅区，各种毛牛肚黄喉，让人眼花缭乱，最后还有芝士烤榴莲，简直是一个胃都吃不下。用一句话总结以上的餐厅评价。 **回答：** 餐厅评论描述了周氏海鲜的种类和新鲜度，包括活蟹、鲍鱼、罗氏虾、贝类、熟食、烤羊排、鹅肝、生鱼片、寿司、火锅、毛肚、黄喉和奶酪烤榴莲。 从结果中不难看出该模型具有较好的语言理解和表达能力，能够根据不同的输入文本生成符合语法和语义规则的摘要。  ### 体验总结 通过本次测评体验，我对生成式 AI 有了新的认知。亚马逊云科技在 AI 文本生成方面提供了多种工具和服务，解决了多个技术难点和技术壁垒，使用体验总体上较好。对于这次深度体验，我总结出以下几点： 1. 该模型采用了深度学习技术，能够自动学习文本的语法和语义规则，从而生成符合语言规范的自然语言文本。这解决了传统文本生成方法中需要手动编写规则和模板的问题，提高了生成文本的质量和多样性。 2. 该模型还采用了注意力机制等技术，能够更好地捕捉输入文本的上下文信息，从而生成更加准确的文本摘要或其他文本生成应用。这解决了传统文本摘要方法中容易忽略上下文信息的问题。 3. 该模型采用了迁移学习、无监督学习等技术，将大量无标签数据转化为有标签数据，从而扩大了数据集并提高了模型的分类准确率和泛化能力。 *（本文经过后期编辑整理后发布）* #欢迎观看更多精彩作品# 「构」向云端，构建者征文大赛现已评奖，欢迎大家扫描二维码，阅读更多精彩内容！