了解 Amazon Titan 的语言任务

## 视频 <video src="https://dev-media.amazoncloud.cn/30-LibaiGenerate/31-LiBaiRebrandingVideo/AIM331-Explore_Amazon_Titan_for_language_tasks-LBrebrandingWCaptionCN.mp4" class="bytemdVideo" controls="controls"></video> ## 导读 Amazon Titan 基础模型 (FMs) 在大型数据集上进行预处理，使其成为强大的通用模型。您可以按原样使用它们，也可以使用自己的数据私下自定义它们。加入本论坛，学习如何使用 Amazon Titan Text 为博客帖子和网页创建副本，将文章分类，开放式问答和信息提取。 ## 演讲精华 <font color = "grey">以下是小编为您整理的本次演讲的精华，共1000字，阅读时间大约是5分钟。如果您想进一步了解演讲内容或者观看演讲全文，请观看演讲完整视频或者下面的演讲原文。</font> 视频首先介绍了亚马逊Bedrock的主要产品经理Brent Swidler，他专门负责开发亚马逊的泰坦文本系列模型。他与其他两位演讲者——高级首席解决方案架构师Ben Snively和来自Electronic Arts的应用程序架构师Satin Kal一起参加。在接下来的一个小时里，他们计划向用户介绍亚马逊Bedrock的基本情况，分享关于最新宣布的亚马逊泰坦模型的细节，展示使用泰坦的架构和最佳实践，并强调Electronic Arts如何利用这些模型。 Brent首先为那些不熟悉的人提供了亚马逊Bedrock的背景信息。亚马逊Bedrock是一个平台，允许用户从各种基础模型中选择，包括文本、图像生成等。用户可以从目前Bedrock中提供的17种不同的基础模型中进行选择，即插即用或根据需要定制。Bedrock还允许通过知识库和外部系统通过代理连接模型到数据源。最近宣布的功能包括用于控制模型性能的护栏和用于测试多个提示的模型评估功能。 目前在Bedrock中提供的基础模型包括来自供应商的选择，如Anthropic、Cohere、Meta和Stability.ai,以及亚马逊自己的泰坦模型。Brent解释说，泰坦文本产品将成为该会议的大部分焦点。特别是，Titan Text Express刚刚推出，与Titan Text Lite一起成为通用版。几个月前，Titan Text Embeddings也变成了通用版。 Titan Text Lite是一个更紧凑的模型，适合快速迭代微调。Titan Text Express具有更广泛的功能，如对100多种语言的多语言支持、代码生成和丰富的文本格式，如JSON和SQL。语境窗口对于Lite是4k, 对于Express是8k。图像生成和嵌入模型也已经公布。 Brent注意到，大多数客户使用这些模型来利用内置的知识，而不是完全依赖模型的固有知识。他概述了三种主要的提示类型：开放式、封闭式和混合式。开放式提示完全依赖于模型的知识，就像询问第一个美国总统一样。封闭式提示提供所有上下文, 不依赖于模型的知识。混合提示使用提供的上下文和模型的知识的组合。 他解释说，思考知识的来源对于设计提示非常重要。开放式提示允许模型利用自身知识，而封闭式提示则将其局限在提供的数据内。 有多种方法可以定制模型的行为和知识。这两个主要维度包括控制行为（输出格式）和控制知识（使用的信息）。提示工程是最简单的知识控制方法，即通过添加自然语言指令而不需要进行额外训练。另一种方法是检索增强生成（RAG），即模型检索并利用提供的数据源来回答问题，而非仅依赖自身知识。最极端的知识控制方法是持续预训练，用户可将自定义数据注入模型的训练过程，从而嵌入专属知识。 精调是一种行为控制方法，通过提供预期提示来完成对模型输出的调整。布伦特详细解释了这些定制选项，以便了解Titan的设计和能力。在Titan的开发过程中，有大量关于提示工程和责任AI实践的文档可供参考。 本·斯尼利夫随后进行了一些互动演示，展示Titan的使用方式： -分析长篇采访记录，提取关键点并生成摘要文章。这是使用完整记录作为封闭式上下文，控制模型知识来源的一个例子。 -使用Bedrock知识库（包含Amazon峰会会议数据）和Titan Text Express回答关于相关会议的问题。这展示了如何将外部知识源与Titan相结合使用。 -将Bedrock代理连接到一个从Tickets信息中检索数据的Lambda函数。这个示例展示了如何通过Titan嵌入和OpenSearch使代理能够执行外部操作。 电子艺术公司的萨汀·卡尔分享了他们如何使用Titan和Bedrock实施四个不同项目： -帮助开发者通过自动生成测试代码模板的插件来编写单元测试。这提高了效率，并将测试工作提前。 -协助质量工程师从Jira中的需求生成测试方案。这节省了时间，使他们能专注于复杂的测试方案，并提高可靠性。 -创建游戏内帮助聊天机器人，以快速协助玩家解决问题。这改进了玩家的体验。 通过对社交媒体评论的管理端口分析，为营销团队提供了深刻的见解，从而帮助企业团队节省时间。在所有四个用例中，Satin解释了他们正在采用一种简单的方法：一个由Bedrock/Titan后台服务驱动的内部用户界面，有时会与知识库相结合。他还分享了一个开发者测试和社交媒体分析集成的演示。 最后，Satin表示，使用像Titan和Bedrock这样的生成性人工智能可以帮助Electronic Arts在各个工作流（如测试、玩家支持和业务运营）中推动创新和提高效率。这些例子展示了如何将Titan集成到现有系统并增强人类能力的机会。 总的来说，这个视频全面概述了亚马逊的Titan文本模型和Bedrock平台，包括最近的发布、架构最佳实践和实际应用。演示和使用案例强调了如何定制和配置Titan以增强知识、改进工作流程并降低跨领域（如软件开发、客户支持和市场营销）的成本。关键收获是像Titan Text Express这样的模型的强大功能，控制模型行为和知识的提示工程和技术（RAG）技巧，以及将生成性人工智能应用于推动创新和生产率增长的各种机会。 **下面是一些演讲现场的精彩瞬间：** 亚马逊云科技的领导者和EA公司的资深首席解决方案架构师Ben Snively及应用架构师Satin共同登台亮相。  他们利用人工智能和[机器学习](https://aws.amazon.com/cn/machine-learning/?trk=cndc-detail)技术处理日益复杂的问题。  领导者向我们展示了如何配置[Amazon Kendra](https://aws.amazon.com/cn/kendra/?trk=cndc-detail)的知识库数据源并进行同步嵌入向量存储。  他们还探讨了如何将Lambda函数与RAG系统集成，以实现基于观察的响应式推理和行动。  通过与知识库和Lambda函数的交互，代理能够为用户提供实用的回复。  此外，亚马逊云科技还在开发一款工具，旨在帮助质量工程师更高效地编写测试场景。  ## 总结 亚马逊的泰坦文本模型旨在让自然语言处理变得更加易获得和可定制。布伦特·斯威德勒介绍了两种新型生成性人工智能模型——泰坦文本快速版和泰坦文本轻量版，这些模型现已在全球范围内通过亚马逊云科技提供服务。 随后，本·斯尼维利展示了泰坦如何通过分析大量数据来提取关键信息并生成相关叙述。他还展示了亚马逊Bedrock知识库是如何实现一种“检索和生成”架构的，该架构可以查询泰坦以概括文本内容，同时将知识范围限定在特定的语料库中。电子艺术公司的萨廷·卡尔探讨了游戏开发者对于生成性人工智能的四种应用：自动化测试生成的优化、需求总结、游戏内的帮助聊天机器人以及分析社交媒体反馈。 总的来说，泰坦文本模型提供了一种可扩展且具有成本效益的自然语言生成解决方案。通过进行提示工程和微调，用户可以定制模型的行为和知识。泰坦能够支持诸如测试自动化和对话AI等工作流程，从而提高开发者的生产力并改善玩家体验。借助Bedrock知识库和代理界面，泰坦可以轻松地集成到各种系统之中。生成性人工智能有望在包括游戏产业在内的各个行业中推动创新。 ## 演讲原文 ## 想了解更多精彩完整内容吗？立即访问re:Invent 官网中文网站！ [2023亚马逊云科技re:Invent全球大会 - 官方网站](https://webinar.amazoncloud.cn/reInvent2023/?s=8739&smid=19458 "2023亚马逊云科技re:Invent全球大会 - 官方网站") [点击此处](https://aws.amazon.com/cn/new/?trk=6dd7cc20-6afa-4abf-9359-2d6976ff9600&trk=cndc-detail "点击此处")，一键获取亚马逊云科技全球最新产品/服务资讯！ [点击此处](https://www.amazonaws.cn/new/?trk=2ab098aa-0793-48b1-85e6-a9d261bd8cd4&trk=cndc-detail "点击此处")，一键获取亚马逊云科技中国区最新产品/服务资讯！ ## 即刻注册亚马逊云科技账户，开启云端之旅！ [【免费】亚马逊云科技“100 余种核心云服务产品免费试用”](https://aws.amazon.com/cn/campaigns/freecenter/?trk=f079813d-3a13-4a50-b67b-e31d930f36a4&sc_channel=el&trk=cndc-detail "【免费】亚马逊云科技“100 余种核心云服务产品免费试用“") [【免费】亚马逊云科技中国区“40 余种核心云服务产品免费试用”](https://www.amazonaws.cn/campaign/CloudService/?trk=2cdb6245-f491-42bc-b931-c1693fe92be1&sc_channel=el&trk=cndc-detail "【免费】亚马逊云科技中国区“40 余种核心云服务产品免费试用“")