关于采用生成式 AI 低成本方法的领导者指南

## 视频 <video src="https://dev-media.amazoncloud.cn/30-LibaiGenerate/31-LiBaiRebrandingVideo/NTA216-A_leader_s_guide_on_low_effort_ways_to_adopt_generative_AI-LBrebrandingWCaptionCN.mp4" class="bytemdVideo" controls="controls"></video> ## 导读 与生成式 AI 交互很容易，但构建生成式 AI 应用程序需要更多的思考。大规模操作所述应用程序带来了更深刻的挑战。学习一个框架，使用省力的方法为顶级用例设计和构建生成式 AI 应用程序，提供令人信服的用户体验并加速业务。您拿将获得一套广泛的心理模型，您可以应用这些模型立即开始并获得成功。 ## 演讲精华 <font color = "grey">以下是小编为您整理的本次演讲的精华，共1800字，阅读时间大约是9分钟。如果您想进一步了解演讲内容或者观看演讲全文，请观看演讲完整视频或者下面的演讲原文。</font> Akshara Sha，re:Invent的一场会议的主持人，欢迎观众参加本次会议，专注于为领导者提供关于采用生成性AI的低努力方法的实用指南。作为一名拥有四年经验和与商业客户合作处理AI和[机器学习](https://aws.amazon.com/cn/machine-learning/?trk=cndc-detail)使用案例经验的高级解决方案架构师，她在这一领域有着丰富的经验。她提到，她将与其他在该领域工作的专业人士如Prasad和Shri一起参加会议，他们将共同为客户提供实施生成性AI解决方案的经验。 在深入探讨具体案例之前，Akshara首先回顾了有关生成性AI迅速增长的采用的一些统计数据。她引用了Gartner在2022年5月进行的一项调查，发现14%的执行领导者在试点生成性AI，而只有5%处于生产阶段。然而，在2022年10月的一项后续调查中，实验阶段的百分比跃升至45%，现在有10%处于生产阶段。 Akshara解释说，这些数据表明了生成性AI的变革潜力得到了认可，但也反映了仍有很大的空间可以进行更广泛的采用。这就是为什么这个会议的目标是分享更容易的方法来开始应用生成性AI，即使是对于刚刚开始其旅程的组织。 她总结道，成功采用生成性AI需要三个关键因素：首先，了解该技术的能力和局限性；其次，确定将其应用于您独特数据的用例；第三，负责地部署它。会议将涉及所有三个方面，重点是识别高价值、低努力的用例。 在技术概述部分，Akshara详细阐述了生成性人工智能模型的训练过程，以便在学习模式并生成新颖的原创内容。例如，它们可以撰写博客文章、总结文章、创建图像和视频，甚至生成代码。这些基本模型通常基于多样化的公开数据（如维基百科）进行训练，从而吸收大量的信息。 她表示，这些基本模型能够执行各种自然语言任务，如文本生成、摘要、分类和问答。其优势在于分析单词和短语序列以理解上下文意义。然而，这也可能导致"幻觉"风险，即模型过于依赖内部培训而非特定用户提示，从而产生通用、不准确或不适当的回应。缓解这个问题的方法是提供相关的背景信息，以便将模型限制在使用案例的具体细节中。 除了幻觉风险外，Akshara还列举了采用生成性AI的两个其他挑战。首先，技术的快速发展导致了技能差距，许多组织需要雇佣专门的专业人士。其次，成本可能过高，尤其是在尝试将生成性AI整合到业务工作流程中时。 她强调，亚马逊云科技致力于通过降低复杂性和支持实验来解决这些障碍。Akshara解释说，利用生成性AI的一般涉及三种角色：1)使用API访问预训练模型的消费者；2)定制模型以满足特定领域需求的调谐器；以及3)创建和训练基本模型的生产商。这个讲座主要关注作为消费者的方法，以简化入门过程。 在介绍使用案例时，Akshara建议从考虑客户开始，专注于高价值、低努力的机会。她提供了一个链接到亚马逊云科技按行业解决方案的QR码作为起点，以识别潜在的应用程序。 为了确定优先使用案例，她建议从客户需求倒推，并创建一个协作式游乐场，让不同团队可以使用自己的数据来试验模型。Akshara推荐使用[Amazon SageMaker](https://aws.amazon.com/cn/sagemaker/?trk=cndc-detail) Canvas，这是一个无需编码的工作区，可以快速构建这种环境。 在此期间，Akshara邀请了Prasad上台，向他展示了如何通过应用生成性AI来增强创造力和客户体验的案例。 Prasad首先解释了他所采用的方法，即让听众进入一个名为AnyCompany的虚拟电子商务公司，扮演不同的角色，如营销内容撰稿人、销售经理等，并设想他们在公司业务中可能遇到的挑战。接着，他会演示如何使用亚马逊云科技服务来解决这些问题。 他以一个需要在AnyCompany网站上手动撰写大量产品摘要的营销内容撰稿人为例，展示了生成性AI应用程序如何在提供关键词的情况下自动生成有创意的摘要。他强调，这个过程使用的是真实的基础模型，以确保听众在模拟过程中不会受到任何影响。 为了实现这一功能，Prasad推荐了使用[Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail)，这是一种通过单一API提供对高性能生成性模型的托管访问的服务。它可以在一个安全的游戏环境中尝试不同的模型。他还解释了如何将Bedrock嵌入到现有的应用程序中，例如聊天机器人，并强调了在大规模部署时缓存、重试和过滤的重要性。 接下来，Prasad以一个销售经理为例，展示了AI应用程序如何从不同的来源吸收内容，并为销售支持生成定制的创造性摘要。他建议采用亚马逊Q，这是一项完全管理的生成性AI助手，可以根据特定的业务需求进行定制。他还展示了亚马逊Q的无代码功能，让用户能够通过内置的连接器将数据源（如CRM和云存储）连接起来，从而使该服务能够通过查询集成的内容来提供见解。 在谈到客户体验时，Prasad关注的是对话式QA机器人和联系中心分析。他描述了一个场景，其中AnyCompany希望使用现有的故障排除指南来回答智能手表客户的常见问题，而不是仅仅依赖于模型的知识。他给出了一些例子，说明了提供相关上下文如何减少不适当响应（也称为幻觉）的风险。 普拉德介绍了一种名为检索增强生成（RAG）的常用技术，该技术检索上下文相关信息以指导模型回应。普拉德概述了实施RAG所需的基本组成部分，包括向量数据库、嵌入模型和协调层。作为一个更简便的选择，他推荐使用适用于[Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail)的知识库，该知识库可以处理数据源摄入、内容嵌入、索引检索以及通过单个API调用在相关上下文中生成响应。这避免了构建复杂协调逻辑的需求。针对客服中心，普拉德介绍了如何使用诸如[Amazon Comprehend](https://aws.amazon.com/cn/comprehend/?trk=cndc-detail)等服务分析电话录音，并通过提问生成模型来汇总互动并提供辅导改进建议。他强调，亚马逊云科技服务提供了用于客服智能的解决方案，这些解决方案可以实现一键部署这些功能。总的来说，普拉德展示了生成性AI如何为营销和销售支持提供创意内容，实现对话式自助服务，并从客户互动中提炼见解——所有这些都可以借助减少实施复杂性的托管亚马逊云科技服务来实现。随后，他将演示交给了阿克莎拉，以探讨流程自动化案例。阿克莎拉提供一个保险索赔经理需要查看公司的最新股票价格，将其与之前的时间段进行比较，如果下降超过20%，则向分析师发送电子邮件的示例。她阐述了开发人员通常需要手动定义业务逻辑、集成服务、编写自定义代码和管理基础设施以自动执行此类工作流程的过程。作为一个更简便的方法，她建议使用Bedrock Agents，这些代理允许通过点击配置基本模型以理解任务、将它们分解成步骤、调用API并采取操作而无需编写代码。阿克莎拉解释了代理如何可以根据需要结合亚马逊云科技的Lambda函数来添加自定义业务逻辑。在转向文档处理方面，阿克莎拉展示了一个抵押贷款申请审查员需要从各种表格中提取申请人姓名和地址的情况。她与这通常涉及到为文档分类和数据提取训练[机器学习](https://aws.amazon.com/cn/machine-learning/?trk=cndc-detail)模型相比，而是简单地将大型语言模型用于理解文档内容和结构以提取数据。 阿克夏建议在处理文档处理工作流程时，采用预构建的亚马逊云科技解决方案而非自行开发。这些方案通过示例笔记本和CDK模板，快速实现了常见的人工智能应用。随后，阿克夏邀请了什里探讨如何利用人工智能提高工作效率的案例。 什里首先分享了一个关于软件开发项目的例子。由于开发人员短缺且时间浪费在重复性任务上，项目经理很难按时交付项目。他认为[Amazon CodeWhisperer](https://aws.amazon.com/cn/codewhisperer/?trk=cndc-detail)可以在开发者输入时提供实时代码建议，检测安全问题并在生成的代码中标注潜在许可风险，从而解决这一问题。 接下来，什里展示了一个SQL分析师的场景，该分析师需要通过查询数据来回答业务问题。他介绍了如何将亚马逊云科技Redshift与亚马逊云科技Q相结合，使用户只需输入简单的英语查询即可自动生成定制的SQL代码。 此外，什里还概述了一个销售经理的需求，该经理需要手动向BI开发人员请求创建报告。他展示了如何使用亚马逊云科技QuickSight等服务，让用户通过自然语言描述所需的可视化效果，并自动生成交互式BI仪表板。 什里总结了这些工具如何通过利用人工智能技术帮助软件开发人员加速项目，赋予SQL分析师更多能力，减少对BI开发人员的依赖。他还提供了一个链接到相关亚马逊云科技解决方案和入门最佳实践的二维码。 在讨论实际案例后，阿克夏回到了负责任的人工智能方面的考虑。她强调尽管人工智能具有强大的能力，但其道德、可靠的运用对于维护用户信任至关重要。 阿克夏概述了亚马逊云科技的六个负责任的人工智能原则，包括公平性、可解释性、鲁棒性、隐私、安全和治理透明度。同时，她还强调了亚马逊云科技Textract等功能可以检测和过滤有害内容，以及亚马逊云科技Comprehend能够识别有毒语言和标记不安全提示的特点。 在总结中，Akshara提出了一些建议，以便采用生成性人工智能技术。这些建议包括利用云服务来降低复杂性，专注于高质量的数据集，尽早关注道德影响，并从小型且明确定义的使用场景开始。 总的来说，本次演讲提供了许多实例以及亚马逊云科技Amazon Web Services的服务，以帮助领导者了解生成性人工智能在市场营销、销售、客户服务、运营、分析等多个领域的实际应用。演讲者强调了一种方法，即通过实际操作实验来发现高价值、低努力的机会，从而实现可衡量的商业影响，并确保负责任的实践。 **下面是一些演讲现场的精彩瞬间：** 领导者对re:Invent上发布的重要消息进行了总结，并表示他们将采用实际案例驱动的方法来简化听众的理解。  领导者推荐了[Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail)作为实现生成性AI解决方案的一种简便方法，该基础模型可以为企业提供领先的自动化功能。  名为[Amazon Q](https://aws.amazon.com/cn/q/?trk=cndc-detail)的新型工作用生成性AI助手能够与企业数据和系统进行对话，解决问题，生成内容并采取行动。  在[Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail)中，代理可以通过API调用来自动协调复杂任务并满足用户需求，而无需进行手动编码操作。  利用[机器学习](https://aws.amazon.com/cn/machine-learning/?trk=cndc-detail)模型从抵押文件中提取关键申请人的信息。  领导者谈到了全球开发者如何在缺乏足够时间的情况下解决重要业务问题的困境。  在开发算法时，需要针对特定的应用场景来定义公平性。  ## 总结 本次演讲为领导者提供了一份关于在其组织中应用生成性人工智能的实践指南。首先阐述了生成性人工智能的定义、特点和潜在风险。接着，演讲者提出了从客户需求出发，逆向寻找高价值、低努力应用场景的建议。他们建议在团队内部设立一个协作平台，以便在实际数据上进行生成性人工智能的实验，例如使用[Amazon SageMaker](https://aws.amazon.com/cn/sagemaker/?trk=cndc-detail) Canvas。演讲者还列举了市场营销、销售、客户服务、文档处理和代码生成等领域的实际应用案例。为了实现这些解决方案，演讲者利用了诸如[Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail)、[Amazon Q](https://aws.amazon.com/cn/q/?trk=cndc-detail)和知识库等服务。强调在使用生成性人工智能时应避免通用回应，而应充分利用自身数据作为背景。此外，提供了一些负责任地运用生成性人工智能的方法，如投资数据基础、思考道德立场以及为每个具体场景设定公平性标准。核心观点是，领导者可以通过关注高价值应用场景并利用云服务，在产生业务影响的同时，有效管理生成性人工智能带来的风险。 ## 演讲原文 ## 想了解更多精彩完整内容吗？立即访问re:Invent 官网中文网站！ [2023亚马逊云科技re:Invent全球大会 - 官方网站](https://webinar.amazoncloud.cn/reInvent2023/?s=8739&smid=19458 "2023亚马逊云科技re:Invent全球大会 - 官方网站") [点击此处](https://aws.amazon.com/cn/new/?trk=6dd7cc20-6afa-4abf-9359-2d6976ff9600&trk=cndc-detail "点击此处")，一键获取亚马逊云科技全球最新产品/服务资讯！ [点击此处](https://www.amazonaws.cn/new/?trk=2ab098aa-0793-48b1-85e6-a9d261bd8cd4&trk=cndc-detail "点击此处")，一键获取亚马逊云科技中国区最新产品/服务资讯！ ## 即刻注册亚马逊云科技账户，开启云端之旅！ [【免费】亚马逊云科技“100 余种核心云服务产品免费试用”](https://aws.amazon.com/cn/campaigns/freecenter/?trk=f079813d-3a13-4a50-b67b-e31d930f36a4&sc_channel=el&trk=cndc-detail "【免费】亚马逊云科技“100 余种核心云服务产品免费试用“") [【免费】亚马逊云科技中国区“40 余种核心云服务产品免费试用”](https://www.amazonaws.cn/campaign/CloudService/?trk=2cdb6245-f491-42bc-b931-c1693fe92be1&sc_channel=el&trk=cndc-detail "【免费】亚马逊云科技中国区“40 余种核心云服务产品免费试用“")