面向决策者的生成式 AI

云计算
re:Invent
0
0
## 视频 <video src="https://dev-media.amazoncloud.cn/30-LibaiGenerate/31-LiBaiRebrandingVideo/TNC214-Generative_AI_for_decision_makers-LBrebrandingWCaptionCN.mp4" class="bytemdVideo" controls="controls"></video> ## 导读 今年,生成式 AI 备受关注。本论坛介绍生成式 AI、可以从生成式 AI 应用中受益的用例,以及这一新兴技术的优势和风险。快来探索可以用于构建生成式 AI 应用程序的亚马逊云科技服务。 ## 演讲精华 <font color = "grey">以下是小编为您整理的本次演讲的精华,共1600字,阅读时间大约是8分钟。如果您想进一步了解演讲内容或者观看演讲全文,请观看演讲完整视频或者下面的演讲原文。</font> 马克·特隆·卡罗,一位拥有八年AI/ML领域经验的高级技术讲师,诚邀各决策者们参加关于生成性AI的演讲。他预计观众可能包括希望将生成性AI融入业务的执行人员、正在启动生成性AI项目的项目经理,以及那些希望通过提高自身或团队技能来了解生成性AI的人士。该课程旨在为这个由业务决策者、技术领导者和学习者组成的受众群体提供生成性AI的简要介绍。 马克为1小时的讲座制定了议程。首先,他将阐述生成性AI的定义、工作原理及其背后的当前炒作和增长原因。接下来,他会分享一些实际的商业案例,展示各行各业如何运用生成性AI。然后,他将概括关键技术基础和相关术语,使听众能够在与技术和业务利益相关者讨论生成性AI时进行有效沟通。接着,他会探讨规划生成性AI项目时应考虑的要素——范围界定、模型选择、实施和责任AI实践。最后,他将提供关于如何建立一个关注生成性AI的组织的指导,包括人员、流程、治理和后续步骤。 马克从生成性AI的基本概念开始讲解,说明生成性AI模型不仅能像传统[机器学习](https://aws.amazon.com/cn/machine-learning/?trk=cndc-detail)模型那样仅识别模式和分类数据,还能创造全新的内容和产品,如文本、图像、对话、故事、音乐、代码等。这种生成能力是通过在互联网上大量数据(通常是跨多个模态如文本、图像和语音的数十亿个例子)上进行预训练来实现的。 与传统窄AI的一个重要区别在于,通过提示工程和技术调整等方法,相同的生成性AI模型可以执行多种不同的任务。例如,一个单一的模型可以用于内容摘要、生成、问答、图像创作等多个任务。而传统的[机器学习](https://aws.amazon.com/cn/machine-learning/?trk=cndc-detail)模型通常只专注于一个任务,并为每个新的应用从头开始构建新模型。 马克认为,近期指数级的增长和生成性人工智能的炒作主要归因于几个关键因素。首先,神经网络架构如生成对抗网络和变压器的进步使得能够建模文本和图像等非结构化数据的相关复杂性。其次,互联网上的大量数据集为训练非常大的模型提供了原始材料。第三,强大且可扩展的计算资源如GPU和TPU使得训练具有数十亿参数的模型成为可能。最后,大型研究团队的投资和对追求“互联网规模”的模型的意愿加速了创新。人工智能已经是亚马逊业务的核心部分,超过20年的历史,驱动了诸如推荐引擎、Alexa、在履行中心中的机器人技术、预测等功能,以及现在的CodeWhisper之类的生成性人工智能服务。随着[机器学习](https://aws.amazon.com/cn/machine-learning/?trk=cndc-detail)及人工智能的创新贯穿于其历史,亚马逊继续在这个领域投资和建设能力。 马克澄清了一些术语: - 人工智能广义上是指可以像人类一样思考和行动的系统。 - [机器学习](https://aws.amazon.com/cn/machine-learning/?trk=cndc-detail)是人工智能的一个子集,通过数据训练模型以识别模式。 - 深度学习使用神经网络进行复杂任务,是[机器学习](https://aws.amazon.com/cn/machine-learning/?trk=cndc-detail)的专门形式。 - 生成性人工智能是深度学习的一个子集,通过预训练模型创建新内容。 过渡到实际应用案例,马克指出,生成性人工智能已经被各种组织用于改善客户体验、提高员工生产力、推动商业价值等。他提到的一些例子包括: - 个性化的聊天机器人和虚拟助手用于客户支持。 - 智能搜索和问答以快速找到信息。 - 自动化内容生成以用于营销活动和其他业务需求。 - 代码生成以加速开发者生产力。 然后,他通过详细的示例情景展示了公司如何能够在其业务的各个阶段利用生成性人工智能: 想象一下,一家鞋类公司正准备推出新的步行鞋系列。生成性人工智能可以在多个阶段得到应用: - 将大量的市场研究(一份100多页的报告)概括成一份简洁的5页执行简报。 - 生成吸引人的网站副本和社交媒体帖子以推广产品发布。 为了实现针对不同目标市场和地区的定制化产品图像制作,无需昂贵的照片拍摄,一种方法是利用生成性人工智能技术。这种方法允许在发布后使用代码生成来分析客户数据(例如点击流、情感等),从而揭示有关客户的见解。此外,可以利用过去的客服记录来构建一个客户服务聊天机器人,以处理关于新系列的一般性问题。这表明,通过提示和微调,一个单一的生成性人工智能模型可以适应多种不同的任务,如摘要、内容创作、对话和分析。 亚马逊云科技的马克还介绍了一些可用的生成性AI服务,如Amazon CodeWhisper,它可以帮助开发者提高工作效率,通过在公共代码库上训练并根据注释生成整个代码块。另一个服务是Amazon Healthscribe,它可以分析患者与医生的对话,自动生成临床笔记,从而为医疗保健提供者节省时间。此外,[Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail)允许通过API调用访问预训练的基础模型,客户可以在不共享其数据的情况下在自己的数据上对模型进行微调。SageMayer JumpStart则可以快速访问流行的模型,如Codex和OPT。这些服务展示了亚马逊云科技的客户如何能够利用预训练的模型从生成性AI中受益。 生成性AI的核心概念是基础模型,这些大规模模型是通过在互联网上未经标记的数据上进行无监督训练而建立的,包括文本、图像、音频和视频等多种形式的数十亿个示例。这种广泛的预训练使它们能够适应各种下游任务,而不仅仅是特定的用途。目前的主要基础模型范例有GPT-3、PaLM和谷歌的LaMDA,它们拥有数十亿或数万亿的参数。变压器是驱动这些基础模型的关键架构,它利用注意力机制来理解其大量输入空间的上下文。这使得它们在处理语言、图像和其他结构化数据等方面具有优于以前的方法,如卷积神经网络(CNN)和循环神经网络(RNN)的优秀能力。 马克还探讨了嵌入层的作用,它将词汇转化为多维数值向量,使得机器能够进行数学推理。他指出,正是由于嵌入层的存在,模型才能理解和把握意义的上下文,而不仅仅局限于符号层面。通过嵌入层之间的联系,模型可以根据预训练数据中的使用情况来解释单词。 最后,他强调了语境在多轮对话和对话中保留信息的重要性。这使得生成式AI模型相较于单纯的按轮回应更能实现人类水平的交互。保持语境是复杂对话的关键所在。 在规划生成式AI项目时,马克提出了一个四步框架: 1. 明确范围和优先级——包括目标受众,预期结果,执行能力等因素如努力、成本、技能等。 2. 选择合适模型——预训练的基础模型或针对特定应用的定制优化模型。 3. 调整模型——运用提示工程引导输出结果,并在领域数据上进行微调以实现专业化。 4. 评估收益、风险和集成——负责任的人工智能实践,如监控、反馈循环等。 在实施前,马克强调确定范围、优先级和使用案例的定义成功标准至关重要。关于模型调整,他讨论了诸如提示工程等技巧,以引导输出结果,并在领域数据上进行微调以实现专用应用。 在负责任的人工智能方面,马克关注了公平性、隐私、法规遵从性、毒性、抄袭等问题。他强调了在部署后评估和降低风险、设立治理流程以及持续监控模型性能的重要性。反馈循环以改进模型也是关键。 在建立生成式AI组织时,马克建议从领导层和员工的教育开始。这有助于消除对就业影响的担忧,让人们看到AI是一种促进者而非威胁。他还建议培养沟通、协作和持续学习的文化。建立反馈循环并关注数据质量有助于实现长期成功。 总的来说,马克涵盖了从生成式AI的介绍到实际应用场景、技术基础、项目计划、负责任的人工智能和组织准备程度的广泛主题。主要收获包括: 生成性人工智能(Generative AI)是一种由预训练模型驱动的新兴人工智能技术,能够创作新的文本、图像等艺术作品。与传统的窄人工智能不同,单个模型具备处理多种任务的能力。得益于神经网络、数据和计算资源的进步,其发展正迅速推进。在许多行业中都有广泛的应用场景,旨在提升客户和员工的体验。例如,亚马逊云科技(Amazon Web Services)提供诸如CodeWhisperer、Healthscribe、Bedrock等服务,以利用生成性人工智能的优势。这些基础模型都是在大量数据上预先训练的,为生成性人工智能提供了动力。Transformer架构则提供了语境和生成能力。在开始任何项目之前,首先要明确优先事项和成功标准。通过利用预先训练的模型并进行微调以满足特定需求,可以实现更高效的满足需求。同时,要关注潜在风险,并透过教育培训为员工提供帮助。只要采用正确的策略方法,企业就能发掘生成性人工智能的巨大潜力,创造商业价值。马克为寻求机遇并在建立负责任、合乎道德的人工智能实践中发挥作用的决策者提供了实用的指导。 **下面是一些演讲现场的精彩瞬间:** 马克·特隆·卡罗,一位经验丰富的技术讲师,在亚马逊云科技的re:Invent上就决策者的生成性人工智能进行了演讲。 ![](https://d1trpeugzwbig5.cloudfront.net/TNC214-Generative_AI_for_decision_makers/images/rebranded/TNC214-Generative_AI_for_decision_makers_0.png) 由于大型AI模型的成本可能会迅速增长,因此根据需求预先选择合适的复杂度模型对于降低成本并负责任地使用AI至关重要。 ![](https://d1trpeugzwbig5.cloudfront.net/TNC214-Generative_AI_for_decision_makers/images/rebranded/TNC214-Generative_AI_for_decision_makers_1.png) 确保AI模型不泄露客户隐私信息是维护隐私的极为重要的一部分。 ![](https://d1trpeugzwbig5.cloudfront.net/TNC214-Generative_AI_for_decision_makers/images/rebranded/TNC214-Generative_AI_for_decision_makers_2.png) 亚马逊云科技致力于解决与生成性人工智能相关的担忧,如隐私、安全和抄袭问题,同时也利用其带来的好处,如定制化学习。 ![](https://d1trpeugzwbig5.cloudfront.net/TNC214-Generative_AI_for_decision_makers/images/rebranded/TNC214-Generative_AI_for_decision_makers_3.png) 领导者们强调了培训员工了解生成性人工智能的重要性,以消除担忧和恐惧,推动组织适应变革。 ![](https://d1trpeugzwbig5.cloudfront.net/TNC214-Generative_AI_for_decision_makers/images/rebranded/TNC214-Generative_AI_for_decision_makers_4.png) 领导者们强调了持续学习、与专家合作、关注数据质量以及建立治理模式的重要性,以实现AI项目的成功。 ![](https://d1trpeugzwbig5.cloudfront.net/TNC214-Generative_AI_for_decision_makers/images/rebranded/TNC214-Generative_AI_for_decision_makers_5.png) 为了总结关闭性别差距的关键策略,我们需要从实际应用场景开始,基于小的成功逐步扩展,对利益相关者进行教育培训,进行实验,监测进展,并从失败和成功中汲取经验教训。 ![](https://d1trpeugzwbig5.cloudfront.net/TNC214-Generative_AI_for_decision_makers/images/rebranded/TNC214-Generative_AI_for_decision_makers_6.png) ## 总结 生成式人工智能正逐渐改变商业领域,自动化繁琐任务并创作出引人入胜的内容,从而提高生产力。演讲者详细阐述了海量计算能力和数据集如何使我们能够构建强大且具有广泛适用性的基础模型。他概括了规划生成式AI项目的四个关键步骤:界定范围与优先级,选择合适模型,通过对模型进行提示工程及微调等优化技术进行调整,以及负责任的监控实施。在实践过程中,必须关注毒性及其他潜在风险。演讲者强调了培训利益相关者、持续推动学习并形成反馈循环以及制定治理机制的重要性。总的来说,通过负责任地实施,生成式人工智能为改善客户体验、激发员工潜能以及推动企业价值提供了巨大机遇。 ## 演讲原文 ## 想了解更多精彩完整内容吗?立即访问re:Invent 官网中文网站! [2023亚马逊云科技re:Invent全球大会 - 官方网站](https://webinar.amazoncloud.cn/reInvent2023/?s=8739&smid=19458 "2023亚马逊云科技re:Invent全球大会 - 官方网站") [点击此处](https://aws.amazon.com/cn/new/?trk=6dd7cc20-6afa-4abf-9359-2d6976ff9600&trk=cndc-detail "点击此处"),一键获取亚马逊云科技全球最新产品/服务资讯! [点击此处](https://www.amazonaws.cn/new/?trk=2ab098aa-0793-48b1-85e6-a9d261bd8cd4&trk=cndc-detail "点击此处"),一键获取亚马逊云科技中国区最新产品/服务资讯! ## 即刻注册亚马逊云科技账户,开启云端之旅! [【免费】亚马逊云科技“100 余种核心云服务产品免费试用”](https://aws.amazon.com/cn/campaigns/freecenter/?trk=f079813d-3a13-4a50-b67b-e31d930f36a4&sc_channel=el&trk=cndc-detail "【免费】亚马逊云科技“100 余种核心云服务产品免费试用“") [【免费】亚马逊云科技中国区“40 余种核心云服务产品免费试用”](https://www.amazonaws.cn/campaign/CloudService/?trk=2cdb6245-f491-42bc-b931-c1693fe92be1&sc_channel=el&trk=cndc-detail "【免费】亚马逊云科技中国区“40 余种核心云服务产品免费试用“")
目录
亚马逊云科技解决方案 基于行业客户应用场景及技术领域的解决方案
联系亚马逊云科技专家
亚马逊云科技解决方案
基于行业客户应用场景及技术领域的解决方案
联系专家
0
目录
关闭