如何构建负责任、可持续的生成式 AI 聊天机器人

## 视频 <video src="https://dev-media.amazoncloud.cn/30-LibaiGenerate/31-LiBaiRebrandingVideo/IMP103-How_to_build_a_responsible_and_sustainable_generative_AI_chatbot-LBrebrandingWCaptionCN.mp4" class="bytemdVideo" controls="controls"></video> ## 导读 生成式 AI 驱动的聊天机器人越来越多地应用于多个行业。但它们的有效性依赖于一个关键因素：可信度。在本论坛中，了解施耐德电气如何利用亚马逊云科技生成式 AI 功能和亚马逊云科技生成式 AI 创新中心，构建具有特定领域数据的可信聊天机器人。聆听聊天机器人如何遵循亚马逊云科技责任 AI 政策的原则，同时遵守施耐德电气自己的高标准和风险管理实践，用于生成式 AI 的使用。 ## 演讲精华 <font color = "grey">以下是小编为您整理的本次演讲的精华，共1200字，阅读时间大约是6分钟。如果您想进一步了解演讲内容或者观看演讲全文，请观看演讲完整视频或者下面的演讲原文。</font> 在2022年re:Invent上，数据科学家Wafa Arbah开始了她的演讲，欢迎数千名观众。她讨论了与Schneider Electric合作开发的负责任且可持续的生成性AI聊天机器人的实际案例。 在演讲中，她将分享设计开发阶段的指南和最佳实践，以确保其性能卓越，同时在使用过程中确保安全可靠。Wafa详细介绍了生成性AI的概念，这是一种可以生成新内容（如图像、文本、视频、想法和故事）的人工智能类型。她还解释了大多数生成性AI模型都是由大量数据进行训练的大型语言模型，具有数十亿个参数，使其能够执行各种任务，如总结信息和自动化重复或乏味的工作。 Wafa提供了一个令人震惊的例子来说明这些模型的能力：互联网上估计有60亿网页。她强调了生成性AI的潜力，通过强调一个训练有素模型可以在几周或几个月内扫描、解析和分析所有那些文本数据——这是人类在几千个生命周期内无法做到的。这种快速理解和总结大量信息的能力就是生成性AI如此具有变革性的原因。 Wafa还提供了更多基本信息，说明了生成性AI如何通过自动化过程、提高生产力并找到创造新价值的新方式来改变多个行业。她强调了聊天机器人作为生成性AI技术最常用、最受欢迎的应用之一。 接着，Wafa介绍了[Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail)，这是一个由亚马逊云科技提供的全面管理服务，用于实验、构建和扩展生成性AI应用程序。她解释称，Bedrock提供访问各种基础模型，可以根据特定业务需求进行个性化和定制。 最后，Wafa提到了他们在聊天机器人使用案例中遇到的一个关键挑战：如何确保安全性、隐私和数据治理。为了解决这个问题，他们采用了多种方法，包括数据加密、访问控制和审计跟踪。 首先，关于毒性问题，即模型在训练数据中存在的问题基础上生成有害、偏见或歧视性的输出。她表示，缓解方法包括直接改进训练数据本身、添加输出过滤以及实施安全护栏。 其次，关于保真度问题，即模型在无知识或背景下产生幻觉或生成不真实的输出。她强调，这可能会向用户提供不准确或误导性信息。缓解方法包括添加免责声明（虚假信息可能出现）以及对已知可靠来源进行验证。 瓦法提到，其他挑战如侵犯知识产权和数据隐私问题也存在于生成性人工智能系统中，指出负责任的人工智能实践对于建立公众信任和加速这些强大技术的采用至关重要。 然后，她列出了亚马逊云科技作为负责任的人工智能的一部分所定义的六个关键维度： 1. 公平性 - 检测、衡量并尽量减少基于诸如种族、性别、年龄等特征的算法偏见。 2. 可解释性 - 理解模型决策背后的原因，这对于合规性至关重要。 3. 鲁棒性 - 确保模型可靠、准确且表现一致。与公平性之间的权衡往往存在。 4. 隐私和安全 - 保护用户数据并防止滥用。 5. 治理 - 人员、文化和系统，以在整个组织内强制执行负责任的人工智能。 6. 透明度 - 告知用户他们正在与一个AI系统进行交互。 瓦法强调，负责任的人工智能需要自始至终地实施，贯穿整个模型开发周期，从初始规划到最终部署。她还分享了亚马逊云科技推荐的一些最佳实践： - 尽早确定具体、狭窄的使用场景，以便更轻松地确定负责任的人工智能需求，如公平性和安全性。 - 对每个使用场景进行严格的风险评估。持续测试系统以发现问题。 - 有明确的治理政策，并在所有层级积极动员利益相关者参与。 - 在培训数据的标注和收集中推广多样性，以减少有害的偏见。 接下来，瓦法概述了亚马逊云科技提供的一种最佳实践的四步风险评估框架： 1. 尽早识别潜在风险，如毒性或欺骗行为，以及受影响的利益相关者。 2. 对每个风险进行量化，根据严重性、发生的可能性和对现实世界的潜在影响进行评估。 3. 根据量化结果将风险优先级排序。 可信度的评估需要依赖于健壮性、毒性过滤、可解释性以及专业领域的专家。 声音架构和精选输入对于建立用户信任至关重要。通过提高检索增强生成的性能，我们可以增加模型的可解释性。安全性和可靠性来源于对输出内容的过滤以及人际关系、法律等方面的综合考虑。领域专家需要对输出内容进行手动审查以确保其准确性。 总之，Wafa分享了一些关于生成性人工智能和责任人工智能实践的亚马逊云科技资源链接。她对Antony和Schneider Electric项目团队在整个演讲过程中的合作表示感激。总体来说，这个视频深入探讨了生成性人工智能的功能和挑战，例如毒性问题和保真度问题。它概述了亚马逊云科技在整个模型生命周期中采用的多维度人工智 **下面是一些演讲现场的精彩瞬间：** 施耐德电气正在与业界领导者们合作，共同构建负责任和可持续的生成式AI聊天机器人。  这些领导者探讨了生成式AI如何在各个行业中带来变革，以及它将如何重塑企业的未来。  自2017年以来，Transformer架构的重大突破使得计算机能够更深入地理解语言的意义和上下文。  然而，领导者们也讨论了生成式AI模型可能产生的错误输出所带来的挑战。  为了建立信任，我们需要教育用户了解AI的局限性，以便正确管理他们的期望。  亚马逊云科技的Well-Architected框架现已包含一个可持续发展支柱，旨在帮助客户实现其可持续发展目标。  在re:Invent上，领导者们鼓励与会者联系并讨论亚马逊云科技的各种服务。  ## 总结 本次讨论主要关注亚马逊云科技与施耐德电气的合作案例，旨在探讨如何构建负责任和可持续的生成式AI聊天机器人。本讲座将为设计安全、可靠和透明的聊天机器人提供指导原则和最佳实践。 关键观点包括： 1. 尽管生成式AI模型如大型语言模型具有强大的功能，但其产生的输出可能包含有害、偏见或误导性的内容。应对策略包括严格审查训练数据，加入过滤器并向用户发出关于其局限性的警告。 2. 负责任的人工智能需要在整个系统生命周期内关注公平性、可解释性、鲁棒性和治理等多个方面。在设计过程中保持关注范围较小，并在各个阶段实施负责任的做法。 3. 可持续发展同样重要。利用亚马逊云科技的优质框架优化工作负载，降低能源消耗并提高整体效率。 综上所述，通过充分考虑负责任的人工智能和可持续发展问题，我们可以打造性能卓越且受到用户信赖的生成式AI系统。这将有助于实现真正的商业应用和价值。通过采用正确的方法，AI能够在确保安全透明的前提下推动效率、生产力和创新。 ## 演讲原文 ## 想了解更多精彩完整内容吗？立即访问re:Invent 官网中文网站！ [2023亚马逊云科技re:Invent全球大会 - 官方网站](https://webinar.amazoncloud.cn/reInvent2023/?s=8739&smid=19458 "2023亚马逊云科技re:Invent全球大会 - 官方网站") [点击此处](https://aws.amazon.com/cn/new/?trk=6dd7cc20-6afa-4abf-9359-2d6976ff9600&trk=cndc-detail "点击此处")，一键获取亚马逊云科技全球最新产品/服务资讯！ [点击此处](https://www.amazonaws.cn/new/?trk=2ab098aa-0793-48b1-85e6-a9d261bd8cd4&trk=cndc-detail "点击此处")，一键获取亚马逊云科技中国区最新产品/服务资讯！ ## 即刻注册亚马逊云科技账户，开启云端之旅！ [【免费】亚马逊云科技“100 余种核心云服务产品免费试用”](https://aws.amazon.com/cn/campaigns/freecenter/?trk=f079813d-3a13-4a50-b67b-e31d930f36a4&sc_channel=el&trk=cndc-detail "【免费】亚马逊云科技“100 余种核心云服务产品免费试用“") [【免费】亚马逊云科技中国区“40 余种核心云服务产品免费试用”](https://www.amazonaws.cn/campaign/CloudService/?trk=2cdb6245-f491-42bc-b931-c1693fe92be1&sc_channel=el&trk=cndc-detail "【免费】亚马逊云科技中国区“40 余种核心云服务产品免费试用“")