负责任地实施生成式 AI：对话 Mitchell 博士

## 视频 <video src="https://dev-media.amazoncloud.cn/30-LibaiGenerate/31-LiBaiRebrandingVideo/IMP213-Implementing_generative_AI_responsibly__A_talk_with_Dr__Mitchell-LBrebrandingWCaptionCN.mp4" class="bytemdVideo" controls="controls"></video> ## 导读 随着生成式人工智能的日益兴起和普及，企业必须考虑这项技术对社会的影响。础模型的选择会影响到您的生成式 AI 实施的负责任程度。在本论坛中，请与人工智能研究科学家 Margaret Mitchell 博士和亚马逊云科技一起讨论组织如何为负责任地使用这项技术做好准备。 ## 演讲精华 <font color = "grey">以下是小编为您整理的本次演讲的精华，共1500字，阅读时间大约是8分钟。如果您想进一步了解演讲内容或者观看演讲全文，请观看演讲完整视频或者下面的演讲原文。</font> 在周四上午，当Rebecca Gonzalez在约500名与会者的热烈欢迎下开始发表演讲时，她感到十分激动。尽管这是为期一周的充满活力的高峰会议的最后一天，但在早上9点，仍有这么多人在这个时刻选择了参加这次演讲，而不是像平常那样享受一个慵懒的早晨。在引入特邀嘉宾Margaret Mitchell博士之前，Gonzalez向观众介绍了她自己的身份——她是亚马逊云科技生成人工智能创新中心的能力总监。 Gonzalez接着强调指出，Mitchell博士在过去15年里取得了令人印象深刻的成果和成就。Mitchell博士发表了大约100篇论文，成为了一名专注于以道德方式开发和利用人工智能的高度受人尊敬的研究人员。她的专业领域包括自然语言生成、辅助技术、计算机视觉和人工智能伦理。Mitchell博士还具备作为发明家的能力，拥有与她开创性的工作相关的多个专利。她的一个重要职业成就是在大约5年前创立了谷歌的道德AI小组。在这个角色中，她进行了基础研究，并领导了确保谷歌负责地开发AI的操作努力。 除了她卓越的研究和工程职业生涯外，Mitchell博士已经成为人工智能伦理方面的思想领袖。她的广受好评的TED演讲“如何我们可以构建帮助人类而非伤害他们的AI”已经吸引了超过130万次观看。这部易于理解的AI安全简介作品已经触及了广泛的受众，提高了人们对AI既可能带来损害也可能带来好处的认识。在2023年，当Dr. Mitchell被时代杂志评为最有影响力的人物之一时，她的影响力得到了认可。这一尊贵的荣誉使她与世界文化偶像如Doja Cat和科技领袖如Sam Altman（前OpenAI总裁）等人齐名。 在转向当前的讨论时，Gonzalez询问Mitchell博士关于最近的OpenAI争议事件将如何影响她自己以及其他致力于推进负责任和不失道德的AI发展的工作。Mitchell博士通过反思OpenAI董事会与Sam Altman之间在长期AI安全和有益影响以及迅速商业化强大的AI技术的竞争优先事项之间的根本冲突，对这场冲突进行了回应。虽然细节仍然不清楚，但Mitchell博士推测，今年早些时候，OpenAI的董事会可能会因这些相互竞争的优先事项之间的冲突而解雇Altman。 米彻尔博士并未完全将这些事件视为负面影响，而是将其视为一个学习机会，以便更好地将商业利益与安全和责任等道德考虑相协调。随着人工智能产业的不断发展，她建议在与提供计算资源的合作伙伴关系中保持尊重和重视，同时指出切断这种关系可能带来的损失。米彻尔博士认为，在艾伦·伊万离开OpenAI之后，微软作为观察员加入其董事会是一个有潜力的发展。她认为这是一种平衡科学方法的表现，通过提高透明度来缓解商业化与安全之间的紧张关系。 总的来说，米彻尔博士对这些近期的争议持有微妙的立场，避免做出冲动的反应。她将这些问题视为人工智能发展过程中冲突价值观的力量以及有效治理和沟通管理的权衡所需的一个例子。米彻尔博士认为，为了开发有益于社会的人工智能，该行业有能力并且必须更好地应对这些挑战。 在回答关于她在担任谷歌和Hugging Face期间如何组建关注伦理的有效团队的问题时，米彻尔博士强调了开放和沟通的重要性。她提倡每周举行的公开会议，所有员工都可以参加，公开讨论相关议题。这有助于建立一个共享的词汇表，并将伦理考虑融入到参与人工智能研究、开发和部署的所有团队中。 米彻尔博士提到，允许这些讨论中出现热情洋溢的声音通常可以自然地形成一个具有边缘化视角的多元化团队，这对于识别潜在陷阱至关重要。她寻找那些能够将复杂技术概念以易于理解的方式传达给其他人并思考影响终端用户的各种因素的人。这种多样性和愿意质疑假设对于开发对每个人都有益而不是仅仅针对典型的技术主导群体的人工智能至关重要。 关于开源和专有或封闭式人工智能系统之间的权衡，米彻尔博士承认像隐私、安全、可定制性和合作等因素存在优势和劣势。她建议客户仔细权衡这些细微的考虑，以便与他们组织的价值观相一致地选择开放式或封闭式方法。 尽管常常缺乏关于如何解决道德优先问题的详尽文件，米切尔博士强调，了解关键问题对于客户而言至关重要，以便了解各种解决方案如何处理诸如公平性或问责制等问题。据她观察，她预测开源公司可能会更倾向于公开其实践，以增进信任并推动采用。然而，道德做法在很大程度上取决于机构的优先事项，而不仅仅是开放性。 在评估大型语言模型在生成性AI系统中的应用时，米切尔博士支持创新应用，指出现有的模型仍无法充分理解事实知识，无法可靠地为现实世界的决策提供指导。例如，她认为对话式代理是促进通过对话学习的一种有前景工具。一家主要银行正在尝试使用这些技术来提高客户服务的满意度。然而，试图用当前的AI取代搜索引擎或像维基百科这样的信息中介可能会导致错误信息的传播，因为这些AI系统在事实推理方面存在局限性。一家医疗保健初创公司在试验性的诊断聊天机器人因其缺乏实际的医学知识而提供了不准确的建议后，深刻体会到了这一点。 与她的团队建设理念一致，米切尔博士强调了AI开发的细微差别——生成性模型具有增强人类能力的令人兴奋的潜力，但同时也存在需要道德监督和审慎部署的严重局限性。对于开始使用生成性AI的客户，米切尔博士以其丰富的经验为基础提供了实用建议： 首先，她建议明确定义您的目标用户和使用者，以及评估潜在的意外用户和使用者，以进行益处和危害的影响评估。一家全球零售商在探索个性化推荐时发现了偏置，这些偏置会向某些人群推荐价格较低的商品。 接下来，她建议使用分散式评估——严格分析不同人口子群体的表现，以发现偏见，而不是只关注聚合指标。一家面部识别初创公司使用这种技巧注意到了女性和少数族裔的准确性要低得多，这使他们能够改进公平性。 在整个开发生命周期中，文档的重要性不言而喻，这对于负责监控和改进过程至关重要。一家公共卫生机构制定了一套全面的文档实践，以仔细记录用于训练COVID-19研究AI模型的数据。最终，Mitchell博士认为，对训练数据进行严格的衡量和筛选与评估模型输出同等重要。她用简洁的话表示：“输入垃圾，输出垃圾”——即使是最先进的算法也会受到其数据基础的影响。她注意到，随着法律监管的增加，人们对AI系统行为及其对基础数据几乎各个方面的影响的理解也在不断增加。 展望未来，Mitchell博士认为，关注训练数据的精选和深度量化的技术，如切除研究，将在将实际AI系统与道德优先事项保持一致方面变得愈发重要。她个人致力于推动标准化文档和关键数据分析，以使数据科学和收集更加严格且符合道德规范。然而，Mitchell博士承认，许多人在面对紧迫威胁（如气候变化）时在改进AI方面可能会感到沮丧。她推测，在另一个生活中，她可能从事材料工程，以开发可持续的基础设施解决方案和技术来应对气候变化的影响。这强调了众多技术人员所面临的挑战，即在确保AI有益于人类的同时平衡其行为。 总的来说，Mitchell博士给那些在组织内感到被边缘化的技术人员提供了建议，指出这个行业仍然存在着多样性管道问题。她建议采取简单行动，如确保被代表不足的同事被邀请参加关键会议，包括在重要的通信中，并有权发言。培养一种道德和包容的文化需要所有级别的支持，但朝着这个方向迈出的微小步伐可以积累起来推动积极的变革。 米切尔博士通过富有洞察力和细致的分析，为约500名听众带来了实际的建议和对负责任的AI开发的美好愿景。她强调的沟通、透明度、严谨和同情心对于塑造以人为本的人工智能未来至关重要，这些价值观与技术创新同等重要。幸运的是，亚马逊云科技能邀请到这样一位杰出的先驱来指导创新者创造有益于人类的增强技术而非危害。在观众构建具有变革性的下一代AI系统时，米切尔博士的演讲无疑激励他们遵循她所倡导的道德方法。 **下面是一些演讲现场的精彩瞬间：** 在与Mitchell博士进行深入讨论之前，领导者对她的成就表示赞赏。  以OpenAI为例，演讲者探讨了在面对不同优先事项时的潜在价值冲突。  领导者强调在员工中优先考虑教育和多样性，以便让来自不同背景和经验的人参与其中。  演讲者回顾了自己原本可能从事的材料工程领域，以研发应对气候变化的耐用材料，而非现在的技术工作。  领导者重申了在使用生成性人工智能之前，先整理和管理好数据的重要性。  人工智能革命是一场巨大的社会变革，需要有稳固的道德基础。  通过平等地对待并赋予边缘化群体发言权，从而赋予他们力量。  ## 总结 玛格丽特·米切尔博士是一位知名的AI伦理研究员，曾在2023年的亚马逊云科技re:Invent上发表了一场关于如何负责任地实施生成性AI的深度见解演讲。她首先回顾了近年的OpenAI董事会变动，将其视为商业化与安全之间的“价值冲突”。这表明在构建道德AI系统时，各方利益相关者之间需要建立共同的价值观。 在选择道德基础模型时，米切尔博士强调要有教育意识，作为消费者要向供应商询问模型开发、测试以及与您的价值观一致性等方面的详细信息。她表示，开放透明的公司可能会提供更多相关信息。 在使用场景方面，米切尔博士对创意应用（如小说创作）表示认可，但提醒不要在事实查询中使用这些模型。她担忧，由于现有系统缺乏知识库支持，错误信息可能会被传播。 最后，米切尔博士强调了赋予边缘化群体技术专家权力的必要性，因为多样性有助于在构建包容性和道德的AI时跨越不同的视角。 ## 演讲原文 ## 想了解更多精彩完整内容吗？立即访问re:Invent 官网中文网站！ [2023亚马逊云科技re:Invent全球大会 - 官方网站](https://webinar.amazoncloud.cn/reInvent2023/?s=8739&smid=19458 "2023亚马逊云科技re:Invent全球大会 - 官方网站") [点击此处](https://aws.amazon.com/cn/new/?trk=6dd7cc20-6afa-4abf-9359-2d6976ff9600&trk=cndc-detail "点击此处")，一键获取亚马逊云科技全球最新产品/服务资讯！ [点击此处](https://www.amazonaws.cn/new/?trk=2ab098aa-0793-48b1-85e6-a9d261bd8cd4&trk=cndc-detail "点击此处")，一键获取亚马逊云科技中国区最新产品/服务资讯！ ## 即刻注册亚马逊云科技账户，开启云端之旅！ [【免费】亚马逊云科技“100 余种核心云服务产品免费试用”](https://aws.amazon.com/cn/campaigns/freecenter/?trk=f079813d-3a13-4a50-b67b-e31d930f36a4&sc_channel=el&trk=cndc-detail "【免费】亚马逊云科技“100 余种核心云服务产品免费试用“") [【免费】亚马逊云科技中国区“40 余种核心云服务产品免费试用”](https://www.amazonaws.cn/campaign/CloudService/?trk=2cdb6245-f491-42bc-b931-c1693fe92be1&sc_channel=el&trk=cndc-detail "【免费】亚马逊云科技中国区“40 余种核心云服务产品免费试用“")