安全团队如何利用生成式 AI 加强安全性

## 视频 <video src="https://dev-media.amazoncloud.cn/30-LibaiGenerate/31-LiBaiRebrandingVideo/SEC210-How_security_teams_can_strengthen_security_using_generative_AI-LBrebrandingWCaptionCN.mp4" class="bytemdVideo" controls="controls"></video> ## 导读 为了帮助企业更快地发展，并提供更强大的安全成果，现代安全团队需要为构建者提供一致的上下文指导。加入本论坛，了解生成式 AI（特别是 [Amazon Kendra](https://aws.amazon.com/cn/kendra/?trk=cndc-detail)、[Amazon Security Lake](https://aws.amazon.com/cn/security-lake/?trk=cndc-detail) 和 [Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail) 的检索增强生成）如何帮助安全团队实现这一点。该论坛包括一个 AI 安全助手的演示，该助手可以根据您的内部知识库和可信的公共资源来解决常见的安全问题和用例。讨论安全团队如何开始安全地使用生成式 AI，减少认知负荷，并增加对新颖、高价值机会的关注。 ## 演讲精华 <font color = "grey">以下是小编为您整理的本次演讲的精华，共1700字，阅读时间大约是8分钟。如果您想进一步了解演讲内容或者观看演讲全文，请观看演讲完整视频或者下面的演讲原文。</font> 在亚马逊云科技(Amazon Web Services)担任主要安全顾问的弗里茨·顾问(Fritz Counselor)开始了此次视频的演讲。据他介绍，大约在几年前，他和一些同事开始尝试将数据科学和分析应用于使用亚马逊云科技服务帮助客户加强其身份和访问管理能力。这项工作最终使弗里茨在过去一年里专注于生成性AI与安全的交叉领域，并利用亚马逊云科技的[Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail)等服务。" 接下来，"亚马逊云科技的高级安全专家解决方案架构师安娜·麦比(Anna McAbee)进行了自我介绍。她在亚马逊云科技工作了3年6个月。在加入亚马逊云科技之前，安娜曾担任各种安全角色，并在过去几年里亲自参与了事件响应和红队活动，这些活动都使用了亚马逊云科技的服务。最近，安娜一直在关注AI领域，以及亚马逊云科技的顾客如何能够利用像[Amazon Kendra](https://aws.amazon.com/cn/kendra/?trk=cndc-detail)这样的服务来增强其安全性。" 第三位演讲者是"在亚马逊云科技工作了大约4年6个月的马歇尔·琼斯(Marshall Jones)，他从事专业服务和安全顾问工作。在过去的2年6个月里，马歇尔担任了安全解决方案架构师，协助客户采用原生亚马逊云科技安全服务，如[Amazon GuardDuty](https://aws.amazon.com/cn/guardduty/?trk=cndc-detail)和Amazon Security Hub。他的背景包括在过去几年里的威胁检测和事件响应经验。" 弗里茨接着说，"观众参加这次讲座表明他们是认可生成性AI服务(如[Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail))作为将改变安全团队工作方式的强大技术的领导者。因此，对于安全领导者来说，重要的是要尽量减少对AI的恐惧、不确定性和怀疑，而是利用亚马逊云科技提供的服务来实现更强大的安全成果。本讲座的目的是帮助观众确定如何利用亚马逊云科技的AI服务，如[Amazon Kendra](https://aws.amazon.com/cn/kendra/?trk=cndc-detail)和[Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail)。 人工智能（AI）与安全是当今两个备受关注的议题。演讲者首先概述了他们将探讨的相关机遇与挑战，包括自动化日常任务、提高决策与操作的效率以及关注有趣的安全问题。他们将通过展示如何利用[Amazon Lex](https://aws.amazon.com/cn/lex/?trk=cndc-detail)构建虚拟安全助手聊天机器人来阐述这一观点。此外，还将介绍一个基于亚马逊云科技 OpenSearch服务和亚马逊云科技 Kendra的解决方案架构，并提供使用亚马逊云科技服务的详细演示。最后，演讲者将与观众分享在亚马逊云科技平台上构建类似功能所需的资源。 弗里茨认为，尽管AI不太可能很快取代有技能的安全专家，但有效运用亚马逊云科技生成性AI服务（如亚马逊云科技 Bedrock）的个人和团队将优于那些不善于利用这些技术的对手。因此，虽然AI可能尚未夺走你的工作，但那些能够更好地利用它的人可能会超越你。 亚马逊云科技服务，如亚马逊云科技 Bedrock和亚马逊云科技 Kendra，为客户提供了轻松、安全地开始使用生成性AI的途径，同时确保客户数据的隐私得到保护。通过亚马逊云科技 Bedrock，用户可以在使用所选基本模型的情况下，在短短数小时内投入运行。 安娜分享了客户可以通过使用亚马逊云科技AI服务（如亚马逊云科技 Lex和亚马逊云科技 Kendra）简化安全过程的三种方式：自动化琐碎任务，如报告和总结安全数据；加快安全决策和操作，例如编写应急响应计划；以及关注有趣的安全主题，使中小企业能更专注于高价值工作。然而，她也提醒要注意将公共AI系统用于安全目的时可能遇到的陷阱，如错误地提供权威信息、客户数据隐私泄露以及对质量控制的忽视。 安娜表示，通过保持人类参与、运用提示工程优化输入以及利用[Amazon Kendra](https://aws.amazon.com/cn/kendra/?trk=cndc-detail)的检索增强生成（RAG）来自动化输出，可以有效降低相关风险。 Marshall讲述了一个案例，客户需要在IAM策略方面寻求支持，因为他们现有的扩展方式效果不佳且减缓了他们的工作效率。作为一名安全顾问，Marshall通常会进行一次为期6周的调查，包括分析客户的亚马逊云科技环境、政策、团队等，以制定相应的路线图。然而，客户期望能立即获得策略。 为了应对这一需求，客户尝试与他们开发的基于[Amazon Lex](https://aws.amazon.com/cn/lex/?trk=cndc-detail)的聊天机器人进行类似对话。当聊天机器人被问及因扩展问题而需要IAM策略时，它迅速生成了关于亚马逊云科技的7个相关IAM最佳实践： 1. 尽可能使用角色而非用户； 2. 分配组以授予常见权限； 3. 基于工作功能（如开发和分析师）制定策略； 4. 自动化设置和取消设置； 5. 使用临时凭证； 6. 使用亚马逊云科技CloudTrail进行监控； 7. 定期审查角色定义、政策和权限。 此外，聊天机器人还总结了实施亚马逊云科技IAM时的两个关键因素：最小权限方法和自动化。这表明了如何使用亚马逊云科技的人工智能服务（如[Amazon Lex](https://aws.amazon.com/cn/lex/?trk=cndc-detail)）快速提供一般指导。 Marshall提出了一个后续问题，即考虑到客户特定的环境背景，根据初始策略，是否有任何优先的亚马逊云科技安全问题需要解决？聊天机器人提供了一个关于允许完全管理员访问的IAM政策的发现，建议将其作为首要问题进行审核和限制。这说明聊天机器人在给定额外背景信息的情况下，能够为客户提供针对其独特亚马逊云科技环境的指导。 Frits强调了在亚马逊云科技上建立这个演示时遵循的四项重要原则： 1. 将聊天机器人回复视为过程的一部分，而非权威指南； 2. 始终保持人类专家参与，因为他们了解公司内部情况； 3. 保护并由经过验证的知识内容提供者（如[Amazon Kendra](https://aws.amazon.com/cn/kendra/?trk=cndc-detail)）使用； 4. 设计自动和手动测试，以便随着时间的推移不断优化答案。 这些原则旨在确保在使用亚马逊云科技的人工智能服务时有人类监督、高质量输入和持续验证。 尽管聊天机器人的初始回应可能显得有些生硬，但受限于其无法访问专有数据的特性，其回应主要依赖于训练数据。大型语言模型可能会提供令人信服但不准确的信息。在对安全应用进行评估时，如果没有经过主题专家审查，不能保证输出的准确性和适当性，以防止可能出现的误导。为了降低这种风险，可以采用提示工程对输入进行优化，并利用亚马逊Kendra和Amazon OpenSearch服务进行检索增强生成（RAG），以便结合内部政策、亚马逊云科技文档和当前环境相关数据定制输出。这样为安全用例提供了所需的具体信息。 演示聊天机器人采用了大型语言模型（LLM）和两个RAG提供者——亚马逊Kendra和亚马逊OpenSearch服务。亚马逊Kendra负责处理专有的安全文档，而亚马逊OpenSearch服务则索引来自Security Lake的发现数据。这样的上下文信息为LLM提供了组织策略、亚马逊云科技技术和环境洞察方面的定制响应所需的指导。Frits强调，这种架构与任何在亚马逊云科技上的[无服务器](https://aws.amazon.com/cn/serverless/?trk=cndc-detail)应用程序相似，只需添加[Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail)即可实现生成性AI功能。亚马逊云科技的服务已经大大降低了添加AI/ML的复杂性。凭借他的安全背景，他意识到这一点使得这项技术变得更加易于访问。 实际的架构还包含其他RAG提供者和作为发现数据源的Security Lake。由于没有单一工具能够解决所有问题，因此采用了多个RAG提供者。亚马逊Kendra通过连接器简化了从企业系统获取内部安全文档的过程。亚马逊OpenSearch服务提供了可扩展的向量数据库，用于处理结构化发现数据。Marshall随后提供一个详细的部署说明，介绍如何从头开始使用亚马逊云科技服务部署GitHub上的演示聊天机器人： 1. 克隆一个GitHub存储库； 2. 运行npm install和npm run build； 3. 使用npm run create进行初始配置，例如[Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail) API密钥； 4. 使用npx cdk deploy部署后端，这将启动一个亚马逊云科技CloudFormation栈； 5. 创建一个亚马逊Kendra索引和数据源，以抓取IAM文档； 6. 使用亚马逊Athena查询Security Lake的示例发现数据； 7. 将发现数据上传到亚马逊OpenSearch服务实例，并通过聊天机器人用户界面展示。 人工智能不太可能完全取代安全专家，但有效利用亚马逊云科技的AI服务将带来超越性的性能提升。亚马逊云科技的产品，如[Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail)和[Amazon Kendra](https://aws.amazon.com/cn/kendra/?trk=cndc-detail)，简化了入门过程。技术并非魔法——在亚马逊云科技上进行实验是被鼓励的。她强调，除了三位演讲者外，还有许多其他人为此次演讲和演示做出了贡献。弗里茨以推广将于2024年在费城举行的re:Invent安全会议作为结束，并提供了三位演讲者的联系方式。总的来说，演示内容主要涉及如何将亚马逊云科技的生成性AI服务（例如[Amazon Lex](https://aws.amazon.com/cn/lex/?trk=cndc-detail)和[Amazon Kendra](https://aws.amazon.com/cn/kendra/?trk=cndc-detail)）应用于自动化繁琐的安全任务、加快安全操作的进程以及专注于高价值工作。一个定制的聊天机器人被用来展示亚马逊云科技环境的实际应用示例。尽管人类专业知识仍然至关重要，但通过提供正确的输入和使用[Amazon Kendra](https://aws.amazon.com/cn/kendra/?trk=cndc-detail)进行检索增强的亚马逊云科技的AI服务可以为广大安全团队带来显著好处。亚马逊云科技的产品简化了安全入门的过程。这并不是一个神奇的解决方案，但在正确的框架下，亚马逊云科技的生成性AI代表了一种增强安全的有前景方法。建议进行实验，以确定这些新兴技术如何最有利于组织的发展。 **下面是一些演讲现场的精彩瞬间：** 主题：专业安全顾问Fritz Counselor探讨了运用数据科学和分析来帮助客户优化身份和访问管理。  在演讲过程中，演讲者们分享了有关安全领域的有趣且引人入胜的内容。  re:Invent上的亚马逊云科技展示了人工智能如何协助自动化繁琐的安全任务，使安全团队能够专注于高价值的机会。  为确保RAG提供者知识的准确性及提供有益背景和最佳成果，需要进行保护和验证。  领导者们强调，随着时间的推移，通过自动和手动测试不断优化和改进AI系统至关重要。  具有生成性的AI应用程序会将原始用户请求和上下文发送给Bedrock，要求后者根据提供的上下文回答问题或承认其不知晓。  ## 总结 1. 例如，虚拟助手这类的生成性人工智能可以自动化执行一些日常的安全任务，如撰写报告，从而提高工作效率并加快决策进程。这使得安全团队能够将更多精力投入到更有价值的工作中。 2. 通过运用提示工程和技术，如检索增强生成（RAG）等方法，可以降低出现错误的可能性。RAG技术可以为AI提供相关的背景文档，帮助其更好地理解上下文。 3. 虚拟助手的系统架构采用了亚马逊云科技（Amazon Web Services）的Lambda和CloudFront等服务。Bedrock负责生成回应，而Kindred则负责从文档中提取相关信息。安全发现功能则为环境提供了特定的数据。 总的来说，生成性人工智能在提高安全团队的工作效率和质量方面具有巨大潜力。在人工监管和合理架构设计的前提下，它有望成为安全领域专业人士的重要辅助工具。我们应鼓励尝试和创新，以便更好地利用AI技术。 ## 演讲原文 ## 想了解更多精彩完整内容吗？立即访问re:Invent 官网中文网站！ [2023亚马逊云科技re:Invent全球大会 - 官方网站](https://webinar.amazoncloud.cn/reInvent2023/?s=8739&smid=19458 "2023亚马逊云科技re:Invent全球大会 - 官方网站") [点击此处](https://aws.amazon.com/cn/new/?trk=6dd7cc20-6afa-4abf-9359-2d6976ff9600&trk=cndc-detail "点击此处")，一键获取亚马逊云科技全球最新产品/服务资讯！ [点击此处](https://www.amazonaws.cn/new/?trk=2ab098aa-0793-48b1-85e6-a9d261bd8cd4&trk=cndc-detail "点击此处")，一键获取亚马逊云科技中国区最新产品/服务资讯！ ## 即刻注册亚马逊云科技账户，开启云端之旅！ [【免费】亚马逊云科技“100 余种核心云服务产品免费试用”](https://aws.amazon.com/cn/campaigns/freecenter/?trk=f079813d-3a13-4a50-b67b-e31d930f36a4&sc_channel=el&trk=cndc-detail "【免费】亚马逊云科技“100 余种核心云服务产品免费试用“") [【免费】亚马逊云科技中国区“40 余种核心云服务产品免费试用”](https://www.amazonaws.cn/campaign/CloudService/?trk=2cdb6245-f491-42bc-b931-c1693fe92be1&sc_channel=el&trk=cndc-detail "【免费】亚马逊云科技中国区“40 余种核心云服务产品免费试用“")