re:Invent 2024前线播报|年度 SOTA 性价比王者模型 Nova 惊艳亮相

re:Invent
Amazon EC2
生成式人工智能
Amazon Bedrock
Amazon Q
0
0
![image.png](https://dev-media.amazoncloud.cn/7b7c2c85be2346beb56ee4d84afee6c9_image.png "image.png") > **核心看点** > > “云计算教父”Andy Jassy 重磅发布自研模型 Amazon Nova 六大模型及两大前沿方向 > > 计算、存储、数据和模型推理等基础构建单元持续创新 > > 引领业界的强大生成式 AI 助手 [Amazon Q](https://aws.amazon.com/cn/q/?trk=cndc-detail) 重大发布 > > 最广泛和深入的分析服务重大发布 2024亚马逊云科技 re:Invent 全球大会第二天,亚马逊云科技 **CEO Matt Garman** 邀请 **“云计算教父”亚马逊 CEO Andy Jassy 同台**,围绕亚马逊云科技在云计算核心领域(计算、存储、数据和模型推理)的重大创新,以及全新划时代生成式 AI 基础模型 Amazon Nova 的横空出世及生成式 AI 应用构建服务 [Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail) 重大发布,**持续巩固亚马逊云科技在全球云计算领域的绝对实力和领导者地位,拉大技术代差**。 ### **“云计算教父”亚马逊 CEO Andy Jassy 发布高性价比 Amazon Nova 六大基础模型及两大前沿方向** 新发布的 Amazon Nova 基础模型共包括四大模型:可用于简单任务的超高性价比文字处理模型 **Micro** 模型;三种多模态模型——低成本的 **Lite** 模型;兼具准确性、速度和成本的 **Pro** 模型;用于复杂的推理任务同时也可进行蒸馏定制模型的 **Premier** 模型。 ![image.png](https://dev-media.amazoncloud.cn/795c03a30d8c4eb49961225d9899f99e_image.png "image.png") **功能方面**,Nova 模型支持微调(Fine-tuning),蒸馏(Distillation)训练更小的模型。Nova 模型与 [Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail) 知识库深度集成,可用于 RAG,以根据自己的数据生成响应。 **性能层面**,Amazon Nova 模型与同类模型相比,Nova 在所有基准测试中都是相等或更好,极具竞争力。 **Nova Lite 的同级别比较:** > 与 OpenAI 的 GPT-4o Mini 进行比较,Nova 在19项基准测试中有17项相等或更好; > > 与 Gemini 1.5 Flash 进行比较,在21项基准测试中有17项相等或更好; > > 与 Claude 3.5 Haiku 进行比较,在12项基准测试中有10项相等或更好。 **Nova Pro 的同级别比较:** > 与 GPT-4o 进行比较,在20个基准中的17个基准上相等或更好; > > 与 Gemini 1.5 Pro 进行比较,在21项基准测试中有16项相等或更好; > > 与 Claude 3.5 Sonnet v2 进行比较,Pro 模型在一半的基准上相等或更好,即使在其他未超越的指标中,Pro 模型也非常有竞争力。 ![image.png](https://dev-media.amazoncloud.cn/4049019e35e54152bb7a69a2d00abb84_image.png "image.png") #### **发布图像生成模型 Amazon Nova Canvas** **功能方面**,通过自然语言文本,可生成工作室质量的图像,允许使用自然语言或文本来进行图像的编辑。通过内置的控件提供了色彩方案和布局方案。可追溯的水印以及内容审核帮助客户负责任地使用人工智能,以消除有害内容的产生。 **性能方面**,与业界生图主流模型 DALL·E 3 和 Stable Diffusion 3.5 Large 模型相比:在两个最重要的变量(图像质量和指令跟随)方面,Nova Canvas 模型表现更优。 ![image.png](https://dev-media.amazoncloud.cn/bb19b3e6e19146f2a8489c604fbf4809_image.png "image.png") #### **发布视频生成模型 Amazon Nova Reel** **功能方面**,让客户可以创建工作室级别质量的视频,完全控制摄像机的运动,包括平移运动、360度旋转和缩放。同时内置人工智能的安全和负责任使用控制,包括添加水印和内容审核等。目前支持6秒视频生成,两分钟视频的功能也将在之后推出。 ![image.png](https://dev-media.amazoncloud.cn/1e402f58658f4c9ba1950a76cb39cedd_image.png "image.png") 未来:**在2025年一季度左右,亚马逊云科技将提供语音到语音的模型**,允许输入语音,获得流畅的语音输出。**在2025年年中左右,将提供多模态输入到多模态输出的前沿模型**,支持文本、语音、图像及视频。 ![image.png](https://dev-media.amazoncloud.cn/6e0c346f10184a21816ddbd5469853e8_image.png "image.png") 作为亚马逊云科技人工智能及生成式 AI 技术的深度使用方,Andy 介绍了亚马逊在各领域如何应用生成式 AI 技术。**零售业务**,个性化推荐、购物代理 Rufus 等,提升购物体验。**库存管理**,机器人结合人工智能优化了包装和运输的处理时间和成本。**智能家居**,Alexa 通过多模型架构提升语音交互能力。**Amazon Lens**,利用计算机视觉辅助购物搜索。此外,亚马逊还构建了服饰尺码模型等提升用户体验。 ### **以构建单元为基础进行持续创新** 根据客户需求进行创新,始终是亚马逊云科技发展和前行的动力。初创公司,推动着亚马逊不断创新。**在2025年,亚马逊云科技将向全球创业公司提供10亿美元的支持计划**,继续支持初创公司发展。**在创立初始,亚马逊云科技就认为捆绑式的解决方案,即便“好用”,也不应该是我们追求的全部**。 **亚马逊云科技将几乎任何应用程序分解为独立的组件——“构建单元”(building blocks),以易用、高性价比的组件形式服务客户,以满足客户各种场景的需求**。亚马逊云科技也是在这个理念下持续创新,直至今日。 ![image.png](https://dev-media.amazoncloud.cn/c318df54b81745e8b791b1468f7329b3_image.png "image.png") #### **构建单元一:模型推理** 模型推理将成为每个应用程序的一部分,**并需要一个可大规模提供推理的平台——这就是亚马逊云科技独一无二的 [Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail)。Bedrock 是构建和扩展生成式 AI 应用的最简单方式,它提供生成式 AI 集成到应用所需的一切**。许多领先公司如 Salesforce、SAP 等也在深度集成 Bedrock,为他们的客户提供生成式 AI 应用。 ![image.png](https://dev-media.amazoncloud.cn/249e0b2676494d4095e9ccbb6755d3c3_image.png "image.png") 有些模型具备专业知识但成本高、速度慢,有些模型成本低、速度快但能力有限。模型蒸馏可解决这个问题,通过大型模型获取数据和答案,来训练一个较小的专业模型,但这需要[机器学习](https://aws.amazon.com/cn/machine-learning/?trk=cndc-detail)专家,过程十分复杂。为简化这一过程,**亚马逊云科技发布模型蒸馏功能。蒸馏的模型可以提升推理速度高达500%,成本降低75%**。用户只需提供应用示例提示,Bedrock 会为用户自动完成蒸馏过程,最终获得一个定制的、具备专业知识、合理延迟和合理性价比的蒸馏模型。 ![image.png](https://dev-media.amazoncloud.cn/d9a5ed94ee854ac5b5a24e6bca8ca0df_image.png "image.png") 今天,将生成式 AI 深度集成到企业应用并投入生产仍面临挑战。**在企业级场景下“偶尔出错”也是不被允许的,准确性至关重要。发布自动推理检查功能,有助于检测幻觉、提供可验证的证据证明大型语言模型的准确性**。自动推理不是猜测或预测准确性,而是依靠可靠的数学技术来明确验证是否符合专家创建的自动推理政策,从而提高透明度。 ![image.png](https://dev-media.amazoncloud.cn/b6e6879b73654148a2f7eb2a61fe3735_image.png "image.png") 单个 Agent 能够执行简单的多步骤任务,然而客户希望能够通过整合数百个 Agents 执行复杂任务,这在技术上极其困难。**发布 Bedrock multi-agent collaboration 以支持复杂工作流程**。它可确定哪些 Agent 访问机密信息,按顺序触发或并行执行任务。如果多个 Agents 返回信息,它可在其间解决分歧,将它们分配到不同任务,并确保所有协作都针对专用 Agent。 ![image.png](https://dev-media.amazoncloud.cn/c6a2d8a8283646679d5d16d5ec27892b_image.png "image.png") #### **构建单元二:计算** **发布基于英伟达的 Blackwell 芯片 P6 系列实例**并将于明年初推出。P6 实例将比当前 GPU 快2.5倍,并将广泛使用。 ![image.png](https://dev-media.amazoncloud.cn/de50750873a94ae3acae509c3e00eeda_image.png "image.png") **正式推出 [Amazon EC2 ](https://aws.amazon.com/cn/ec2/?trk=cndc-detail)Trn2 实例**,相较 GPU 实例,**Trn2 实例的性价比高出30%至40%**。Trn2 实例集成16个 Trainium2 芯片,由高带宽低延迟的 NeuronLink 技术实现互连。单节点提供 20.8 pFLOPS FP8 算力,专为生成式 AI 训练和推理而构建。Adobe、Poolside、Databricks、Qualcomm 等创新公司已大规模投入使用 Trainium2。 ![image.png](https://dev-media.amazoncloud.cn/b6861140d3a34f8fa7fd4437d1840f95_image.png "image.png") 来自 Apple 公司的[机器学习](https://aws.amazon.com/cn/machine-learning/?trk=cndc-detail)和人工智能高级总监 Benoit Dupin 介绍了 Apple 公司如何使用亚马逊云科技 Graviton3、Inferentia2 以及 Trainium2 等高性价比芯片,构建 Apple Intelligence 等人工智能服务。 ![image.png](https://dev-media.amazoncloud.cn/ce51c51dc18d4f92b19d8511dd1b3e53_image.png "image.png") **Matt 宣布将在2025年推出 Trainium3 芯片。Trainium3 是亚马逊云科技基于3纳米先进工艺制造的首款芯片,是 Trainium2 性能的两倍,同时能效提升40%**。 ![image.png](https://dev-media.amazoncloud.cn/3bf61de305b44ca29ad294ba56a44fdd_image.png "image.png") #### **构建单元三:存储** **全新发布 [Amazon S3](https://aws.amazon.com/cn/s3/?trk=cndc-detail) Tables,专为 Iceberg 设计的全新型存储类别,以应对快速增长的数据湖需求**。[Amazon S3](https://aws.amazon.com/cn/s3/?trk=cndc-detail) Tables 可提高所有 Iceberg 表的性能和可扩展性。针对存储在 S3 中的 Parquet 文件类型,可获得3倍的查询性能及每秒事务量10倍提升。**这使得 S3 完全重新定义了面向数据湖的对象存储**,提供更好的性能、成本和规模扩展能力。 ![image.png](https://dev-media.amazoncloud.cn/7f9ede2931f64414b31508213c00d96d_image.png "image.png") 当达到 PB 或 EB 级别存储规模时,元数据(Metadata)就变得非常重要。元数据可帮助组织了解存储在 S3 中的对象的信息,从而找到所需的数据。基于此,亚马逊云科技**正式发布 [Amazon S3](https://aws.amazon.com/cn/s3/?trk=cndc-detail) Metadata 服务,可自动从对象中提取元数据,并近实时地将其存储在新的 S3 Tables 桶中(Iceberg 表)**,以支持后续使用分析工具进行元数据查询。当对象发生变化时,S3 会自动在几分钟内更新相应的元数据。为客户**解决了大规模数据分析中的元数据管理挑战,让他们能够高效发现和利用数据而不必从事重复性的基础设施构建工作**。这是亚马逊云科技在数据湖和分析领域持续创新的又一力作。 ![image.png](https://dev-media.amazoncloud.cn/bfb11fd5baf440a2ad633bb120d1a638_image.png "image.png") #### **构建单元四:数据库** **全新发布 [Amazon Aurora](https://aws.amazon.com/cn/rds/aurora/?trk=cndc-detail) DSQL,具有免运维体验的分布式 SQL 数据库,可在全球范围内实现跨区域部署,并无限扩展,具备99.999%的多区域高可用性及强数据一致性**,同时兼顾低延迟,是迄今为止最快的全球化部署的分布式 SQL 数据库,比 Google Spanner 快4倍。 ![image.png](https://dev-media.amazoncloud.cn/22c8e284509d4006898f21e037c6a205_image.png "image.png") 同时,针对 NoSQL 数据库,亚马逊云科技也**发布了 [Amazon DynamoDB](https://aws.amazon.com/cn/dynamodb/?trk=cndc-detail) global tables 的多区域强一致性功能**。至此,无论客户需要 SQL 还是 NoSQL,亚马逊云科技都可以提供在全球可快速扩展的高可用数据库,支持数据强一致支持,并具备极低的读写延迟。 ![image.png](https://dev-media.amazoncloud.cn/d85220ce0aa3429883b90b268a3e3528_image.png "image.png") ### **强大生成式 AI 助手 Amazon Q 重大发布** 根据亚马逊云科技的观察和调研,大多数开发人员大量时间都花在了除代码编写以外的端到端的开发上。基于开发人员的痛点,**[Amazon Q](https://aws.amazon.com/cn/q/?trk=cndc-detail) Developer 全新推出三个自主 Agent,用于生成单元测试、文档和代码审查**,可以帮助解决这个问题。[Amazon Q](https://aws.amazon.com/cn/q/?trk=cndc-detail) 现在可以支持端到端的全面单元测试,准确的文档生成以及代码审查,大幅减少花费在这些非常重要但无差异的任务上的时间,让开发人员能够花更多时间在那些创造性任务上。 ![image.png](https://dev-media.amazoncloud.cn/4eb8bf37d821466696831c35912876ca_image.png "image.png") 宣布 **Amazon Q Developer 与 GitLab 的深度集成**,Q Developer 的功能将深深植根于 GitLab 平台中,帮助支持他们的人工智能助手 Duo。Q Developer 将在 GitLab 工作流中本地可用,并将添加越来越多的功能。 ![image.png](https://dev-media.amazoncloud.cn/686c3db3fb7a45cca152d734bc5f17d0_image.png "image.png") 实际上,大量的开发人员时间都花在维护、现代化和修补现有应用程序上。在此前发布的对于 Java 应用程序迁移的功能后,再次**发布将 .NET 应用迁移为 Linux 应用,将 VMWare 工作负载迁移为云原生架构**,以及 IBM 等大型机应用程序的迁移服务。 ![1733318643239.png](https://dev-media.amazoncloud.cn/551c0f26511c4138af44e1f0f136a65b_1733318643239.png "1733318643239.png") [Amazon Q](https://aws.amazon.com/cn/q/?trk=cndc-detail) Business 可连接不同的业务系统、企业数据源,无论这些数据源来自亚马逊云科技、第三方应用程序,所有这些数据都可以在安全和隐私的前提下进行更好的搜索,并跨越各种数据库与所有企业数据进行对话。 Q Business 为企业数据创建了一个索引。它从 Adobe、Microsoft Office、SharePoint、Gmail、Salesforce、ServiceNow 等源索引过去一年的数据,并且持续更新这个索引并对所有这些数据保持高度安全,同时维护用户权限。 **本次发布将 QuickSight 和 Q Business 的数据全部结合的新功能**,通过 QuickSight 和 Q Business 以及与之相关联的系统,例如 Salesforce 系统数据拉入 QuickSight 报告快速得到更加全面的 QuickSight 仪表板,使 QuickSight 作为 BI 工具变得更加强大。 ![image.png](https://dev-media.amazoncloud.cn/a638a77eb89a47048d4622a17d16a694_image.png "image.png") 而通过全新的 Q Business API,独立软件开发商可在自有软件中集成 [Amazon Q](https://aws.amazon.com/cn/q/?trk=cndc-detail) index,使得应用程序变得更强大、更个性化。 ![image.png](https://dev-media.amazoncloud.cn/cc8f11308b43455ab181b9c5f3749167_image.png "image.png") **发布 Q Business Automate 功能**,帮助创建跨团队和应用程序的自动任务,通过使用一系列高级 Agent 来创建、编辑和维护工作流程,使它们更有弹性。在启动工作流程后,会有一个 Q Agent 不断监控它,以确保它能够自动调整并修复任何发生的更改。 ![image.png](https://dev-media.amazoncloud.cn/08a448a642814aabb2a15a069f4ff63c_image.png "image.png") ### **最广泛和深入的分析服务重大发布** Matt 在发布会中指出,[Amazon SageMaker](https://aws.amazon.com/cn/sagemaker/?trk=cndc-detail) 被越来越多客户用来处理和准备他们的数据,用于[机器学习](https://aws.amazon.com/cn/machine-learning/?trk=cndc-detail)的工作负载。**亚马逊云科技思考如何构建一个整合的体验,将数据、分析、人工智能及数据治理融为一体**。基于此,亚马逊云科技从产品及品牌方面**重新定义 [Amazon SageMaker](https://aws.amazon.com/cn/sagemaker/?trk=cndc-detail),将其定位为所有数据、分析和人工智能需求的中心**。 ![image.png](https://dev-media.amazoncloud.cn/af921884f495474c9a8dfde7fd3c991b_image.png "image.png") **全新发布 [Amazon SageMaker](https://aws.amazon.com/cn/sagemaker/?trk=cndc-detail) Unified Studio**,提供整合的数据和人工智能开发环境,允许客户访问组织中的所有数据,并使用最适合的工具。它将目前亚马逊云科技各种服务:1) [Amazon EMR](https://aws.amazon.com/cn/emr/?trk=cndc-detail)、Amazon Glue、[Amazon Redshift](https://aws.amazon.com/cn/redshift/?trk=cndc-detail)、[Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail) 中独立的 Studio,2) 查询编辑器,3) 各种可视化工具,整合到现存的 [Amazon SageMaker](https://aws.amazon.com/cn/sagemaker/?trk=cndc-detail) Studio 中。 ![image.png](https://dev-media.amazoncloud.cn/e8d0c591ee694d8da8a8a42c8891db6e_image.png "image.png") **全新发布面向应用程序的 Zero-ETL,帮助客户无需构建和管理数据管道,便可分析存储在业界流行的第三方 SaaS 应用程序中的数据**。并全新**发布 [Amazon SageMaker](https://aws.amazon.com/cn/sagemaker/?trk=cndc-detail) Lakehouse,兼容 Apache Iceberg**,针对所有结构化和非结构化数据源提供单一界面,跨不同数据源提供简单统一的数据接入与访问控制。 ![image.png](https://dev-media.amazoncloud.cn/7cc299be965b4c22a378cb893fcd62db_image.png "image.png") 我们正处于一个重大时刻,也是创新的最佳时机。前所未有的丰富且强大的工具能够帮助您实现创新。在亚马逊云科技,我们持续创造,助力您更好创新。 **了解更多产品详情,请扫描下方二维码:** Amazon Nova Foundation Models ![1.png](https://dev-media.amazoncloud.cn/fdb1d9ee0ceb415f804492c0c70385be_1.png "1.png") [Amazon EC2 ](https://aws.amazon.com/cn/ec2/?trk=cndc-detail)Trn2 ![2.png](https://dev-media.amazoncloud.cn/72fe1b976501420ca6e0766f8eca1155_2.png "2.png") [Amazon S3](https://aws.amazon.com/cn/s3/?trk=cndc-detail) Tables ![3.png](https://dev-media.amazoncloud.cn/6dd6b3ed1d4141b680749e214dde81a4_3.png "3.png") **点击下方卡片,预约12月5日精彩直播!** ![reinvent2024-首页-渠道码-social-QR.jpg](https://dev-media.amazoncloud.cn/5aa03724e1dc48a6bbd8335a125ab37f_reinvent2024-%E9%A6%96%E9%A1%B5-%E6%B8%A0%E9%81%93%E7%A0%81-social-QR.jpg "reinvent2024-首页-渠道码-social-QR.jpg") > 生成式 AI:*前述特定亚马逊云科技生成式人工智能相关的服务仅在亚马逊云科技海外区域可用,亚马逊云科技中国仅为帮助您发展海外业务和/或了解行业前沿技术选择推荐该服务。 ![image.png](https://dev-media.amazoncloud.cn/b18008de1f824377a73fd3d00d7aae07_image.png "image.png") ![image.png](https://dev-media.amazoncloud.cn/9713d6ababa340be90836b7cc4dca093_image.png "image.png")
目录
亚马逊云科技解决方案 基于行业客户应用场景及技术领域的解决方案
联系亚马逊云科技专家
亚马逊云科技解决方案
基于行业客户应用场景及技术领域的解决方案
联系专家
0
目录
关闭