适用于任何应用和任何地点的计算创新

云计算
re:Invent
0
0
## 视频 <video src="https://dev-media.amazoncloud.cn/30-LibaiGenerate/31-LiBaiRebrandingVideo/CMP219-INT-Compute_innovation_for_any_application__anywhere-LBrebrandingWCaptionCN.mp4" class="bytemdVideo" controls="controls"></video> ## 导读 亚马逊云科技提供最全面的功能,并在基础架构和服务中不断创新,因此可在云端、本地和边缘构建、运行和扩展应用程序。请加入 Amazon EC2 网络和计算服务副总裁 Dave Brown 的行列,了解引发实例、容器和无服务器技术等创新的时刻,以及当今正在发生的持续创新。了解自云计算诞生以来,客户至尚理念是如何催生出改变计算格局的激进新理念的。 ## 演讲精华 <font color = "grey">以下是小编为您整理的本次演讲的精华,共1700字,阅读时间大约是8分钟。如果您想进一步了解演讲内容或者观看演讲全文,请观看演讲完整视频或者下面的演讲原文。</font> re:Invent上的计算创新部分由亚马逊弹性计算云(EC2)副总裁David Brown开始了他的演讲。他对来自世界各地的1000多名与会者表示热烈欢迎。他回忆起,2007年,他在南非开普敦加入了一个仅有14人的初创团队,负责开发最终成为革命性EC2服务的技术。当时,这个14人的团队并未预料到EC2会成长为一个为全球数百万客户服务的价值50亿美元的企业。他们肯定也没有想到EC2会成为今天的样子,成为全球超过一百万活跃客户提供按需计算服务的基础。 Brown先生接着谈论了计算创新的起源,并向那些为现代计算机奠定基础的开创性发明表示敬意。1947年,贝尔实验室制造了第一个晶体管,使早期计算机能够处理二进制数字流。更早之前,真空管(热离子阀)在模拟计算机中放大信号。然而,早在1815年,数学家Ada Lovelace就被认为是第一位计算机程序员。她为查尔斯·巴贝奇的拟议分析机设计了第一个算法,用于机器处理。她设想计算机不仅能进行纯算术运算,还能创作艺术作品和音乐。Brown先生说,如今的大语言模型可以根据文本描述生成图像、整首交响乐和诗歌,这是Ada 200多年前非凡愿景的实现。这种长期信仰的实现激励着亚马逊云科技不断为客户推动创新边界。 自2007年创立以来,亚马逊云科技始终致力于将计算能力普及化,让每个人都能轻松获取。在当时,通过互联网按需租赁虚拟计算实例的概念前所未有。然而,在虚拟化环境中实现安全多租户面临巨大的技术挑战。从2008年开始,亚马逊云科技投入了大量研究开发,历时七年,创造了具有革命性的Nitro系统,将关键虚拟机管理任务卸载至专用硬件。这一举措不仅为客户释放了更多资源,还实现了弹性计算云性能、安全性和创新速度的重大突破。 借助Nitro技术,亚马逊云科技能够在不干扰客户的前提下,每周在主机之间无缝迁移数百万EC2实例。例如,亚马逊云科技可能需要将客户的实例从一个物理服务器转移到另一个物理服务器,以实现负载均衡或替换故障硬件。Nitro使得整个过程变得完全透明,软件和固件将在数百万实例上实时更新,而不会对运行产生影响。这使得亚马逊云科技能够持续改进弹性计算云系列产品。Nitro推动了EC2产品线的发展,如今提供的实例类型超过750种,而早期仅有少数几种。布朗先生宣布推出了Amazon Q,这是一款基于AI的顾问,通过分析来自百万级客户的EC2经验模式,为客户提供定制化的建议,以满足他们的工作负载需求和优化实例类型及配置。 由于将功能卸载至硬件,Nitro技术推动了EC2网络带宽的自2008年以来增长了近32,000%,从最初的100Gbps提升至最新的NVIDIA H100 GPU实例的3.2Tbps。这种级别的带宽对于像Anthropic的Claude模型这样的机器学习工作负载至关重要。类似的,EBS存储带宽也从2012年的4Gbps增长至目前的100Gbps,具备400,000 IOPS,实现了25倍的提升。全新的EBS IO2 Block Express卷类型使得这些巨大吞吐量能够支持高性能数据库的运行。 氮气安全芯片在亚马逊云科技数据中心安装过程中,会对供应链中的每个硬件和软件组件进行验证。随后,它将在整个服务器使用寿命内持续监控完整性。据布朗先生表示,氮气环境允许像巴西银行Itau这样的客户在EC2实例内在硬件强制的内存区域中安全隔离敏感数据和密钥,即使对其他实例上的进程和用户也无法访问。这一功能有助于Itau保护区块链密钥。经过英国公司NCC集团全面独立的安全分析后,确认氮气的保护措施是无懈可击的,得出亚马逊云科技员工无法访问实例或EBS卷上客户数据的结论。 为了提高客户性价比,亚马逊云科技自2018年起开始在EC2实例中部署定制的基于ARM的Graviton处理器。第三代Graviton 3 CPU的性能相较于前一代提升了25%。超过50,000名客户,包括运行HANA工作负载的SAP,已经采用了Graviton,实测获得了高达50%的计算性能提升和45%的碳足迹减少。自2018年以来,亚马逊云科技已生产了超过200万个Graviton芯片。 新发布的第四代Graviton 4为诸如MySQL等工作负载提供了比Graviton 3额外的40%性能提升。同时,它还支持多达3倍的CPU和内存扩展,使得更大的实例能够支持更高需求的数据库和大数据分析应用程序。亚马逊发布了第一个基于Graviton 4的EC2实例,即R8g,提供空前的性价比。 需要注意的是,基准测试通常无法反映真实工作负载。因此,亚马逊云科技在设计处理器时会分析实际客户的应用。例如,Graviton 4上的MySQL在所有维度上显示较低的敏感性,导致MySQL性能提高40%。Graviton 4还通过加密接口并在每个阶段验证硬件启动过程来增强安全性。 亚马逊云科技与英特尔、AMD和苹果紧密合作,共同推动计算技术创新。第七代EC2实例采用了英特尔Sapphire Rapids处理器,相较于其他云计算提供商,性能提高了15%,这得益于亚马逊云科技的优化。医疗保健提供商Tufts Medicine公司通过迁移到这些英特尔实例,将用户会话密度提高了68%,并每年节省了120万美元。在某些工作负载中,AMD Milan EPYC处理器可以降低10%的成本。全新推出的M2 EC2实例为苹果构建工作流程,相比之前的M1实例,性能提升了35%,这加速了像Pinterest和Goldman Sachs这样的公司的开发进程。" 布朗先生邀请了亚马逊云科技的无服务器计算副总裁Mesrobian女士来探讨更高的技术水平。Mesrobian女士解释了函数即服务如何帮助开发者摆脱基础设施管理的困扰。自2014年推出的Lambda服务开始,就使用了Firecracker虚拟化技术,实现了亚秒级启动时间。Snap Start进一步加速,最快仅需10毫秒,比冷启动快10倍。 亚马逊云科技的EventBridge服务简化了事件驱动型应用的构建过程,可以原生连接到超过200个不同的事件源,并每月处理超过2.6万亿个事件。其Pipes功能通过仅处理已使用的事件来简化创建事件生成器和消费者之间的集成,从而降低成本。 对于容器编排,亚马逊云科技的Amazon EKS使运行Kubernetes变得更加简单,同时享受亚马逊云科技的性能、可靠性和安全创新带来的好处。亚马逊云科技在2021年被CNCF评选为领先的Kubernetes提供商,64%的后端开发者都依赖于它。新的开源Carpenter项目通过基于实时利用率合并工作负载,优化了EKS的成本和性能。 Mesrobian女士强调,Graviton处理器可以帮助降低无服务器计算和EKS的成本,与x86处理器相比,成本可以降低多达40%。刚刚宣布的第二代Graviton 4处理器相比Graviton 3提供了额外的40%的性能提升,非常适合用于MySQL等数据库。为了支持激增的机器学习工作负载,亚马逊云科技的Trainium可以降低模型训练成本,与GPU相比可降低50%。新发布的Trainium 2提供高达4倍的训练性能提升,相比Trainium 1,大型生成性人工智能模型的训练性能可达20万亿次浮点运算。 布朗先生坚信,没有像艾伦·图灵这样杰出的科学家,计算领域的重大突破将无法实现。目前,超过10万名客户正在使用亚马逊云科技构建、训练和部署机器学习应用。如今,部分工作负载已经扩展到超过10,000个GPU和500亿个参数,而2012年只有2个GPU和6000万个参数——这一巨大增长得益于亚马逊云科技的可扩展基础设施。 亚马逊云科技已与NVIDIA展开一项新的合作,包括即将推出的专为图形、AI和数据分析设计的GPU实例,以及亚马逊云科技托管的NVIDIA DGX云服务和一台计划于2024年部署的16,000芯片的AI超级计算机,其性能可达65万亿次浮点运算。此外,亚马逊云科技还通过用于ML推理的Inferentia等定制硅片来提高性能价格比。亚马逊云科技与Anthropic的战略合作伙伴关系将利用亚马逊云科技的优势提供下一代AI解决方案,如Claude。 Adobe首席信息官Cynthia Stoddard回顾了他公司十年前通过与合作伙伴(如亚马逊云科技)一起转向云的历程。这使Adobe能够比过去18-24个月的产品周期更快地将新功能推向市场。2016年,Adobe Sensei作为一个AI平台推出,旨在将智能注入创意工作流程。随着需求的增长,亚马逊云科技的GPU实例可以轻松扩展以满足需求。 今年早些时候,Adobe推出了Firefly,这是一个用于重新发明创意内容生产的生成性AI模型家族。Firefly使用了许可内容和公共领域内容,已经生成了超过40亿张图像,并嵌入到了Adobe的产品组合中。例如,Photoshop的神经滤镜就利用了Firefly来恢复旧图像。亚马逊云科技在加速AI转型方面进行了大量投资。 最后,布朗先生宣布了EC2容量块,以确保机器学习项目的GPU容量。亚马逊云科技的控制台到代码功能可以从控制台中执行的操作生成基础设施即代码,以简化原型设计。他鼓励与会者使用亚马逊云科技提供的工具和服务进行创新,因为亚马逊云科技运行着最安全、可靠且可扩展的云基础设施,以支持客户的创造力。 总的来说,演讲内容回顾了计算历史的演变历程,并详细阐述了亚马逊云科技在硬件和软件方面的诸多创新,以提高性能价格比和增强安全性。此外,演讲还讨论了快速发展的人工智能技术的进步,以及令人振奋的客户成功案例。亚马逊云科技致力于为全球超过一百万的活跃客户提供技术支持,助他们实现从创意到现实的转化。 **下面是一些演讲现场的精彩瞬间:** 新的Amazon Z1D.7i实例拥有高达32 TB的内存,这大幅提高了数据加载速度和EBS带宽。 ![](https://d1trpeugzwbig5.cloudfront.net/CMP219-INT-Compute_innovation_for_any_application__anywhere/images/rebranded/CMP219-INT-Compute_innovation_for_any_application__anywhere_0.png) 亚马逊云科技已将苹果最新的M2 Mac mini计算机引入到云端,相较于M1 Mac实例,客户在进行工作负载的构建和测试时能够享受到高达35%的性能提升。 ![](https://d1trpeugzwbig5.cloudfront.net/CMP219-INT-Compute_innovation_for_any_application__anywhere/images/rebranded/CMP219-INT-Compute_innovation_for_any_application__anywhere_1.png) Carpenter是一个开源的性能调配管理系统,专为EKS设计,能够通过整合容器来优化成本和性能。 ![](https://d1trpeugzwbig5.cloudfront.net/CMP219-INT-Compute_innovation_for_any_application__anywhere/images/rebranded/CMP219-INT-Compute_innovation_for_any_application__anywhere_2.png) 这个图表将处理器划分为前后两个部分,展示了前段和后端的统计数据,以便找出对工作流程性能最具影响的部分。 ![](https://d1trpeugzwbig5.cloudfront.net/CMP219-INT-Compute_innovation_for_any_application__anywhere/images/rebranded/CMP219-INT-Compute_innovation_for_any_application__anywhere_3.png) 在亚马逊云科技上运行的实际工作负载会受到各种因素的影响,与传统的基准测试不同,诸如指令缓存丢失和TLB丢失等问题可能导致前端停滞。 ![](https://d1trpeugzwbig5.cloudfront.net/CMP219-INT-Compute_innovation_for_any_application__anywhere/images/rebranded/CMP219-INT-Compute_innovation_for_any_application__anywhere_4.png) 亚马逊云科技致力于通过为Moderna、Boom和John Deere等正在改变行业并改善人类生活的公司提供优质、安全、可靠且可扩展的云服务来推动创新。 ![](https://d1trpeugzwbig5.cloudfront.net/CMP219-INT-Compute_innovation_for_any_application__anywhere/images/rebranded/CMP219-INT-Compute_innovation_for_any_application__anywhere_5.png) ## 总结 本次演讲主要探讨了亚马逊云科技在计算领域的一系列创新,涵盖了从硬件到软件的各个方面。Dave Brown详细讲述了亚马逊云科技在开发定制Nitro芯片的过程中,旨在减轻虚拟化开销、提高性能和安全性。这一创新为EC2实例的发展提供了支持,其中包括全新的Graviton ARM芯片,具有卓越的性能价格比。Holly Mesrobian则讨论了亚马逊云科技在无服务器和容器技术方面的创新,如Lambda、Fargate和EKS Kubernetes等。这些技术简化了基础设施管理,使得开发者能够更专注于应用程序的开发。此外,Brown还宣布了全新升级的Graviton4芯片,相较于Graviton3,其核心数量增加50%,缓存翻倍,将为新的EC2 R8g实例提供强大动力。同时,他还介绍了针对Intel、AMD和Apple芯片优化的新EC2实例类型。在软件层面,Brown还推出了一项名为“从控制台操作到代码”的新服务,利用AI技术根据控制台操作自动生成基础设施即代码。总之,本次演讲强调了中国亚马逊云科技在整个技术栈上以客户需求为导向的计算创新策略。 ## 演讲原文 ## 想了解更多精彩完整内容吗?立即访问re:Invent 官网中文网站! [2023亚马逊云科技re:Invent全球大会 - 官方网站](https://webinar.amazoncloud.cn/reInvent2023/?s=8739&smid=19458 "2023亚马逊云科技re:Invent全球大会 - 官方网站") [点击此处](https://aws.amazon.com/cn/new/?trk=6dd7cc20-6afa-4abf-9359-2d6976ff9600&trk=cndc-detail "点击此处"),一键获取亚马逊云科技全球最新产品/服务资讯! [点击此处](https://www.amazonaws.cn/new/?trk=2ab098aa-0793-48b1-85e6-a9d261bd8cd4&trk=cndc-detail "点击此处"),一键获取亚马逊云科技中国区最新产品/服务资讯! ## 即刻注册亚马逊云科技账户,开启云端之旅! [【免费】亚马逊云科技“100 余种核心云服务产品免费试用”](https://aws.amazon.com/cn/campaigns/freecenter/?trk=f079813d-3a13-4a50-b67b-e31d930f36a4&sc_channel=el&trk=cndc-detail "【免费】亚马逊云科技“100 余种核心云服务产品免费试用“") [【免费】亚马逊云科技中国区“40 余种核心云服务产品免费试用”](https://www.amazonaws.cn/campaign/CloudService/?trk=2cdb6245-f491-42bc-b931-c1693fe92be1&sc_channel=el&trk=cndc-detail "【免费】亚马逊云科技中国区“40 余种核心云服务产品免费试用“")
目录
亚马逊云科技解决方案 基于行业客户应用场景及技术领域的解决方案
联系亚马逊云科技专家
亚马逊云科技解决方案
基于行业客户应用场景及技术领域的解决方案
联系专家
0
目录
关闭
contact-us