亚马逊云科技Graviton处理器:如何为您的工作负载获得最佳性价比

## 视频 <video src="https://dev-media.amazoncloud.cn/30-LibaiGenerate/31-LiBaiRebrandingVideo/CMP334-AWS_Graviton__The_best_price_performance_for_your_AWS_workloads-LBrebrandingWCaptionCN.mp4" class="bytemdVideo" controls="controls"></video> ## 导读 搭载Amazon Web Services Graviton处理器的Amazon EC2实例为Amazon EC2中的工作负载提供了最佳的性价比。在本次会议中,我们将探索Amazon Web Services Graviton处理器,回顾工作负载性能,亚马逊云科技客户成功案例,能效以及软件产品。了解在各种应用程序中如何优化Amazon Web Services Graviton上的工作负载的最佳实践,以及如何开始您在Amazon Web Services Graviton上的旅程。 ## 演讲精华 <font color = "grey">以下是小编为您整理的本次演讲的精华，共1400字，阅读时间大约是7分钟。如果您想进一步了解演讲内容或者观看演讲全文，请观看演讲完整视频或者下面的演讲原文。</font> 亚马逊云科技的一场信息会议在全球市场推广和业务发展负责人Graviton的Stephanie Shyu的热情欢迎下拉开帷幕。她首先为我们带来了亚马逊云科技在定制硅芯片领域多年的发展历程的背景介绍。这个宏伟计划始于2013年，当时亚马逊云科技与Annapurna Labs合作开发创新的亚马逊云科技Nitro系统。其主要目标是解决EC2实例主机CPU上虚拟机资源利用率日益增长的问题，因为当时的利用率仅有大约40-50%。为了解决这个问题，他们创建了专门的Nitro卡，可以将存储、网络和安全等关键功能卸载到专用的硬件和固件上。这样一来，亚马逊云科技就能够通过释放有价值的CPU周期来最大化资源效率，同时大大提高所有EC2实例的安全保护。 在首次尝试芯片设计取得成功的基础上，亚马逊云科技在2018年的re:Invent上推出了他们的第一款通用CPU，名为Graviton。这一突破性举措使得ARM架构首次进入云端市场。这意味着，应用程序在Graviton上可以实现与其他任何EC2产品相同的按需计算访问和弹性。在接下来的四年里，亚马逊云科技迅速迭代，发布了四代Graviton芯片，每一代都比前一代在性能、效率和功能上有重大提升。 2019年，Graviton 2问世，整体性能相比初代的Graviton提高了七倍。对于包括数据库、分析、Web服务器和视频编码在内的各种工作负载，Graviton 2提供的性价比优于同类前一代实例类型25-43%。亚马逊云科技迅速扩大了Graviton 2家族，涵盖了12种不同的EC2实例类型，涵盖了不同的内存、存储、网络和GPU功能组合。这使得客户基本上可以为任何云工作负载找到最优的Graviton 2配置。 在2021年，亚马逊云科技的Graviton 3将晶体管数量翻倍至300亿，性能相较前一代产品提升了25%。这款芯片是亚马逊首次采用尖端DDR5内存技术的产物，将内存带宽提高到了85 GB/s。得益于向量宽度的增加（从128位到256位）以及对新指令bf16的支持等架构改进，Graviton 3极大程度上加速了CPU上运行的AI/ML工作负载。当结合亚马逊云科技对TensorFlow和PyTorch等框架的广泛优化时，Graviton 3使得基于CPU的AI/ML工作负载性能相较于Graviton 2提升了3倍。如今，亚马逊云科技提供了8种不同类型的Graviton 3 EC2实例，涵盖了从通用到内存优化和高性能计算等各种使用场景。 亚马逊云科技的硅历程又迈出了新的步伐，在今年的re:Invent2022上公布了Graviton 4。初步性能测试结果表明，在各种工作负载中，Graviton 4的性能较之Graviton 3驱动的系统提升了30%。Graviton 4还引入了对一致多插槽功能的支持，允许客户配置多达3倍的vCPU（从96到192）和3倍的高内存容量（从192 GB到576 GB）的EC2实例。这使得Graviton 4成为了运行大型数据库、内存缓存和实时大数据分析等内存密集型工作负载的理想处理器。名为R8g的首个Graviton 4 EC2实例类型今日开始公测，有意进行早期测试和验证的客户可在实例产品页面上找到相关信息。 截至目前，亚马逊云科技已生产了四代Graviton处理器中的超过200万个，Stephanie Shyu表示他们的客户现已遍布全球各地、各个行业和各类规模，总数达到了5万多个活跃的Graviton客户。这些客户通过在Graviton上运行各种工作负载（从数据库和数据分析到Web服务器和视频编码）实现了显著的成本节约和性能提升。 Stephanie强调了几位成功使用Graviton处理器的客户的案例，如NextRoll这家营销技术公司，利用Graviton 3将其高流量广告服务工作的实例请求增加了15%，同时延迟降低了40%。 Sprinklr，一个统一的客户体验管理平台，在升级至Graviton 3后，性能提升了27%。这使得他们能够更快速地为其客户提供结果，同时优化成本。 Stripe，一家在线支付处理提供商，将其ETL工作负载迁移到Graviton，实现了50%的查询性能提升以及10-15%的低错误率。此外，Graviton还帮助Snowflake（一个云计算数据平台提供商）降低了57%的工作负载碳密度，提高了10%的性能。同样，Adobe将其高流量广告云转移到Graviton后，拍卖每CPU增加了20%，碳排放减少了41%。ARM甚至表示，在其芯片设计模拟中，运行在Graviton 3实例上的工作负载碳密度降低了67%。 这些令人印象深刻的成本节省和性能提升之外，Stephanie还表示，Graviton还使客户能够通过减少能源消耗来提高其工作负载的可持续性。与其他处理器相比，Graviton对于相同的工作负载使用的能源少60%。这使得客户可以在不牺牲性能或成本效率的情况下实现碳排放减少目标。 Ali Saidi，亚马逊云科技的资深首席工程师和Graviton的主导架构师，深入研究了使得Graviton 4能够比前一代产品提高30%性能的主要架构改进。一些关键的进步包括每个插槽多50%的核心（从64到96），单个核心速度提高30%，以及引入了协调的多插槽支持。这使亚马逊云科技能够提供基于Graviton 4的EC2实例，具有之前的Graviton提供的三倍多的vCPU（从96到192）和三倍高的内存容量（从192GB到576GB）。Ali展示了来自真实世界客户工作负载的实际性能提升的基准测试结果： - HammerDB数据库工作负载的新订单处理每分钟高出40% - Nginx Web服务器的请求每秒增加30% - Grails Web应用程序框架的性能提高45% - Redis内存数据存储的吞吐量更高、延迟更低 Ali还讨论了Graviton 4如何更好地支持多种工作负载类型，如数据分析、[机器学习](https://aws.amazon.com/cn/machine-learning/?trk=cndc-detail)和图形渲染，并强调了亚马逊云科技对持续创新和投资于Graviton的承诺。 自2018年首次推出Graviton芯片以来，其性能在过去的五年里已经实现了令人惊叹的四倍增长。据Ali透露，早期参与预览计划的客户对Graviton 4的评价都非常积极。例如，Datadog迅速感受到了性能的提升，迁移过程非常顺畅；Epic Games认为Graviton 4是他们测试过的最快的Amazon Web Services实例；Honeycomb在迁移到Graviton 4后，性能提升了25%，延迟降低了20%。 最后，Sudhir Raman详细阐述了将工作负载过渡到Graviton的最佳实践以及现有的广泛软件生态系统支持。他强调，所有主要操作系统（如Windows、Linux等）、Amazon Web Services服务、数据库、devops工具、监控软件等等都已经支持ARM64和Graviton。客户可以使用预构建的Amazon Machine Images轻松部署Linux on Graviton。 一些建议的关键点包括：推荐使用Java 11+，并使用[Amazon Corretto](https://aws.amazon.com/cn/corretto/?trk=cndc-detail)以获得最佳性能；遵循Python安装包的最佳实践；使用Amazon Web Services深度学习容器运行[机器学习](https://aws.amazon.com/cn/machine-learning/?trk=cndc-detail)框架；重新编译C/C++时使用最新的编译器，并移植汇编代码；建议使用PHP 7.4+，相较于PHP 7.3，性能可以提高37%；使用Go 1.18+可以使Graviton的性能提高20%。 总的来说，Sudhir Raman总结道，Graviton 4是迄今为止Amazon Web Services最强大、最高效的自定制芯片。它将通过新的R8g EC2实例类型为内存密集型工作负载提供最佳的性价比。全面的软件支持和优化最佳实践将确保客户可以轻松迁移，从而实现Graviton的巨大成本节省、可持续性和性能优势。 **下面是一些演讲现场的精彩瞬间：** 施蒂芬妮·徐（Stephanie Shyu）担任Graviton的全球市场推广和业务发展负责人，她将与其他高管苏迪尔·拉曼（Sudhir Raman）和阿里·赛义迪（Ali Saidi）共同展示全新的Graviton处理器。  这位领导者详细阐述了如何为客户量身定制针对亚马逊云科技（Amazon Web Services）使用场景优化的硅芯片，从而为客户提供独特的性能和成本优势。  施蒂芬妮还探讨了nitro卡如何使服务器能够以不同模式运行，如两个非一致虚拟系统或一个金属实例，强调了亚马逊云科技（Amazon Web Services）的专业化创新。  图表显示，传统基准测试关注优化后台而忽视前台。  Graviton4处理器包含了一系列改进，如更大的缓存、更好的分支预测、用于媒体编码的新指令以及控制流完整性，以便更容易地找到错误。  领导者宣布将继续扩大Grab It Already Partners计划，该计划为Graviton软件生态系统提供了动力。  现在，客户可以预览并注册试用适用于亚马逊云科技（[Amazon SageMaker](https://aws.amazon.com/cn/sagemaker/?trk=cndc-detail)）的新型R实例。  ## 总结 在2022年re:Invent上，亚马逊云科技推出了Graviton 4，这是该公司基于ARM的自定制处理器的新一代产品。作为一家全球领先的云计算服务提供商，亚马逊云科技通过利用Graviton 4对芯片组和系统架构进行优化，为EC2上的各种工作负载提供了卓越的性能价格比。 自2018年首次亮相以来，Graviton处理器不断进行创新，每年都推出新一代产品。每一代处理器都在性能和能效方面取得了显著的进步。相较于前一代产品，Graviton 3将晶体管数量翻倍，性能提高了25%。此外，Graviton 3还引入了一系列结构改进，如更宽向量单元和bfloat16支持，从而提升了[机器学习](https://aws.amazon.com/cn/machine-learning/?trk=cndc-detail)工作负载的性能。 Graviton 4再次实现了重大突破，每个插槽的核心数量增加了50%，核心速度提高了30%。亚马逊云科技还引入了协调的多插槽支持，使得系统可以拥有前三代产品的三倍vCPU和内存。这使得客户能够更轻松地扩展数据库和其他内存密集型应用程序的规模。 早期的基准测试表明，Graviton 4在数据库、Web服务器以及其他实际工作负载方面表现出色。例如，在模拟电子商务工作负载的场景中，HammerDB的性能提高了40%。Datadog和Epic Games等客户在测试Graviton 4期间也报告了性能的显著提升。 目前，R8g已成为首款采用Graviton 4的实例类型，专为内存密集型工作负载设计，如数据库。该实例类型现已进入预览阶段。随着每一代的处理器更新，亚马逊云科技也在不断扩展实例系列，以满足更多应用程序的需求。如今，Graviton已经支持超过150种实例类型，遍布亚马逊云科技在全球的所有区域。 ## 演讲原文 ## 想了解更多精彩完整内容吗？立即访问re:Invent 官网中文网站！ [2023亚马逊云科技re:Invent全球大会 - 官方网站](https://webinar.amazoncloud.cn/reInvent2023/?s=8739&smid=19458 "2023亚马逊云科技re:Invent全球大会 - 官方网站") [点击此处](https://aws.amazon.com/cn/new/?trk=6dd7cc20-6afa-4abf-9359-2d6976ff9600&trk=cndc-detail "点击此处")，一键获取亚马逊云科技全球最新产品/服务资讯！ [点击此处](https://www.amazonaws.cn/new/?trk=2ab098aa-0793-48b1-85e6-a9d261bd8cd4&trk=cndc-detail "点击此处")，一键获取亚马逊云科技中国区最新产品/服务资讯！ ## 即刻注册亚马逊云科技账户，开启云端之旅！ [【免费】亚马逊云科技“100 余种核心云服务产品免费试用”](https://aws.amazon.com/cn/campaigns/freecenter/?trk=f079813d-3a13-4a50-b67b-e31d930f36a4&sc_channel=el&trk=cndc-detail "【免费】亚马逊云科技“100 余种核心云服务产品免费试用“") [【免费】亚马逊云科技中国区“40 余种核心云服务产品免费试用”](https://www.amazonaws.cn/campaign/CloudService/?trk=2cdb6245-f491-42bc-b931-c1693fe92be1&sc_channel=el&trk=cndc-detail "【免费】亚马逊云科技中国区“40 余种核心云服务产品免费试用“")