Amazon Graviton：亚马逊云科技工作负载的最佳性价比

## 视频 <video src="https://dev-media.amazoncloud.cn/30-LibaiGenerate/31-LiBaiRebrandingVideo/CMP313-AWS_Graviton__The_best_price_performance_for_your_AWS_workloads-LBrebrandingWCaptionCN.mp4" class="bytemdVideo" controls="controls"></video> ## 导读 对于 [Amazon EC2 ](https://aws.amazon.com/cn/ec2/?trk=cndc-detail)中的工作负载，基于 Amazon Graviton 的 [Amazon EC2 ](https://aws.amazon.com/cn/ec2/?trk=cndc-detail)实例具有最佳性价比。在本论坛中，了解 Amazon Graviton 处理器，并回顾工作负载性能、亚马逊云科技客户成功案例、能效和软件产品。了解跨各种应用程序优化 Amazon Graviton 工作负载的最佳实践，以及如何开始 Amazon Graviton。 ## 演讲精华 <font color = "grey">以下是小编为您整理的本次演讲的精华，共1600字，阅读时间大约是8分钟。如果您想进一步了解演讲内容或者观看演讲全文，请观看演讲完整视频或者下面的演讲原文。</font> 在过去的几年里，亚马逊云科技一直致力于优化性能、降低成本、提高创新速度以及增强数据中心中云工作负载的安全性。为了实现这些目标，他们研发了名为Graviton的定制芯片。这个旅程始于2018年，当时亚马逊云科技发布了第一代Graviton处理器，用于驱动EC2上的新A1实例。Graviton的目标是证明云计算工作负载可以在基于Arm的服务器上高效运行。 Graviton 1芯片为诸如Web服务器和视频流等扩展工作负载提供了坚实的性能基础。然而，亚马逊云科技意识到仍有很大的改进空间。因此，在2019年，他们迅速推出了第二代Graviton 2处理器，相比前一代实现了巨大的提升。Graviton 2将核心数量翻了两倍，同时每核心的性能提高了三倍。这使得Graviton的功能得到了极大的扩充，使得各种工作负载（包括数据库、分析、游戏等）的价格性能提升了40%。如今，亚马逊云科技提供13种不同类型的EC2实例，由Graviton 2驱动，以支持几乎每种类型的云工作负载。 然而，亚马逊云科技并未止步于此，他们在2021年展示了Graviton 3，相比Graviton 2再次增加了25%的计算性能。Graviton 3还首次在亚马逊云科技的数据中心引入了DDR5内存，相较于基于DDR4的系统，它提供了高达50%的更高内存带宽，这对于内存密集型工作负载非常有利。此外，Graviton 3还包括针对新兴工作负载（如[机器学习](https://aws.amazon.com/cn/machine-learning/?trk=cndc-detail)）的架构改进，具有更宽的向量单元并支持新的AI专用指令。客户报告称，与基于x86的实例相比，Graviton 3上运行的基于CPU的[机器学习](https://aws.amazon.com/cn/machine-learning/?trk=cndc-detail)工作负载性能最高提高了3倍。目前，亚马逊云科技提供8种由Graviton 3驱动的实例类型，涵盖核心计算、内存优化以及专门的HPC等工作负载。 在2022年，亚马逊云科技推出了第四代Graviton处理器，进一步提升了其性能表现。在最近举行的re:Invent上，基于Graviton 4的EC2新实例类型R8g正式亮相。相较于Graviton 3，R8g实例的平均计算性能提高了30%，并且支持的最大虚拟处理器（vCPU）和内存尺寸分别扩大了3倍。这使得Graviton 4非常适合应对大型数据库、大数据分析和内存缓存等内存密集型工作负载。 为了理解Graviton 4为何如此强大，我们需要深入探讨其架构方面的改进。每个Graviton 4处理器的核心数量都比前一代增加了50%，最高可达96个Neoverse V2核心，而Graviton 3仅有64个核心。亚马逊云科技发现许多实际工作负载无法有效利用缓存，因此Graviton 4为每个核心添加了2MB的二级缓存。这样一来，更多数据和指令能够更接近执行核心，从而提高性能。此外，Graviton 4还升级到了更快的DDR5-5600内存。通过12通道提供超过500 GB/秒的内存带宽，Graviton 4可以以数据供96个高性能核心处理。 亚马逊云科技在设计Graviton 4时精心分析了真实客户的工作负载。他们绘制了大量的性能敏感性图表，以可视化对架构每个方面的改进如何影响实际应用程序。这导致了全面的改进，包括更聪明的分支预测器、更大的指令缓存和增加的分派带宽。当与Arm的Neoverse N2核心和编译器优化等软件生态系统进步相结合时，Graviton 4在各种工作负载中表现出色。 亚马逊云科技内部测试显示，Graviton 4在许多实际场景中比Graviton 3的性能提升更为显著。例如，使用HammerDB的MySQL数据库的订单每分钟处理量提高了40%，Nginx负载均衡器的每秒请求数提高了30%，Gravels Web应用程序基准测试的性能提高了45%，而在高负载下的Redis延迟降低了25%。这些令人印象深刻的性能飞跃反映了亚马逊云科技迅速发展的创新速度。自第一代Graviton问世以来的短短5年里，他们在关键工作负载上的性能提高了4倍——真正推动了数据中心规模云计算基础设施的极限。 除内部测试外，亚马逊云科技的客户已开始评估Graviton 4，并获得了积极的初步反馈。Datadog公司已在现有Graviton实例上运行其一半的基础设施，并表示Graviton 4带来了无缝的性能提升。Epic Games也发现，由Graviton 4驱动的系统是他们有史以来测试过的最快系统。Honeycomb公司的开放式远程测量工作负载性能提高了25%，中位延迟降低了10%，P99延迟提高了10%。这些早期客户体验展示了Graviton 4所能带来的实际影响。 Graviton处理器的创新为客户带来了实际的性能、价格性能和能效优势。目前已有超过50,000名客户在运行基于Graviton的实例，包括所有排名前102的亚马逊云科技客户。亚马逊云科技的云灵活性使客户能够选择最适合其工作负载的实例类型。对于各种应用程序，Graviton在EC2中提供了最佳的价格性能，同时能耗降低60%。这使得Graviton对于寻求减少碳足迹的组织非常有吸引力。 一个生动的例子是Snowflake公司，他们在迁移到Graviton后，报告称客户的计算性能提高了10%，而每使用一个雪片虚拟仓库信用，碳排放量降低了57%。在内部分析中，亚马逊云科技大量利用Graviton来应对其基础设施的需求。在2022年亚马逊会员日（Prime Day）期间，亚马逊云科技运行了超过50,000个Graviton实例，支持2600多个零售服务，以吸收巨大的流量激增。今年亚马逊会员日活动期间，亚马逊云科技预计将进一步扩大Graviton的使用，预测将有超过1000万标准的Graviton实例小时用于支持幕后基础设施。 尽管亚马逊云科技推出的Graviton处理器创新令人印象深刻，但客户需要丰富的软件和工具生态系统才能受益。幸运的是，随着过去几年Graviton的快速采用，生态系统已经得到了极大的成熟。现在，生态系统支持涵盖了操作系统、亚马逊云科技服务、数据库、DevOps工具等各个方面。 在操作系统领域，所有的主要Linux发行版本都已支持Graviton，包括亚马逊自家的Linux 2版本。这意味著客户可以方便地使用亚马逊提供的基于Graviton的机器镜像（AMI）来部署工作负载，就如同他们在x86架构上的操作一样。在亚马逊云科技的服务中，诸如亚马逊云科技CodeSuite、亚马逊云科技Corretto（免费的OpenJDK）、Auto Scaling groups和亚马逊云科技Batch等核心工具，都能在不失流畅的情况下在x86和Graviton实例间运作。亚马逊云科技Marketplace包含了数千款经过验证的适用于Graviton的软件产品。 对于刚开始使用Graviton的顾客，亚马逊云科技凭借帮助众多企业迁移工作负载的经验，提供了一些建议。通常来说，保持软件更新将使得Graviton具有最佳的兼容性。像Java、Python、PHP和JavaScript这样的主流语言可以直接在无代码更改的情况下在Graviton上流畅运行。然而，对于C++、Go和Rust等编译语言，应用程序需要使用GCC、Clang和Visual Studio等标准编译器重新编译为Arm 64位架构。 容器化的工作负载也非常普遍。尽管容器镜像需要使用Arm64变种，但Docker和亚马逊云科技的[Amazon ECS](https://aws.amazon.com/cn/ecs/?trk=cndc-detail)已经很好地支持Graviton。所有主要的容器注册表都提供多架构镜像，从而支持跨平台的容器运行。对于Java工作负载，亚马逊云科技建议使用他们的[Amazon Corretto](https://aws.amazon.com/cn/corretto/?trk=cndc-detail)分发以在Graviton上实现最佳性能。支持的良好的Java版本包括8及更高版本，但更理想的是使用Java 11或更高版本。 为了顺利过渡到Graviton，亚马逊云科技在GitHub上提供了大量的技术文档，提供一个Graviton快速启动计划，以及一个用于扫描依赖项的Porting Advisor工具。通过适当的准备和迁移最佳实践，客户可以充分利用Graviton带来的成本节省、可持续性好处和性能改进。 随着亚马逊云科技继续推动Graviton性能的极限，以支持各种类型的云工作负载，创新之旅仍在继续。在短短5年内，亚马逊云科技实现了令人惊叹的4倍世代性能提升。Graviton已经在数万名客户中加速采用，包括最大的企业。随着亚马逊云科技继续在Graviton上进行快速创新，未来看起来非常光明，将为云计算的未来时代塑造形态。 **下面是一些演讲现场的精彩瞬间：** 在2022年re:Invent上，亚马逊云科技发布了其最新的Graviton 4处理器。  这款处理器旨在通过优化成本、功率、速度、创新和安全为客户量身定制。  Graviton 4的核心数量增加了50%，每个核心均配备有2MB的L2缓存，并且具有最快的EC2内存，从而实现了显著的性能提升。  这些改进使得Graviton 4能够支持更大规模的工作负载，提供更多的核心和内存带宽。  此外，亚马逊云科技还在扩大Graviton处理器的加密范围，包括在新款Graviton 4处理器中实现Nitro卡和相干链路之间的接口。  为了展示Graviton在实际工作负载中的表现，亚马逊云科技还制作了一张雷达图来指导芯片设计。  目前，基于最新Graviton 4处理器的实例正接受预览，感兴趣的用户可通过访问Graviton官方网站进行注册。  ## 总结 这段视频探讨了亚马逊云计算公司最新推出的处理器Graviton 4及其在工作负载中展现出的性能优势。作为全球领先的云计算服务提供商，亚马逊一直致力于开发定制化芯片，以优化云端性能、降低成本并提高效率。相较于前一代产品，Graviton 4的核心数量增加了50%，每个核心均配备2MB的二级缓存，从而提升了整体性能。这一进步为全新的R8g实例提供了支持，相较于基于Graviton 3的实例，R8g实例提供的vCPU、内存和存储容量提高了3倍。 通过在实际工作负载中对Graviton 4进行测试并与Graviton 3进行对比，结果显示出显著的性能提升。例如，在HammerDB测试中，MySQL的性能提高了40%；Nginx负载均衡的性能提高了30%；而Gravels应用程序测试则显示性能提升了45%。此外，Redis延迟减少了25%，自Graviton问世以来，其性能提高了近4倍。 Pinterest分享了他们迁移至Graviton 4的过程和经验。他们采用了投资回报率（ROI）驱动的方法，评估兼容性问题并制定相应的决策标准。测试结果表明，对于内存和CPU密集型服务（如Memcached、TimescaleDB和Java/Python微服务）具有巨大的优势，同时也发现了调整资源分配的机会。总体来看，他们发现各种工作负载的成本降低了15-40%。早期对Graviton 4的测试还显示，与Graviton 3相比，CPU使用率降低了30%。 综上所述，Graviton 4实例为各类亚马逊云计算工作负载提供了卓越的价格性能比。全新的R8g实例现已开始预览，展现出显著的优势。 ## 演讲原文 ## 想了解更多精彩完整内容吗？立即访问re:Invent 官网中文网站！ [2023亚马逊云科技re:Invent全球大会 - 官方网站](https://webinar.amazoncloud.cn/reInvent2023/?s=8739&smid=19458 "2023亚马逊云科技re:Invent全球大会 - 官方网站") [点击此处](https://aws.amazon.com/cn/new/?trk=6dd7cc20-6afa-4abf-9359-2d6976ff9600&trk=cndc-detail "点击此处")，一键获取亚马逊云科技全球最新产品/服务资讯！ [点击此处](https://www.amazonaws.cn/new/?trk=2ab098aa-0793-48b1-85e6-a9d261bd8cd4&trk=cndc-detail "点击此处")，一键获取亚马逊云科技中国区最新产品/服务资讯！ ## 即刻注册亚马逊云科技账户，开启云端之旅！ [【免费】亚马逊云科技“100 余种核心云服务产品免费试用”](https://aws.amazon.com/cn/campaigns/freecenter/?trk=f079813d-3a13-4a50-b67b-e31d930f36a4&sc_channel=el&trk=cndc-detail "【免费】亚马逊云科技“100 余种核心云服务产品免费试用“") [【免费】亚马逊云科技中国区“40 余种核心云服务产品免费试用”](https://www.amazonaws.cn/campaign/CloudService/?trk=2cdb6245-f491-42bc-b931-c1693fe92be1&sc_channel=el&trk=cndc-detail "【免费】亚马逊云科技中国区“40 余种核心云服务产品免费试用“")