Amazon Nitro 系统实现计算创新

## 视频 <video src="https://dev-media.amazoncloud.cn/30-LibaiGenerate/31-LiBaiRebrandingVideo/CMP309-Compute_innovations_enabled_by_the_AWS_Nitro_System-LBrebrandingWCaptionCN.mp4" class="bytemdVideo" controls="controls"></video> ## 导读 在本论坛中，了解 Amazon Nitro 系统创新，例如第七代 [Amazon EC2 ](https://aws.amazon.com/cn/ec2/?trk=cndc-detail)计算产品（由 Sapphire Rapids、Genoa 和 Amazon Graviton3 处理器提供技术支持）。这些最新产品极具性价比优势；通过套接字处理器支持的裸机实例减少延迟，并禁用 CPU 之间的互连等操作，提高计算性能。了解有关 Amazon Nitro 系统推进客户案例和提高工作负载性能的更多信息。 ## 演讲精华 <font color = "grey">以下是小编为您整理的本次演讲的精华，共1300字，阅读时间大约是6分钟。如果您想进一步了解演讲内容或者观看演讲全文，请观看演讲完整视频或者下面的演讲原文。</font> 沙马在演讲开始时欢迎所有与会者参加2022年re:Invent，并介绍了一场关于亚马逊云科技Nitro系统的计算创新的会议。他表示，会议的主要目标是阐述Nitro系统的基本概念、其优势以及近年来所取得的创新成果。 他指出，对于希望了解如何使用Nitro推出的新EC2实例（尤其是第7代实例）的人来说，这场会议将极具价值。此外，会议还将探讨Salesforce如何借助亚马逊云科技实例实现性能提升的问题。 尽管沙马强调，Nitro系统自2017年开始引入，但其研究实际上始于将近十年前。他还表示，人们通常将Nitro视为一个整体，但实际上它是由多个协同工作的组件组成的。 他用一个EC2实例堆栈的视觉图说明了这一点。堆栈的顶部三部分分别代表服务器中存在的客户应用程序、操作系统和轻型Nitro虚拟化器。堆栈的底部部分则展示了Nitro系统本身，包括用于安全、存储、网络等功能的专业硬件。 沙马进一步指出，Nitro系统主要由Nitro卡、Nitro安全芯片和Nitro虚拟化器组成。其中，Nitro卡负责网络、EBS存储、本地NVMe存储和Nitro控制器。控制器一方面与亚马逊云科技控制平面接口，另一方面协调与其他卡片和安全芯片的联系。 Nitro安全芯片则集成到主板中，保护和监控硬件资源。沙马还提供了一个固件更新示例来说明芯片的优势。通常，固件刷新需要通过登录主机来完成。而使用Nitro，有一个专用的硬件组件可以安全地处理这些更新。 最后，Nitro虚拟化器被设计得尽可能轻便，以最小化开销。它在硬件上执行虚拟化编程，并仅与控制器通信。目标是通过在实例运行时将虚拟化器排除在外，从而实现裸金属性能。 萨马随后解释了亚马逊云科技开发Nitro系统的初衷。最初，亚马逊云科技采用了类似内部数据中心的技术。然而，随着客户需求的不断增长，系统管理程序消耗了大量资源，导致性能波动。这表明需要采用一种新方法，从而催生了Nitro的诞生。 Nitro的主要目标是降低管理程序的开销、平稳性能波动以及为EC2实例奠定基石。为了实现这一目标，亚马逊云科技必须重新审视适用于云环境的虚拟化方式，而不仅仅是改进现有内部技术的调整。 萨马通过比较传统虚拟化技术与Nitro架构，展示了二者的差异。传统的虚拟化中，网络、存储、管理、安全和监控功能与管理主机和管理程序位于同一位置。而Nitro将这些功能分散到专门的硬件上，简化了管理程序。 接着，他详细介绍了Nitro卡的组成，包括负责网络连接的Nitro卡、提供弹性块存储（EBS）的Nitro卡、本地存储的Nitro卡以及协调所有卡片和安全芯片的Nitro控制器。安全芯片集成在主板中，实现了硬件级别的固件保护。最后，管理程序被设计得非常轻量，只执行虚拟化操作并与管理控制器进行交互。 萨马强调，Nitro的模块化架构如何使亚马逊云科技能够在EC2系列中快速创新。亚马逊云科技可以将合格的CPU与不同的Nitro卡组合在一起，以快速开发新的优化实例。这种灵活性在快速变化的环境中至关重要。 谈到Nitro的好处，他指出性能、安全和创新的提升。将功能分散到硬件上为应用程序提供了更多资源。实际客户性能指标显示，得益于Nitro，EC2通常优于其他云服务。安全芯片提供了固件级别的保护。此外，模块化的架构带来了传统虚拟化无法实现的创新。 在网络性能创新方面，萨马表示，Nitro已将带宽从最初的1Gbps提升至第五代的25Gbps和第六代/七代的50Gbps。针对高要求负载，亚马逊云科技会使用多个Nitro卡，提供高达6.4Tbps的超高带宽，这是即将推出的Trn1实例所具有的带宽。 Similarly, Nitro technology has enabled EBS bandwidth to gradually increase from its initial 2Gbps to approximately 40Gbps in the Gen 6/7 era. For storage-intensive workloads, such as dedicated instances like R5b and C6gn, EBS can be expanded to 100Gbps and 400k IOPS. Without the foundation of the Nitro system, the possibility of this rapid expansion would not exist. In terms of innovation, Sharma compared the era from 2006 to 2017 with the Nitro-driven era since 2017. Before Nitro, Amazon Web Services launched 70 instance types in 11 years. With Nitro's support, they increased to over 750 types in just 6 years. Nitro supports numerous groundbreaking features, such as ARM and Mac instances. It allows optimization of different processor architectures to adapt to various workloads. This flexibility is crucial in the fast-changing backdrop to swiftly and effectively meet customer needs. Sharma summarized the latest seventh-generation Nitro-driven instances. For Graviton3, the new C7g, M7g, and R7g instances offer up to a 25% performance boost and twice the double-precision floating-point performance compared to the previous generation. This can accelerate compute-intensive tasks and machine learning tasks by up to three times. For Intel Sapphire Rapids, the new M7i, C7i, and R7i instances offer up to a 19% better price performance compared to the previous generation. Amazon Web Services collaborated with Intel to custom-design processors specifically for Amazon Web Services. This results in a 15% higher processing capability than other cloud services in the Gen7 era. For AMD Genoa, the new M7a instance offers up to a 50% higher processing capacity by disabling hyperthreading and showcasing full physical cores. The Nitro architecture allows for easy migration between processor families. Sharma shared performance enhancement cases from customers on the seventh-generation instances. Netflix saw a 40% increase in media processing throughput with the M7a instance. Honeycomb used 30% fewer instances in workload consolidation, resulting in a 30% higher computational fluid dynamics performance in the high-performance computing domain. Ferrari achieved a 30% higher computational fluid dynamics performance in the high-performance computing domain. Overall, he emphasized that Nitro is a unique advantage for Amazon Web Services, profoundly changing the performance, security, and innovation of EC2. It makes continuous performance, security, and innovation improvements possible to cater to diverse customer needs. Next, Sharma invited Salesforce's Vijay Pula to share the customer's perspective on utilizing Amazon Web Services Nitro instances. Vijay first introduced Salesforce, a software-as-a-service pioneer since 1999. Amazon Web Services is their primary cloud service provider. He outlined Salesforce Einstein, an AI-driven CRM platform for sales, service, marketing, and business domains. It processes over 30 billion transactions per day, with a response time under 300ms, thanks to Amazon Web Services' support globally. 维贾伊随后解释了一种名为Salesforce Hyperforce的产品，这是一款专为公共云设计的下一代基础设施架构。它与亚马逊云科技（Amazon Web Services）的Well-Architected Framework原则相一致，旨在提供更高的安全性、可靠性和功能性。目前，亚马逊云科技已成为Hyperforce在18个地区的首选供应商。 在选择Hyperforce实例时，维贾伊指出Salesforce可以运行各种满足不同需求的工作负载。因此，他们利用亚马逊云科技的实例推荐、行业基准、性能价格比以及内部测试来确定最佳类型。 在进行内部测试时，Salesforce会创建模拟生产环境的关键、常见和压力情景混合的工作负载。测试过程中，他们会保持资源分配、负载水平和数据复杂性不变，只改变EC2实例的类型。 维贾伊分享了一些测试结果，展示了Salesforce从M5迁移到M6i再到M7i实例时的性能提升。与M6i相比，M7i的吞吐量提高了25%，响应时间降低了11%。类似地，M7a在吞吐量上超过了M6a 40%，延迟降低了19%。 此外，他还引用了裸金属测试的结果，显示M5/M5n金属和它们的虚拟化对应者在性能上相当。这证实了亚马逊云科技所称的Nitro虚拟机管理器非常轻量化的说法。 总之，维贾伊强调独特的Nitro系统使亚马逊云科技能够实现持续的基础设施改进循环。Salesforce已经利用这一点来提高Hyperforce在各个EC2世代的性能。 沙玛总结时表示，Nitro的优势在于性能、安全性和创新速度。它已经改变了EC2，并支持在所有处理器家族上优化第7代实例。总的来说，Nitro的基础使得亚马逊云科技能够快速增强基础设施，为其合作伙伴如Salesforce提供服务。 **下面是一些演讲现场的精彩瞬间：** 亚马逊云科技的Nitro系统为客户提供诸如Salesforce这样的企业带来了显著的性能优势。  在演讲中，主讲人详细探讨了适用于各种功能的Nitro卡，包括网络、存储和本地即时存储，这些卡片可以与亚马逊云科技的实例特性相互映射。  此外，我们还深入了解了驱动现代EC2实例的Nitro系统的硬件原理。  得益于Nitro的专用卡所提供的更多vCPU、内存和计算资源，运行实际工作负载的EC2实例在与其他云服务提供商相比时表现更为出色。  为了进一步满足客户需求，亚马逊云科技还推出了更小巧的Bare Metal实例尺寸，以便客户能够顺利过渡到新一代的产品。  在实验室环境中，主讲人还通过运行针对Salesforce特定的工作负载来测试不同亚马逊云科技实例类型的性能，并依据各地的供应链物流和可用性状况来确定最佳的实例类型。  正是亚马逊云科技的Nitro系统使得像Salesforce这样的合作伙伴得以充分利用亚马逊云科技的基础设施创新。  ## 总结 亚马逊云科技的Nitro系统作为现代EC2实例的核心技术，包含了专用硬件用于安全和存储的网络，以及轻量级的虚拟化管理程序。该系统的目标在于减少虚拟化管理程序的开销，提高性能的一致性，并加速创新步伐。 关键特点一：Nitro系统由具有网络、存储以及其他功能的Nitro卡组成，并在主板上集成了Nitro安全芯片，从而实现了硬件级别的保护。轻量级的Nitro虚拟化管理程序仅负责CPU/内存的虚拟化，使得性能接近于裸金属级别。 关键特点二：Nitro系统支持快速的创新发展，使得亚马逊云科技自2017年以来已推出了超过750种实例类型。此外，它还提高了性能，例如在网络和EBS带宽方面随时间推移而增加。同时，它还为用户提供了增强的安全监控以及对硬件资源的保护。 关键特点三：新一代的Gen 7 EC2实例利用Nitro系统在Graviton、Intel和AMD处理器上实现了性能的提升。例如，Salesforce等客户已经看到了显著的好处——M7i的吞吐量相较于M6i提高了25%。由于Nitro虚拟化管理程序的轻型设计，确保了裸金属和虚拟机之间的性能相似。 总结：亚马逊云科技Nitro系统的独特架构已被证明具有革命性意义。它不仅推动了亚马逊云科技丰富的实例产品组合和创新速度，还为客户提供了突破性性能和安全性。Nitro系统正是亚马逊云科技EC2实例相对于其他云服务提供商所具备的关键优势。 ## 演讲原文 ## 想了解更多精彩完整内容吗？立即访问re:Invent 官网中文网站！ [2023亚马逊云科技re:Invent全球大会 - 官方网站](https://webinar.amazoncloud.cn/reInvent2023/?s=8739&smid=19458 "2023亚马逊云科技re:Invent全球大会 - 官方网站") [点击此处](https://aws.amazon.com/cn/new/?trk=6dd7cc20-6afa-4abf-9359-2d6976ff9600&trk=cndc-detail "点击此处")，一键获取亚马逊云科技全球最新产品/服务资讯！ [点击此处](https://www.amazonaws.cn/new/?trk=2ab098aa-0793-48b1-85e6-a9d261bd8cd4&trk=cndc-detail "点击此处")，一键获取亚马逊云科技中国区最新产品/服务资讯！ ## 即刻注册亚马逊云科技账户，开启云端之旅！ [【免费】亚马逊云科技“100 余种核心云服务产品免费试用”](https://aws.amazon.com/cn/campaigns/freecenter/?trk=f079813d-3a13-4a50-b67b-e31d930f36a4&sc_channel=el&trk=cndc-detail "【免费】亚马逊云科技“100 余种核心云服务产品免费试用“") [【免费】亚马逊云科技中国区“40 余种核心云服务产品免费试用”](https://www.amazonaws.cn/campaign/CloudService/?trk=2cdb6245-f491-42bc-b931-c1693fe92be1&sc_channel=el&trk=cndc-detail "【免费】亚马逊云科技中国区“40 余种核心云服务产品免费试用“")