深入了解 Amazon Nitro 系统

## 视频 <video src="https://dev-media.amazoncloud.cn/30-LibaiGenerate/31-LiBaiRebrandingVideo/CMP306-Deep_dive_into_the_AWS_Nitro_System-LBrebrandingWCaptionCN.mp4" class="bytemdVideo" controls="controls"></video> ## 导读 Amazon Nitro 系统是一个内容丰富的构建块技术集，其中包含由亚马逊云科技构建的硬件卸载和安全组件。通过不断扩展的计算、存储、内存和网络选项，为最近和未来几代 [Amazon EC2 ](https://aws.amazon.com/cn/ec2/?trk=cndc-detail)实例提供支持。在本论坛中，深入了解 Nitro 系统，审阅设计和架构，探索 Nitro 平台的最新创新，并了解如何创造奇迹。 ## 演讲精华 <font color = "grey">以下是小编为您整理的本次演讲的精华，共900字，阅读时间大约是4分钟。如果您想进一步了解演讲内容或者观看演讲全文，请观看演讲完整视频或者下面的演讲原文。</font> 亚马逊云科技的高级首席工程师Ali Si深入研究了亚马逊云科技Nitro系统，并提供了一系列背景信息。自2013年以来，亚马逊云科技一直在多个领域进行创新，包括I/O、数据中心基础设施、计算和[机器学习](https://aws.amazon.com/cn/machine-learning/?trk=cndc-detail)等。这些创新技术包括Nitro系统、基于ARM的Graviton处理器、用于成本效益[机器学习](https://aws.amazon.com/cn/machine-learning/?trk=cndc-detail)的Inferentia以及用于高效训练的Trainium等。亚马逊云科技之所以开发这些定制芯片，原因在于其始终寻求为客户提供更好的价值。 设计自己的硬件有几个明显的优势。首先，可以将硬件定制为其特定需求，而非构建通用芯片以满足众多客户的需求。其次，专注于亚马逊云科技所需特性的激光聚焦带来了更好的性能。此外，拥有从概念到在亚马逊云科技数据中心部署的完整开发周期加速了执行速度。设计将运行在硬件上的软件的团队与硬件工程师并肩工作，从而实现了更快的创新。例如，亚马逊云科技能够将新实例类型的速度从Nitro推出前的11年内的70多种增加到Nitro推出后的6年内的600多种。 最后，消除芯片、服务器和软件团队之间的组织孤岛可以在传统边界之外实现突破。像Nitro系统这样的定制硬件还使亚马逊云科技能够大大提高安全性，这是其最关注的优先事项。深入了解Nitro系统后，Ali解释道，这是从根本上重新思考虚拟化的基础。Nitro系统由将关键网络、存储和安全功能从传统的虚拟机监控程序转移到专用硬件的Nitro卡组成。这使得虚拟机监控程序仅负责为客户VM处理CPU和内存分配，从而提高了性能、安全性和创新能力。 为了展示Nitro系统的硬件组成部分，阿里展示了一张安装在亚马逊云科技服务器上的基于PCIe的Nitro卡。这些卡片直接将ENI网络接口、EBS NVMe存储设备等提供给客户实例。通过将大量功能从虚拟机上移至Nitro卡，极大地缩小了虚拟机的规模。 阿里详细介绍了Nitro卡如何支持各种创新，例如VPC加密，在流量通过硬件进行加密/解密的过程中不会导致性能下降。这使得像金融服务机构和医疗保健公司这样的客户能够在不产生额外开销的情况下对VPC流量进行加密。 在网络方面，亚马逊云科技的ENI带宽已经从早期EC2实例的1Gbps大幅增加至目前的200Gbps，增加了200倍。这对运行高吞吐量工作负载（如HPC、分析和[机器学习](https://aws.amazon.com/cn/machine-learning/?trk=cndc-detail)）的客户非常有益。Nitro网络驱动程序接口的一致性允许在不同实例类型和世代之间轻松迁移。 此外，阿里还解释了Nitro卡如何提高EBS存储性能。这些卡将NVMe命令转换为EBS交易，并根据需要进行卷加密。这样，延迟降低了60%，而从2GBps增加到100GBps，增加了50倍。这对于需要低延迟存储的数据库工作负载非常有帮助。 通过将闪存转换层集成到Nitro硬件中，与传统具有自己FTL实现的固态硬盘相比，性能和可靠性得到了提高。这有助于运行大型内存数据库或其他敏感应用程序的客户。 由于将这么多功能从虚拟机中卸载，亚马逊云科技能够开发专注于仅CPU/内存分配的轻量级Nitro虚拟机。这种类似于裸机的性能受到了运行实时应用程序（如游戏服务器或金融交易系统）的客户的欢迎。有些客户在虚拟化和裸金属实例上运行基准测试时，测量到了可忽略的差异。 Nitro安全芯片测量并验证风扇和传感器等组件的固件，从而实现安全启动和实时远程更新。服务器访问被完全锁定——没有SSH或任何远程连接虚拟机的方式。管理通信的API是加密的、经过验证的并被授权。 阿里对其Nitro系统在多个方面提供的深入防护以保护安全性进行了总结。通过将Nitro卡与主机基础设施进行物理隔离，有效防止客户数据的访问。通过对固件进行加密签名以及限制最少的远程访问，确保了系统的安全性。利用诸如Enclaves和TPM等新型保密计算技术，这些技术基于上述基础用于如证书管理之类的应用场景。 最后，阿里回顾了Nitro系统如何通过重新审视虚拟化来支持亚马逊云科技Amazon Web Services的创新。自推出以来的短短六年里，已经推出了超过600种新的实例类型，为客户提供了丰富的选择，而在之前的大约十一年中，仅有70种。得益于Nitro系统中的创新性硬件和软件相结合，才能提供卓越的性能、安全性和创新能力。 **下面是一些演讲现场的精彩瞬间：** 领导者们讨论了亚马逊云科技在基础设施、计算和[机器学习](https://aws.amazon.com/cn/machine-learning/?trk=cndc-detail)领域的定制硅芯片计划。  作为全球领先的云计算服务提供商，亚马逊云科技为其云服务量身定制专用的硅芯片，而非通用的芯片。  为了优化云服务的性能，亚马逊云科技设计和构建了自家的服务器芯片。  在安全方面，亚马逊云科技给予了高度重视，通过保护基础设施并允许客户掌控自己在云端的安全性，从而确保数据安全。  此外，亚马逊云科技的EC2控制面板负责确认请求、识别容量以及选择运行客户虚拟机的主机。  Nitro控制器则负责分配资源，并在无虚拟机参与的情况下进行PCIe附接设备的操作。  为了满足对计算技能和知识的不断增长的需求，亚马逊云科技还推出了一系列全新的计算知识数字徽章和学习路径，以便人们能够获取和展示他们的计算技能和知识。  ## 总结 首先，Nitro系统将网络、存储、安全和管理功能从虚拟化系统卸载至专用的Nitro卡上，从而提升了性能，减少了抖动，并使超线程器能够专注于纯粹的CPU和内存分配。 其次，基于硬件的网络技术（如弹性网络适配器（ENA）和弹性织物适配器（EFA））提供了更高的带宽、更低的延迟和更一致的性能。ENA可支持从10Gbps扩展至200Gbps的单驱动程序。 最后，Nitro卡负责管理闪存存储，提供加密并将请求转换为提高可靠性和减少延迟。Nitro安全芯片通过测量和验证固件来增强安全性，同时防止远程访问。自2017年以来，Nitro系统的模块化架构已支持开发了超过600种新的实例类型。 ## 演讲原文 ## 想了解更多精彩完整内容吗？立即访问re:Invent 官网中文网站！ [2023亚马逊云科技re:Invent全球大会 - 官方网站](https://webinar.amazoncloud.cn/reInvent2023/?s=8739&smid=19458 "2023亚马逊云科技re:Invent全球大会 - 官方网站") [点击此处](https://aws.amazon.com/cn/new/?trk=6dd7cc20-6afa-4abf-9359-2d6976ff9600&trk=cndc-detail "点击此处")，一键获取亚马逊云科技全球最新产品/服务资讯！ [点击此处](https://www.amazonaws.cn/new/?trk=2ab098aa-0793-48b1-85e6-a9d261bd8cd4&trk=cndc-detail "点击此处")，一键获取亚马逊云科技中国区最新产品/服务资讯！ ## 即刻注册亚马逊云科技账户，开启云端之旅！ [【免费】亚马逊云科技“100 余种核心云服务产品免费试用”](https://aws.amazon.com/cn/campaigns/freecenter/?trk=f079813d-3a13-4a50-b67b-e31d930f36a4&sc_channel=el&trk=cndc-detail "【免费】亚马逊云科技“100 余种核心云服务产品免费试用“") [【免费】亚马逊云科技中国区“40 余种核心云服务产品免费试用”](https://www.amazonaws.cn/campaign/CloudService/?trk=2cdb6245-f491-42bc-b931-c1693fe92be1&sc_channel=el&trk=cndc-detail "【免费】亚马逊云科技中国区“40 余种核心云服务产品免费试用“")