re:Invent 2023 大会隆重推出自研芯片 Graviton4 和 Trainium2

### 一、前言 北京时间 2023 年 11 月 28 日亚马逊云科技 re:Invent 大会盛大开幕。亚马逊云科技首席执行官 **Adam Selipsky** 在 re:Invent 大会的第二天， **Adam Selipsky** 重分别围绕着云基础架构、计算、存储、生成式 AI 等方向： （1）发布了高性能、低延迟的对象存储服务 —— [Amazon S3](https://aws.amazon.com/cn/s3/?trk=cndc-detail) Express One Zone； （2）发布了全新一代 Graviton 处理器 —— Amazon Graviton4； （3）发布了首个基于 Graviton4 的实例 R8g Instances for [EC2](https://aws.amazon.com/cn/ec2/?trk=cndc-detail)； （4）发布了全新一代 Amazon Trainium2 芯片； （5）发布了 [Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail) 全新功能，包括模型的微调、检索增强生成（RAG）以及基于 Amazon Titan 大模型的预训练； （6）正式推出 Agents for [Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail)；Guardrails for [Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail)； （7）发布了企业生成式 AI 助手 [Amazon Q](https://aws.amazon.com/cn/q/?trk=cndc-detail); （8）宣布了亚马逊云科技与 Anthropic 深化合作关系； （9）宣布了亚马逊云科技成为首家推出 NVIDIA GH200 NVL32 实例的云厂商； 由于总体内容太多，本文重点围绕着亚马逊云科技新发布的全新一代 Graviton 处理器 —— Amazon Graviton4 来揭开它的神秘面纱。 ### 二、体验 Graviton 系列产品 直达链接：[Amazon Graviton 处理器-高性价比的云工作负载-亚马逊云科技云服务](https://aws.amazon.com/cn/ec2/graviton/?trk=cndc-detail) 如果你运气比较好的话，打开该链接，可以免费体验一把：  下图是一个了解亚马逊云科技 Graviton 处理器的好方式：  ### **（一）创建普通的 [EC2](https://aws.amazon.com/cn/ec2/?trk=cndc-detail) 实例** 点击黄色的按钮：开始使用基于 Graviton [EC2](https://aws.amazon.com/cn/ec2/?trk=cndc-detail) 实例 然后会跳转到 [EC2](https://aws.amazon.com/cn/ec2/?trk=cndc-detail) 的控制台：  点击启动实例：  下拉可以查看免费的套餐：  如果没有密钥对的话，可以创建一个：  点击创建新密钥对即可创建：  创建成功后会立马下载：  网络配置：  存储配置：  然后点击右侧的启动实例：  很快就会成功，并且弹出下面的成功界面：  ### **（二）创建 Graviton 处理器的 [EC2](https://aws.amazon.com/cn/ec2/?trk=cndc-detail) 实例**  需要注意的是：在架构中，我们需要选择 64 位 ( ARM ) 架构：  然后才能选择 t4g.small 实例类型：  如果你选择了非 ARM 架构，就会提示如下错误：  密钥对选择刚才创建的就行：  安全组也可以选择上面使用的：  配置随便选一个：  准备就绪后，点击启动实例  很快可以看到成功的提示：   可以看到本次的IP就变化了，因为这是另一台。 #### []()**（三）远程到服务器** ##### []()**方式1：创建成功时连接** 我们可以立马链接到实例：（为了防止当前的界面跳转走，你可以右击在新窗口打开）  打开后，弹出链接提示界面：  然后就可以远程成功了：  ##### **方式2：SSH 客户端** 可以选择 SSH 客户端瞧瞧  如果你是 windows 用户，在你下载的目录地址栏中，可以输入 cmd ，然后回车，即可打开一个命令行  然后把提示的示例的 ssh 远程登录的命令粘贴进来，即可远程：  ##### **方式3：正确的方式** 我相信，每个人都会遇到找不到的时候，亚马逊云科技的这个控制台还是很人性化的： 如下图所示，可以看到里面存在 1 个正在运行的实例，点开：  在打开的控制台，可以看到你拥有的服务器：  可以看到自己的公网 IP ，公网 DNS ，公网 DNS 的存在，让你节省一个域名； 点击实例 ID ：  点击右上角的连接按钮  然后会重新打开：  现在就不怕忘记了。 #### []()**（四）配置安全组（防火墙）** 可以解析看一下，DNS 域名和我的公网 IP 是相互绑定的：  如果你 ping 一下，就会发现： 1、域名 ping 不通  2、甚至 IP 也 ping 不通  原因是因为防火墙，默认创建好服务时并不会打开所有的端口，ping 的数据报被屏蔽了：  点击安全组的名字可以进入编辑安全规则（防火墙规则）：  a.选择要编辑的安全组： b.在此界面可以编辑入站和出站的规则；  添加一条 ICMP 的规则：  保存好，再回到刚才的界面，刷新后，就可以看到 ICMP 的安全组信息：  然后就通了。  #### **（五）安装 Docker** curl -fsSL https\://test.docker.com -o test-docker.shsudo sh test-docker.sh?trk=cndc-detail 从安装上面未看出有什么差别,使用起来也没觉得有什么不同，上手也比较快。  #### 三、Graviton 系列历史 ##### 2018 年：Graviton1 发布 亚马逊云科技首次推出基于 ARM 架构的 Graviton 实例，这些实例使用 Graviton1 处理器，该处理器基于 ARM Cortex-A72 架构。这一举措旨在提供一种更具成本效益的云计算选择，特别是适用于特定工作负载的场景，如 Web 服务器、容器等。 ##### 2019 年：Graviton2 发布 亚马逊云科技发布了 Graviton2 处理器，它是一种自家设计的处理器，基于 ARM Neoverse N1 架构。Graviton2 带来了性能的显著提升和更高的能效比。这一处理器的发布标志着亚马逊云科技对 ARM 架构的投资，以提供更强大、更高性能且更高成本效益的云计算实例。 ##### 2021 年：Graviton3 发布 时隔两年，亚马逊云科技发布了 Graviton3 处理器， Graviton 3 比 Graviton 2 快了 25% ，与科学计算和媒体编码有关的浮点运算性能翻了 1 倍，加密工作负载运算速度提升高达2倍，支持 bfloat16 。 ##### 2023 年：Graviton4 发布  时隔两年，相比 Graviton3 ，它的核心多出50%，内存带宽提升75%，Graviton4 芯片速度较 Graviton3 提升30%，对于数据库和 Java 应用等关键工作负载方面实现了更显著的性能提升，分别提升了 40% 和 45%。  同时发布了**首个基于 Graviton4 的实例 R8g Instances for [EC2](https://aws.amazon.com/cn/ec2/?trk=cndc-detail)**，R8g 是第一个基于 Graviton4 的实例，今天可提供预览。R8g 作为内存优化型实例，能够更好地支持大规模数据库、实时大数据分析等应用，可提供最佳的价格性能，且减少能源消耗。 亚马逊云科技最新的内存优化型 Amazon [EC2](https://aws.amazon.com/cn/ec2/?trk=cndc-detail) R8g 实例将支持 Graviton4 处理器，让客户能够大规模改进高性能数据库、内存缓存和大数据分析工作负载的运行。R8g 实例将提供比当前 R7g 实例多 3 倍的大容量虚拟 CPU 和 3 倍的内存。 亚马逊云科技表示，新的 R8g 实例目前已推出预览版，计划在未来几个月内全面上市。现在为几个月后的实战做好充足的准备。 ### 四、总结 问你个问题：“亚马逊是一家什么公司？”。 关注过亚马逊历史的人可能都知道，二十六年前亚马逊是一家卖书的公司，十六年前亚马逊是一家电商公司。 自 2002 年亚马逊内部开始为其电子商务模块使用内部分布式计算资源。2006 年亚马逊开始考虑云计算战略布局，正式成立亚马逊云科技，开始提供计算、存储、数据库、人工智能、以及[机器学习](https://aws.amazon.com/cn/machine-learning/?trk=cndc-detail)等服务。 通过本届大会可以看出，亚马逊云科技在自研芯片领域的付出。虽然网络上平时对亚马逊云科技的自研芯片爆料比较少，但从 2018 年首次推出 Graviton1 芯片，到如今已经推出了 4 版 Graviton 芯片，每一代芯片都带来了显著的性能提升和能效改进，而每一次的升级迭代都标志着一座新里程碑的出现，展现了亚马逊云科技在硬件领域的雄厚实力。这不仅为用户提供了更多选择，更在一定程度上推动了整个行业的蓬勃发展。 通过在线参与本届大会，我深入了解了 Graviton4 芯片及其在云计算领域的应用。亚马逊云科技对于自研芯片的不懈追求以及 Graviton4 的发布，都展示了公司在技术创新方面的领先地位。我对于 Graviton4 的性能提升以及新推出的 R8g 实例的内存优化表示期待，这将为用户提供更好的云计算体验。 而伴随着云计算技术的不断发展，我期待看到更多创新的硬件和服务涌现。面向未来，亚马逊云科技有望继续引领行业发展，为用户提供更多高性能、低成本的云计算解决方案。作为技术爱好者，我也将继续关注云计算领域的最新动态，不断学习和应用新技术，为个人和团队的项目带来更多可能性。