Alluxio on Amazon EMR 集成实践

{"value":"### 背景\nAlluxio 是大数据技术堆栈的分布式缓存，对于 S3, hdfs 等数据的 warm up 有显著的性能提升，且与上层计算引擎如 Hive, spark, Trino 都有深度的集成，做为大数据领域的查询加速是一个不可多得的功能组件。\n\nAlluxio 社区与 Amazon EMR 服务有深入的交互和集成，官方提供了 on Amazon EMR 的集成方案，详见 **Alluxio 社区文档**，亚马逊云科技也提供了快速安装部署的 bootstrap 脚本及配置，详见**亚马逊云科技官方 blog**。\n\n以上文档基于 emr 5.2x 版本，其 hive，Spark 等组件版本较老，且没有考虑 EMR 的多主，Task 计算实例组的集成场景，在客户使用高版本 Amazon EMR，启用 HA 及 Task 计算实例的时候，其安装部署存在缺陷导致部署失败。\n\n本文档从 Alluxio 整体架构作为切入点，详细介绍了 Alluxio 的设计思路，使得读者能更深入的理解在 Amazon EMR 上的集成方法，同时重新梳理并修正了 Alluxio 社区 on Amazon EMR 集成的方案的缺陷，新增加了对 EMR task 实例组及多主高可用集群的支持，使得 Alluxio 在 Amazon EMR 上更能适应客户的生产环境。\n\nAlluxio 社区文档：\n[https://docs.alluxio.io/os/user/stable/en/cloud/AWS-EMR.html](https://docs.alluxio.io/os/user/stable/en/cloud/AWS-EMR.html)\n亚马逊云科技官方博客：\n[https://aws.amazon.com/cn/blogs/china/five-minitues-to-use-alluxio-guide-emr-spark/](https://aws.amazon.com/cn/blogs/china/five-minitues-to-use-alluxio-guide-emr-spark/)\n\n### Alluxio architecture overview\n\n\n\n主要功能组件有：\n\n**Master节点**：类似 NN 的设计，同样有 standby Master（HA）和 secondary Master（元数据镜像合并）概念， Jounary 日志节点随 master 启动，做为快速 recovery\n\n\n\n**Worker节点**：与 DataNode 类似，缓存层提供 Tier Storage（MEM, SSD, HDD 三层），短路读和常规缓存穿透，3 种写缓存模式（内存 only, cache_through 可以同步和异步，throught 不写缓存）\n\n\n\nJob master & Job worker：缓存数据的读写，alluxio 提供了类似 hadoop MR 的框架，由 job master 负责资源分配， job worker 执行数据的 pipeline 管道，缓存副本默认为1\n\nAlluxio 的主要业务场景有：\n\n- hdfs/S3 缓存，查询加速\n- 多对象存储统一 UFS 路径\n- 跨 bucket, hdfs 集群数据缓存\n\n主要功能 feature：\n\n- 针对 hdfs, s3 多 layer 的 backend 存储\n- 缓存读写，写支持 cache through 模式，异步更新 backend storage；读支持 push 下压，缓存击穿后直接读 backend storage\n- ttl 缓存过期时间配置\n\n```\ne.g:\nalluxio.user.file.create.ttl = -1\nalluxio.user.file.create.ttl.action = DELETE\nalluxio.master.ttl.checker.interval = 1hour\n```\n\n- Impersonal/Acl/SASL HDFS 类似的权限管控功能同样适用于 Alluxio\n- 缓存同步与清理\n\n```\ne.g: \n缓存清理：Alluxio rm -r -U alluxio:///<path>\n缓存同步：alluxio load alluxio:///<path>\n```\n\n### Alluxio on Amazon EMR 集成\n#### 集成架构\nAlluxio 在 Amazon EMR 上的架构如下所示：\n\n\n\n\n如上图所示，Alluxio Master 组件作为管理模块，安装部署在 Amazon EMR 主实例组，如果需要 Alluxio HA 高可用，可以通过将 EMR 部署为多主，在 bootstrap 中打开 alluxio HA(-h) 的 switch 开关，部署脚本会将 Alluxio Master 部署到每个 EMR 主节点实例，并在 S3 注册目录以供 Alluxio 主节点 fail over 时做 Raft 选举。\n\nAlluxio Worker 组件安装部署在 Amazon EMR 的核心及任务实例组，由于 task 实例组客户可能配置扩缩，扩缩 task 计算节点时 Alluxio work 也会相应扩缩，其上面的缓存节点会做 rebalance，造成缓存层性能抖动，因此对于 Task 任务实例组是否安装部署 Alluxio，在 bootstrap 脚本中同样提供了 switch 开关 (-g)。\n\nAlluxio tier storage 配置为 mem layer，UFS backend 配置为 S3 数据湖存储。\n\n相应的 Alluxio job master, job worker 组件，和 master, worker 节点同样的部署方式，分布安装在 EMR 主节点实例组和核心、任务实例组。\n\n#### 集成步骤\n以下章节详细介绍 Alluxio 在 Amazon EMR 上集成的实施步骤\n\n- alluxio 官网下载社区版tar安装包（本文采用 7.3 ）\n- 可以通过 Amazon cli 或者 emr console，指定初始化配置 json 和 bootstrap 方式进行 EMR 上 alluxio 的集成安装和部署\n- Amazon emr cli 方式：\n\n```\naws emr create-cluster \\\n--release-label emr-6.5.0 \\\n–instance-groups '[{\"InstanceCount\":2,\"EbsConfiguration\":{\"EbsBlockDeviceConfigs\":[{\"VolumeSpecification\":{\"SizeInGB\":64,\"VolumeType\":\"gp2″},\"InstanceGroupType\":\"CORE\",\"InstanceType\":\"m5.xlarge\",\"Name\":\"Core-2″}, \\\n{\"InstanceCount\":1,\"EbsConfiguration\":{\"EbsBlockDeviceConfigs\":[{\"VolumeSpecification\":{\"SizeInGB\":64,\"VolumeType\":\"gp2″},\"VolumesPerInstance\":2}]},\"InstanceGroupType\":\"MASTER\",\"InstanceType\":\"m5.xlarge\",\"Name\":\"Master-1″}]' \\\n--applications Name=Spark Name=Presto Name=Hive \\\n--name try-alluxio \\\n--bootstrap-actions \\\nPath=s3://xxxxxx.serverless-analytics/alluxiodemobucket/alluxio-emr.sh,\\\nArgs=[s3://xxxxxx.serverless-analytics/alluxiodemobucket/data/,-d,\"s3://xxxxxx.serverless-analytics/alluxiodemobucket/install/alluxio-2.7.3-bin.tar.gz\",-p,\"alluxio.user.block.size.bytes.default=122M|alluxio.user.file.writetype.default=CACHE_THROUGH\",-s,\"|\"] \\\n--configurations s3://xxxxxx.serverless-analytics/alluxiodemobucket/ \\\n--ec2-attributes KeyName=ec203.pem\n```\n\n- emr 控制台上方式：\n\n```\nboostrap 初始化参数\ns3://xxxxxx.serverless-analytics/alluxiodemobucket/data/ -d s3://xxxxxx.serverless-analytics/alluxiodemobucket/install/alluxio-2.7.3-bin.tar.gz -p alluxio.user.block.size.bytes.default=122M|alluxio.user.file.writetype.default=CACHE_THROUGH -s |\n\nboostrap初始化参数\ns3://xxxxxx.serverless-analytics/alluxiodemobucket/data/ -d s3://xxxxxx.serverless-analytics/alluxiodemobucket/install/alluxio-2.7.3-bin.tar.gz -p alluxio.user.block.size.bytes.default=122M|alluxio.user.file.writetype.default=CACHE_THROUGH -s |\n\n配置文件及boostrap脚本：\ns3://xxxxxx.serverless-analytics/alluxiodemobucket/install：安装tar包\ns3://xxxxxx.serverless-analytics/alluxiodemobucket/data：测试under store底层存储\ns3://xxxxxx.serverless-analytics/alluxiodemobucket/*.sh|*.json : bootstrap脚本及initial 配置\n\n初始化Alluxio json集群配置：\n{\"Classification\":\"presto-connector-hive\",\"Properties\":{\"hive.force-local-scheduling\":\"true\",\"hive.metastore\":\"glue\",\"hive.s3-file-system-type\":\"PRESTO\"}},{\"Classification\":\"hadoop-env\",\"Configurations\":[{\"Classification\":\"export\",\"Properties\":{\"HADOOP_CLASSPATH\":\"/opt/alluxio/client/alluxio-client.jar:${HADOOP_CLASSPATH}\"}}],\"Properties\":{}}\n```\n\n### Boostrap 启动脚本说明\n- Bootstrap 主要完成 alluxio 集成步骤，包括解压 alluxio tar 安装包，等待 emr hdfs 等关键组件启动，然后解压并修改 alluxio 配置文件，启动 alluxio 各个组件进程\n- Alluxio 社区官方提供了和 Amazon emr 的集成 boostrap，但只限于 27 版本，高版本（e.g: emr6.5)上组件组件端口会冲突，且没有考虑 task 节点实例类型的扩缩及 HA 等场景，本方案将原有的脚本主要升级和优化如下：\n\n\nBootstrap 脚本在 task 节点挂起，因为找不到 DataNode 进程，官方脚本内没有判断 task 实例类型，会一直循环等待\n\n```\nwait_for_hadoop func需要修改，如果是task，不再等待datanode进程，进入下一步骤\n local -r is_task=\"false\"\n grep -i \"instanceRole\" /mnt/var/lib/info/job-flow-state.txt|grep -i task\n if [ $? = \"0\" ];then\n is_task=\"true\"\n fi\n```\n\n- 如果不需要扩展 Task 实例上的 Alluxio worker，需要 boostrap 脚本中指定参数以便识别放过 Task 实例节点的 alluxio 安装部署过程\n\n```\ne)ignore_task_node=\"true\"\n ;;\n if [[ \"${ignore_task_node}\" = \"true\" ]]; then\n \"don't install alluxio on task node, boostrap exit!\"\n exit 0\n fi\n```\n\n- 默认没有支持 HA 的 bootstrap 脚本，需要在 bootstrap 里面判断多个 master 节点并启动 standby alluxio master\n\n\n这里采用 embedded JN 日志节点的形式，不占用 EMR 上 Zookeeper 的资源：\n\nAlluxio HA 模式下 task 节点需要增加 HA rpc 访问地址列表\n\n```\nif [[ \"${ha_mode}\" = \"true\" ]]; then\n namenodes=$(xmllint --xpath \"/configuration/property[name='${namenode_prop}']/value/text()\" \"${ALLUXIO_HOME}/conf/hdfs-site.xml\")\n\n alluxio_journal_addre=\"\"\n alluxio_rpc_addre=\"\"\n for namenode in ${namenodes//,/ }; do\n if [[ \"${alluxio_rpc_addre}\" != \"\" ]]; then\n alluxio_rpc_addre=$alluxio_rpc_addre\",\"\n alluxio_journal_addre=$alluxio_journal_addre\",\"\n fi\n alluxio_rpc_addre=$alluxio_rpc_addre\"${namenode}:19998\"\n alluxio_journal_addre=$alluxio_journal_addre\"${namenode}:19200\"\n done \n set_alluxio_property alluxio.master.rpc.addresses $alluxio_rpc_addre\n fi\n```\n\n### 验证 Alluxio works\nEMR 启动后，会自动拉起 Alluxio master, worker 进程，在 Alluxio 的 admin 29999 端口的管理控制台 console 上，可以方便的查看到集群的状态及 capacity 容量、UFS 路径等信息\n\n#### Alluxio console\n\n\n\n\n\n#### 计算框架集成\n\n```\ncreate external table s3_test1 (userid INT,\nage INT,\ngender CHAR(1),\noccupation STRING,\nzipcode STRING)\nROW FORMAT DELIMITED\nFIELDS TERMINATED BY '|'\nLOCATION 's3://xxxxxx.serverless-analytics/alluxiodemobucket/data/s3_test1'\n\nHive alluxio读写\n0: jdbc:hive2://xx.xx.xx.xx:10000/default> shwo create table alluxiodb.test1;\n| createtab_stmt |\n+----------------------------------------------------+\n| CREATE EXTERNAL TABLE `alluxiodb.test1`( |\n| `userid` int, |\n| `age` int, |\n| `gender` char(1), |\n| `occupation` string, |\n| `zipcode` string) |\n| ROW FORMAT SERDE |\n| 'org.apache.hadoop.hive.serde2.lazy.LazySimpleSerDe' |\n| WITH SERDEPROPERTIES ( |\n| 'field.delim'='|', |\n| 'serialization.format'='|') |\n| STORED AS INPUTFORMAT |\n| 'org.apache.hadoop.mapred.TextInputFormat' |\n| OUTPUTFORMAT |\n| 'org.apache.hadoop.hive.ql.io.HiveIgnoreKeyTextOutputFormat' |\n| LOCATION |\n| 'alluxio:/testTable' |\n| TBLPROPERTIES ( |\n| 'bucketing_version'='2') |\n+----------------------------------------------------+\n0: jdbc:hive2://xx.xx.xx.xx:10000/default>INSERT INTO alluxiodb.test1 VALUES (2, 24, 'F', 'Developer', '12345');\n0: jdbc:hive2://xx.xx.xx.xx:10000/default> select * from test1;\n--+\n| test1.userid | test1.age | test1.gender | test1.occupation | test1.zipcode |\n+---------------+------------+---------------+-------------------+----------------+\n| 1 | 24 | F | Developer | 12345 |\n| 4 | 46 | F | Developer | 12345 |\n| 5 | 56 | A | Developer | 12345 |\n| 2 | 224 | F | Developer | 12345 \n\n\n\nTrino alluxio query：\ntrino:alluxiodb> select * from test1;\n userid | age | gender | occupation | zipcode\n--------+-----+--------+------------+---------\n 1 | 24 | F | Developer | 12345\n 2 | 224 | F | Developer | 12345\n\n\nSpark alluxio读写\n>>> spark.sql(\"insert into alluxiodb.test1 values (3,33,'T','Admin','222222')\")\n>>> spark.sql(\"select * from alluxiodb.test1\").show(1000,False) +------+---+------+----------+-------+\n|userid|age|gender|occupation|zipcode|\n+------+---+------+----------+-------+\n|2 |224|F |Developer |12345 |\n|3 |33 |T |Admin |222222 |\n|1 |24 |F |Developer |12345 |\n+------+---+------+----------+-------+\n```\n\n### benchmark 测试\n采用 hive tpcds benchmark utility 生成并 load 测试数据，可以方便的对比通过 s3 路径和 alluxio 缓存路径两种场景下查询性能。\n\n- alluxio hive benchmarch result:\n\n```\nhive -i testbench_alluxio.settings\nhive> use tpcds_bin_partitioned_orc_30;\nhive> source query55.sql;\n+-----------+------------------------+---------------------+\n| brand_id | brand | ext_price |\n+-----------+------------------------+---------------------+\n| 2002002 | importoimporto #2 | 328158.27 |\n| 4004002 | edu packedu pack #2 | 278740.06999999995 |\n| 2004002 | edu packimporto #2 | 243453.09999999998 |\n| 2001002 | amalgimporto #2 | 226828.09000000003 |\n| 4003002 | exportiedu pack #2 | 194363.72000000003 |\n| 5004002 | edu packscholar #2 | 178895.29000000004 |\n| 5003002 | exportischolar #2 | 158463.69 |\n| 3003002 | exportiexporti #2 | 126980.51999999999 |\n| 4001002 | amalgedu pack #2 | 107703.01000000001 |\n| 5002002 | importoscholar #2 | 104491.46000000002 |\n| 3002002 | importoexporti #2 | 87758.88 |\n| 8010006 | univmaxi #6 | 87110.54999999999 |\n| 10004013 | edu packunivamalg #13 | 76879.23 |\n| 8008006 | namelessnameless #6 | 74991.82 |\n| 6010006 | univbrand #6 | 72163.57 |\n| 7006008 | corpbrand #8 | 71066.42 |\n| 2003002 | exportiimporto #2 | 69029.02 |\n| 6015006 | scholarbrand #6 | 66395.84 |\n| 4002002 | importoedu pack #2 | 65223.01999999999 |\n| 8013002 | exportimaxi #2 | 63271.69 |\n| 9007002 | brandmaxi #2 | 61539.36000000001 |\n| 3001001 | edu packscholar #2 | 60449.65 |\n| 10003014 | exportiunivamalg #14 | 56505.57000000001 |\n| 3001001 | exportiexporti #2 | 55458.64 |\n| 7015004 | scholarnameless #4 | 55006.78999999999 |\n| 5002001 | exportischolar #2 | 54996.270000000004 |\n| 6014008 | edu packbrand #8 | 54793.31999999999 |\n| 4003001 | amalgcorp #8 | 53875.51000000001 |\n| 8011006 | amalgmaxi #6 | 52845.8 |\n| 1002002 | importoamalg #2 | 52328.259999999995 |\n| 2003001 | maxinameless #6 | 50577.89 |\n| 9016008 | corpunivamalg #8 | 49700.12 |\n| 7015006 | scholarnameless #6 | 49592.7 |\n| 9005004 | scholarmaxi #4 | 49205.19 |\n| 4003001 | exportiimporto #2 | 48604.97 |\n| 2002001 | edu packamalg #2 | 48451.979999999996 |\n| 9012002 | importounivamalg #2 | 48429.990000000005 |\n| 7012004 | importonameless #4 | 48303.979999999996 |\n| 10009004 | edu packamalg #2 | 48301.05 |\n| 1004001 | amalgexporti #2 | 48215.880000000005 |\n| 1001002 | amalgamalg #2 | 47018.94 |\n| 9015010 | scholarunivamalg #10 | 46495.380000000005 |\n| 6005007 | importobrand #6 | 46233.630000000005 |\n| 9010004 | univunivamalg #4 | 46164.04 |\n| 8015006 | scholarmaxi #6 | 46143.41 |\n| 7016002 | corpnameless #2 | 46133.31 |\n| 10006011 | corpunivamalg #11 | 46085.81 |\n| 9001003 | importoamalg #2 | 45303.18 |\n| 10015011 | scholarnameless #2 | 45299.06 |\n| 5002001 | importoexporti #2 | 44757.73000000001 |\n| 10010004 | univamalgamalg #4 | 43347.899999999994 |\n| 2004001 | importoamalg #2 | 43127.46000000001 |\n| 9002011 | edu packcorp #8 | 41740.42 |\n| 10008009 | namelessunivamalg #9 | 41369.479999999996 |\n| 8002010 | importonameless #10 | 41046.02 |\n| 6002008 | importocorp #8 | 40795.42999999999 |\n| 7007010 | brandbrand #10 | 40591.95 |\n| 6012002 | importobrand #2 | 40545.72 |\n| 2003001 | amalgexporti #2 | 39679.76 |\n| 8005007 | exportischolar #2 | 39593.39 |\n| 9015011 | importoscholar #2 | 39419.41 |\n| 9005012 | scholarmaxi #12 | 39151.020000000004 |\n| 9016012 | corpunivamalg #12 | 39117.53 |\n| 5003001 | exportiexporti #2 | 39061.0 |\n| 9002002 | importomaxi #2 | 38763.61 |\n| 6010004 | univbrand #4 | 38375.29 |\n| 8016009 | edu packamalg #2 | 37759.44 |\n| 8003010 | exportinameless #10 | 37605.38 |\n| 10010013 | univamalgamalg #13 | 37567.33 |\n| 4003001 | importoexporti #2 | 37455.68 |\n| 4001001 | importoedu pack #2 | 36809.149999999994 |\n| 8006003 | edu packimporto #2 | 36687.04 |\n| 6004004 | edu packcorp #4 | 36384.1 |\n| 5004001 | scholarbrand #8 | 36258.58 |\n| 10006004 | importonameless #10 | 36226.62 |\n| 2002001 | scholarbrand #4 | 36138.93 |\n| 7001010 | amalgbrand #10 | 35986.36 |\n| 8015005 | edu packunivamalg #4 | 35956.33 |\n| 10014008 | edu packamalgamalg #8 | 35371.05 |\n| 7004005 | amalgamalg #2 | 35265.32 |\n| 6016004 | corpbrand #4 | 35256.990000000005 |\n| 4002001 | amalgedu pack #2 | 35183.9 |\n+-----------+------------------------+---------------------+\n```\n\n- s3 hive benchmarch result:\n\n```\nhive -i testbench_s3.settings\nhive> use tpcds_bin_partitioned_orc_30;\nhive> source query55.sql;\n+-----------+------------------------+---------------------+\n| brand_id | brand | ext_price |\n+-----------+------------------------+---------------------+\n| 4003002 | exportiedu pack #2 | 324254.89 |\n| 4004002 | edu packedu pack #2 | 241747.01000000004 |\n| 2004002 | edu packimporto #2 | 214636.82999999996 |\n| 3003002 | exportiexporti #2 | 158815.92 |\n| 2002002 | importoimporto #2 | 126878.37000000002 |\n| 2001002 | amalgimporto #2 | 123531.46 |\n| 4001002 | amalgedu pack #2 | 114080.09000000003 |\n| 5003002 | exportischolar #2 | 103824.98000000001 |\n| 5004002 | edu packscholar #2 | 97543.4 |\n| 3002002 | importoexporti #2 | 90002.6 |\n| 6010006 | univbrand #6 | 72953.48000000001 |\n| 6015006 | scholarbrand #6 | 67252.34000000001 |\n| 7001010 | amalgbrand #10 | 60368.53 |\n| 4002001 | amalgmaxi #12 | 59648.09 |\n| 5002002 | importoscholar #2 | 59202.14 |\n| 9007008 | brandmaxi #8 | 57989.22 |\n| 2003002 | exportiimporto #2 | 57869.27 |\n| 1002002 | importoamalg #2 | 57119.29000000001 |\n| 3001001 | exportiexporti #2 | 56381.43 |\n| 7010004 | univnameless #4 | 55796.41 |\n| 4002002 | importoedu pack #2 | 55696.91 |\n| 8001010 | amalgnameless #10 | 54025.19 |\n| 9016012 | corpunivamalg #12 | 53992.149999999994 |\n| 5002001 | exportischolar #2 | 53784.57000000001 |\n| 4003001 | amalgcorp #8 | 52727.09 |\n| 9001002 | amalgmaxi #2 | 52115.3 |\n| 1002001 | amalgnameless #2 | 51994.130000000005 |\n| 8003010 | exportinameless #10 | 51100.64 |\n| 9003009 | edu packamalg #2 | 50413.2 |\n| 10007003 | scholarbrand #6 | 50027.27 |\n| 7006008 | corpbrand #8 | 49443.380000000005 |\n| 9016010 | corpunivamalg #10 | 49181.66000000001 |\n| 9005010 | scholarmaxi #10 | 49019.619999999995 |\n| 4001001 | importoedu pack #2 | 47280.47 |\n| 4004001 | amalgcorp #2 | 46830.21000000001 |\n| 10007011 | brandunivamalg #11 | 46815.659999999996 |\n| 9003008 | exportimaxi #8 | 46731.72 |\n| 1003001 | amalgnameless #2 | 46250.08 |\n| 8010006 | univmaxi #6 | 45460.4 |\n| 8013002 | exportimaxi #2 | 44836.49 |\n| 5004001 | scholarbrand #8 | 43770.06 |\n| 10006011 | corpunivamalg #11 | 43461.3 |\n| 2002001 | edu packamalg #2 | 42729.89 |\n| 6016001 | importoamalg #2 | 42298.35999999999 |\n| 5003001 | univunivamalg #4 | 42290.45 |\n| 7004002 | edu packbrand #2 | 42222.060000000005 |\n| 6009004 | maxicorp #4 | 42131.72 |\n| 2002001 | importoexporti #2 | 41864.04 |\n| 8006006 | corpnameless #6 | 41825.83 |\n| 10008009 | namelessunivamalg #9 | 40665.31 |\n| 4003001 | univbrand #2 | 40330.67 |\n| 7016002 | corpnameless #2 | 40026.4 |\n| 2004001 | corpmaxi #8 | 38924.82 |\n| 7009001 | amalgedu pack #2 | 38711.04 |\n| 6013004 | exportibrand #4 | 38703.41 |\n| 8002010 | importonameless #10 | 38438.670000000006 |\n| 9010004 | univunivamalg #4 | 38294.21 |\n| 2004001 | importoimporto #2 | 37814.93 |\n| 9010002 | univunivamalg #2 | 37780.55 |\n| 3003001 | amalgexporti #2 | 37501.25 |\n| 8014006 | edu packmaxi #6 | 35914.21000000001 |\n| 8011006 | amalgmaxi #6 | 35302.51 |\n| 8013007 | amalgcorp #4 | 34994.01 |\n| 7003006 | exportibrand #6 | 34596.55 |\n| 6009006 | maxicorp #6 | 44116.12 |\n| 8002004 | importonameless #4 | 43876.82000000001 |\n| 8001008 | amalgnameless #8 | 43666.869999999995 |\n| 7002006 | importobrand #6 | 43574.33 |\n| 7013008 | exportinameless #8 | 43497.73 |\n| 6014008 | edu packbrand #8 | 43381.46 |\n| 10014007 | edu packamalgamalg #7 | 42982.090000000004 |\n| 9006004 | corpmaxi #4 | 42437.49 |\n| 9016008 | corpunivamalg #8 | 41782.0 |\n| 10006015 | amalgamalg #2 | 31716.129999999997 |\n| 2003001 | univnameless #4 | 31491.340000000004 |\n+-----------+------------------------+----------\n```\n\n可以看到平均任务的 QPS 提升 30%~40% 左右，部分任务提升 50% 以上。\n\n### 参考资料\n\nAlluxio on Amazon EMR 安装部署 ：\n[https://aws.amazon.com/cn/blogs/china/five-minitues-to-use-alluxio-guide-emr-spark/](https://aws.amazon.com/cn/blogs/china/five-minitues-to-use-alluxio-guide-emr-spark/)\nAlluxio 社区 EMR 集成指南：\n[https://docs.alluxio.io/os/user/stable/en/cloud/AWS-EMR.html](https://docs.alluxio.io/os/user/stable/en/cloud/AWS-EMR.html)\nAmazon EMR 集群：\n[https://docs.aws.amazon.com/zh_cn/emr/latest/ManagementGuide/emr-what-is-emr.html](https://docs.aws.amazon.com/zh_cn/emr/latest/ManagementGuide/emr-what-is-emr.html)\n\n###小结\n本文详细介绍了在 Amazon EMR 上 alluxio 集群的安装部署，包括 bootstrap 脚本及 EMR 集群初始化 json 配置，并通过 hive tpcds 标准 benchmark，比较了开启 Alluxio 加速的 EMR 集群上 hive sql 查询的性能提升。\n\n**本文作者**\n\n**唐清原**\n\n*亚马逊云科技数据分析解决方案架构师，负责Amazon Data Analytic服务方案架构设计以及性能优化，迁移，治理等Deep Dive支持。10+数据领域研发及架构设计经验，历任Oracle 高级咨询顾问，咪咕文化数据集市高级架构师，澳新银行数据分析领域架构师职务。在大数据，数据湖，智能湖仓等项目有丰富实战经验。*\n\n**陈昊**\n\n*亚马逊云科技合作伙伴解决方案架构师，有将近 20 年的 IT 从业经验，在企业应用开发、架构设计及建设方面具有丰富的实践经验。目前主要负责 亚马逊云科技 (中国)合作伙伴的方案架构咨询和设计工作，致力于亚马逊云服务在国内的应用推广以及帮助合作伙伴构建更高效的亚马逊云服务解决方案。*\n\n","render":"<h3><a id=\"_0\"></a>背景</h3>\n<p>Alluxio 是大数据技术堆栈的分布式缓存，对于 S3, hdfs 等数据的 warm up 有显著的性能提升，且与上层计算引擎如 Hive, spark, Trino 都有深度的集成，做为大数据领域的查询加速是一个不可多得的功能组件。</p>\n<p>Alluxio 社区与 Amazon EMR 服务有深入的交互和集成，官方提供了 on Amazon EMR 的集成方案，详见 <strong>Alluxio 社区文档</strong>，亚马逊云科技也提供了快速安装部署的 bootstrap 脚本及配置，详见<strong>亚马逊云科技官方 blog</strong>。</p>\n<p>以上文档基于 emr 5.2x 版本，其 hive，Spark 等组件版本较老，且没有考虑 EMR 的多主，Task 计算实例组的集成场景，在客户使用高版本 Amazon EMR，启用 HA 及 Task 计算实例的时候，其安装部署存在缺陷导致部署失败。</p>\n<p>本文档从 Alluxio 整体架构作为切入点，详细介绍了 Alluxio 的设计思路，使得读者能更深入的理解在 Amazon EMR 上的集成方法，同时重新梳理并修正了 Alluxio 社区 on Amazon EMR 集成的方案的缺陷，新增加了对 EMR task 实例组及多主高可用集群的支持，使得 Alluxio 在 Amazon EMR 上更能适应客户的生产环境。</p>\n<p>Alluxio 社区文档：<br />\n<a href=\"https://docs.alluxio.io/os/user/stable/en/cloud/AWS-EMR.html\" target=\"_blank\">https://docs.alluxio.io/os/user/stable/en/cloud/AWS-EMR.html</a><br />\n亚马逊云科技官方博客：<br />\n<a href=\"https://aws.amazon.com/cn/blogs/china/five-minitues-to-use-alluxio-guide-emr-spark/\" target=\"_blank\">https://aws.amazon.com/cn/blogs/china/five-minitues-to-use-alluxio-guide-emr-spark/</a></p>\n<h3><a id=\"Alluxio_architecture_overview_14\"></a>Alluxio architecture overview</h3>\n<p><img src=\"https://awsdevweb.s3.cn-north-1.amazonaws.com.cn/3c90166e93d8401aa40b22c6ac2247dc_image.png\" alt=\"image.png\" /></p>\n<p>主要功能组件有：</p>\n<p><strong>Master节点</strong>：类似 NN 的设计，同样有 standby Master（HA）和 secondary Master（元数据镜像合并）概念， Jounary 日志节点随 master 启动，做为快速 recovery</p>\n<p><img src=\"https://awsdevweb.s3.cn-north-1.amazonaws.com.cn/9d0a42cbdf0e4a779b5bcf2a36b8b351_image.png\" alt=\"image.png\" /></p>\n<p><strong>Worker节点</strong>：与 DataNode 类似，缓存层提供 Tier Storage（MEM, SSD, HDD 三层），短路读和常规缓存穿透，3 种写缓存模式（内存 only, cache_through 可以同步和异步，throught 不写缓存）</p>\n<p><img src=\"https://awsdevweb.s3.cn-north-1.amazonaws.com.cn/6482fb3e264847acacc93e6af40bd790_image.png\" alt=\"image.png\" /></p>\n<p>Job master &amp; Job worker：缓存数据的读写，alluxio 提供了类似 hadoop MR 的框架，由 job master 负责资源分配， job worker 执行数据的 pipeline 管道，缓存副本默认为1</p>\n<p>Alluxio 的主要业务场景有：</p>\n<ul>\n<li>hdfs/S3 缓存，查询加速</li>\n<li>多对象存储统一 UFS 路径</li>\n<li>跨 bucket, hdfs 集群数据缓存</li>\n</ul>\n<p>主要功能 feature：</p>\n<ul>\n<li>针对 hdfs, s3 多 layer 的 backend 存储</li>\n<li>缓存读写，写支持 cache through 模式，异步更新 backend storage；读支持 push 下压，缓存击穿后直接读 backend storage</li>\n<li>ttl 缓存过期时间配置</li>\n</ul>\n<pre><code class=\"lang-\">e.g:\nalluxio.user.file.create.ttl = -1\nalluxio.user.file.create.ttl.action = DELETE\nalluxio.master.ttl.checker.interval = 1hour\n</code></pre>\n<ul>\n<li>Impersonal/Acl/SASL HDFS 类似的权限管控功能同样适用于 Alluxio</li>\n<li>缓存同步与清理</li>\n</ul>\n<pre><code class=\"lang-\">e.g: \n缓存清理：Alluxio rm -r -U alluxio:///&lt;path&gt;\n缓存同步：alluxio load alluxio:///&lt;path&gt;\n</code></pre>\n<h3><a id=\"Alluxio_on_Amazon_EMR__58\"></a>Alluxio on Amazon EMR 集成</h3>\n<h4><a id=\"_59\"></a>集成架构</h4>\n<p>Alluxio 在 Amazon EMR 上的架构如下所示：</p>\n<p><img src=\"https://awsdevweb.s3.cn-north-1.amazonaws.com.cn/7c30a2f99aaa4eb8a2617963b58750e5_image.png\" alt=\"image.png\" /></p>\n<p>如上图所示，Alluxio Master 组件作为管理模块，安装部署在 Amazon EMR 主实例组，如果需要 Alluxio HA 高可用，可以通过将 EMR 部署为多主，在 bootstrap 中打开 alluxio HA(-h) 的 switch 开关，部署脚本会将 Alluxio Master 部署到每个 EMR 主节点实例，并在 S3 注册目录以供 Alluxio 主节点 fail over 时做 Raft 选举。</p>\n<p>Alluxio Worker 组件安装部署在 Amazon EMR 的核心及任务实例组，由于 task 实例组客户可能配置扩缩，扩缩 task 计算节点时 Alluxio work 也会相应扩缩，其上面的缓存节点会做 rebalance，造成缓存层性能抖动，因此对于 Task 任务实例组是否安装部署 Alluxio，在 bootstrap 脚本中同样提供了 switch 开关 (-g)。</p>\n<p>Alluxio tier storage 配置为 mem layer，UFS backend 配置为 S3 数据湖存储。</p>\n<p>相应的 Alluxio job master, job worker 组件，和 master, worker 节点同样的部署方式，分布安装在 EMR 主节点实例组和核心、任务实例组。</p>\n<h4><a id=\"_73\"></a>集成步骤</h4>\n<p>以下章节详细介绍 Alluxio 在 Amazon EMR 上集成的实施步骤</p>\n<ul>\n<li>alluxio 官网下载社区版tar安装包（本文采用 7.3 ）</li>\n<li>可以通过 Amazon cli 或者 emr console，指定初始化配置 json 和 bootstrap 方式进行 EMR 上 alluxio 的集成安装和部署</li>\n<li>Amazon emr cli 方式：</li>\n</ul>\n<pre><code class=\"lang-\">aws emr create-cluster \\\n--release-label emr-6.5.0 \\\n–instance-groups '[{&quot;InstanceCount&quot;:2,&quot;EbsConfiguration&quot;:{&quot;EbsBlockDeviceConfigs&quot;:[{&quot;VolumeSpecification&quot;:{&quot;SizeInGB&quot;:64,&quot;VolumeType&quot;:&quot;gp2″},&quot;InstanceGroupType&quot;:&quot;CORE&quot;,&quot;InstanceType&quot;:&quot;m5.xlarge&quot;,&quot;Name&quot;:&quot;Core-2″}, \\\n{&quot;InstanceCount&quot;:1,&quot;EbsConfiguration&quot;:{&quot;EbsBlockDeviceConfigs&quot;:[{&quot;VolumeSpecification&quot;:{&quot;SizeInGB&quot;:64,&quot;VolumeType&quot;:&quot;gp2″},&quot;VolumesPerInstance&quot;:2}]},&quot;InstanceGroupType&quot;:&quot;MASTER&quot;,&quot;InstanceType&quot;:&quot;m5.xlarge&quot;,&quot;Name&quot;:&quot;Master-1″}]' \\\n--applications Name=Spark Name=Presto Name=Hive \\\n--name try-alluxio \\\n--bootstrap-actions \\\nPath=s3://xxxxxx.serverless-analytics/alluxiodemobucket/alluxio-emr.sh,\\\nArgs=[s3://xxxxxx.serverless-analytics/alluxiodemobucket/data/,-d,&quot;s3://xxxxxx.serverless-analytics/alluxiodemobucket/install/alluxio-2.7.3-bin.tar.gz&quot;,-p,&quot;alluxio.user.block.size.bytes.default=122M|alluxio.user.file.writetype.default=CACHE_THROUGH&quot;,-s,&quot;|&quot;] \\\n--configurations s3://xxxxxx.serverless-analytics/alluxiodemobucket/ \\\n--ec2-attributes KeyName=ec203.pem\n</code></pre>\n<ul>\n<li>emr 控制台上方式：</li>\n</ul>\n<pre><code class=\"lang-\">boostrap 初始化参数\ns3://xxxxxx.serverless-analytics/alluxiodemobucket/data/ -d s3://xxxxxx.serverless-analytics/alluxiodemobucket/install/alluxio-2.7.3-bin.tar.gz -p alluxio.user.block.size.bytes.default=122M|alluxio.user.file.writetype.default=CACHE_THROUGH -s |\n\nboostrap初始化参数\ns3://xxxxxx.serverless-analytics/alluxiodemobucket/data/ -d s3://xxxxxx.serverless-analytics/alluxiodemobucket/install/alluxio-2.7.3-bin.tar.gz -p alluxio.user.block.size.bytes.default=122M|alluxio.user.file.writetype.default=CACHE_THROUGH -s |\n\n配置文件及boostrap脚本：\ns3://xxxxxx.serverless-analytics/alluxiodemobucket/install：安装tar包\ns3://xxxxxx.serverless-analytics/alluxiodemobucket/data：测试under store底层存储\ns3://xxxxxx.serverless-analytics/alluxiodemobucket/*.sh|*.json : bootstrap脚本及initial 配置\n\n初始化Alluxio json集群配置：\n{&quot;Classification&quot;:&quot;presto-connector-hive&quot;,&quot;Properties&quot;:{&quot;hive.force-local-scheduling&quot;:&quot;true&quot;,&quot;hive.metastore&quot;:&quot;glue&quot;,&quot;hive.s3-file-system-type&quot;:&quot;PRESTO&quot;}},{&quot;Classification&quot;:&quot;hadoop-env&quot;,&quot;Configurations&quot;:[{&quot;Classification&quot;:&quot;export&quot;,&quot;Properties&quot;:{&quot;HADOOP_CLASSPATH&quot;:&quot;/opt/alluxio/client/alluxio-client.jar:${HADOOP_CLASSPATH}&quot;}}],&quot;Properties&quot;:{}}\n</code></pre>\n<h3><a id=\"Boostrap__112\"></a>Boostrap 启动脚本说明</h3>\n<ul>\n<li>Bootstrap 主要完成 alluxio 集成步骤，包括解压 alluxio tar 安装包，等待 emr hdfs 等关键组件启动，然后解压并修改 alluxio 配置文件，启动 alluxio 各个组件进程</li>\n<li>Alluxio 社区官方提供了和 Amazon emr 的集成 boostrap，但只限于 27 版本，高版本（e.g: emr6.5)上组件组件端口会冲突，且没有考虑 task 节点实例类型的扩缩及 HA 等场景，本方案将原有的脚本主要升级和优化如下：</li>\n</ul>\n<p>Bootstrap 脚本在 task 节点挂起，因为找不到 DataNode 进程，官方脚本内没有判断 task 实例类型，会一直循环等待</p>\n<pre><code class=\"lang-\">wait_for_hadoop func需要修改，如果是task，不再等待datanode进程，进入下一步骤\n local -r is_task=&quot;false&quot;\n grep -i &quot;instanceRole&quot; /mnt/var/lib/info/job-flow-state.txt|grep -i task\n if [ $? = &quot;0&quot; ];then\n is_task=&quot;true&quot;\n fi\n</code></pre>\n<ul>\n<li>如果不需要扩展 Task 实例上的 Alluxio worker，需要 boostrap 脚本中指定参数以便识别放过 Task 实例节点的 alluxio 安装部署过程</li>\n</ul>\n<pre><code class=\"lang-\">e)ignore_task_node=&quot;true&quot;\n ;;\n if [[ &quot;${ignore_task_node}&quot; = &quot;true&quot; ]]; then\n &quot;don't install alluxio on task node, boostrap exit!&quot;\n exit 0\n fi\n</code></pre>\n<ul>\n<li>默认没有支持 HA 的 bootstrap 脚本，需要在 bootstrap 里面判断多个 master 节点并启动 standby alluxio master</li>\n</ul>\n<p>这里采用 embedded JN 日志节点的形式，不占用 EMR 上 Zookeeper 的资源：</p>\n<p>Alluxio HA 模式下 task 节点需要增加 HA rpc 访问地址列表</p>\n<pre><code class=\"lang-\">if [[ &quot;${ha_mode}&quot; = &quot;true&quot; ]]; then\n namenodes=$(xmllint --xpath &quot;/configuration/property[name='${namenode_prop}']/value/text()&quot; &quot;${ALLUXIO_HOME}/conf/hdfs-site.xml&quot;)\n\n alluxio_journal_addre=&quot;&quot;\n alluxio_rpc_addre=&quot;&quot;\n for namenode in ${namenodes//,/ }; do\n if [[ &quot;${alluxio_rpc_addre}&quot; != &quot;&quot; ]]; then\n alluxio_rpc_addre=$alluxio_rpc_addre&quot;,&quot;\n alluxio_journal_addre=$alluxio_journal_addre&quot;,&quot;\n fi\n alluxio_rpc_addre=$alluxio_rpc_addre&quot;${namenode}:19998&quot;\n alluxio_journal_addre=$alluxio_journal_addre&quot;${namenode}:19200&quot;\n done \n set_alluxio_property alluxio.master.rpc.addresses $alluxio_rpc_addre\n fi\n</code></pre>\n<h3><a id=\"_Alluxio_works_164\"></a>验证 Alluxio works</h3>\n<p>EMR 启动后，会自动拉起 Alluxio master, worker 进程，在 Alluxio 的 admin 29999 端口的管理控制台 console 上，可以方便的查看到集群的状态及 capacity 容量、UFS 路径等信息</p>\n<h4><a id=\"Alluxio_console_167\"></a>Alluxio console</h4>\n<p><img src=\"https://awsdevweb.s3.cn-north-1.amazonaws.com.cn/e3559031001c420c8f2609c499a56044_image.png\" alt=\"image.png\" /></p>\n<p><img src=\"https://awsdevweb.s3.cn-north-1.amazonaws.com.cn/263cb0099ba4404a88c47e17dc120be5_image.png\" alt=\"image.png\" /></p>\n<h4><a id=\"_173\"></a>计算框架集成</h4>\n<pre><code class=\"lang-\">create external table s3_test1 (userid INT,\nage INT,\ngender CHAR(1),\noccupation STRING,\nzipcode STRING)\nROW FORMAT DELIMITED\nFIELDS TERMINATED BY '|'\nLOCATION 's3://xxxxxx.serverless-analytics/alluxiodemobucket/data/s3_test1'\n\nHive alluxio读写\n0: jdbc:hive2://xx.xx.xx.xx:10000/default&gt; shwo create table alluxiodb.test1;\n| createtab_stmt |\n+----------------------------------------------------+\n| CREATE EXTERNAL TABLE `alluxiodb.test1`( |\n| `userid` int, |\n| `age` int, |\n| `gender` char(1), |\n| `occupation` string, |\n| `zipcode` string) |\n| ROW FORMAT SERDE |\n| 'org.apache.hadoop.hive.serde2.lazy.LazySimpleSerDe' |\n| WITH SERDEPROPERTIES ( |\n| 'field.delim'='|', |\n| 'serialization.format'='|') |\n| STORED AS INPUTFORMAT |\n| 'org.apache.hadoop.mapred.TextInputFormat' |\n| OUTPUTFORMAT |\n| 'org.apache.hadoop.hive.ql.io.HiveIgnoreKeyTextOutputFormat' |\n| LOCATION |\n| 'alluxio:/testTable' |\n| TBLPROPERTIES ( |\n| 'bucketing_version'='2') |\n+----------------------------------------------------+\n0: jdbc:hive2://xx.xx.xx.xx:10000/default&gt;INSERT INTO alluxiodb.test1 VALUES (2, 24, 'F', 'Developer', '12345');\n0: jdbc:hive2://xx.xx.xx.xx:10000/default&gt; select * from test1;\n--+\n| test1.userid | test1.age | test1.gender | test1.occupation | test1.zipcode |\n+---------------+------------+---------------+-------------------+----------------+\n| 1 | 24 | F | Developer | 12345 |\n| 4 | 46 | F | Developer | 12345 |\n| 5 | 56 | A | Developer | 12345 |\n| 2 | 224 | F | Developer | 12345 \n\n\n\nTrino alluxio query：\ntrino:alluxiodb&gt; select * from test1;\n userid | age | gender | occupation | zipcode\n--------+-----+--------+------------+---------\n 1 | 24 | F | Developer | 12345\n 2 | 224 | F | Developer | 12345\n\n\nSpark alluxio读写\n&gt;&gt;&gt; spark.sql(&quot;insert into alluxiodb.test1 values (3,33,'T','Admin','222222')&quot;)\n&gt;&gt;&gt; spark.sql(&quot;select * from alluxiodb.test1&quot;).show(1000,False) +------+---+------+----------+-------+\n|userid|age|gender|occupation|zipcode|\n+------+---+------+----------+-------+\n|2 |224|F |Developer |12345 |\n|3 |33 |T |Admin |222222 |\n|1 |24 |F |Developer |12345 |\n+------+---+------+----------+-------+\n</code></pre>\n<h3><a id=\"benchmark__240\"></a>benchmark 测试</h3>\n<p>采用 hive tpcds benchmark utility 生成并 load 测试数据，可以方便的对比通过 s3 路径和 alluxio 缓存路径两种场景下查询性能。</p>\n<ul>\n<li>alluxio hive benchmarch result:</li>\n</ul>\n<pre><code class=\"lang-\">hive -i testbench_alluxio.settings\nhive&gt; use tpcds_bin_partitioned_orc_30;\nhive&gt; source query55.sql;\n+-----------+------------------------+---------------------+\n| brand_id | brand | ext_price |\n+-----------+------------------------+---------------------+\n| 2002002 | importoimporto #2 | 328158.27 |\n| 4004002 | edu packedu pack #2 | 278740.06999999995 |\n| 2004002 | edu packimporto #2 | 243453.09999999998 |\n| 2001002 | amalgimporto #2 | 226828.09000000003 |\n| 4003002 | exportiedu pack #2 | 194363.72000000003 |\n| 5004002 | edu packscholar #2 | 178895.29000000004 |\n| 5003002 | exportischolar #2 | 158463.69 |\n| 3003002 | exportiexporti #2 | 126980.51999999999 |\n| 4001002 | amalgedu pack #2 | 107703.01000000001 |\n| 5002002 | importoscholar #2 | 104491.46000000002 |\n| 3002002 | importoexporti #2 | 87758.88 |\n| 8010006 | univmaxi #6 | 87110.54999999999 |\n| 10004013 | edu packunivamalg #13 | 76879.23 |\n| 8008006 | namelessnameless #6 | 74991.82 |\n| 6010006 | univbrand #6 | 72163.57 |\n| 7006008 | corpbrand #8 | 71066.42 |\n| 2003002 | exportiimporto #2 | 69029.02 |\n| 6015006 | scholarbrand #6 | 66395.84 |\n| 4002002 | importoedu pack #2 | 65223.01999999999 |\n| 8013002 | exportimaxi #2 | 63271.69 |\n| 9007002 | brandmaxi #2 | 61539.36000000001 |\n| 3001001 | edu packscholar #2 | 60449.65 |\n| 10003014 | exportiunivamalg #14 | 56505.57000000001 |\n| 3001001 | exportiexporti #2 | 55458.64 |\n| 7015004 | scholarnameless #4 | 55006.78999999999 |\n| 5002001 | exportischolar #2 | 54996.270000000004 |\n| 6014008 | edu packbrand #8 | 54793.31999999999 |\n| 4003001 | amalgcorp #8 | 53875.51000000001 |\n| 8011006 | amalgmaxi #6 | 52845.8 |\n| 1002002 | importoamalg #2 | 52328.259999999995 |\n| 2003001 | maxinameless #6 | 50577.89 |\n| 9016008 | corpunivamalg #8 | 49700.12 |\n| 7015006 | scholarnameless #6 | 49592.7 |\n| 9005004 | scholarmaxi #4 | 49205.19 |\n| 4003001 | exportiimporto #2 | 48604.97 |\n| 2002001 | edu packamalg #2 | 48451.979999999996 |\n| 9012002 | importounivamalg #2 | 48429.990000000005 |\n| 7012004 | importonameless #4 | 48303.979999999996 |\n| 10009004 | edu packamalg #2 | 48301.05 |\n| 1004001 | amalgexporti #2 | 48215.880000000005 |\n| 1001002 | amalgamalg #2 | 47018.94 |\n| 9015010 | scholarunivamalg #10 | 46495.380000000005 |\n| 6005007 | importobrand #6 | 46233.630000000005 |\n| 9010004 | univunivamalg #4 | 46164.04 |\n| 8015006 | scholarmaxi #6 | 46143.41 |\n| 7016002 | corpnameless #2 | 46133.31 |\n| 10006011 | corpunivamalg #11 | 46085.81 |\n| 9001003 | importoamalg #2 | 45303.18 |\n| 10015011 | scholarnameless #2 | 45299.06 |\n| 5002001 | importoexporti #2 | 44757.73000000001 |\n| 10010004 | univamalgamalg #4 | 43347.899999999994 |\n| 2004001 | importoamalg #2 | 43127.46000000001 |\n| 9002011 | edu packcorp #8 | 41740.42 |\n| 10008009 | namelessunivamalg #9 | 41369.479999999996 |\n| 8002010 | importonameless #10 | 41046.02 |\n| 6002008 | importocorp #8 | 40795.42999999999 |\n| 7007010 | brandbrand #10 | 40591.95 |\n| 6012002 | importobrand #2 | 40545.72 |\n| 2003001 | amalgexporti #2 | 39679.76 |\n| 8005007 | exportischolar #2 | 39593.39 |\n| 9015011 | importoscholar #2 | 39419.41 |\n| 9005012 | scholarmaxi #12 | 39151.020000000004 |\n| 9016012 | corpunivamalg #12 | 39117.53 |\n| 5003001 | exportiexporti #2 | 39061.0 |\n| 9002002 | importomaxi #2 | 38763.61 |\n| 6010004 | univbrand #4 | 38375.29 |\n| 8016009 | edu packamalg #2 | 37759.44 |\n| 8003010 | exportinameless #10 | 37605.38 |\n| 10010013 | univamalgamalg #13 | 37567.33 |\n| 4003001 | importoexporti #2 | 37455.68 |\n| 4001001 | importoedu pack #2 | 36809.149999999994 |\n| 8006003 | edu packimporto #2 | 36687.04 |\n| 6004004 | edu packcorp #4 | 36384.1 |\n| 5004001 | scholarbrand #8 | 36258.58 |\n| 10006004 | importonameless #10 | 36226.62 |\n| 2002001 | scholarbrand #4 | 36138.93 |\n| 7001010 | amalgbrand #10 | 35986.36 |\n| 8015005 | edu packunivamalg #4 | 35956.33 |\n| 10014008 | edu packamalgamalg #8 | 35371.05 |\n| 7004005 | amalgamalg #2 | 35265.32 |\n| 6016004 | corpbrand #4 | 35256.990000000005 |\n| 4002001 | amalgedu pack #2 | 35183.9 |\n+-----------+------------------------+---------------------+\n</code></pre>\n<ul>\n<li>s3 hive benchmarch result:</li>\n</ul>\n<pre><code class=\"lang-\">hive -i testbench_s3.settings\nhive&gt; use tpcds_bin_partitioned_orc_30;\nhive&gt; source query55.sql;\n+-----------+------------------------+---------------------+\n| brand_id | brand | ext_price |\n+-----------+------------------------+---------------------+\n| 4003002 | exportiedu pack #2 | 324254.89 |\n| 4004002 | edu packedu pack #2 | 241747.01000000004 |\n| 2004002 | edu packimporto #2 | 214636.82999999996 |\n| 3003002 | exportiexporti #2 | 158815.92 |\n| 2002002 | importoimporto #2 | 126878.37000000002 |\n| 2001002 | amalgimporto #2 | 123531.46 |\n| 4001002 | amalgedu pack #2 | 114080.09000000003 |\n| 5003002 | exportischolar #2 | 103824.98000000001 |\n| 5004002 | edu packscholar #2 | 97543.4 |\n| 3002002 | importoexporti #2 | 90002.6 |\n| 6010006 | univbrand #6 | 72953.48000000001 |\n| 6015006 | scholarbrand #6 | 67252.34000000001 |\n| 7001010 | amalgbrand #10 | 60368.53 |\n| 4002001 | amalgmaxi #12 | 59648.09 |\n| 5002002 | importoscholar #2 | 59202.14 |\n| 9007008 | brandmaxi #8 | 57989.22 |\n| 2003002 | exportiimporto #2 | 57869.27 |\n| 1002002 | importoamalg #2 | 57119.29000000001 |\n| 3001001 | exportiexporti #2 | 56381.43 |\n| 7010004 | univnameless #4 | 55796.41 |\n| 4002002 | importoedu pack #2 | 55696.91 |\n| 8001010 | amalgnameless #10 | 54025.19 |\n| 9016012 | corpunivamalg #12 | 53992.149999999994 |\n| 5002001 | exportischolar #2 | 53784.57000000001 |\n| 4003001 | amalgcorp #8 | 52727.09 |\n| 9001002 | amalgmaxi #2 | 52115.3 |\n| 1002001 | amalgnameless #2 | 51994.130000000005 |\n| 8003010 | exportinameless #10 | 51100.64 |\n| 9003009 | edu packamalg #2 | 50413.2 |\n| 10007003 | scholarbrand #6 | 50027.27 |\n| 7006008 | corpbrand #8 | 49443.380000000005 |\n| 9016010 | corpunivamalg #10 | 49181.66000000001 |\n| 9005010 | scholarmaxi #10 | 49019.619999999995 |\n| 4001001 | importoedu pack #2 | 47280.47 |\n| 4004001 | amalgcorp #2 | 46830.21000000001 |\n| 10007011 | brandunivamalg #11 | 46815.659999999996 |\n| 9003008 | exportimaxi #8 | 46731.72 |\n| 1003001 | amalgnameless #2 | 46250.08 |\n| 8010006 | univmaxi #6 | 45460.4 |\n| 8013002 | exportimaxi #2 | 44836.49 |\n| 5004001 | scholarbrand #8 | 43770.06 |\n| 10006011 | corpunivamalg #11 | 43461.3 |\n| 2002001 | edu packamalg #2 | 42729.89 |\n| 6016001 | importoamalg #2 | 42298.35999999999 |\n| 5003001 | univunivamalg #4 | 42290.45 |\n| 7004002 | edu packbrand #2 | 42222.060000000005 |\n| 6009004 | maxicorp #4 | 42131.72 |\n| 2002001 | importoexporti #2 | 41864.04 |\n| 8006006 | corpnameless #6 | 41825.83 |\n| 10008009 | namelessunivamalg #9 | 40665.31 |\n| 4003001 | univbrand #2 | 40330.67 |\n| 7016002 | corpnameless #2 | 40026.4 |\n| 2004001 | corpmaxi #8 | 38924.82 |\n| 7009001 | amalgedu pack #2 | 38711.04 |\n| 6013004 | exportibrand #4 | 38703.41 |\n| 8002010 | importonameless #10 | 38438.670000000006 |\n| 9010004 | univunivamalg #4 | 38294.21 |\n| 2004001 | importoimporto #2 | 37814.93 |\n| 9010002 | univunivamalg #2 | 37780.55 |\n| 3003001 | amalgexporti #2 | 37501.25 |\n| 8014006 | edu packmaxi #6 | 35914.21000000001 |\n| 8011006 | amalgmaxi #6 | 35302.51 |\n| 8013007 | amalgcorp #4 | 34994.01 |\n| 7003006 | exportibrand #6 | 34596.55 |\n| 6009006 | maxicorp #6 | 44116.12 |\n| 8002004 | importonameless #4 | 43876.82000000001 |\n| 8001008 | amalgnameless #8 | 43666.869999999995 |\n| 7002006 | importobrand #6 | 43574.33 |\n| 7013008 | exportinameless #8 | 43497.73 |\n| 6014008 | edu packbrand #8 | 43381.46 |\n| 10014007 | edu packamalgamalg #7 | 42982.090000000004 |\n| 9006004 | corpmaxi #4 | 42437.49 |\n| 9016008 | corpunivamalg #8 | 41782.0 |\n| 10006015 | amalgamalg #2 | 31716.129999999997 |\n| 2003001 | univnameless #4 | 31491.340000000004 |\n+-----------+------------------------+----------\n</code></pre>\n<p>可以看到平均任务的 QPS 提升 30%~40% 左右，部分任务提升 50% 以上。</p>\n<h3><a id=\"_426\"></a>参考资料</h3>\n<p>Alluxio on Amazon EMR 安装部署 ：<br />\n<a href=\"https://aws.amazon.com/cn/blogs/china/five-minitues-to-use-alluxio-guide-emr-spark/\" target=\"_blank\">https://aws.amazon.com/cn/blogs/china/five-minitues-to-use-alluxio-guide-emr-spark/</a><br />\nAlluxio 社区 EMR 集成指南：<br />\n<a href=\"https://docs.alluxio.io/os/user/stable/en/cloud/AWS-EMR.html\" target=\"_blank\">https://docs.alluxio.io/os/user/stable/en/cloud/AWS-EMR.html</a><br />\nAmazon EMR 集群：<br />\n<a href=\"https://docs.aws.amazon.com/zh_cn/emr/latest/ManagementGuide/emr-what-is-emr.html\" target=\"_blank\">https://docs.aws.amazon.com/zh_cn/emr/latest/ManagementGuide/emr-what-is-emr.html</a></p>\n<p>###小结<br />\n本文详细介绍了在 Amazon EMR 上 alluxio 集群的安装部署，包括 bootstrap 脚本及 EMR 集群初始化 json 配置，并通过 hive tpcds 标准 benchmark，比较了开启 Alluxio 加速的 EMR 集群上 hive sql 查询的性能提升。</p>\n<p><strong>本文作者</strong></p>\n<p><strong>唐清原</strong></p>\n<p><em>亚马逊云科技数据分析解决方案架构师，负责Amazon Data Analytic服务方案架构设计以及性能优化，迁移，治理等Deep Dive支持。10+数据领域研发及架构设计经验，历任Oracle 高级咨询顾问，咪咕文化数据集市高级架构师，澳新银行数据分析领域架构师职务。在大数据，数据湖，智能湖仓等项目有丰富实战经验。</em></p>\n<p><strong>陈昊</strong></p>\n<p><em>亚马逊云科技合作伙伴解决方案架构师，有将近 20 年的 IT 从业经验，在企业应用开发、架构设计及建设方面具有丰富的实践经验。目前主要负责 亚马逊云科技 (中国)合作伙伴的方案架构咨询和设计工作，致力于亚马逊云服务在国内的应用推广以及帮助合作伙伴构建更高效的亚马逊云服务解决方案。</em></p>\n<p><img src=\"https://awsdevweb.s3.cn-north-1.amazonaws.com.cn/5fab7324cfda4848acf242f23fb077b0_image.png\" alt=\"image.png\" /></p>\n"}