博客 一文详解一站式大数据平台运维管家ChengYing如何部署Hadoop集群

一文详解一站式大数据平台运维管家ChengYing如何部署Hadoop集群

   数栈君   发表于 2022-08-17 19:42  488  0

本期我们带大家回顾一下海洋同学的直播分享《ChengYing部署Hadoop集群实战


http://dtstack-static.oss-cn-hangzhou.aliyuncs.com/2021bbs/files_user166259/article/b09a96ffb7f5856aa049c0269ea48d1d..jpg

Hadoop集群部署准备


在部署集群前,我们需要做一些部署准备,首先我们需要按照下载Hadoop产品包:

● Mysql

● Zookeeper

● Hadoop

● Hive

● Spark

https://dtstack-opensource.oss-cn-hangzhou.aliyuncs.com/chengying/Spark_2.1.3-6_centos7_x86_64.tar


接着我们可以将下载好的产品包直接通过ChengYing界面上传,具体路径是:部署中心—组件管理—组件列表—上传组件安装包

http://dtstack-static.oss-cn-hangzhou.aliyuncs.com/2021bbs/files_user166259/article/a38fea6b0879e7216e862a6e9595cc1b..jpg


可以通过两种模式上传产品包:

本地上传方式

产品包在先下载到本机电脑存储中,点击本地上传,选在产品包上传。

http://dtstack-static.oss-cn-hangzhou.aliyuncs.com/2021bbs/files_user166259/article/e0eba237cb28ff92710c9d3d343a96d2..jpg


网络上传模式

直接填写产品包网络地址上传(ChengYing的网络需要和产品包网络互通)。

http://dtstack-static.oss-cn-hangzhou.aliyuncs.com/2021bbs/files_user166259/article/1b1538ff3ff3af74fdfefa701dbcde1b..jpg


http://dtstack-static.oss-cn-hangzhou.aliyuncs.com/2021bbs/files_user166259/article/a69df4e36cbbceb1656951448afab392..jpg


http://dtstack-static.oss-cn-hangzhou.aliyuncs.com/2021bbs/files_user166259/article/9c06d399df3d4a09d153047b5ff03c0c..jpg

Hadoop集群部署流程


做完准备后,我们可以开始进入集群部署,Hadoop集群部署流程包括以下步骤:

http://dtstack-static.oss-cn-hangzhou.aliyuncs.com/2021bbs/files_user166259/article/e0b2ab5e848624aba273f3537ad17f8a..jpg

01

集群部署顺序说明

  1. 首先需要部署Mysql和zookeeper,因为Hadoop需要依赖zookeeper,Hive元数据存储使用的是Mysql;

  2. 其次需要部署Hadoop,Hive

  3. 最后部署Spark,因Spark依赖hivemetastore

PS:部署顺序是不可逆的


02

 Hadoop集群部署角色分布

http://dtstack-static.oss-cn-hangzhou.aliyuncs.com/2021bbs/files_user166259/article/6e2e32a72814d7ccc5d0c8734addc0d2..jpg


http://dtstack-static.oss-cn-hangzhou.aliyuncs.com/2021bbs/files_user166259/article/813b41deb14d0e2f63162d417234351d..jpg


03

产品包标准部署流程

http://dtstack-static.oss-cn-hangzhou.aliyuncs.com/2021bbs/files_user166259/article/95d2e5f9571f9129b802a1de59d29ded..jpg
  1. 选择需要部署的产品包,点击部署按钮,然后选择对应需要部署的集群,默认集群为dtstack,集群名称可配置;

  2. 下一步选择需要部署的服务,默认产品包下的服务都会部署,可以根据实际需求部署,在此阶段可以对服务的配置文件进行修改,例如:修改Mysql连接超时时间等;

  3. 最后点击部署,等待部署完成。


04

Mysql服务部署流程演示

接下来我们以Mysql服务部署流程来为大家实际演示下整体流程:

● 第一步:选择集群

http://dtstack-static.oss-cn-hangzhou.aliyuncs.com/2021bbs/files_user166259/article/75804b2d123e5db0a67724de5fee4b00..jpg


http://dtstack-static.oss-cn-hangzhou.aliyuncs.com/2021bbs/files_user166259/article/75f41a4759be10cef79a5c2d6427c64e..jpg


● 第二步:选择产品包

http://dtstack-static.oss-cn-hangzhou.aliyuncs.com/2021bbs/files_user166259/article/006709ea57661bd1c22f8a29cd265527..jpg


● 第三步:选择部署节点

http://dtstack-static.oss-cn-hangzhou.aliyuncs.com/2021bbs/files_user166259/article/f7ada9f904bc15e30f44ebfb9b022391..jpg


● 第四步:部署进度查看

http://dtstack-static.oss-cn-hangzhou.aliyuncs.com/2021bbs/files_user166259/article/2e3feab9954d5b1e3d45cbb9a9f0df62..jpg


http://dtstack-static.oss-cn-hangzhou.aliyuncs.com/2021bbs/files_user166259/article/120baa42c54b8adeb4569587eab3ca38..jpg


● 第五步:部署后状态查看

http://dtstack-static.oss-cn-hangzhou.aliyuncs.com/2021bbs/files_user166259/article/7030aeda3b565e082adcf6e8c019f4d3..jpg


http://dtstack-static.oss-cn-hangzhou.aliyuncs.com/2021bbs/files_user166259/article/edbd424d8668e510a763b6b38b8f0d29..jpg


http://dtstack-static.oss-cn-hangzhou.aliyuncs.com/2021bbs/files_user166259/article/01484dde2024f8a00f63a4540988d642..jpg

Hadoop集群使用与运维


集群部署完毕后,若有需求可以进行配置变更操作。

● 配置修改

例如:如果需要操作修改yarn的配置文件,可以先选择yarn-site.xml文件,可以在搜索框搜索需要修改的配置文件key,如cpu_vcores。

http://dtstack-static.oss-cn-hangzhou.aliyuncs.com/2021bbs/files_user166259/article/a89a82b48fee530a4c508fd6e3e4c943..jpg


● 配置保存

http://dtstack-static.oss-cn-hangzhou.aliyuncs.com/2021bbs/files_user166259/article/badce761df792341d1c7e100bcaf7fbf..jpg


● 配置下发

http://dtstack-static.oss-cn-hangzhou.aliyuncs.com/2021bbs/files_user166259/article/ca170a723d90a7f84ab1204349c21ac5..jpg


http://dtstack-static.oss-cn-hangzhou.aliyuncs.com/2021bbs/files_user166259/article/0eb9f659a3018168a0bc6ecfc2e65240..jpg

Taier对接Hadoop操作流程


ChengYing除了可自动部署运维外,还可以对接Taier部署Hadoop集群,Taier 是一个大数据分布式可视化的DAG任务调度系统,旨在降低ETL开发成本、提高大数据平台稳定性,大数据开发人员可以在 Taier 直接进行业务逻辑的开发,而不用关心任务错综复杂的依赖关系与底层的大数据平台的架构实现,将工作的重心更多地聚焦在业务之中。

利用ChengYing部署管理Taier服务,可以做到实时监控Taier的服务状态,随时界面修改Taier配置等。Taier对接Hadoop集群的操作流程如下:

http://dtstack-static.oss-cn-hangzhou.aliyuncs.com/2021bbs/files_user166259/article/5a1e14a5b75dd3ce7db45be70bad97e5..jpg


  1. 首先需要在Taier控制台选择多集群配置,新增一个集群;

  2. 然后配置sftp、资源调度组件、存储组件和计算组件;

  3. 配置完成后需要保存并且测试连通性。


注意事项:

在对接过程中,sftp主机需要和Taier网络相通,并且sftp配置主机的路径需要存在,如果不存在,需要手动创建。


Taier的部署网络需要与Hadoop网络相通,如果运行任务,需要在Taier所在节点加入Hadoop集群的Host配置;编译/etc/hosts文件,增加IP Hostname。


● 第一步:配置公共组件

首先进入Taier登陆界面,点击控制台,新增集群,然后进入多集群管理界面,配置公共组件,选择SFTP,进入SFTP配置界面。

http://dtstack-static.oss-cn-hangzhou.aliyuncs.com/2021bbs/files_user166259/article/1eebc576f1840e15de4d67c62af44f45..jpg


● 第二步:配置SFTP

然后配置SFTP的host,认证方式,默认采用用户名密码方式,输入用户名和密码,并且输入path路径,此路径需要在主机上存在,如果不存在,需要手动创建一个SFTP路径.

http://dtstack-static.oss-cn-hangzhou.aliyuncs.com/2021bbs/files_user166259/article/3a418bc071a09bb17b9cb7d1ae1fd0ac..jpg


● 第三步:资源调度组件配置

  1. 需要到部署Hadoop服务器到/opt/dtstack/Hive/hive_pkg/conf目录下获取hive-site.xml文件,下载到本地;

  2. 到/opt/dtstack/Hadoop/Hadoop_pkg/etc/Hadoop目录下获取hdfs-site.xml、core-site.xml、yarn-site.xml文件,下载到本地;

  3. 这四个文件压缩成一个zip包,上传这个压缩包。

http://dtstack-static.oss-cn-hangzhou.aliyuncs.com/2021bbs/files_user166259/article/f0216deabf276f88dbd88f39b0527f67..jpg


● 第四步:计算组件配置

选择计算组件模块,选择需要对接的计算引擎Hive和Spark,选择Hive和Spark的版本,填写对应的jdbc(jdbc:hive://ip:port/)连接串,然后点击保存,测试连通性。


注意:jdbcurl中ip分别为Hive组件的hiveserver2和Spark中的thrifterserver所在节点ip。

http://dtstack-static.oss-cn-hangzhou.aliyuncs.com/2021bbs/files_user166259/article/f7b59324fe0c0441fb63b9992a307005..jpg


● 第五步:配置Hive和Spark

以下是配置完成Hive和Spark组件后,测试连通性的状态。


注意:本地演示环境Hadoop未开启安全,Hive和Spark只需要配置jdbcurl即可。

http://dtstack-static.oss-cn-hangzhou.aliyuncs.com/2021bbs/files_user166259/article/e664af4c0334d0ccf61c11e8544d6d10..jpg


http://dtstack-static.oss-cn-hangzhou.aliyuncs.com/2021bbs/files_user166259/article/23bdf13522ab7c4e9d0634d55b7d6b14..jpg

Hadoop集群近期规划


最后和大家聊聊Hadoop集群近期规划,近期主要有三大规划:

● 产品包制作

制作ChengYing部署产品包的流程及实践。


● ChunJun&Taier产品包

制作可以用ChengYing部署的Taier和chunjun的产品包


● Hadoop运维

通过ChengYing运维大数据集群;

通过ChengYing一键开启Hadoop集群安全。

0条评论
社区公告
  • 大数据领域最专业的产品&技术交流社区,专注于探讨与分享大数据领域有趣又火热的信息,专业又专注的数据人园地

最新活动更多
微信扫码获取数字化转型资料
钉钉扫码加入技术交流群