欢迎您访问 最编程 本站为您分享编程语言代码,编程技术文章!
您现在的位置是: 首页

保姆 丨 Hadoop 部署

最编程 2024-04-21 12:40:55
...

0x00 前言

       Hadoop是一个由Apache基金会所开发的分布式系统基础架构。用户可以在不了解分布式底层细节的情况下,开发分布式程序。充分利用集群的威力进行高速运算和存储。

5fc3423a2cbb3d3ab8238ca167bb86a.jpg

▲ Hadoop生态系统



0x01 环境说明

Xshell 7
Hadoop-3.3.3
jdk-18_linux-x64_bin
centos-a(192.168.1.10)
centos-b(192.168.1.11)
centos-c(192.168.1.12)



0x02 准备工作

文中使用CentOS-7系统在三个虚拟机环境下进行示范,过程使用本地主机与虚拟机交互。首先要在Windows主机下载实验过程需要使用的环境。


Xshell 7:

https://www.xshell.com/zh/xshell-download/

Hadoop-3.3.3:

https://mirrors.tuna.tsinghua.edu.cn/apache/hadoop/common/stable/hadoop-3.3.3.tar.gz

jdk-18_linux-x64_bin:

https://download.oracle.com/java/18/latest/jdk-18_linux-x64_bin.tar.gz



0x03 配置hosts文件(三个节点)

通过root执行命令

su root


配置虚拟机hosts文件

vi /etc/hosts


写入各个节点IP和主机名

192.168.1.10 centos-a
192.168.1.11 centos-b
192.168.1.12 centos-c


分别检测三个节点是否互联

ping -c 3 centos-x



0x04 SSH免密登录(三个节点)

     

SSH为建立在应用层基础上的安全协议。SSH是较可靠,专为远程登录会话和其他网络服务提供安全性的协议。


生成密钥文件

ssh-keygen -t rsa -P ''


在.ssh目录中生成authorized_keys文件(仅在主节点执行)

touch /root/.ssh/authorized_keys


通过SSH复制三个节点生成的id信息

ssh-copy-id centos-a
ssh-copy-id centos-b
ssh-copy-id cnetos-c


查看密钥文件是否成功配置

cat /root/.ssh/authorized_keys



验证免密登录是否成功

ssh centos-b



0x05 Xshell7连接虚拟机(三个节点)

Xshell7可以在Windows界面下用来访问远端不同系统下的服务器,从而比较好的达到远程控制终端的目的。


d369d060a1d4fdca3d49cf4fff6f7bf.jpg

打开Xshell7选择新建

4abb290488908aaef064b80633d294a.jpg

修改常规项并连接虚拟机

633d9ad8a7b87198dac491783d94b45.jpg

接受并保存

cc4c11fd8a652d9f45dce9503a86e1d.jpg

输入主机名并确定

457fb6da87c5db43b76aa86535262cf.jpg

输入虚拟机密码并确定

6cdd8d9ba8263f7ffb1e9515da0bf92.jpg

虚拟机连接成功


0x06 Xshell7文件上传(三个节点)


通过root执行命令

su root


创建software文件夹

7ed877a0b277431ead8237e2ffdb570.jpg



mkdir /usr/local/software

下载文件互传工具

f1bcbbf6a7df4e4eefe6acae3debcd3.jpg



yum -y install lrzsz

打开software文件夹

a634887095c0a5d8728b6349a5fb5d1.jpg



cd /usr/local/software

利用lrzsz文件互传工具

3b9dd3b79526b02456cd0e8c5051e1c.jpg



rz

上传jdk-18_linux-x64_bin文件

36d5e4143a01c64cfd58f8e550dc2f1.jpg



上传Hadoop-3.3.3文件

06a72fcd88796e73f77cb5cd7d3b34b.jpg




0x07 安装JDK(三个节点)


创建jdk文件夹以保存解压的jdk文件

mkdir /usr/local/jdk


解压jdk文件