centos hdfs配置教程

在CentOS上配置Hadoop分布式文件系统（HDFS）是一个涉及多个步骤的过程。以下是一个详细的教程，帮助你完成HDFS的配置：

1. 环境准备

安装Java环境

Hadoop是基于Java的，因此需要安装JDK。你可以从Oracle官网下载并安装JDK 8。

sudo yum install -y java-1.8.0-openjdk-devel export JAVA_HOME=/usr/lib/jvm/java-1.8.0-openjdk export PATH=$JAVA_HOME/bin:$PATH

安装SSH

确保所有节点之间可以通过SSH无密码登录。

sudo yum install -y openssh-server openssh-client sudo systemctl start sshd sudo systemctl enable sshd ssh-keygen -t rsa -P "" ssh-copy-id root@node2 ssh-copy-id root@node3

配置网络

修改主机名和IP地址映射。

vi /etc/hosts vi /etc/sysconfig/network-scripts/ifcfg-eth0

设置静态IP地址和网关。

2. 配置Hadoop环境变量

编辑 /etc/profile 文件，添加Hadoop相关的环境变量。

vi /etc/profile export HADOOP_HOME=/usr/local/hadoop export PATH=$HADOOP_HOME/bin:$PATH export HADOOP_CONF_DIR=$HADOOP_HOME/etc/hadoop source /etc/profile

3. 配置HDFS核心文件

core-site.xml

配置HDFS默认文件系统。

<configuration> <property> <name>fs.defaultFS</name> <value>hdfs://namenode:9000</value> </property> </configuration>

hdfs-site.xml

配置HDFS数据存储路径和副本数等。

<configuration> <property> <name>dfs.namenode.name.dir</name> <value>/path/to/namenode/data</value> </property> <property> <name>dfs.datanode.data.dir</name> <value>/path/to/datanode/data</value> </property> <property> <name>dfs.replication</name> <value>3</value> </property> </configuration>

4. 格式化NameNode

在NameNode节点上执行以下命令格式化NameNode。

hdfs namenode -format

5. 启动HDFS

在NameNode节点上执行以下命令启动HDFS集群。

/usr/local/hadoop/sbin/start-dfs.sh

6. 验证配置

使用以下命令检查HDFS的状态。

hdfs dfsadmin -report

访问Web界面查看HDFS的状态信息。

http://namenode:50070

7. 配置防火墙（可选）

关闭防火墙。

sudo systemctl stop firewalld sudo chkconfig firewalld off

8. 配置免密登录（可选）