启动hdfs的shell脚本的命令 hdfs启动命令
在centos系统上配置hdfs(hadoop周围必要文件系统)需要经过一系列步骤,包括安装软件、设置环境变量、调整hadoop配置文件、清理namenode以及启动和验证hdfs服务。以下是详细的配置指南:1. 系统环境准备安装Java:HDFS依赖于Java环境,确保Java已安装。通过以下命令安装OpenJDK:sudo yum install java-1.8.0-openjdk-devel -y登录后复制安装SSH:设置SSH无密码登录,方便节点间不需要密码访问。ssh-keygen -t rsassh-copy-id localhost登录后复制2. 下载并解压Hadoop
从Apache Hadoop官方网站下载合适版本的Hadoop安装包,如Hadoop 3.3.4。wget https://archive.apache.org/dist/hadoop/core/hadoop-3.3.4/hadoop-3.3.4.tar.gztar -xzvf hadoop-3.3.4.tar.gz -C /opt/登录后复制3. 配置环境变量
修改/etc/profile文件,添加Hadoop的路径和库路径。echo quot;export HADOOP_HOME=/opt/hadoop-3.3.4quot;gt;gt;/etc/profileecho quot;export PATH=$PATH:$HADOOP_HOME/bin:$HADOOP_HOME/sbinquot;gt;gt;/etc/profilesource /etc/profile登录后复制4. 配置Hadoop配置文件core-site.xml:设置HDFS的默认文件系统和临时目录。lt;configurationgt;lt;propertygt;lt;namegt;fs.defaultFSlt;/namegt;lt;valuegt;hdfs://localhost:9000lt;/valuegt;lt;/propertyg t;lt;propertygt;lt;namegt;hadoop.tmp.dirlt;/namegt;lt;valuegt;/usr/local/hadoop/tmplt;/valuegt;lt;/propertygt;lt;/configurationgt;登录后复制hdfs-site.xml:配置HDFS的数据节点目录、副本数等。
lt;configurationgt;lt;propertygt;lt;namegt;dfs.namenode.name.dirlt;/namegt;lt;valuegt;/usr/local/hadoop/hdfs/namenodelt;/valuegt;lt;/propertygt;lt;propertygt;lt;namegt;dfs.datanode.data.dirlt;/namegt;lt;valuegt;/usr/local/hadoop/hdfs/datanodelt;/valuegt;lt;/propertygt;lt;propertygt;lt;namegt;dfs.replicationlt;/namegt;lt;valuegt;1lt;/valuegt;lt;/propertygt;lt;/configurationgt;登录后复制mapred-site.xml:配置MapReduce框架。lt;configurationg t;lt;propertygt;lt;namegt;mapreduce.framework.namelt;/namegt;lt;valuegt;yarnlt;/valuegt;lt;/propertygt;lt;/configurationgt;登录后复制yarn-site.xml:配置YARN资源管理器。lt;configurationgt;lt;propertygt;lt;namegt;yarn.resourcemanag er.hostnamelt;/namegt;lt;valuegt;localhostlt;/valuegt;lt;/propertygt;lt;propertygt;lt;namegt;yarn.nodemanager.aux-serviceslt;/namegt;lt;valuegt;mapreduce_shufflelt;/valuegt;lt;/propertygt;lt;/configurationgt;登录后复制5. 格式化NameNode
在NameNode节点上运行以下命令,初始化文件系统。hdfs namenode -format登录后复制6. 启动HDFS
启动NameNode和DataNode服务。/opt/hadoop-3.3.4/sbin/start-dfs.sh登录后复制7. 验证配置
使用以下命令检查HDFS状态。hdfs dfsadmin -report登录后复制
访问NameNode的Web界面:https://www.php.cn/link/b9d0cdbab65a298d077a7b9794f97cd58。 安全设置(可选)禁止非必要的用户:使用 cat /etc/passwd 命令查看超级口令文件,确保没有多个 user_id 为 0 的账户。 加强用户口令:设置包含大写字母、小写字母、数字和特殊字符的复杂口令,长度应超过10位。保护口令文件:使用 chattr i 命令为 /etc/passwd、/etc/shadow、/etc/group 和 /etc/gshadow文件设置不可更改的属性。HDFS安全模式:在HDFS中,NameNode进入安全模式(SafeMode)以保证数据的一致性和可靠性。
以上就是HDFS在CentOS上怎么设置的详细内容,更多请关注乐哥常识网其他相关文章!