当前位置:首页 > PS视频 > 正文内容

在FinalShell中安装Hadoop3的详细步骤是什么?

编辑2个月前 (04-28)PS视频8

# FinalShell 连接 CentOS7 安装 Hadoop3.3.6 超详细完整步骤 全程在 **FinalShell** 操作,复制命令直接运行,适配:CentOS7 + Hadoop3.3.6 + JDK8,伪分布式/完全分布式通用。 --- # 前期准备(FinalShell 内全部执行) ## 1. 关闭防火墙 & SELinux ```bash # 关闭防火墙 systemctl stop firewalld systemctl disable firewalld # 关闭SELinux setenforce 0 sed -i 's/^SELINUX=enforcing/SELINUX=disabled/' /etc/selinux/config ``` ## 2. 安装依赖 ```bash yum install -y wget net-tools vim openssh-clients ``` --- # 第一步:安装 JDK8(Hadoop 必备) ## 1. 一键安装 OpenJDK8 ```bash yum install -y java-1.8.0-openjdk-devel ``` ## 2. 查看JDK真实路径 ```bash readlink -f $(which java) ``` 示例路径: `/usr/lib/jvm/java-1.8.0-openjdk-1.8.0.402-0.b06.el7_9.x86_64` ## 3. 配置全局环境变量 ```bash vim /etc/profile ``` 文件最底部添加: ```sh export JAVA_HOME=/usr/lib/jvm/java-1.8.0-openjdk-1.8.0.402-0.b06.el7_9.x86_64 export PATH=$JAVA_HOME/bin:$PATH ``` 保存退出:`ESC` → 输入 `:wq` 回车 ## 4. 生效配置 ```bash source /etc/profile java -version ``` 显示 `1.8.0` 即为成功。 --- # 第二步:配置主机名 + hosts映射 ## 1. 设置主机名 ```bash hostnamectl set-hostname hadoop-master ``` ## 2. 配置hosts ```bash vim /etc/hosts ``` 添加一行(写你自己虚拟机IP): ``` 192.168.122.130  hadoop-master ``` --- # 第三步:配置 SSH 免密登录 ```bash # 生成密钥 全部回车 ssh-keygen -t rsa # 写入免密文件 cat ~/.ssh/id_rsa.pub >> ~/.ssh/authorized_keys chmod 700 ~/.ssh chmod 600 ~/.ssh/authorized_keys # 测试免密 ssh hadoop-master date ``` --- # 第四步:下载 & 解压 Hadoop3.3.6 ## 1. 进入 /opt 目录 ```bash cd /opt ``` ## 2. 清华镜像下载 Hadoop ```bash wget https://mirrors.tuna.tsinghua.edu.cn/apache/hadoop/common/hadoop-3.3.6/hadoop-3.3.6.tar.gz ``` ## 3. 解压 + 重命名 ```bash tar -zxvf hadoop-3.3.6.tar.gz mv hadoop-3.3.6 hadoop ``` ## 4. Hadoop 环境变量配置 ```bash vim /etc/profile ``` 追加以下内容: ```sh export HADOOP_HOME=/opt/hadoop export HADOOP_CONF_DIR=$HADOOP_HOME/etc/hadoop export HADOOP_PATH=$HADOOP_HOME/bin:$HADOOP_HOME/sbin export PATH=$PATH:$HADOOP_PATH ``` 生效: ```bash source /etc/profile # 验证 hadoop version ``` --- # 第五步:修改 Hadoop 核心配置文件 配置目录:`/opt/hadoop/etc/hadoop` ## 1. 配置 hadoop-env.sh ```bash vim /opt/hadoop/etc/hadoop/hadoop-env.sh ``` 末尾添加: ```sh export JAVA_HOME=/usr/lib/jvm/java-1.8.0-openjdk-1.8.0.402-0.b06.el7_9.x86_64 export HDFS_NAMENODE_USER=root export HDFS_DATANODE_USER=root export HDFS_SECONDARYNAMENODE_USER=root export YARN_RESOURCEMANAGER_USER=root export YARN_NODEMANAGER_USER=root ``` ## 2. 配置 core-site.xml ```bash vim /opt/hadoop/etc/hadoop/core-site.xml ``` 替换全部内容: ```xml <configuration>    <property>        <name>fs.defaultFS</name>        <value>hdfs://hadoop-master:9000</value>    </property>    <property>        <name>hadoop.tmp.dir</name>        <value>/opt/hadoop/tmp</value>    </property>    <property>        <name>hadoop.proxyuser.root.hosts</name>        <value>*</value>    </property>    <property>        <name>hadoop.proxyuser.root.groups</name>        <value>*</value>    </property> </configuration> ``` ## 3. 配置 hdfs-site.xml ```bash vim /opt/hadoop/etc/hadoop/hdfs-site.xml ``` ```xml <configuration>    <property>        <name>dfs.replication</name>        <value>1</value>    </property>    <property>        <name>dfs.permissions.enabled</name>        <value>false</value>    </property> </configuration> ``` ## 4. 配置 mapred-site.xml ```bash vim /opt/hadoop/etc/hadoop/mapred-site.xml ``` ```xml <configuration>    <property>        <name>mapreduce.framework.name</name>        <value>yarn</value>    </property>    <property>        <name>yarn.app.mapreduce.am.env</name>        <value>HADOOP_MAPRED_HOME=${HADOOP_HOME}</value>    </property>    <property>        <name>mapreduce.map.env</name>        <value>HADOOP_MAPRED_HOME=${HADOOP_HOME}</value>    </property>    <property>        <name>mapreduce.reduce.env</name>        <value>HADOOP_MAPRED_HOME=${HADOOP_HOME}</value>    </property> </configuration> ``` ## 5. 配置 yarn-site.xml ```bash vim /opt/hadoop/etc/hadoop/yarn-site.xml ``` ```xml <configuration>    <property>        <name>yarn.nodemanager.aux-services</name>        <value>mapreduce_shuffle</value>    </property>    <property>        <name>yarn.resourcemanager.hostname</name>        <value>hadoop-master</value>    </property> </configuration> ``` ## 6. 修改 workers ```bash vim /opt/hadoop/etc/hadoop/workers ``` 清空原有内容,写入: ``` hadoop-master ``` --- # 第六步:初始化 & 启动 Hadoop ## 1. 格式化 NameNode(**只执行一次**) ```bash hdfs namenode -format ``` ## 2. 启动 HDFS ```bash start-dfs.sh ``` ## 3. 启动 YARN ```bash start-yarn.sh ``` ## 4. 查看进程 ```bash jps ``` 正常进程: - NameNode - DataNode - SecondaryNameNode - ResourceManager - NodeManager --- # 第七步:访问 Web 页面 虚拟机放行端口或关闭防火墙后,浏览器打开: - HDFS:`http://虚拟机IP:9870` - YARN:`http://虚拟机IP:8088` --- # 常用停止命令 ```bash stop-dfs.sh stop-yarn.sh

扫描二维码推送至手机访问。

版权声明:本文由手机数据加工厂发布,如需转载请注明出处。

本文链接:https://www.cryp6.com/?id=153

“ 在FinalShell中安装Hadoop3的详细步骤是什么?” 的相关文章

视频里的水印怎么去除干净?6种方法亲测有效,简单又无痕

视频里的水印怎么去除干净?6种方法亲测有效,简单又无痕

根据2026年行业报告显示,视频去水印工具市场规模已达43.8亿元,年增长率超21%,其中个人创作者占比59%,企业级客户采购量三年翻番。无论是剪辑短视频、二次创作素材,还是整理工作资料,“水印碍事”都成了高频痛点。要么遮挡关键信息,要么影响画面美感,更有甚者会被平台判定为非原创内容。今天分享6种亲...

微信记录彻底备份教程,换手机一键迁移

全程不用复杂操作,老人也能看懂,每一步都对应截图位置。一、手机直接互传(换手机首选,免费最快)适合:旧手机换新手机、当场迁移所有聊天1新旧手机都连上同一个 WiFi,登录同一个微信号2打开微信 → 点【我】→【设置】3找到【通用】→【聊天记录迁移与备份】4选择【迁移聊天记录到另一台设备】5旧手机勾选...

有哪些适合手机电脑数据同步的免费工具?

有哪些适合手机电脑数据同步的免费工具?

一、局域网高速互传(同 Wi‑Fi,最快、最稳、隐私好)1. LocalSend(强烈推荐,替代 AirDrop / 华为分享)平台:Windows /macOS/ Linux / Android /iOS免费:完全开源免费,无广告、无账号、不限大小特点:同 Wi‑Fi 下自动发现设备,一键发送点对...

无线传文件很慢?

无线传文件很慢?原因 + 解决办法(简洁科普版)一、变慢主要原因连接的是2.4G 低频 WiFi,网速本身就慢、干扰多。手机和电脑距离太远、隔墙,信号变弱。同一网络设备太多,WiFi 拥堵卡顿。用微信、QQ 传输,系统会压缩文件,还限速。后台下载、刷视频占用网速,挤占传输速度。二、快速提速方法切换连...

如何彻底删除云端数据?

下面按 “先断同步→删云端文件→清回收站→清备份 / 版本→退出账号”,把主流云盘(OneDrive、iCloud、百度网盘、华为 / 小米等)一次性彻底删干净,防止恢复与覆盖。一、先把所有设备同步全关(必做)电脑:退出 OneDrive/iCloud/ 百度网盘,取消链接此设备,关闭自动同步。手机...

算力调度算法:基于AI的智能算力分配方法

下面我用偏工程、好落地的方式,把 “基于 AI 的智能算力调度算法(智能算力分配方法)” 讲清楚:从核心思路、主流 AI 算法、典型流程,到鸿蒙 / 端侧场景怎么用。一、问题背景:为什么要用 AI 调度算力?传统算力调度(轮询、加权轮询、静态优先级)靠人工规则,面对 AI 任务(大模型训练 / 推理...

发表评论

访客

◎欢迎参与讨论,请在这里发表您的看法和观点。