Linux怎么安装Hadoop大数据环境

夏静大大_9183

夏静大大_9183

2026-06-13

694人浏览

原创

hadoop 3.x 必须使用 java 8 或 11,禁用 17+;fs.defaultfs 必须设为 hdfs://localhost:9000;ssh 需对 localhost 免密;首次启动前必须执行 hdfs namenode -format。

linux怎么安装hadoop大数据环境

Java版本必须是8或11,别用17+或OpenJDK 21

Hadoop 3.x 官方明确只支持 Java 8 和 Java 11(openjdk-11-jdk 或 jdk-11.0.x),用 Java 17+ 会直接报 UnsupportedClassVersionError 错误,启动 hdfs namenode -format 或 start-dfs.sh 时失败。

常见踩坑点:

  • Ubuntu/Debian 系统默认装的是 openjdk-17-jdk,得先卸载:sudo apt remove openjdk-17-jdk
  • CentOS/RHEL 用 yum remove java-17-openjdk*,再装 java-11-openjdk-devel
  • JAVA_HOME 必须指向 JDK 根目录(如 /usr/lib/jvm/java-11-openjdk-amd64),不能只写 /usr/bin/java
  • 验证方式:运行 java -version 和 echo $JAVA_HOME,两者输出要一致且版本号含 11.0. 或 1.8.0_

配置文件里 fs.defaultFS 必须写成 hdfs://localhost:9000,不是 file:/// 或 localhost:9000

这是最常出错的配置项。Hadoop 启动后找不到 NameNode,日志里反复出现 Connection refused,大概率就是这里写错了。

core-site.xml 中必须严格按如下格式写:

<configuration><property><name>fs.defaultFS</name><value>hdfs://localhost:9000</value></property></configuration>

注意三点:

Obsidian (Linux)
Obsidian (Linux)

操作 Obsidian 库(纯 Markdown 笔记),并通过 notesmd-cli 实现自动化。

下载
  • 协议头必须是 hdfs://,不是 file://(那是本地模式)、也不是 http://
  • 主机名必须是 localhost(伪分布式)或真实 hostname(集群),不能留空或写 127.0.0.1(某些版本解析异常)
  • 端口必须是 9000,这是 HDFS 默认 RPC 端口;改了就得同步改 hdfs-site.xml 里的 dfs.namenode.rpc-address

SSH 免密登录必须对本机生效,连 localhost 都要能无密码 ssh

Hadoop 启动脚本(如 start-dfs.sh)内部会调用 ssh localhost 启动进程。哪怕单机伪分布式,也必须让 ssh localhost 不输密码——否则卡在 “starting namenode…” 就不动了。

实操要点:

  • 先确认 ssh 命令可用:which ssh、ssh -V
  • 生成密钥对:ssh-keygen -t rsa -P '' -f ~/.ssh/id_rsa(-P '' 表示空密码)
  • 追加公钥:cat ~/.ssh/id_rsa.pub >> ~/.ssh/authorized_keys
  • 设权限:chmod 700 ~/.ssh && chmod 600 ~/.ssh/authorized_keys
  • 测试:ssh localhost 成功退出即 OK;失败就看 ssh -v localhost 输出里卡在哪一步

第一次启动前必须执行 hdfs namenode -format,且只能执行一次

不格式化就启动,namenode 日志里会报 Failed to load image from,然后自动退出。格式化本质是初始化元数据目录(默认 $HADOOP_HOME/dfs/name),生成 VERSION 文件和空 current/ 目录。

关键提醒:

  • 执行前确保 hdfs-site.xml 已配置 dfs.namenode.name.dir(推荐绝对路径,如 /app/hadoop/dfs/name)
  • 执行命令必须用 Hadoop 用户(比如 hadoop),不能用 root,否则后续启动进程权限不一致
  • 格式化成功后,ls -l $HADOOP_HOME/dfs/name/current/ 应看到 VERSION、seen_txid 等文件
  • 如果二次格式化,旧数据全丢,且需手动清空 dfs/data 目录,否则 datanode 启动失败
Hadoop 安装真正卡住的地方,往往不是下载解压,而是 Java 版本、fs.defaultFS 协议写法、SSH 对 localhost 的免密、以及 format 是否真成功这四点。每一步验证输出比“照着教程敲完”更关键。

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

linux 大数据 java

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
大数据分析工具有哪四个
大数据分析工具有哪四个

大数据分析的四个工具分别是rapidminer、Hpcc、Hadoop和Pentaho bi。大数据分析用于从各种来源生成的原始数据中提取有价值的数据。这些数据帮助我们获得有意义的见解、隐藏的模式、未知的相关性、市场趋势等等,具体取决于行业。大数据分析的主要动机是提供有价值的见解,以便为未来做出更好的决策。php中文网为大家带来了大数据分析的相关教程、以及相关文章等内容,供大家免费下载使用。

2023.06.21

5176

5

Java 大数据处理基础(Hadoop 方向)
Java 大数据处理基础(Hadoop 方向)

本专题聚焦 Java 在大数据离线处理场景中的核心应用,系统讲解 Hadoop 生态的基本原理、HDFS 文件系统操作、MapReduce 编程模型、作业优化策略以及常见数据处理流程。通过实际示例(如日志分析、批处理任务),帮助学习者掌握使用 Java 构建高效大数据处理程序的完整方法。

2025.12.08

1249

12

大数据专业学习教程
大数据专业学习教程

本专题整合了大数据专业学习相关教程,阅读专题下面的文章了解更多详细内容。

2026.01.05

243

5

python处理大数据合集
python处理大数据合集

本专题整合了python处理大数据相关教程,阅读专题下面的文章了解更多详细内容。

2026.01.05

486

22

hadoop是什么
hadoop是什么

hadoop是一个由Apache基金会所开发的分布式系统基础架构。用户可以在不了解分布式底层细节的情况下,开发分布式程序。本专题为大家免费提供hadoop相关的文章、下载和课程。

2023.06.30

891

5

hadoop三大核心组件介绍
hadoop三大核心组件介绍

Hadoop的三大核心组件分别是:Hadoop Distributed File System(HDFS)、MapReduce和Yet Another Resource Negotiator(YARN)。想了解更多hadoop的相关内容,可以阅读本专题下面的文章。

2024.03.13

1825

9

hadoop的核心
hadoop的核心

hadoop的核心由分布式文件系统 (hdfs) 和资源管理框架 (mapreduce) 组成。想了解更多hadoop的相关内容,可以阅读本专题下面的文章。

2024.05.16

2146

8

Java 大数据处理基础(Hadoop 方向)
Java 大数据处理基础(Hadoop 方向)

本专题聚焦 Java 在大数据离线处理场景中的核心应用,系统讲解 Hadoop 生态的基本原理、HDFS 文件系统操作、MapReduce 编程模型、作业优化策略以及常见数据处理流程。通过实际示例(如日志分析、批处理任务),帮助学习者掌握使用 Java 构建高效大数据处理程序的完整方法。

2025.12.08

1249

12

磁盘配额是什么
磁盘配额是什么

磁盘配额是计算机中指定磁盘的储存限制,就是管理员可以为用户所能使用的磁盘空间进行配额限制,每一用户只能使用最大配额范围内的磁盘空间。php中文网为大家提供各种磁盘配额相关的内容,教程,供大家免费下载安装。

2023.06.21

4070

4

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Python uv官方安装与入门文档
Python uv官方安装与入门文档

共0课时 | 0人学习

Buffalo框架快速入门指南
Buffalo框架快速入门指南

共0课时 | 0人学习

Valgrind支持平台说明
Valgrind支持平台说明

共0课时 | 0人学习