统信UOS怎么安装Hadoop环境

大婷同学_8103

大婷同学_8103

2026-07-19

856人浏览

原创

在统信uos系统中搭建hadoop开发环境需先安装openjdk 11、ssh服务端等基础依赖,再创建专用hadoop用户并配置ssh免密登录,接着下载解压hadoop 3.3.6,设置hadoop_home等环境变量,修改hadoop-env.sh指定java_home,配置core-site.xml和hdfs-site.xml实现伪分布式模式,最后格式化namenode并启动hdfs服务,通过jps和http://localhost:9870验证运行成功。

统信uos怎么安装hadoop环境

在统信UOS系统中搭建Hadoop开发环境,需绕过桌面版默认不带SSH服务端、无预装Java、缺少必要编译工具链等限制,直接从底层依赖补全开始配置。

安装基础依赖与Java运行环境

统信UOS桌面版默认未安装OpenJDK和SSH服务端,而Hadoop 3.x必须依赖Java 8或11及以上版本,且伪分布式模式强制要求sshd可运行。执行以下命令一次性安装全部基础组件:

sudo apt update && sudo apt install -y openjdk-11-jdk openssh-server vim net-tools curl wget

安装完成后验证Java路径是否可用:执行【java -version】应输出openjdk 11.x信息;若提示“Command 'java' not found”,说明系统未自动注册JAVA_HOME,需手动配置。

编辑/etc/environment文件,在末尾新增一行:
JAVA_HOME="/usr/lib/jvm/java-11-openjdk-amd64"

重启终端或执行source /etc/environment使变量生效。这一步不可跳过,否则后续所有Hadoop配置都会因找不到Java而失败。

创建专用用户并配置SSH无密码登录

为避免权限混乱和安全风险,Hadoop官方明确要求使用非root用户运行。创建名为hadoop的专用账户:

sudo useradd -m -s /bin/bash hadoop && sudo passwd hadoop

将该用户加入sudo组以便临时提权:
sudo usermod -aG sudo hadoop

切换至hadoop用户:
su - hadoop

生成SSH密钥对(使用默认参数即可):
ssh-keygen -t rsa -P '' -f ~/.ssh/id_rsa

将公钥写入授权列表:
cat ~/.ssh/id_rsa.pub >> ~/.ssh/authorized_keys

设置authorized_keys权限为600,否则sshd会拒绝读取:
chmod 600 ~/.ssh/authorized_keys

启动SSH服务(UOS桌面版默认未启用):
sudo systemctl enable ssh && sudo systemctl start ssh

测试本地免密登录:
ssh localhost

若首次连接提示输入yes/no,输入yes后成功进入shell即表示配置完成。如果卡在密码提示,说明authorized_keys权限错误或sshd未运行。

下载并解压Hadoop安装包

访问Apache归档站下载稳定版Hadoop 3.3.6(兼容UOS内核及glibc 2.31+):

cd ~ && wget https://archive.apache.org/dist/hadoop/common/hadoop-3.3.6/hadoop-3.3.6.tar.gz

解压到/home/hadoop目录下:
tar -xzf hadoop-3.3.6.tar.gz

Zoom Workplace
Zoom Workplace

Zoom Workplace是一款AI办公效率工具,Zoom推出的AI办公协作和交流沟通平台。

下载

建立软链接便于后续路径引用:
ln -s hadoop-3.3.6 hadoop

这一步操作起来很简单,直接把文件拖进去就行。但注意不要解压到/tmp或/root路径下,否则hadoop用户无权访问。

配置Hadoop核心环境变量

编辑~/.bashrc,在末尾追加以下三行:

export HADOOP_HOME=$HOME/hadoop
export PATH=$PATH:$HADOOP_HOME/bin:$HADOOP_HOME/sbin
export HADOOP_CONF_DIR=$HADOOP_HOME/etc/hadoop

立即加载新配置:
source ~/.bashrc

验证是否生效:
echo $HADOOP_HOME

输出应为/home/hadoop/hadoop。若为空,请检查.bashrc是否保存成功、是否漏掉$符号、是否执行了source命令。

修改Hadoop配置文件

方法一:配置Java路径(必需)
编辑$HADOOP_HOME/etc/hadoop/hadoop-env.sh,找到# export JAVA_HOME=...这一行,取消注释并修改为:
export JAVA_HOME=/usr/lib/jvm/java-11-openjdk-amd64

方法二:配置HDFS默认地址(伪分布式关键)
编辑$HADOOP_HOME/etc/hadoop/core-site.xml,在标签内插入:


  fs.defaultFS
  hdfs://localhost:9000

方法三:设置HDFS副本数与存储路径(适配UOS单机特性)
编辑$HADOOP_HOME/etc/hadoop/hdfs-site.xml,填入:


  dfs.replication
  1


  dfs.namenode.name.dir
  file://$HOME/hadoop_data/hdfs/namenode


  dfs.datanode.data.dir
  file://$HOME/hadoop_data/hdfs/datanode

创建对应目录:
mkdir -p ~/hadoop_data/hdfs/{namenode,datanode}

格式化NameNode并启动服务

第一步:格式化分布式文件系统元数据
hdfs namenode -format

第二步:启动HDFS服务(仅NameNode和DataNode)
start-dfs.sh

第三步:验证进程是否正常运行
jps

正确输出应包含NameNode、DataNode、SecondaryNameNode三个Java进程。若只看到Jps自身,说明start-dfs.sh执行失败,常见原因是JAVA_HOME未生效或SSH未配置成功。

第四步:通过Web界面确认服务状态
打开UOS自带浏览器,访问http://localhost:9870

页面显示“Welcome to Hadoop!”即表示HDFS已就绪。此端口是Hadoop 3.x默认UI端口,无需额外开启防火墙——UOS桌面版默认未启用ufw或iptables。

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
hadoop是什么
hadoop是什么

hadoop是一个由Apache基金会所开发的分布式系统基础架构。用户可以在不了解分布式底层细节的情况下,开发分布式程序。本专题为大家免费提供hadoop相关的文章、下载和课程。

2023.06.30

791

5

hadoop三大核心组件介绍
hadoop三大核心组件介绍

Hadoop的三大核心组件分别是:Hadoop Distributed File System(HDFS)、MapReduce和Yet Another Resource Negotiator(YARN)。想了解更多hadoop的相关内容,可以阅读本专题下面的文章。

2024.03.13

1625

9

hadoop的核心
hadoop的核心

hadoop的核心由分布式文件系统 (hdfs) 和资源管理框架 (mapreduce) 组成。想了解更多hadoop的相关内容,可以阅读本专题下面的文章。

2024.05.16

1906

8

Java 大数据处理基础(Hadoop 方向)
Java 大数据处理基础(Hadoop 方向)

本专题聚焦 Java 在大数据离线处理场景中的核心应用,系统讲解 Hadoop 生态的基本原理、HDFS 文件系统操作、MapReduce 编程模型、作业优化策略以及常见数据处理流程。通过实际示例(如日志分析、批处理任务),帮助学习者掌握使用 Java 构建高效大数据处理程序的完整方法。

2025.12.08

1229

12

LLVM自定义Pass怎么写
LLVM自定义Pass怎么写

本专题聚焦LLVM自定义Pass开发,整理Pass类结构、run()方法、PreservedAnalyses、CMake构建、插件注册、-load-pass-plugin加载和测试用例编写流程。

2026.09.30

20

10

LLVM RISC-V参数配置教程
LLVM RISC-V参数配置教程

本专题介绍LLVM对RISC-V基础ISA和扩展的支持方式,涵盖RV32、RV64、标准扩展、实验性扩展、厂商扩展、-menable-experimental-extensions和版本差异。

2026.09.30

0

14

LLVM IR中间表示入门指南
LLVM IR中间表示入门指南

本专题整理LLVM IR的核心概念,包括中间表示作用、模块结构、函数、基本块、SSA形式、类型系统和常见语法,帮助新手理解LLVM编译流程中的关键层。

2026.09.30

0

12

PDF转图片方法
PDF转图片方法

需要把 PDF 页面用于上传、预览、分享或图片归档时,PDF 转图片方法专题整理 JPG/PNG 格式选择、逐页导出、清晰度设置、批量下载和结果检查等流程,帮助用户稳定完成 PDF 图片化处理。

2026.09.30

20

26

PixTV AI视频生成与无限画布创作
PixTV AI视频生成与无限画布创作

PixTV专题整理AI视频与视觉内容创作相关功能使用教程,涵盖AI生图、视频生成、无限画布、多模型创作、素材管理、声音音乐及视频剪辑等功能,帮助用户快速掌握PixTV从创意到成片的完整制作方法。

2026.09.29

20

15

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
热门推荐
/
最新课程
phpStudy极速入门视频教程
phpStudy极速入门视频教程

共6课时 | 54.6万人学习

独孤九贱(4)_PHP视频教程
独孤九贱(4)_PHP视频教程

共89课时 | 133.4万人学习