Linux怎么安装Spark分布式计算

畫卷琴夢

畫卷琴夢

2026-06-15

416人浏览

原创

spark在linux上成功运行需满足三要素:java版本匹配(jdk 8或11)、spark_home与path正确配置($spark_home/bin须置path最前)、spark-env.sh至少配置java_home和spark_master_host;缺一即导致spark-shell启动失败或分布式功能异常。

linux怎么安装spark分布式计算

Spark 在 Linux 上不是“一键安装”的软件,它依赖 Java、路径配置和启动逻辑,缺一环就起不来。装完 spark-shell 能跑不等于集群能用,本地模式通 ≠ 分布式模式通。

Java 版本必须匹配 Spark 要求

Spark 3.3+ 官方只支持 JDK 8 或 JDK 11(JDK 17 尚未被完全认证)。用 JDK 17 启动 spark-shell 可能报 UnsupportedClassVersionError;用 JDK 17 编译的 Scala 库也可能导致 java.lang.NoClassDefFoundError: scala/Function1

  • 检查当前 JDK:java -version,确认输出含 1.8.0_11.
  • 如果系统默认是 JDK 17,别改全局 JAVA_HOME,只在 spark-env.sh 中显式指定:export JAVA_HOME=/usr/lib/jvm/java-11-openjdk-amd64(路径按实际调整)
  • Spark 二进制包里自带的 bin/spark-class 脚本会读 JAVA_HOME,不走系统 java 命令别名

选对预编译包,别碰源码编译

官网下载页标着 “Pre-built for Apache Hadoop 3.x” 的包才是开箱即用的。选错会导致运行时报 ClassNotFoundException: org.apache.hadoop.fs.FileSystem,尤其当你打算读 HDFS 或 S3。

GoLand Linux版
GoLand Linux版

GoLand Linux版提供 JetBrains 官方 Linux 安装包下载,当前版本 2026.2.0.1,适合后端服务、微服务、云原生和命令行工具开发。

下载
  • 典型正确包名:spark-3.5.0-bin-hadoop3.tgz(不含 “with-hadoop” 或 “src” 字样)
  • 如果没用 Hadoop,选 hadoop3 包也完全没问题——它只是带了 Hadoop client jar,不启动 HDFS 也不会加载
  • 绝对避免下载 spark-3.5.0.tgz(源码包),它没有 lib 目录,spark-shell 直接报 No such file or directory

spark-env.sh 必须手动创建并赋值

解压后 $SPARK_HOME/conf/spark-env.sh 默认不存在,只有 spark-env.sh.template。不重命名+编辑,start-master.sh 会静默失败,spark-submit 也无法识别 Master 地址。

  • 先复制:cp $SPARK_HOME/conf/spark-env.sh.template $SPARK_HOME/conf/spark-env.sh
  • 至少填这两行(单机测试):export JAVA_HOME=/path/to/jdkexport SPARK_MASTER_HOST=localhost
  • 若机器 hostname 解析异常(比如 hostname -f 返回空或非法域名),必须加 export SPARK_LOCAL_IP=127.0.0.1,否则 Worker 注册失败

验证不能只靠 spark-shell

spark-shell 成功只说明 driver 进程起来了,不代表分布式能力可用。真正验证得看 Web UI 和 Worker 是否注册成功。

  • 启动 Master:$SPARK_HOME/sbin/start-master.sh,然后访问 http://localhost:8080 —— 页面左上角应显示 ALIVE 状态
  • 再启动 Worker:$SPARK_HOME/sbin/start-worker.sh spark://localhost:7077,刷新 Web UI,Workers 列表应出现一条记录
  • 运行一个带 executor 的任务:spark-submit --master spark://localhost:7077 --deploy-mode client --class org.apache.spark.examples.SparkPi $SPARK_HOME/examples/jars/spark-examples_*.jar 10,观察 Web UI 的 Executors 标签页是否出现 executor 进程

最容易被忽略的是 workers 文件(Spark 3.0+ 已弃用 slaves):哪怕只起一个 Worker,也要确保 $SPARK_HOME/conf/workers 存在且内容为 localhost,否则 start-all.sh 不会拉起任何 Worker。

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

linux

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
什么是分布式
什么是分布式

分布式是一种计算和数据处理的方式,将计算任务或数据分散到多个计算机或节点中进行处理。本专题为大家提供分布式相关的文章、下载、课程内容,供大家免费下载体验。

2023.08.11

1495

5

分布式和微服务的区别
分布式和微服务的区别

分布式和微服务的区别在定义和概念、设计思想、粒度和复杂性、服务边界和自治性、技术栈和部署方式等。本专题为大家提供分布式和微服务相关的文章、下载、课程内容,供大家免费下载体验。

2023.10.07

1355

5

常用的数据库软件
常用的数据库软件

常用的数据库软件有MySQL、Oracle、SQL Server、PostgreSQL、MongoDB、Redis、Cassandra、Hadoop、Spark和Amazon DynamoDB。更多关于数据库软件的内容详情请看本专题下面的文章。php中文网欢迎大家前来学习。

2023.11.02

1907

19

磁盘配额是什么
磁盘配额是什么

磁盘配额是计算机中指定磁盘的储存限制,就是管理员可以为用户所能使用的磁盘空间进行配额限制,每一用户只能使用最大配额范围内的磁盘空间。php中文网为大家提供各种磁盘配额相关的内容,教程,供大家免费下载安装。

2023.06.21

2694

4

如何安装LINUX
如何安装LINUX

本站专题提供如何安装LINUX的相关教程文章,还有相关的下载、课程,大家可以免费体验。

2023.06.29

1672

10

linux find
linux find

find是linux命令,它将档案系统内符合 expression 的档案列出来。可以指要档案的名称、类别、时间、大小、权限等不同资讯的组合,只有完全相符的才会被列出来。find根据下列规则判断 path 和 expression,在命令列上第一个 - ( ) , ! 之前的部分为 path,之后的是 expression。还有指DOS 命令 find,Excel 函数 find等。本站专题提供linux find相关教程文章,还有相关

2023.06.30

1320

5

linux修改文件名
linux修改文件名

本专题为大家提供linux修改文件名相关的文章,这些文章可以帮助用户快速轻松地完成文件名的修改工作,大家可以免费体验。

2023.07.05

2675

7

linux系统安装教程
linux系统安装教程

linux系统是一种可以免费使用,自由传播,多用户、多任务、多线程、多CPU的操作系统。本专题提供linux系统安装教程相关的文章,大家可以免费体验。

2023.07.06

2442

7

linux查看文件夹大小
linux查看文件夹大小

Linux是一种自由和开放源码的类Unix操作系统,存在着许多不同的Linux版本,但它们都使用了Linux内核。Linux可安装在各种计算机硬件设备中,比如手机、平板电脑、路由器、视频游戏控制台、台式计算机、大型机和超级计算机。linux怎么查看文件夹大小呢?php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.07.20

1680

8

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
phpMyAdmin 安装文档
phpMyAdmin 安装文档

共0课时 | 0人学习

Apifox下载与安装手册
Apifox下载与安装手册

共0课时 | 0人学习

安装 Xdebug 并配置 phpstorm
安装 Xdebug 并配置 phpstorm

共1课时 | 128人学习