Linux下怎么部署Druid大数据实时查询

秋强同学_4440

秋强同学_4440

2026-06-11

447人浏览

原创

druid在linux上必须使用java 11+,官方自0.23.0起不再支持java 8;生产环境推荐openjdk 17 headless版,并需正确配置java_home和path;quickstart仅用于单机功能验证,不可用于生产;生产部署必须依赖zookeeper协调和mysql/postgresql元数据存储;middlemanager内存参数需合理设置,否则任务会静默失败。

linux下怎么部署druid大数据实时查询

Druid 在 Linux 上必须用 Java 11+,别试 Java 8 —— 启动直接报 UnsupportedClassVersionError 或明确提示 Java version must be at least 11,就是它。

Java 版本和环境变量必须一步到位

Druid 从 0.23.0 起彻底放弃 Java 8 支持。OpenJDK 11/17/21 都行,但生产环境强烈建议固定用 openjdk-17-jre-headless(Debian/Ubuntu)或 java-17-openjdk-headless(RHEL/CentOS),避免 GUI 相关依赖污染。

验证是否到位,只看两点:

  • java -version 输出含 11.、17. 或 21. 开头的版本号
  • $JAVA_HOME 已设为 JDK 根目录,且该路径已加入 $PATH

别信 which java —— 它可能指向系统默认的旧版 JRE;务必确认 $JAVA_HOME/bin/java -version 的输出。

quickstart 只能验证“能不能动”,不是部署流程

执行 ./bin/start-micro-quickstart(新版)或 ./bin/start-all.sh(旧版)后,若日志里出现 Started o.e.j.s.h.ContextHandler@ 且无 ERROR 行,http://localhost:8888 能打开控制台,说明单机功能通了。

但这只是把所有进程塞进一个 JVM,deep storage 和 metadata store 全用本地磁盘,**不走 ZooKeeper,也不连 MySQL/PostgreSQL**。它连“伪集群”都算不上,更不能代表生产能力。

常见误操作:

Linux installer
Linux installer

先解析安全源,运行本地CLI安装、启动、卸载Linux桌面应用。用户请求时使用。

下载
  • 把 quickstart 当成上线方案,后续数据量一上来就静默失败
  • 没删 var/ 目录直接重跑,导致端口冲突或元数据错乱
  • 导入 quickstart/tutorial/wikiticker-2015-09-12-sampled.json.gz 后,误以为 ingestion pipeline 已就绪 —— 实际它绕过了 real-time ingestion 所需的 middleManager + overlord 协调链

生产部署必须配齐 ZooKeeper 和关系型 metadata store

coordinator 和 overlord 进程强依赖分布式协调服务,ZooKeeper 是目前唯一被官方支持的选项;metadata store(存 datasource schema、segment 分配、task 状态等)必须用 MySQL 5.7+/8.0 或 PostgreSQL 10+ —— PostgreSQL 对时区和 JSON 类型处理更稳,推荐优先选。

关键配置项在 conf/druid/_common/common.runtime.properties 中:

  • druid.zk.service.host=localhost:2181(ZooKeeper 地址)
  • druid.metadata.storage.connector.connectURI=jdbc:postgresql://localhost:5432/druid(PostgreSQL 示例)
  • druid.metadata.storage.connector.user=druid 和密码项也得填全

middleManager 的内存参数容易被忽略:druid.middlemanager.defaultHeapMemory 和 druid.indexer.task.buffer.sizeBytes 若设得太小,任务会卡在 “RUNNING” 状态不报错,实际已静默失败。

启动脚本选型取决于硬件,不是越“大”越好

Druid 提供了 start-nano-quickstart 到 start-xlarge 一系列预设脚本,对应不同资源配置。别盲目选 start-medium —— 它默认吃掉 128GB 内存,而你的机器只有 32GB,结果就是 OOM 后反复重启。

实操建议:

  • 测试环境:用 start-micro-quickstart(4 CPU / 16GB RAM)足够
  • 准生产单节点:改用 conf/druid/single-server/small 目录下的配置,并手动调低 jvm.config 中的 -Xms/-Xmx(比如设为 -Xms4g -Xmx4g)
  • 所有自定义配置修改后,必须检查 conf/druid/_common 是否被正确 include,否则 broker/historical 等进程读不到元数据连接参数

最常被跳过的一步:启动前没运行 ./bin/verify-java 和 ./bin/verify-default-ports —— 后者会告诉你 8081/8082/8090 等端口是否已被占用,省去一半排查时间。

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

mysql postgresql linux

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
大数据分析工具有哪四个
大数据分析工具有哪四个

大数据分析的四个工具分别是rapidminer、Hpcc、Hadoop和Pentaho bi。大数据分析用于从各种来源生成的原始数据中提取有价值的数据。这些数据帮助我们获得有意义的见解、隐藏的模式、未知的相关性、市场趋势等等,具体取决于行业。大数据分析的主要动机是提供有价值的见解,以便为未来做出更好的决策。php中文网为大家带来了大数据分析的相关教程、以及相关文章等内容,供大家免费下载使用。

2023.06.21

4776

5

Java 大数据处理基础(Hadoop 方向)
Java 大数据处理基础(Hadoop 方向)

本专题聚焦 Java 在大数据离线处理场景中的核心应用,系统讲解 Hadoop 生态的基本原理、HDFS 文件系统操作、MapReduce 编程模型、作业优化策略以及常见数据处理流程。通过实际示例(如日志分析、批处理任务),帮助学习者掌握使用 Java 构建高效大数据处理程序的完整方法。

2025.12.08

1249

12

大数据专业学习教程
大数据专业学习教程

本专题整合了大数据专业学习相关教程,阅读专题下面的文章了解更多详细内容。

2026.01.05

223

5

python处理大数据合集
python处理大数据合集

本专题整合了python处理大数据相关教程,阅读专题下面的文章了解更多详细内容。

2026.01.05

466

22

磁盘配额是什么
磁盘配额是什么

磁盘配额是计算机中指定磁盘的储存限制,就是管理员可以为用户所能使用的磁盘空间进行配额限制,每一用户只能使用最大配额范围内的磁盘空间。php中文网为大家提供各种磁盘配额相关的内容,教程,供大家免费下载安装。

2023.06.21

3910

4

如何安装LINUX
如何安装LINUX

本站专题提供如何安装LINUX的相关教程文章,还有相关的下载、课程,大家可以免费体验。

2023.06.29

3353

10

linux find
linux find

find是linux命令,它将档案系统内符合 expression 的档案列出来。可以指要档案的名称、类别、时间、大小、权限等不同资讯的组合,只有完全相符的才会被列出来。find根据下列规则判断 path 和 expression,在命令列上第一个 - ( ) , ! 之前的部分为 path,之后的是 expression。还有指DOS 命令 find,Excel 函数 find等。本站专题提供linux find相关教程文章,还有相关

2023.06.30

2513

5

linux修改文件名
linux修改文件名

本专题为大家提供linux修改文件名相关的文章,这些文章可以帮助用户快速轻松地完成文件名的修改工作,大家可以免费体验。

2023.07.05

6070

7

linux系统安装教程
linux系统安装教程

linux系统是一种可以免费使用,自由传播,多用户、多任务、多线程、多CPU的操作系统。本专题提供linux系统安装教程相关的文章,大家可以免费体验。

2023.07.06

5702

7

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Apache Storm教程手册
Apache Storm教程手册

共11课时 | 15.1万人学习