Linux怎么安装Druid大数据仓库

千丽酱_3734

千丽酱_3734

2026-07-03

589人浏览

原创

Druid是面向实时OLAP的分布式列式时序数据库,非传统大数据仓库;安装需Java≥11、ZooKeeper协调、关系型元数据库(MySQL/PostgreSQL),且middleManager内存配置不当易致任务静默失败。

linux怎么安装druid大数据仓库

Druid 不是传统意义上的“大数据仓库”,它是一个面向实时 OLAP 的分布式列式时序数据库,安装方式和使用逻辑跟 Hive、ClickHouse 或 StarRocks 有本质区别。直接按“仓库”思路装,十有八九会卡在启动、元数据或 deep storage 配置上。

Java 版本必须 ≥11,否则连进程都起不来

Druid 自 0.23.0 起彻底放弃 Java 8 支持。常见错误包括:

  • UnsupportedClassVersionError
  • 日志里出现 Java version must be at least 11
  • 进程秒退,ps aux | grep java 看不到任何 Druid 相关 JVM

生产环境建议用 openjdk-17-jre-headless(Debian/Ubuntu)或 java-17-openjdk-headless(RHEL/CentOS)。验证方式:

java -version

输出中必须含 11.、17. 或 21. 开头的版本号;同时确认 $JAVA_HOME 已设置且 $PATH 包含 $JAVA_HOME/bin。

quickstart 只能验证基础流程,不能代表部署成功

单机快速验证用 ./bin/start-micro-quickstart(新版)或 ./bin/start-all.sh(旧版),但要注意:

  • 它把所有角色(coordinator、overlord、broker、historical、middleManager)塞进一个 JVM,不模拟真实集群通信
  • 默认用本地磁盘存 segment(var/druid/segments)和元数据(var/druid/metadata),没走 MySQL/PostgreSQL
  • 不依赖 ZooKeeper,协调靠内存模拟 —— 所以哪怕控制台能打开、SQL 能跑通,也不代表生产配置可行

能访问 http://localhost:8888 且无 ERROR 日志,只说明“Druid 二进制包本身可运行”,不是“部署完成”。

生产部署必须配 ZooKeeper + 关系型元数据库

集群模式下,以下两项不可绕过:

Obsidian (Linux)
Obsidian (Linux)

操作 Obsidian 库(纯 Markdown 笔记),并通过 notesmd-cli 实现自动化。

下载
  • ZooKeeper:唯一被官方支持的协调服务,coordinator 和 overlord 依赖它做 leader 选举与状态同步。路径需统一设为 druid.zk.paths.base=/druid
  • MySQL 或 PostgreSQL:存 datasource schema、segment 分配、task 状态等元数据。druid.metadata.storage.type=mysql 或 postgresql,连接串、账号密码必须显式配置

关键配置集中在 conf/druid/cluster/_common/common.runtime.properties,例如:

druid.zk.service.host=zk1:2181,zk2:2181,zk3:2181<br>druid.metadata.storage.type=postgresql<br>druid.metadata.storage.connector.connectURI=jdbc:postgresql://pg:5432/druid<br>druid.metadata.storage.connector.user=druid<br>druid.metadata.storage.connector.password=secret

别漏掉扩展加载项:druid.extensions.loadList=["mysql-metadata-storage","druid-kafka-indexing-service"](按需增删)。

middleManager 内存参数错配会导致任务静默失败

middleManager 是实际执行 ingestion 任务的节点,但它不报错、不 Crash,只“卡住不动”——这是最常被忽略的坑。

  • druid.indexer.runner.javaOpts 控制 JVM heap,必须留足空间给 task 进程 fork
  • druid.indexer.task.heapMemoryMB 是每个 task 的堆上限,不能超过 JVM 总 heap 的 70%
  • druid.processing.buffer.sizeBytes 影响中间聚合缓冲区,默认值太小,大数据量易 OOM

典型配置示例(16GB 物理内存机器):

druid.indexer.runner.javaOpts=-Xmx12g -XX:+UseG1GC<br>druid.indexer.task.heapMemoryMB=8192<br>druid.processing.buffer.sizeBytes=268435456

如果提交任务后,在 http://localhost:8090(overlord UI)看到 task 状态长期停留在 WAITING 或 PENDING,先查这三项。

真正难的不是解压启动,而是让 coordinator 能发现 historical、overlord 能调度 middleManager、broker 能从 metadata 拉到 segment 列表 —— 这些全靠 ZooKeeper 和元数据库联动。配置写错一行,整个链路就断在看不见的地方。

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

linux 大数据

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
大数据分析工具有哪四个
大数据分析工具有哪四个

大数据分析的四个工具分别是rapidminer、Hpcc、Hadoop和Pentaho bi。大数据分析用于从各种来源生成的原始数据中提取有价值的数据。这些数据帮助我们获得有意义的见解、隐藏的模式、未知的相关性、市场趋势等等,具体取决于行业。大数据分析的主要动机是提供有价值的见解,以便为未来做出更好的决策。php中文网为大家带来了大数据分析的相关教程、以及相关文章等内容,供大家免费下载使用。

2023.06.21

5936

5

Java 大数据处理基础(Hadoop 方向)
Java 大数据处理基础(Hadoop 方向)

本专题聚焦 Java 在大数据离线处理场景中的核心应用,系统讲解 Hadoop 生态的基本原理、HDFS 文件系统操作、MapReduce 编程模型、作业优化策略以及常见数据处理流程。通过实际示例(如日志分析、批处理任务),帮助学习者掌握使用 Java 构建高效大数据处理程序的完整方法。

2025.12.08

1269

12

大数据专业学习教程
大数据专业学习教程

本专题整合了大数据专业学习相关教程,阅读专题下面的文章了解更多详细内容。

2026.01.05

243

5

python处理大数据合集
python处理大数据合集

本专题整合了python处理大数据相关教程,阅读专题下面的文章了解更多详细内容。

2026.01.05

526

22

磁盘配额是什么
磁盘配额是什么

磁盘配额是计算机中指定磁盘的储存限制,就是管理员可以为用户所能使用的磁盘空间进行配额限制,每一用户只能使用最大配额范围内的磁盘空间。php中文网为大家提供各种磁盘配额相关的内容,教程,供大家免费下载安装。

2023.06.21

4370

4

如何安装LINUX
如何安装LINUX

本站专题提供如何安装LINUX的相关教程文章,还有相关的下载、课程,大家可以免费体验。

2023.06.29

3673

10

linux find
linux find

find是linux命令,它将档案系统内符合 expression 的档案列出来。可以指要档案的名称、类别、时间、大小、权限等不同资讯的组合,只有完全相符的才会被列出来。find根据下列规则判断 path 和 expression,在命令列上第一个 - ( ) , ! 之前的部分为 path,之后的是 expression。还有指DOS 命令 find,Excel 函数 find等。本站专题提供linux find相关教程文章,还有相关

2023.06.30

2953

5

linux修改文件名
linux修改文件名

本专题为大家提供linux修改文件名相关的文章,这些文章可以帮助用户快速轻松地完成文件名的修改工作,大家可以免费体验。

2023.07.05

7270

7

linux系统安装教程
linux系统安装教程

linux系统是一种可以免费使用,自由传播,多用户、多任务、多线程、多CPU的操作系统。本专题提供linux系统安装教程相关的文章,大家可以免费体验。

2023.07.06

6922

7

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Python uv官方安装与入门文档
Python uv官方安装与入门文档

共0课时 | 0人学习

Buffalo框架快速入门指南
Buffalo框架快速入门指南

共0课时 | 0人学习

Valgrind支持平台说明
Valgrind支持平台说明

共0课时 | 0人学习