Linux怎么安装和配置Doris分布式数据库 Linux大数据分析详解

胖伟姑娘_1256

胖伟姑娘_1256

2026-04-28

589人浏览

原创

be启动失败因文件描述符限制过小,需永久修改/etc/security/limits.conf添加“ soft nofile 655360”和“ hard nofile 655360”,并确保priority_networks配置正确且fe/be一致。

linux怎么安装和配置doris分布式数据库 linux大数据分析详解

BE 启动失败:file descriptors limit is too small 怎么办

这是 Linux 下部署 Doris 最常卡住的第一步。BE 进程启动时会校验系统可打开文件数,ulimit -n 默认值(通常是 1024)远低于 Doris 要求的 60000,直接报错退出:

E1128 03:45:46.852288 24097 storage_engine.cpp:426] File descriptor number is less than 60000. Please use (ulimit -n) to set a value equal or greater than 60000

临时生效(仅当前 shell 有效):

ulimit -n 65536

永久生效(推荐):

  • 编辑 /etc/security/limits.conf,追加两行:
* soft nofile 655360<br>* hard nofile 655360

注意:* 表示所有用户,包括运行 be 进程的用户(如 doris 或 root);改完需重新登录或重启系统才对所有会话生效。

FE 和 BE 的 priority_networks 必须配对,否则节点“看不见”彼此

Doris 不靠 hostname 自动发现,而是靠 priority_networks 显式声明本机用于通信的网段。FE 和 BE 都要设,且必须指向同一物理网络——比如你服务器真实 IP 是 192.168.10.21,那不能一个配 192.168.10.0/24,另一个配 127.0.0.1/32。

fe.conf 和 be.conf 中都必须包含这一行(按实际网段替换):

priority_networks = 192.168.10.0/24

常见错误:

  • 只配 FE、漏配 BE → BE 启动后无法注册到 FE
  • 配了但掩码不对(如写成 192.168.10.21/32)→ BE 上报心跳用的 IP 不在该网段内,FE 拒收
  • 多网卡环境没指定唯一网段 → BE 可能用错网卡 IP 上报,FE 日志里看到 “unregistered host”

添加 BE 到集群时,SQL 里的 IP 和端口必须和 be.conf 完全一致

BE 启动成功后,必须手动执行 SQL 把它加入集群,命令形如:

linux-performance-analyzer
linux-performance-analyzer

Linux 性能分析与调优专家,覆盖 CPU、内存、磁盘 I/O、网络、内核参数、编译优化、容器/K8s。适用场景:系统卡顿/高负载、内存不足/OOM/Swap 高、CPU 异常/iowait 高。

下载
ALTER SYSTEM ADD BACKEND "192.168.10.21:9050";

这里两个值必须严格匹配 be.conf 中的:

  • 192.168.10.21 → 必须是 priority_networks 掩码覆盖下的本机 IP(不是 0.0.0.0,也不是 docker bridge IP)
  • 9050 → 必须等于 be.conf 中的 heartbeat_service_port(默认是 9050,但如果改过就必须用改后的值)

如果加完后 SHOW BACKENDS; 显示 Alive 为 false,优先检查这两项是否拼写/数值一致,再查 FE 日志里有没有 “connect refused” 或 “timeout”。

Docker 部署省事但别直接用于生产,尤其别信 build-env-* 镜像

官方 apache/doris:build-env-ldb-toolchain-latest 是编译环境镜像,含 JDK、GCC 等开发工具,体积大(3GB+),**不带运行时服务**,启动后只是个 bash,不能直接跑 FE/BE。

真正可用于快速验证的镜像是:

  • apache/doris:2.1.0-fe-only(仅 FE)
  • apache/doris:2.1.0-be-only(仅 BE)
  • 或社区维护的 selectdb/doris:2.1.0(含完整单机版)

用 Docker 启动单机 Doris 示例(以 SelectDB 镜像为例):

docker run -d \<br>  --name doris-single \<br>  -p 9030:9030 -p 8030:8030 \<br>  -v /path/to/meta:/opt/apache-doris/meta \<br>  -v /path/to/storage:/opt/apache-doris/storage \<br>  selectdb/doris:2.1.0

注意:/meta 和 /storage 必须挂载宿主机目录,否则容器重启后数据全丢;且宿主机目录权限要给容器内运行用户(通常是 1001:1001)可写。

分布式部署真正的难点不在安装包解压,而在于网络拓扑对齐、系统参数收敛、以及 BE 注册链路中任意一环的静默失败——这些地方日志不报错但就是不工作,得逐层确认 IP、端口、防火墙、路由、priority_networks 四者是否闭环。

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

linux 大数据

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
大数据分析工具有哪四个
大数据分析工具有哪四个

大数据分析的四个工具分别是rapidminer、Hpcc、Hadoop和Pentaho bi。大数据分析用于从各种来源生成的原始数据中提取有价值的数据。这些数据帮助我们获得有意义的见解、隐藏的模式、未知的相关性、市场趋势等等,具体取决于行业。大数据分析的主要动机是提供有价值的见解,以便为未来做出更好的决策。php中文网为大家带来了大数据分析的相关教程、以及相关文章等内容,供大家免费下载使用。

2023.06.21

4136

5

Java 大数据处理基础(Hadoop 方向)
Java 大数据处理基础(Hadoop 方向)

本专题聚焦 Java 在大数据离线处理场景中的核心应用,系统讲解 Hadoop 生态的基本原理、HDFS 文件系统操作、MapReduce 编程模型、作业优化策略以及常见数据处理流程。通过实际示例(如日志分析、批处理任务),帮助学习者掌握使用 Java 构建高效大数据处理程序的完整方法。

2025.12.08

1209

12

大数据专业学习教程
大数据专业学习教程

本专题整合了大数据专业学习相关教程,阅读专题下面的文章了解更多详细内容。

2026.01.05

223

5

python处理大数据合集
python处理大数据合集

本专题整合了python处理大数据相关教程,阅读专题下面的文章了解更多详细内容。

2026.01.05

426

22

什么是分布式
什么是分布式

分布式是一种计算和数据处理的方式,将计算任务或数据分散到多个计算机或节点中进行处理。本专题为大家提供分布式相关的文章、下载、课程内容,供大家免费下载体验。

2023.08.11

1893

5

分布式和微服务的区别
分布式和微服务的区别

分布式和微服务的区别在定义和概念、设计思想、粒度和复杂性、服务边界和自治性、技术栈和部署方式等。本专题为大家提供分布式和微服务相关的文章、下载、课程内容,供大家免费下载体验。

2023.10.07

2554

5

数据库三范式
数据库三范式

数据库三范式是一种设计规范,用于规范化关系型数据库中的数据结构,它通过消除冗余数据、提高数据库性能和数据一致性,提供了一种有效的数据库设计方法。本专题提供数据库三范式相关的文章、下载和课程。

2023.06.29

2285

3

如何删除数据库
如何删除数据库

删除数据库是指在MySQL中完全移除一个数据库及其所包含的所有数据和结构,作用包括:1、释放存储空间;2、确保数据的安全性;3、提高数据库的整体性能,加速查询和操作的执行速度。尽管删除数据库具有一些好处,但在执行任何删除操作之前,务必谨慎操作,并备份重要的数据。删除数据库将永久性地删除所有相关数据和结构,无法回滚。

2023.08.14

3641

10

vb怎么连接数据库
vb怎么连接数据库

在VB中,连接数据库通常使用ADO(ActiveX 数据对象)或 DAO(Data Access Objects)这两个技术来实现:1、引入ADO库;2、创建ADO连接对象;3、配置连接字符串;4、打开连接;5、执行SQL语句;6、处理查询结果;7、关闭连接即可。

2023.08.31

2431

3

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Buffalo框架快速入门指南
Buffalo框架快速入门指南

共0课时 | 0人学习

Valgrind支持平台说明
Valgrind支持平台说明

共0课时 | 0人学习