Linux下怎么部署Apache Pulsar集群

畫卷琴夢

畫卷琴夢

2026-06-25

346人浏览

原创

apache pulsar集群部署需严格按序初始化zookeeper、bookkeeper、broker三组件:zookeeper需正确配置server.x与myid并开放2181/2888/3888端口;bookkeeper初始化仅执行一次且依赖zk就绪;broker启动前必须完成initialize-cluster-metadata注册元数据,各配置项须完全一致。

linux下怎么部署apache pulsar集群

直接部署 Apache Pulsar 集群不是「解压 + 启动」就能跑通的事,核心卡点在三个组件的协同:ZooKeeper、BookKeeper(bookie)、Broker 必须按顺序初始化、配置对齐、网络互通,否则 bin/pulsar-daemon start broker 会静默失败或反复报连接超时。

zookeeper.conf 里 server.x 地址写错是最常见的启动失败原因

三个 ZooKeeper 节点的 zookeeper.conf 必须统一配置 server.1server.2server.3,且每个 server.x 后面的 hostname 或 IP 必须能被其他节点 DNS 解析或直连——别用 localhost 或未绑定的网卡地址。

  • 正确写法示例(假设三台机器 host 分别为 pulsar-zk1pulsar-zk2pulsar-zk3):
    server.1=pulsar-zk1:2888:3888
    server.2=pulsar-zk2:2888:3888
    server.3=pulsar-zk3:2888:3888
  • 每台机器的 /data/zookeeper/myid 文件内容必须和 server.x 的 x 严格一致(比如 pulsar-zk2 上的 myid 只能是 2
  • 启动前务必确认三台机器的 2181(clientPort)、2888(follower 通信)、3888(leader 选举)端口全部开放且无冲突

bookkeeper 初始化必须只执行一次,且依赖 zookeeper 正常运行

bin/bookkeeper shell metaformatbin/pulsar initialize-cluster-metadata 这类命令,本质是往 ZooKeeper 里写 BookKeeper 的根路径元数据。如果 ZooKeeper 集群没起来、zkServers 配错了、或者已存在旧数据但没清空,就会卡住或报 Connection refused / NoNodeException

Go语言(Golang)Linux版
Go语言(Golang)Linux版

Go语言(Golang)Linux版适合在 Linux 环境中部署 Go 编译工具链,支持服务端开发、微服务、网络程序、容器化项目和自动化工具开发。

下载
  • 先验证 ZooKeeper 是否就绪:echo stat | nc pulsar-zk1 2181,能看到 Zookeeper version: 才算通
  • 确保所有 bookie 节点的 bookkeeper.confzkServers 指向全部三个 ZooKeeper 地址,例如:zkServers=pulsar-zk1:2181,pulsar-zk2:2181,pulsar-zk3:2181
  • 只在**一台** bookie 节点执行初始化:bin/bookkeeper shell metaformat(Pulsar 2.9+ 推荐用这个),输入 Y 确认;不要在多台重复执行
  • 初始化后,再逐台启动 bookie:bin/pulsar-daemon start bookie

broker 启动前必须完成集群元数据初始化

很多人跳过 bin/pulsar initialize-cluster-metadata 直接启 broker,结果 pulsar-admin clusters list 返回空,或 broker 日志疯狂刷 Failed to get cluster data from ZooKeeper。这步不是可选,它把集群名、broker service url、web url 等关键信息注册进 ZooKeeper 和 Configuration Store。

  • 命令必须在**某一台已连通 ZooKeeper 的机器**上执行,参数中的 --zookeeper--configuration-store 必须指向同一个 ZooKeeper 集群(通常是三个地址拼一起)
  • 示例(注意替换真实 host 和端口):
    bin/pulsar initialize-cluster-metadata \
    --cluster pulsar-cluster \
    --zookeeper pulsar-zk1:2181,pulsar-zk2:2181,pulsar-zk3:2181 \
    --configuration-store pulsar-zk1:2181,pulsar-zk2:2181,pulsar-zk3:2181 \
    --web-service-url http://pulsar-broker1:8080 \
    --broker-service-url pulsar://pulsar-broker1:6650
  • broker.conf 中的 clusterNamezookeeperServersconfigurationStoreServers 必须和上面命令参数完全一致
  • 启动 broker 前,确认 advertisedAddress 是其他节点能访问到的真实 IP 或 host(不是 127.0.0.1

最容易被忽略的是 ZooKeeper 和 BookKeeper 的磁盘目录权限与清理逻辑——dataDirjournalDirectoryledgerDirectories 这些路径若之前部署失败残留了损坏的 ledger 或 snapshot,后续初始化会静默失败。每次重试前,手动删掉这些目录下的全部内容比猜日志更高效。

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

linux apache

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
磁盘配额是什么
磁盘配额是什么

磁盘配额是计算机中指定磁盘的储存限制,就是管理员可以为用户所能使用的磁盘空间进行配额限制,每一用户只能使用最大配额范围内的磁盘空间。php中文网为大家提供各种磁盘配额相关的内容,教程,供大家免费下载安装。

2023.06.21

2693

4

如何安装LINUX
如何安装LINUX

本站专题提供如何安装LINUX的相关教程文章,还有相关的下载、课程,大家可以免费体验。

2023.06.29

1672

10

linux find
linux find

find是linux命令,它将档案系统内符合 expression 的档案列出来。可以指要档案的名称、类别、时间、大小、权限等不同资讯的组合,只有完全相符的才会被列出来。find根据下列规则判断 path 和 expression,在命令列上第一个 - ( ) , ! 之前的部分为 path,之后的是 expression。还有指DOS 命令 find,Excel 函数 find等。本站专题提供linux find相关教程文章,还有相关

2023.06.30

1319

5

linux修改文件名
linux修改文件名

本专题为大家提供linux修改文件名相关的文章,这些文章可以帮助用户快速轻松地完成文件名的修改工作,大家可以免费体验。

2023.07.05

2675

7

linux系统安装教程
linux系统安装教程

linux系统是一种可以免费使用,自由传播,多用户、多任务、多线程、多CPU的操作系统。本专题提供linux系统安装教程相关的文章,大家可以免费体验。

2023.07.06

2442

7

linux查看文件夹大小
linux查看文件夹大小

Linux是一种自由和开放源码的类Unix操作系统,存在着许多不同的Linux版本,但它们都使用了Linux内核。Linux可安装在各种计算机硬件设备中,比如手机、平板电脑、路由器、视频游戏控制台、台式计算机、大型机和超级计算机。linux怎么查看文件夹大小呢?php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.07.20

1660

8

linux查看ip命令
linux查看ip命令

本专题为大家提供linux查看ip命令相关文章内容,感兴趣的朋友可以免费下载体验试试。

2023.07.20

1255

4

linux查看cpu使用率
linux查看cpu使用率

在linux的系统维护中,可能需要经常查看cpu使用率,分析系统整体的运行情况。本专题为大家带来了linux查看cpu使用率的相关文章,感兴趣的朋友千万不要错过了。

2023.07.25

1444

6

linux查找文件命令
linux查找文件命令

Linux是一种自由和开放源码的类Unix操作系统,存在着许多不同的Linux版本,但它们都使用了Linux内核。Linux可安装在各种计算机硬件设备中,比如手机、平板电脑、路由器、视频游戏控制台、台式计算机、大型机和超级计算机。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.07.31

210

3

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Apache Storm教程手册
Apache Storm教程手册

共11课时 | 14.6万人学习

phpMyAdmin 安装文档
phpMyAdmin 安装文档

共0课时 | 0人学习

Apifox下载与安装手册
Apifox下载与安装手册

共0课时 | 0人学习