Ceph怎么部署MON监视节点并维持奇数节点选主高可用

大晨酱_2547

大晨酱_2547

2026-10-25

581人浏览

原创

mon必须为奇数个,因采用paxos变体算法,需过半节点存活才能形成仲裁(quorum);3节点容1故障,2或4节点挂1个即无法达成多数派,导致集群不可用。

ceph怎么部署mon监视节点并维持奇数节点选主高可用

必须用奇数个 MON 节点,3 个是生产环境最低要求;少于 3 个或偶数个会导致仲裁失败、集群不可用。

为什么 MON 必须是奇数个

MON 使用 Paxos 变体算法做分布式共识,依赖“过半存活”才能形成仲裁(quorum)。3 个节点允许挂掉 1 个,5 个允许挂掉 2 个;而 2 或 4 个节点挂掉 1 个就只剩一半,无法达成多数派——此时 ceph -s 会卡在 HEALTH_WARN,ceph quorum_status 显示 "quorum": []。

红帽官方明确建议只部署奇数个 MON,且不推荐从 2 个扩到 4 个这种“伪高可用”路径。

用 ceph-deploy 添加新 MON 节点的实操要点

假设已有 ceph-mon1,要加 ceph-mon2 和 ceph-mon3:

Friday AI
Friday AI

一款面向中文用户的AI写作助手,可辅助完成文章、文案和办公文本等多种写作任务,提供从构思到成稿的文字支持。

下载
  • 所有目标 MON 主机必须提前配置好 /etc/hosts 解析、SSH 免密、NTP 时间同步(误差需 ceph-deploy mon add 会卡住或静默失败
  • 在管理节点执行:ceph-deploy mon add ceph-mon2,再执行 ceph-deploy mon add ceph-mon3 —— 不要并行执行,顺序添加更稳
  • 添加后立刻验证:ceph quorum_status --format json-pretty,确认输出中 "quorum" 字段包含全部三个节点 ID,且 "election_epoch" 有递增
  • 检查 MON 端口监听:ss -tlnp | grep :6789 和 ss -tlnp | grep :3300,v1/v2 协议端口都要通

MON 扩容后常见故障现象与排查

新加 MON 启动后不进 quorum,或反复退出选举:

  • systemctl status ceph-mon@ceph-mon2 查看日志,重点找 "failed to join quorum" 或 "no valid monitor map"
  • 检查各 MON 的 /var/lib/ceph/mon/ceph-*/keyring 是否一致:任意两节点执行 md5sum /var/lib/ceph/mon/ceph-*/keyring,不一致说明 keyring 未同步,需手动拷贝或重跑 ceph-deploy gatherkeys
  • 确认所有 MON 的 fsid 相同:ceph mon dump | head -1,不同 fsid 会被当成本质不同集群处理
  • 防火墙常被忽略:确保 6789(v1)和 3300(v2)端口在所有 MON 节点间双向放行,iptables -L -n | grep 6789 快速确认

MON 配置里容易被改错的关键参数

不要手动编辑 /etc/ceph/ceph.conf 中 MON 相关字段,除非你清楚后果:

  • mon initial members 只在集群初始化时有效,扩容后修改它不会生效,反而可能干扰后续 ceph-mon 进程启动
  • mon host 必须写全所有 MON 的 v2 地址(如 v2:192.168.100.35:3300,v2:192.168.100.36:3300,v2:192.168.100.37:3300),客户端和 OSD 都靠它发现 MON,漏写一个就可能导致部分组件失联
  • 避免混用 v1/v2 地址:Ceph Pacific 及以后版本默认启用 v2 协议,mon host 中只写 v2 地址更干净;若保留 v1,务必确保所有节点都支持且配置一致

真正需要人工干预的,往往不是配置文件,而是网络连通性、时间同步精度、keyring 一致性这三个点。它们不出问题,3 个 MON 就能自己完成选举和状态同步。

相关专题

更多
Gradle插件开发入门教程
Gradle插件开发入门教程

本专题介绍Gradle插件开发的基本流程,涵盖插件类编写、自定义任务注册、扩展参数设计和插件应用方法,帮助你理解插件如何组织构建逻辑,减少多个项目之间的重复配置。

2026.10.22

20

11

Gradle Wrapper配置教程
Gradle Wrapper配置教程

本专题介绍Gradle Wrapper的基本作用,涵盖文件组成、生成方法、版本配置和任务调用,帮助你理解项目如何使用指定的Gradle版本,减少不同开发环境带来的构建差异。

2026.10.22

20

10

Golangci-lint检查器使用教程
Golangci-lint检查器使用教程

本专题整理Golangci-lint常用Linters的用途与配置方法,覆盖错误处理、无效代码、安全、复杂度、命名和依赖检查,帮助项目合理选规则。

2026.10.22

20

15

Gradle怎么构建Java项目
Gradle怎么构建Java项目

本专题介绍Gradle Java项目构建方法,涵盖Java插件配置、依赖声明、源码编译、测试执行和打包检查,帮助你理解各阶段的任务关系,逐步完成项目构建。

2026.10.22

0

10

PHP时间戳漏洞修复教程
PHP时间戳漏洞修复教程

本专题汇总PHP常见时间戳漏洞,包括2038年溢出、时区漂移、时间戳伪造、重放攻击、时间盲注与日志审计失效等,并给出升级64位环境、使用 DateTimeImmutable、统一UTC、严格超时校验、预处理绑定、hash_equals 比对等修复方案,帮助开发者快速排查和加固时间相关代码。

2026.10.22

20

25

Golangci-lint配置文件与规则设置
Golangci-lint配置文件与规则设置

本专题聚焦Golangci-lint YAML配置文件,讲清运行参数、规则启停、目录排除、问题过滤及严重级别设置,便于团队统一检查标准。

2026.10.22

20

15

Golangci-lint安装与入门教程
Golangci-lint安装与入门教程

本专题讲解Golangci-lint的安装、初始化、基础命令和首次代码检查,覆盖本地环境、Docker及多平台用法,帮助Go开发者快速上手。

2026.10.22

20

15

PHP2Shell高危漏洞修复教程
PHP2Shell高危漏洞修复教程

PHP2Shell漏洞是什么,哪些PHP版本和运行环境会受到影响,服务器应该如何检测与修复?本专题提供版本自查脚本、Linux与Docker升级命令、PHP-FPM和Apache排查步骤,以及修复验证、临时缓解和应急响应方案。

2026.10.22

100

12

剧云人物设定与关系管理教程
剧云人物设定与关系管理教程

本专题介绍剧云人物设定与关系管理,讲解角色小传、性格职业、人物目标、背景资料和关系网络的创建及维护方法。

2026.10.22

20

16

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
热门推荐
/
最新课程
phpStudy极速入门视频教程
phpStudy极速入门视频教程

共6课时 | 54.7万人学习

独孤九贱(4)_PHP视频教程
独孤九贱(4)_PHP视频教程

共89课时 | 133.9万人学习