Docker 环境搭建时怎么在开发机上完美搭建高可用集群测试环境

老墨君_9363

老墨君_9363

2026-07-24

901人浏览

原创

在开发机上搭建高可用集群测试环境,关键是以最小资源验证故障转移、数据不丢和服务自动恢复;需使用 docker compose 创建自定义网络(如 kafka-test-net)、为服务分配静态 ip、选用轻量镜像、配置健康检查与手动故障注入,并按场景合理持久化数据以确保重启可延续、清理可彻底。

docker 环境搭建时怎么在开发机上完美搭建高可用集群测试环境

直接在开发机上搭高可用集群测试环境,关键不是“堆节点数量”,而是用最小资源模拟真实高可用逻辑。开发机通常内存有限(8–16GB)、单物理机,硬套生产架构(比如3台ZooKeeper+3台Kafka)容易OOM或端口冲突。真正“完美”的标准是:能验证故障转移、数据不丢、服务自动恢复,且启动快、清理干净、配置可复用

用 Docker Compose + 自定义网络快速构建隔离集群

开发机上不建议用 Swarm(需多节点),Docker Compose 就够用,但必须规避默认 bridge 网络的局限性:

  • 所有容器共用 172.17.0.0/16,IP 不固定,服务发现靠 hostname 不稳定
  • 缺少自定义子网和静态 IP 分配,重启后容器 IP 变化会导致 Kafka/ZooKeeper 配置失效

✅ 正确做法:

  • 先创建专用网络:
    docker network create --driver bridge --subnet=172.21.0.0/24 --gateway=172.21.0.1 kafka-test-net
  • docker-compose.yml 中为每个关键服务(如 ZooKeeper、Kafka Broker)显式指定 ipv4_address,例如:
    zoo1:
      networks:
        kafka-test-net:
          ipv4_address: 172.21.0.11
    kafka1:
      networks:
        kafka-test-net:
          ipv4_address: 172.21.0.21

    这样每次 docker-compose up 启动,IP 固定、hostname 可靠、连接不中断,ZooKeeper 的 server.x= 和 Kafka 的 advertised.listeners 才真正生效。

用轻量镜像 + 最小化配置降低资源占用

开发机不是服务器,要主动“减配”:

Docker Container Cleaner
Docker Container Cleaner

CLI工具,用于清理已停止的Docker容器、未使用的镜像、卷和网络,释放磁盘空间。

下载
  • ZooKeeper 不用 3 节点全集群,2 节点 + 1 个仲裁节点(observer) 即可满足多数 HA 场景验证(如 leader 切换、session 恢复)
  • Kafka Broker 设 replication.factor=2min.insync.replicas=2,配合 2 个 Broker 就能模拟 ISR 收缩与 leader 重选
  • 关闭非必要日志输出、调低 JVM 堆内存(如 -Xmx512m),避免容器因 OOM 被 kill
  • 使用 confluentinc/cp-zookeeper:7.4.0bitnami/kafka:3.7 这类优化过的镜像,比原生 Apache 镜像更省资源

示例 Kafka Broker 内存限制:

kafka1:
  mem_limit: 1g
  mem_reservation: 512m
  environment:
    KAFKA_HEAP_OPTS: "-Xms512m -Xmx512m"

加入健康检查 + 自动故障注入验证 HA 行为

光“跑起来”不算高可用,得验证它“挂了还能活”:

  • 给每个服务加 healthcheck,比如 Kafka:
    healthcheck:
      test: ["CMD-SHELL", "kafka-broker-api-versions --bootstrap-server localhost:9092 --command-config /tmp/client.properties 2>/dev/null | grep -q 'supported' || exit 1"]
      interval: 30s
      timeout: 10s
      retries: 3
  • 手动模拟故障(不用等它真崩):
    # 强制停掉一个 Kafka Broker
    docker kill kafka1
    # 观察 kafka2 是否接管 topic leader(用 kafka-topics.sh --describe 查看)
    # 30 秒后 docker-compose 自动重启 kafka1,检查是否重新加入 ISR
  • 日志里重点盯 INFO [Controller id=2] Starting controllerINFO [ReplicaFetcherManager] Removed fetcher for partitions 这类关键词,确认切换真实发生。

数据持久化要分场景,别一股脑挂宿主机目录

开发机上持久化不是为了长期保存,而是保证重启后状态可延续、故障恢复可复现

  • ZooKeeper:把 /data/datalog 挂到宿主机子目录(如 ./zoo1/data),避免容器删掉数据就全丢
  • Kafka:只挂 log.dirs(如 ./kafka1/logs),不挂 __consumer_offsets 的 compact topic 数据(太占空间),用 --delete-topic-enable=true 配合脚本定期清理
  • 测试完一键清理:
    docker-compose down -v && rm -rf ./zoo* ./kafka* ./data

    这样既保留可调试性,又不污染开发环境。

不复杂但容易忽略

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
k8s和docker区别
k8s和docker区别

k8s和docker区别有抽象层次不同、管理范围不同、功能不同、应用程序生命周期管理不同、缩放能力不同、高可用性等等区别。本专题为大家提供k8s和docker区别相关的各种文章、以及下载和课程。

2023.07.24

625

4

docker进入容器的方法有哪些
docker进入容器的方法有哪些

docker进入容器的方法:1. Docker exec;2. Docker attach;3. Docker run --interactive --tty;4. Docker ps -a;5. 使用 Docker Compose。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.08

4359

6

docker容器无法访问外部网络怎么办
docker容器无法访问外部网络怎么办

docker 容器无法访问外部网络的原因和解决方法:配置 nat 端口映射以将容器端口映射到主机端口。根据主机兼容性选择正确的网络驱动(如 host 或 overlay)。允许容器端口通过主机的防火墙。配置容器的正确 dns 服务器。选择正确的容器网络模式。排除主机网络问题,如防火墙或连接问题。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.08

5217

6

docker镜像有什么用
docker镜像有什么用

docker 镜像是预构建的软件组件,用途广泛,包括:应用程序部署:简化部署,提高移植性。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.08

1933

7

Docker容器化部署与DevOps实践
Docker容器化部署与DevOps实践

本专题面向后端与运维开发者,系统讲解 Docker 容器化技术在实际项目中的应用。内容涵盖 Docker 镜像构建、容器运行机制、Docker Compose 多服务编排,以及在 DevOps 流程中的持续集成与持续部署实践。通过真实场景演示,帮助开发者实现应用的快速部署、环境一致性与运维自动化。

2026.02.11

199

16

Docker 容器部署
Docker 容器部署

本专题整合了Docker容器部署相关内容,阅读专题下面的文章了解更多详细操作教程。

2026.03.31

371

14

Java容器化部署与Docker实践教程合集
Java容器化部署与Docker实践教程合集

聚焦 Java 应用的容器化与云原生部署,讲解 Dockerfile 编写规范与 Java 应用镜像构建、多阶段构建(Multi-stage Build)减小镜像体积、Jib / Buildpacks 免 Dockerfile 镜像构建方案、JVM 容器感知参数(-XX:MaxRAMPercentage)配置、Docker Compose 编排多服务(应用 + MySQL + Redis)、容器健康检查与资源限制、Kubernetes

2026.05.11

360

26

Go Docker与容器化部署教程合集
Go Docker与容器化部署教程合集

聚焦 Go 应用的容器化部署优势与实践,讲解 Go 静态编译特性(CGO_ENABLED=0)与 scratch / distroless 极小基础镜像构建、多阶段 Dockerfile 编写规范、交叉编译生成目标平台二进制、镜像安全扫描(Trivy)与漏洞修复、Docker Compose 本地编排开发环境、Kubernetes Deployment / Service / ConfigMap 部署 Go 服务、健康检查(Livene

2026.05.15

265

24

Hyperf 项目部署运维与性能调优手册
Hyperf 项目部署运维与性能调优手册

聚焦 Hyperf 在生产环境的落地,包含 Docker 高效打包、Swoole 配置优化、常见的内存溢出(OOM)问题排查方法以及热更新方案。

2026.05.19

365

15

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
phpMyAdmin 安装文档
phpMyAdmin 安装文档

共0课时 | 0人学习

Docker 官方文档
Docker 官方文档

共0课时 | 0人学习

宝塔 Docker 模块使用手册
宝塔 Docker 模块使用手册

共0课时 | 0人学习