如何使用Docker容器部署ApacheFlink实现实时流计算

大枫小哥_1347

大枫小哥_1347

2026-05-02

825人浏览

原创

Docker部署Flink核心是保障作业稳定、可恢复、连通外部系统;需自定义镜像配置flink-conf.yaml、添加connector、暴露端口,用docker-compose编排集群,通过REST API或CLI提交作业,并验证日志、checkpoint和网络连通性。

如何使用docker容器部署apacheflink实现实时流计算

用 Docker 部署 Apache Flink 实现实时流计算,核心不是“跑起来”,而是让作业稳定、可恢复、能连外部系统。单机 Docker 环境特别适合开发验证、教学演示和轻量级实时任务(比如 Kafka → Flink → MySQL 的简单 ETL),关键在配置对齐、网络通、状态可持久、提交方式可靠。

构建可运行的自定义镜像

官方镜像(如 flink:1.18.1-scala_2.12)能启动,但默认不支持 checkpoint 或连接 Kafka/MySQL。必须基于它构建自己的镜像:

  • 覆盖 flink-conf.yaml:设 jobmanager.rpc.address: jobmanager(必须是服务名,不是 localhost 或 IP);启用 state.backend: filesystem,并指定 state.checkpoints.dir: /checkpoints
  • 把必需的 connector 放进 /opt/flink/lib/:比如 flink-sql-connector-kafka-1.18.1.jar、flink-connector-mysql-cdc-2.4.0.jar
  • Dockerfile 中显式暴露端口:EXPOSE 8081 6123,确保宿主机能访问 Web UI 和 RPC

用 docker-compose 编排多节点集群

不用手动 run 多个容器,避免 IP 硬编码和启动顺序问题。一个最小可用的 docker-compose.yml 示例:

  • 定义 jobmanager 服务:设 command: jobmanager,环境变量 JOB_MANAGER_RPC_ADDRESS=jobmanager
  • 定义 taskmanager 服务:用 depends_on 声明依赖,同样设 JOB_MANAGER_RPC_ADDRESS=jobmanager,可通过 deploy.replicas: 2 启动多个实例
  • 建议显式创建网络:docker network create flink-network,并在 compose 中指定 networks: [flink-network],保障 DNS 解析正常

执行 docker-compose up -d 后,打开 https://www.php.cn/link/97a34e8859e946b5313f18f5f5f4c9f6,应看到 JobManager 在线、TaskManager 成功注册。

Docker Encyclopedia
Docker Encyclopedia

Docker 文档优先工作流:针对 Docker 特定问题、故障排除、命令规划、镜像/构建、容器/运行时操作及 Compose 等

下载

提交作业别依赖 Web UI

Web 页面上传 JAR 容易超时、无日志、不支持参数传递,生产级提交推荐以下两种方式:

  • REST API 提交:先 GET https://www.php.cn/link/97a34e8859e946b5313f18f5f5f4c9f6/v1/clusters 获取 session ID,再 POST JAR 文件 + 入口类 + programArgs(如 --bootstrap.servers=localhost:9092)+ parallelism
  • Flink CLI 远程提交:在宿主机安装同版本 Flink(如 1.18.1),执行:
    ./bin/flink run -t remote -m localhost:8081 -c com.example.KafkaToMysqlJob ./job.jar --bootstrap.servers kafka:9092
    注意:JAR 必须包含所有依赖(用 mvn clean package -Pbuild-jar 打包)

验证与调试不可跳过

集群页面显示“Running”不代表作业真在处理数据。务必检查:

  • TaskManager 日志:运行 docker logs <taskmanager-container-name></taskmanager-container-name>,确认含 Registered at jobmanager 和 Starting to fetch checkpoint 字样
  • Checkpoint 目录权限:挂载的 /checkpoints 卷需有写权限,目录下应生成 checkpoint-xxx 子目录,否则状态无法保存
  • 外部服务连通性:进入容器执行 ping kafka 或 telnet mysql 3306,验证网络和端口可达(尤其跨 compose 网络时)

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

docker apache

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
k8s和docker区别
k8s和docker区别

k8s和docker区别有抽象层次不同、管理范围不同、功能不同、应用程序生命周期管理不同、缩放能力不同、高可用性等等区别。本专题为大家提供k8s和docker区别相关的各种文章、以及下载和课程。

2023.07.24

765

4

docker进入容器的方法有哪些
docker进入容器的方法有哪些

docker进入容器的方法:1. Docker exec;2. Docker attach;3. Docker run --interactive --tty;4. Docker ps -a;5. 使用 Docker Compose。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.08

5979

6

docker容器无法访问外部网络怎么办
docker容器无法访问外部网络怎么办

docker 容器无法访问外部网络的原因和解决方法:配置 nat 端口映射以将容器端口映射到主机端口。根据主机兼容性选择正确的网络驱动(如 host 或 overlay)。允许容器端口通过主机的防火墙。配置容器的正确 dns 服务器。选择正确的容器网络模式。排除主机网络问题,如防火墙或连接问题。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.08

7057

6

docker镜像有什么用
docker镜像有什么用

docker 镜像是预构建的软件组件,用途广泛,包括:应用程序部署:简化部署,提高移植性。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.08

2753

7

Docker容器化部署与DevOps实践
Docker容器化部署与DevOps实践

本专题面向后端与运维开发者,系统讲解 Docker 容器化技术在实际项目中的应用。内容涵盖 Docker 镜像构建、容器运行机制、Docker Compose 多服务编排,以及在 DevOps 流程中的持续集成与持续部署实践。通过真实场景演示,帮助开发者实现应用的快速部署、环境一致性与运维自动化。

2026.02.11

319

16

Docker 容器部署
Docker 容器部署

本专题整合了Docker容器部署相关内容,阅读专题下面的文章了解更多详细操作教程。

2026.03.31

471

14

Java容器化部署与Docker实践教程合集
Java容器化部署与Docker实践教程合集

聚焦 Java 应用的容器化与云原生部署,讲解 Dockerfile 编写规范与 Java 应用镜像构建、多阶段构建(Multi-stage Build)减小镜像体积、Jib / Buildpacks 免 Dockerfile 镜像构建方案、JVM 容器感知参数(-XX:MaxRAMPercentage)配置、Docker Compose 编排多服务(应用 + MySQL + Redis)、容器健康检查与资源限制、Kubernetes

2026.05.11

440

26

Go Docker与容器化部署教程合集
Go Docker与容器化部署教程合集

聚焦 Go 应用的容器化部署优势与实践,讲解 Go 静态编译特性(CGO_ENABLED=0)与 scratch / distroless 极小基础镜像构建、多阶段 Dockerfile 编写规范、交叉编译生成目标平台二进制、镜像安全扫描(Trivy)与漏洞修复、Docker Compose 本地编排开发环境、Kubernetes Deployment / Service / ConfigMap 部署 Go 服务、健康检查(Livene

2026.05.15

325

24

Hyperf 项目部署运维与性能调优手册
Hyperf 项目部署运维与性能调优手册

聚焦 Hyperf 在生产环境的落地,包含 Docker 高效打包、Swoole 配置优化、常见的内存溢出(OOM)问题排查方法以及热更新方案。

2026.05.19

485

15

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
phpMyAdmin 安装文档
phpMyAdmin 安装文档

共0课时 | 0人学习

Docker 官方文档
Docker 官方文档

共0课时 | 0人学习

宝塔 Docker 模块使用手册
宝塔 Docker 模块使用手册

共0课时 | 0人学习