linux下部署airflow,别用默认sqlite跑生产环境,也别跳过数据库初始化就启scheduler——否则会卡在airflow db init报错、scheduler崩溃或ui显示“no dags found”;必须改用postgresql/mysql、配好executor、完成airflow db upgrade并确保各组件同用户启动。

直接上结论:Linux下部署Airflow,**别用默认SQLite跑生产环境,也别跳过数据库初始化就启scheduler**——否则你会卡在airflow db init报错、scheduler反复崩溃、或Web UI显示“no DAGs found”却查不到原因。
为什么airflow standalone不能用于生产
它自动启用SequentialExecutor + SQLite,所有组件(webserver、scheduler、triggerer)挤在一个进程里。看似一键启动,但:
• 无法水平扩展 worker,DAG一多就排队阻塞
• SQLite不支持并发写入,scheduler和worker同时访问会触发database is locked
• 没有消息队列,任务分发不可靠,重试/暂停/手动触发常失效
• airflow standalone生成的airflow.cfg里executor和sql_alchemy_conn是硬编码值,改配置要先停服务再手动编辑
必须提前配好的三项底层依赖
很多部署失败其实卡在这三步,不是Airflow的问题,而是系统级准备没做对:
-
gcc、python3-devel、mysql-devel(或postgresql-devel)必须装全,否则pip install apache-airflow[mysql]编译mysqlclient时会报fatal error: my_config.h: No such file or directory - Python版本严格匹配:Airflow 2.6+ 要求
python >= 3.8,但3.11在某些CentOS 7上因ssl模块兼容问题导致airflow db init连不上MySQL——建议锁定3.9或3.10 -
AIRFLOW_HOME环境变量必须在source前就设好,且路径不能含空格或中文。常见坑:export AIRFLOW_HOME=~/airflow里的~不会被airflow命令展开,得写成/home/username/airflow
airflow db init失败的三个高频原因
这个命令不是“点一下就完事”,它实际在干三件事:校验数据库连接、创建表结构、插入初始角色数据。任一环节失败都会中断:
- MySQL连接串漏了
?charset=utf8mb4:会导致airflow db init执行到alembic upgrade head时爆Incorrect string value——尤其当DAG文件名含emoji或中文注释时 - PostgreSQL用户没
CREATEDB权限:airflow db init会尝试CREATE DATABASE airflow;,若用户只有CONNECT权限,报错permission denied to create database - SQLite路径目录不存在或无写权限:
sqlite:////opt/airflow/airflow.db中的/opt/airflow目录得提前mkdir -p /opt/airflow && chown airflow:airflow /opt/airflow,否则db init静默失败,日志里只有一行INFO [alembic.runtime.migration] Context impl SQLiteImpl,根本看不出错在哪
启动后立刻验证的两个关键检查点
别急着写DAG,先确认底层链路通不通:
- 执行
airflow status:输出里Webserver、Scheduler、Triggerer状态必须全是healthy。如果Scheduler显示not healthy,大概率是sql_alchemy_conn指向了错误库,或数据库里dag表为空(说明db init没真正成功) - 进Web UI后点右上角
Admin → Connections,确认airflow_db连接测试能通过。如果点Test按钮没反应,看浏览器控制台是否有500 Internal Server Error——这通常意味着webserver进程没读到AIRFLOW_HOME下的airflow.cfg,而是用了内置默认配置
最易被忽略的点:所有守护进程(webserver、scheduler、worker)必须用同一用户启动,且该用户对AIRFLOW_HOME有完整读写权限。混用root启webserver、普通用户启worker,会导致logs目录权限混乱,后续DAG运行时task日志写不进去,界面显示No log found却查不到磁盘错误。











