高可用架构 怎么排查高可用系统日志丢失问题

云静酱_9620

云静酱_9620

2026-09-19

904人浏览

原创

高可用系统日志丢失本质是采集链路中断,需按“应用输出→本地写入→agent采集→网络传输→平台存储”五段逐级验证:先查进程与本地日志是否产生,再验filebeat等agent存活及配置,接着测kafka/es连通性与积压,最后检索引模板与es写入失败指标。

高可用架构 怎么排查高可用系统日志丢失问题

高可用系统日志丢失,本质不是“没打日志”,而是日志在从产生到可查的链路中某处断了。排查要按路径逐段验证,不能只盯着最终平台有没有记录。

先确认日志是否真在本地产生

登录对应节点,直接检查应用进程的标准输出或日志文件:

  • ps aux | grep javasystemctl status your-service 确认进程仍在运行且未被OOM kill
  • 查看日志文件最后更新时间:ls -lt /var/log/your-app/*.log,确认写入时间是否停滞
  • tail -f 实时观察是否有新内容输出;若无,说明应用层已中断写日志(如线程卡死、日志框架初始化失败)

检查采集Agent是否存活并正常读取

Filebeat、Fluentd 等采集器挂掉是日志丢失最常见原因,且往往无声无息:

Anybot
Anybot

Anybot是一款面向客服、销售和客户运营自动化的智能聊天机器人平台。

下载
  • 执行 systemctl status filebeatps aux | grep fluentd 看进程是否存在
  • 检查采集器配置中日志路径是否匹配实际文件位置(注意通配符、权限、SELinux限制)
  • 查看采集器自身日志:journalctl -u filebeat -n 50 或其配置的 log.path,重点找 “Failed to stat”, “permission denied”, “offset file corrupted” 类报错

验证传输链路是否通畅

日志从采集端发出后,需经 Kafka/Pulsar 或直连 ES 等中间件,任一环节积压或阻塞都会导致延迟甚至丢弃:

  • 若走 Kafka:用 kafka-topics.sh --describe 查 topic 分区 LAG;用 kafka-console-consumer.sh 手动消费确认消息是否到达
  • 若直连 ES:检查采集器 output 配置中的 hosts 是否可达,curl -I http://es-host:9200/_cluster/health?pretty 看集群状态
  • 留意采集器日志中是否频繁出现 “connection refused”、“timeout”、“429 Too Many Requests”

排查存储与索引层是否漏收或丢弃

即使日志进了 ES 或 ClickHouse,也可能因配置不当被静默过滤或拒绝:

  • 检查索引模板(index template)中是否有 ingest pipeline 做了条件过滤或 drop 操作
  • 在 Kibana 或 Grafana 中用 Discover 功能,将时间范围拉宽、关键词设为 “*”,确认是否有原始 raw 日志存在
  • 查看 ES 的 _nodes/stats/indices 接口,比对 indexing.index_totalindexing.index_failed,失败数突增即为线索

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

高可用架构

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
系统架构有哪些种类
系统架构有哪些种类

系统架构种类有单库单应用架构、内容分发架构、读写分离架构、微服务架构、多级缓存架构、分库分表架构等。想了解更多系统架构的相关内容,可以阅读本专题下面的文章。

2023.11.14

2058

5

AI视频生成软件推荐
AI视频生成软件推荐

本专题汇总了当前主流的AI视频生成软件推荐与排行榜单,涵盖seko、AniShort、剧云、Lovart、LiblibAI及立刻mv等热门工具。同时整理了各软件在文生视频、图生视频、时长限制、画质表现及免费额度等方面的差异对比,助您快速选对适合创作需求的AI视频生成工具。

2026.09.16

140

9

ai生成视频的工具免费版合集
ai生成视频的工具免费版合集

本专题汇总了当前免费AI生成视频工具的排行榜与推荐清单,涵盖seko、讯飞智作、AniShort及剧云、Lovart等多模型集成平台。同时整理了各工具的免费额度、输出时长、水印政策及适用场景差异,助您快速选择合适工具开启AI视频创作。

2026.09.16

60

10

Pandas时间序列分析与可视化报表
Pandas时间序列分析与可视化报表

本专题整理Pandas日期转换、时间索引、重采样、滚动窗口、时区处理、plot绘图、Styler表格样式和报表输出方法。

2026.09.16

60

23

Pandas数据筛选索引与清洗处理
Pandas数据筛选索引与清洗处理

本专题整理Pandas中的loc、iloc、条件筛选、query查询、缺失值处理、重复值删除、类型转换和字符串列清洗方法。

2026.09.16

40

25

Pandas数据读取导入与文件导出处理
Pandas数据读取导入与文件导出处理

本专题整理Pandas读取CSV、Excel、JSON、SQL、Parquet等文件的方法,以及to_csv、to_excel、to_sql和to_parquet等常用数据导出流程。

2026.09.16

40

27

GDB怎么设置断点
GDB怎么设置断点

本专题介绍GDB按照函数名、源代码行号和文件位置设置断点的方法,详细说明run、continue、next、step等命令的配合使用,帮助定位程序崩溃、逻辑异常及代码未按预期执行的问题。

2026.09.11

360

28

GDB怎么查看变量值
GDB怎么查看变量值

本专题介绍GDB调试过程中查看变量值的具体方法,涵盖局部变量、函数参数、数组、结构体和指针内容查询,同时整理变量持续显示、格式化输出及无法读取变量时的排查思路。

2026.09.11

120

22

GDB C++程序怎么调试
GDB C++程序怎么调试

本专题围绕GDB调试C++程序的实际过程,详细说明程序编译、调试器启动、命令行参数传入、断点命中和程序继续运行等步骤,并介绍条件断点、临时断点和观察点的设置方法,方便开发者跟踪复杂代码的执行状态。

2026.09.11

120

20

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
热门推荐
/
最新课程
phpStudy极速入门视频教程
phpStudy极速入门视频教程

共6课时 | 54.6万人学习

独孤九贱(4)_PHP视频教程
独孤九贱(4)_PHP视频教程

共89课时 | 133万人学习