怎么在Linux利用Rsyslog的Omprog模块对接第三方监控组件实现日志实时转图形

轻磊君_9984

轻磊君_9984

2026-05-25

532人浏览

原创

可行,但需规避omprog高开销与可靠性短板:应通过omprog预处理日志为JSON写入本地FIFO,再由常驻进程批量转发至Loki等后端实现可靠低延迟投递。

怎么在linux利用rsyslog的omprog模块对接第三方监控组件实现日志实时转图形

直接用 Rsyslog 的 omprog 模块把日志实时推给第三方监控组件(比如 Prometheus、Grafana Loki、Elasticsearch 或自研 API),再由它们做图形化展示,是可行的,但关键不在于“转图形”,而在于“可靠、低延迟、可追踪地把结构化日志送过去”。Rsyslog 本身不画图,它只负责稳准快地转发。

明确 omprog 的定位和限制

omprog 是 Rsyslog 的输出模块,作用是:每条匹配的日志,启动一个外部程序(如 Python/Shell 脚本),把日志内容通过 stdin 传进去。它适合轻量、单条处理场景,不适合高吞吐或需要连接复用的场景(比如直连 Prometheus Pushgateway 或 Loki 的 HTTP 批量写入)。

  • 每条日志触发一次进程 fork,高频日志下开销大,可能成为瓶颈
  • 不内置重试、背压、队列缓冲机制,出错容易丢日志
  • 脚本必须快速退出,否则阻塞后续日志;不能长期驻留(那是 omhttp 或 omelasticsearch 的事)

推荐架构:omprog 做“轻量预处理 + 可靠投递”

别让 omprog 直连监控后端,而是让它把日志转成标准格式(如 JSON Line),写入本地可靠队列(如 systemd-journal、named pipe、或轻量消息队列),再由另一个常驻进程消费并转发到目标监控系统。

  • 示例:用 omprog 调用一个 Python 脚本,把 $msg、$syslogseverity-text、$fromhost-ip 等字段组装成 JSON,写入 /run/rsyslog-to-loki.fifo
  • 另起一个 loki-client 进程(如 Promtail、或自写脚本),监听该 FIFO,批量打包、添加 labels、通过 HTTP POST 推到 Grafana Loki
  • 这样既利用了 omprog 的灵活性(字段提取、过滤、格式转换),又规避了它的可靠性短板

实际配置要点(以推送 JSON 到 FIFO 为例)

在 /etc/rsyslog.d/50-loki.conf 中:

Obsidian (Linux)
Obsidian (Linux)

操作 Obsidian 库(纯 Markdown 笔记),并通过 notesmd-cli 实现自动化。

下载
module(load="omprog")
<h1>创建命名管道(仅需执行一次)</h1><p>$ActionOMProgBinary /bin/bash
$ActionOMProgCommand /bin/bash -c 'mkfifo -m 600 /run/rsyslog-to-loki.fifo 2>/dev/null || :'</p><p>template(name="LokiJSON" type="list") {
constant(value="{")
constant(value="\"timestamp\":\"")     property(name="timereported" dateFormat="rfc3339")
constant(value="\",\"host\":\"")       property(name="hostname")
constant(value="\",\"level\":\"")      property(name="syslogseverity-text")
constant(value="\",\"program\":\"")    property(name="programname")
constant(value="\",\"message\":\"")   property(name="msg" format="json")
constant(value="\"}")
}</p><p>if $programname == 'nginx' or $syslogfacility-text == 'local7' then {
action(
type="omprog"
binary="/usr/local/bin/rsyslog-to-fifo.py"
template="LokiJSON"
input="full"
output="full"
timeout="3"
)
}
</p>

注意:rsyslog-to-fifo.py 需自行编写,功能只是读取 stdin 的 JSON 行,追加写入 FIFO(带异常捕获和重试 open);不要做网络请求。

图形化部分交给下游组件

完成日志接入后,图形化完全由目标系统承担:

  • Grafana Loki:用 LogQL 查日志频次、错误分布、延迟 P95,搭配 Grafana 面板自动绘图
  • Prometheus + Exporter:用 omprog 触发指标更新(如统计 error 数),再由 Prometheus 抓取
  • Elasticsearch + Kibana:把 JSON 日志写入 ES,Kibana 做可视化看板和告警

不复杂但容易忽略:图形是否“实时”,取决于下游消费速度和 Grafana 刷新策略,Rsyslog 端做到 sub-second 转发即可,无需追求毫秒级。

相关专题

更多
磁盘配额是什么
磁盘配额是什么

磁盘配额是计算机中指定磁盘的储存限制,就是管理员可以为用户所能使用的磁盘空间进行配额限制,每一用户只能使用最大配额范围内的磁盘空间。php中文网为大家提供各种磁盘配额相关的内容,教程,供大家免费下载安装。

2023.06.21

4230

4

如何安装LINUX
如何安装LINUX

本站专题提供如何安装LINUX的相关教程文章,还有相关的下载、课程,大家可以免费体验。

2023.06.29

3573

10

linux find
linux find

find是linux命令,它将档案系统内符合 expression 的档案列出来。可以指要档案的名称、类别、时间、大小、权限等不同资讯的组合,只有完全相符的才会被列出来。find根据下列规则判断 path 和 expression,在命令列上第一个 - ( ) , ! 之前的部分为 path,之后的是 expression。还有指DOS 命令 find,Excel 函数 find等。本站专题提供linux find相关教程文章,还有相关

2023.06.30

2813

5

linux修改文件名
linux修改文件名

本专题为大家提供linux修改文件名相关的文章,这些文章可以帮助用户快速轻松地完成文件名的修改工作,大家可以免费体验。

2023.07.05

6910

7

linux系统安装教程
linux系统安装教程

linux系统是一种可以免费使用,自由传播,多用户、多任务、多线程、多CPU的操作系统。本专题提供linux系统安装教程相关的文章,大家可以免费体验。

2023.07.06

6562

7

linux查看文件夹大小
linux查看文件夹大小

Linux是一种自由和开放源码的类Unix操作系统,存在着许多不同的Linux版本,但它们都使用了Linux内核。Linux可安装在各种计算机硬件设备中,比如手机、平板电脑、路由器、视频游戏控制台、台式计算机、大型机和超级计算机。linux怎么查看文件夹大小呢?php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.07.20

3773

8

linux查看ip命令
linux查看ip命令

本专题为大家提供linux查看ip命令相关文章内容,感兴趣的朋友可以免费下载体验试试。

2023.07.20

3265

4

linux查看cpu使用率
linux查看cpu使用率

在linux的系统维护中,可能需要经常查看cpu使用率,分析系统整体的运行情况。本专题为大家带来了linux查看cpu使用率的相关文章,感兴趣的朋友千万不要错过了。

2023.07.25

3499

6

linux查找文件命令
linux查找文件命令

Linux是一种自由和开放源码的类Unix操作系统,存在着许多不同的Linux版本,但它们都使用了Linux内核。Linux可安装在各种计算机硬件设备中,比如手机、平板电脑、路由器、视频游戏控制台、台式计算机、大型机和超级计算机。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.07.31

297

3

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Python uv官方安装与入门文档
Python uv官方安装与入门文档

共0课时 | 0人学习

Buffalo框架快速入门指南
Buffalo框架快速入门指南

共0课时 | 0人学习

Valgrind支持平台说明
Valgrind支持平台说明

共0课时 | 0人学习