Nginx 结合 ELK 实战:利用 Filebeat 实时采集 Nginx JSON 日志

雨敏吖_5677

雨敏吖_5677

2026-05-24

1013人浏览

原创

关键在于三步对齐:Nginx输出结构化JSON、Filebeat正确解析提字段、Logstash或ES不破坏原始结构;任一环节出错会导致字段丢失、时间错乱、中文乱码或Kibana中字段未分配。

nginx 结合 elk 实战:利用 filebeat 实时采集 nginx json 日志

要让 Nginx 日志顺利进入 ELK 并在 Kibana 中可查、可画图、可筛选,关键不是堆组件,而是三步对齐:Nginx 输出结构化 JSON、Filebeat 正确识别并提字段、Logstash(或 ES)不破坏原始结构。跳过任一环,都会出现字段丢失、时间错乱、中文乱码或 Kibana 里全是 unassigned 字段的问题。

Nginx 配置 JSON 日志格式

默认的 combined 日志是纯文本,靠 Logstash 正则解析,既慢又易错。直接在 Nginx 中定义 JSON 格式,让每条日志本身就是合法 JSON 对象,后续处理压力大幅降低。

  • 编辑 /etc/nginx/nginx.conf,在 http 块内添加自定义 log_format:
log_format json_log escape=json '{' '"@timestamp":"$time_iso8601",' '"client_ip":"$remote_addr",' '"method":"$request_method",' '"uri":"$request_uri",' '"status":$status,' '"bytes_sent":$body_bytes_sent,' '"request_time":$request_time,' '"referer":"$http_referer",' '"user_agent":"$http_user_agent",' '"x_forwarded_for":"$http_x_forwarded_for"' '}';
  • 将 access_log 指向该格式:access_log /var/log/nginx/access.log json_log;
  • 执行 nginx -t && nginx -s reload 生效
  • 用 tail -1 /var/log/nginx/access.log 确认输出是单行、无换行、符合 JSON 语法的字符串(注意:不要有尾随逗号、引号要闭合、数字字段不加引号)

Filebeat 正确解析 JSON 字段

Filebeat 默认把整行当字符串塞进 message 字段。要让它“拆开”JSON 并映射为独立字段,必须启用 JSON 解析,并控制字段归属。

arcgis-js
arcgis-js

提供 ArcGIS Maps SDK for JavaScript 开发辅助,涵盖 2D/3D 地图视图、图层管理、数据可视化、空间分析等功能模块的参考和示例指导。

下载
  • 在 filebeat.inputs 下对应 Nginx 日志路径的配置块中,加入:
json.keys_under_root: true
json.overwrite_keys: true
json.add_error_key: true
  • keys_under_root: true 表示把 JSON 内部字段(如 status、client_ip)直接提到根层级,而不是嵌套在 json. 下
  • overwrite_keys: true 防止同名字段冲突(比如 Nginx 日志里有 status,Filebeat 自身也可能生成 status)
  • add_error_key: true 可捕获解析失败时的错误信息,便于排障
  • 确保 paths 指向的是上一步配置的 JSON 日志文件路径(如 /var/log/nginx/access.log)

Logstash 或直连 ES 的适配要点

如果使用 Logstash 做中间处理,它的配置需与 Filebeat 输出保持一致;如果 Filebeat 直连 Elasticsearch,则要注意索引模板和时间字段。

  • 若走 Logstash:Input 插件接收 Filebeat 发来的数据后,无需再做 JSON 解析(因为 Filebeat 已完成),重点放在过滤脏数据、补充地理信息、标准化状态码等业务逻辑
  • 若直连 ES:@timestamp 字段必须存在且为 ISO8601 格式(Nginx 的 $time_iso8601 已满足),否则 Kibana 无法按时间排序或绘图
  • 建议在 Filebeat 配置中显式设置时间字段:processor.timestamp: + event.dataset: nginx.access,方便 Kibana 创建索引模式时自动识别
  • 首次启动后,检查 Kibana 的 Stack Management → Index Patterns,确认新索引(如 filebeat-*)已加载,且 @timestamp 被识别为时间字段

验证与排错提示

常见问题往往出在细节:JSON 格式不合法、Filebeat 权限不足、字段名大小写不一致、Kibana 未刷新索引模式。

  • 用 filebeat test output 检查是否能连通目标(ES 或 Logstash)
  • 用 filebeat -e -d "publish" 启动调试模式,观察日志是否被读取、字段是否被正确展开
  • 在 Kibana 的 Discover 页面,先选对索引模式,再点右上角 Refresh,别忘了点 Auto-refresh 开关
  • 如果字段显示为 json.status 而非 status,说明 json.keys_under_root: true 没生效或缩进不对
  • 中文 user_agent 出现乱码,通常因 Nginx 配置中漏了 escape=json,导致双引号未转义,JSON 解析中断

相关专题

更多
nginx 重启
nginx 重启

nginx重启对于网站的运维来说是非常重要的,根据不同的需求,可以选择简单重启、平滑重启或定时重启等方式。本专题为大家提供nginx重启的相关的文章、下载、课程内容,供大家免费下载体验。

2023.07.27

423

5

nginx 配置详解
nginx 配置详解

Nginx的配置是指设置和调整Nginx服务器的行为和功能的过程。通过配置文件,可以定义虚拟主机、HTTP请求处理、反向代理、缓存和负载均衡等功能。Nginx的配置语法简洁而强大,允许管理员根据自己的需要进行灵活的调整。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.04

3867

6

nginx配置详解
nginx配置详解

NGINX与其他服务类似,因为它具有以特定格式编写的基于文本的配置文件。本专题为大家提供nginx配置相关的文章,大家可以免费学习。

2023.08.04

6665

6

tomcat和nginx有哪些区别
tomcat和nginx有哪些区别

tomcat和nginx的区别:1、应用领域;2、性能;3、功能;4、配置;5、安全性;6、扩展性;7、部署复杂性;8、社区支持;9、成本;10、日志管理。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.02.23

601

5

nginx报404怎么解决
nginx报404怎么解决

当访问 nginx 网页服务器时遇到 404 错误,表明服务器无法找到请求资源,可以通过以下步骤解决:1. 检查文件是否存在且路径正确;2. 检查文件权限并更改为 644 或 755;3. 检查 nginx 配置,确保根目录设置正确、没有冲突配置等等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.07.09

1496

5

Nginx报404错误解决方法
Nginx报404错误解决方法

解决方法:只需要加上这段配置:try_files $uri $uri/ /index.html;即可。想了解更多Nginx的相关内容,可以阅读本专题下面的文章。

2024.08.07

3978

3

nginx部署php项目教程汇总
nginx部署php项目教程汇总

本专题整合了nginx部署php项目教程汇总,阅读专题下面的文章了解更多详细内容。

2026.01.13

122

12

nginx配置文件详细教程
nginx配置文件详细教程

本专题整合了nginx配置文件相关教程详细汇总,阅读专题下面的文章了解更多详细内容。

2026.01.13

537

23

Nginx跨平台安装实操指南:Windows、macOS与Linux环境快速搭建
Nginx跨平台安装实操指南:Windows、macOS与Linux环境快速搭建

本指南详解Nginx在Windows、macOS及Linux系统的安装全流程。涵盖官方包解压、Homebrew一键部署、APT/YUM源配置及Docker容器化方案。无论新手或开发者,均可快速搭建运行环境,掌握跨平台核心指令,为后续配置与调优奠定坚实基础。

2026.03.16

179

12

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
WEB前端教程【HTML5+CSS3+JS】
WEB前端教程【HTML5+CSS3+JS】

共101课时 | 21.2万人学习

JS进阶与BootStrap学习
JS进阶与BootStrap学习

共39课时 | 4.9万人学习