Nginx 日志怎么结合 JSON 格式输出方便大数据平台采集

星敏姑娘_8951

星敏姑娘_8951

2026-09-06

746人浏览

原创

nginx 1.11.8+ 支持 escape=json 的 log_format,可直接输出标准 json 日志,需在 http 块定义格式、server 中用 access_log 启用,字段引号规范、数值不加引号、时间用 $time_iso8601,路径须绝对且有写权限,采集端需按 json lines 解析。

nginx 日志怎么结合 json 格式输出方便大数据平台采集

让 Nginx 日志直接输出标准 JSON 格式,是对接大数据平台(如 ELK、Loki、ClickHouse)最高效的方式——省去 Logstash 的 grok 解析开销,字段天然可索引、可聚合。

在 http 块中定义 escape=json 的 log_format

这是最关键的一步。Nginx 1.11.8+ 支持 escape=json 参数,自动转义双引号、换行符、控制字符,避免 JSON 结构损坏:

  • 所有字符串字段(如 "$remote_addr"、"$http_user_agent")必须用双引号包裹
  • 数值字段(如 $status、$request_time、$body_bytes_sent)不加引号,确保 Elasticsearch 或 ClickHouse 自动识别为数字类型
  • 时间统一用 $time_iso8601,方便日志系统解析为 @timestamp
  • 字段名建议加前缀(如 http_user_agent 而非 user_agent),避免与目标平台内置字段冲突

启用并绑定到具体 server 或 location

仅定义格式不会生效,必须在作用域中显式调用 access_log:

  • 写法必须是 access_log /path/to/access.json json_format_name;,缺格式名会回退到默认 combined
  • 路径需为绝对路径,且 Nginx 进程有写权限(如 /var/log/nginx/access.json)
  • 若使用多个虚拟主机,确保 log_format 在 http 块顶层唯一定义,不要在各 server 中重复声明

适配不同采集端的注意事项

JSON 日志输出后,采集工具配置要匹配“每行一个 JSON 对象”(JSON Lines)格式:

  • Filebeat:启用 json.enabled: true + json.keys_under_root: true,并设 json.add_error_key: true 便于排查解析失败
  • Logstash:用 json 过滤器即可,无需 grok;推荐加 remove_field => ["message"] 避免冗余字段
  • Loki:配合 Promtail 的 docker 或 file 类型 input,启用 json 解析器,自动提取标签

验证与排错要点

配置完成后,务必验证输出是否真正合法:

  • 重启 Nginx,发一次请求(如 curl -I localhost)
  • 用 tail -1 /var/log/nginx/access.json | jq . 检查是否单行、无报错
  • 常见错误:字段漏引号、数值加了引号、escape=json 拼错、Nginx 版本低于 1.11.8
  • 高危字段(如 $http_user_agent)若仍担心风险,可用 map 预清洗非法字符,再引用清洗后变量

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

nginx js json 大数据

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
大数据分析工具有哪四个
大数据分析工具有哪四个

大数据分析的四个工具分别是rapidminer、Hpcc、Hadoop和Pentaho bi。大数据分析用于从各种来源生成的原始数据中提取有价值的数据。这些数据帮助我们获得有意义的见解、隐藏的模式、未知的相关性、市场趋势等等,具体取决于行业。大数据分析的主要动机是提供有价值的见解,以便为未来做出更好的决策。php中文网为大家带来了大数据分析的相关教程、以及相关文章等内容,供大家免费下载使用。

2023.06.21

5016

5

Java 大数据处理基础(Hadoop 方向)
Java 大数据处理基础(Hadoop 方向)

本专题聚焦 Java 在大数据离线处理场景中的核心应用,系统讲解 Hadoop 生态的基本原理、HDFS 文件系统操作、MapReduce 编程模型、作业优化策略以及常见数据处理流程。通过实际示例(如日志分析、批处理任务),帮助学习者掌握使用 Java 构建高效大数据处理程序的完整方法。

2025.12.08

1249

12

大数据专业学习教程
大数据专业学习教程

本专题整合了大数据专业学习相关教程,阅读专题下面的文章了解更多详细内容。

2026.01.05

243

5

python处理大数据合集
python处理大数据合集

本专题整合了python处理大数据相关教程,阅读专题下面的文章了解更多详细内容。

2026.01.05

466

22

nginx 重启
nginx 重启

nginx重启对于网站的运维来说是非常重要的,根据不同的需求,可以选择简单重启、平滑重启或定时重启等方式。本专题为大家提供nginx重启的相关的文章、下载、课程内容,供大家免费下载体验。

2023.07.27

403

5

nginx 配置详解
nginx 配置详解

Nginx的配置是指设置和调整Nginx服务器的行为和功能的过程。通过配置文件,可以定义虚拟主机、HTTP请求处理、反向代理、缓存和负载均衡等功能。Nginx的配置语法简洁而强大,允许管理员根据自己的需要进行灵活的调整。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.04

3507

6

nginx配置详解
nginx配置详解

NGINX与其他服务类似,因为它具有以特定格式编写的基于文本的配置文件。本专题为大家提供nginx配置相关的文章,大家可以免费学习。

2023.08.04

6225

6

tomcat和nginx有哪些区别
tomcat和nginx有哪些区别

tomcat和nginx的区别:1、应用领域;2、性能;3、功能;4、配置;5、安全性;6、扩展性;7、部署复杂性;8、社区支持;9、成本;10、日志管理。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.02.23

561

5

nginx报404怎么解决
nginx报404怎么解决

当访问 nginx 网页服务器时遇到 404 错误,表明服务器无法找到请求资源,可以通过以下步骤解决:1. 检查文件是否存在且路径正确;2. 检查文件权限并更改为 644 或 755;3. 检查 nginx 配置,确保根目录设置正确、没有冲突配置等等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.07.09

1496

5

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
phpEnv手册
phpEnv手册

共0课时 | 0人学习

nginx手册
nginx手册

共0课时 | 0人学习

进程与SOCKET
进程与SOCKET

共6课时 | 0.5万人学习