Linux如何提取日志中的关键信息_Linux提取日志关键信息实践

秋雪小哥_8056

秋雪小哥_8056

2026-04-09

177人浏览

原创

日志正则匹配失败应先检查编码与换行符,用file -i和cat -a诊断,再用dos2unix或sed去bom;提取错误需大小写不敏感、含上下文、匹配时间戳并排除干扰;结构化提取优先用awk而非cut。

linux如何提取日志中的关键信息_linux提取日志关键信息实践

grep + 正则匹配失败时,先检查日志编码和换行符

很多日志提取失败不是正则写错,而是文件本身含 ^M(DOS 换行)、UTF-8 BOM 或混合编码。用 file -i logfile.log 查编码,用 cat -A logfile.log | head -n 3 看不可见字符。若发现 ^M,先用 dos2unix logfile.log 清理;若有 BOM,用 sed '1s/^\xEF\xBB\xBF//' logfile.log > clean.log 去除。

提取带时间戳的错误行,别只靠 grep "ERROR"

单纯 grep "ERROR" 会漏掉 error、Error、"err_code":500 这类变体,也抓不到上下文。实际应组合使用:

  • 大小写不敏感 + 行号 + 向下两行: grep -i -A 2 "error\|exception\|fail" app.log
  • 匹配 ISO 时间戳 + ERROR: grep -E "^[0-9]{4}-[0-9]{2}-[0-9]{2} [0-9]{2}:[0-9]{2}:[0-9]{2}.*ERROR" app.log
  • 排除干扰词(如调试日志): grep -i "error" app.log | grep -v -i "debug\|info\|success"

用 awk 提取结构化字段比 cut 更稳

日志字段分隔符不统一时(比如空格、制表符、多个空格混用),cut -d' ' -f5 极易错位。而 awk 默认以任意空白为分隔符,且支持条件过滤:

  • 取第 4 列(响应码)且值为 5xx 的行:awk '$4 ~ /^5[0-9]{2}$/ {print $0}' access.log
  • 按 JSON 字段提取(需日志是单行 JSON):awk -F'"' '/"status":5/ {for(i=1;i
  • 跳过注释和空行再处理:awk 'NF && !/^#/ {print $1, $4, $7}' audit.log

实时监控日志并高亮关键词,tail -f 配合 grep --color 不够用

tail -f app.log | grep --color=always -i "error" 在管道中会丢失颜色,且无法滚动查看上下文。更可靠的做法是:

  • 用 multitail(需安装): multitail -e "ERROR|WARN" app.log,支持多文件、高亮、过滤、滚动回溯
  • 用 grep 缓存最近 100 行再过滤:tail -n 100 app.log | grep -i "timeout" && tail -f app.log | grep -i "timeout"
  • 避免终端卡死:加 --line-buffered 强制逐行输出:tail -f app.log | grep --line-buffered -i "panic"

真正难的是日志格式不一致——比如同一服务在不同版本里把 trace_id 放第 6 列或第 12 列,这时候硬写列数不如先用 head -20 app.log | cat -n 看样本,再决定用正则还是 awk 的字段模式匹配。

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
json数据格式
json数据格式

JSON是一种轻量级的数据交换格式。本专题为大家带来json数据格式相关文章,帮助大家解决问题。

2023.08.07

2055

5

json是什么
json是什么

JSON是一种轻量级的数据交换格式,具有简洁、易读、跨平台和语言的特点,JSON数据是通过键值对的方式进行组织,其中键是字符串,值可以是字符串、数值、布尔值、数组、对象或者null,在Web开发、数据交换和配置文件等方面得到广泛应用。本专题为大家提供json相关的文章、下载、课程内容,供大家免费下载体验。

2023.08.23

3042

1

jquery怎么操作json
jquery怎么操作json

操作的方法有:1、“$.parseJSON(jsonString)”2、“$.getJSON(url, data, success)”;3、“$.each(obj, callback)”;4、“$.ajax()”。更多jquery怎么操作json的详细内容,可以访问本专题下面的文章。

2023.10.13

1036

3

go语言处理json数据方法
go语言处理json数据方法

本专题整合了go语言中处理json数据方法,阅读专题下面的文章了解更多详细内容。

2025.09.10

3459

7

python中print函数的用法
python中print函数的用法

python中print函数的语法是“print(value1, value2, ..., sep=' ', end='\n', file=sys.stdout, flush=False)”。本专题为大家提供print相关的文章、下载、课程内容,供大家免费下载体验。

2023.09.27

2680

5

python print用法与作用
python print用法与作用

本专题整合了python print的用法、作用、函数功能相关内容,阅读专题下面的文章了解更多详细教程。

2026.02.03

249

24

scripterror怎么解决
scripterror怎么解决

scripterror的解决办法有检查语法、文件路径、检查网络连接、浏览器兼容性、使用try-catch语句、使用开发者工具进行调试、更新浏览器和JavaScript库或寻求专业帮助等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2023.10.18

949

5

500error怎么解决
500error怎么解决

500error的解决办法有检查服务器日志、检查代码、检查服务器配置、更新软件版本、重新启动服务、调试代码和寻求帮助等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2023.10.25

2720

5

磁盘配额是什么
磁盘配额是什么

磁盘配额是计算机中指定磁盘的储存限制,就是管理员可以为用户所能使用的磁盘空间进行配额限制,每一用户只能使用最大配额范围内的磁盘空间。php中文网为大家提供各种磁盘配额相关的内容,教程,供大家免费下载安装。

2023.06.21

3950

4

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
热门推荐
/
最新课程
phpStudy极速入门视频教程
phpStudy极速入门视频教程

共6课时 | 54.6万人学习

独孤九贱(4)_PHP视频教程
独孤九贱(4)_PHP视频教程

共89课时 | 133.4万人学习