Shell中处理大容量日志:日志轮转与切割的最佳方案

冬晨姑娘_5865

冬晨姑娘_5865

2026-07-06

1002人浏览

原创

关键在于“切得稳、留得住、不丢日志”,应以logrotate为主管理轮转,辅以自定义脚本处理业务特需动作;配置需含压缩、保留、信号通知等,并配合大小、时间、数量三重保留策略及磁盘监控。

shell中处理大容量日志:日志轮转与切割的最佳方案

处理大容量日志,关键不是“切得快”,而是“切得稳、留得住、不丢日志”。Shell环境下最可靠的做法是结合 logrotate 工具 与 轻量级自定义脚本 各司其职:logrotate 负责通用轮转逻辑(压缩、保留、归档),脚本负责业务特需动作(如通知服务重开句柄、适配非标准路径或权限)。

优先用 logrotate 管理核心轮转

它不是可选项,而是 Linux 日志管理的事实标准。系统每日通过 /etc/cron.daily/logrotate 自动触发,稳定、低开销、状态可追溯。

  • 配置文件放在 /etc/logrotate.d/ 下,例如 /etc/logrotate.d/myapp
  • 典型配置示例:
    /var/log/myapp/*.log {
        daily
        missingok
        rotate 30
        compress
        delaycompress
        notifempty
        create 0644 root root
        sharedscripts
        postrotate
            /bin/kill -USR1 `cat /var/run/myapp.pid 2>/dev/null` 2>/dev/null || true
        endscript
    }
  • postrotate 块里发信号(如 USR1 或 HUP)通知应用重新打开日志,避免重启服务
  • 用 logrotate -d /etc/logrotate.d/myapp 先调试,-f 强制执行验证效果

按周或按业务周期切割:用 shell 脚本补位

logrotate 默认不直接支持“按周”或“按业务周期”(如结算日、报表日),这时写一个简单脚本更清晰可控。

ArtarchStudio
ArtarchStudio

ArtarchStudio是一款AI文本写作工具,一站式 AI 内容创作画布平台。

下载
  • 核心逻辑:用 date +%Y_%V 获取当前年+ISO周数(如 2026_24),判断是否变更
  • 只在周初(如周一凌晨)执行一次归档,避免重复操作
  • 移动日志后,用 kill -HUP $PID 或 echo > $LOG_FILE 清空句柄(取决于应用是否支持重载)
  • 配合 crontab:0 2 * * 1 /opt/scripts/rotate_weekly.sh

持续写入场景下必须处理的细节

日志被进程持续打开时,单纯 mv 不会释放原文件占用空间——旧文件仍被持有,磁盘不会释放。

  • 确认应用支持信号重载(Nginx 用 kill -HUP,rsyslog 用 kill -USR1,Java 应用需自行实现)
  • 若不支持信号,可用 cp /dev/null $LOG_FILE 清空内容(保持 inode 不变,不中断写入)
  • 避免直接 rm 正在写入的日志文件,否则可能丢失数据或引发应用异常

保留策略与空间兜底机制

光切割不够,还要防爆盘。建议组合使用时间 + 大小 + 数量三重控制。

  • logrotate 中设 maxsize 100M,当日志超限时立即轮转(适合高流量服务)
  • 脚本中用 find /var/log/archive -name "*.log" -mtime +90 -delete 定期清理过期归档
  • 加一行监控检查:df -h /var | awk 'NR==2 {print $5}' | sed 's/%//' | [[ $(cat) -gt 85 ]] && echo "WARN: /var usage > 85%" | logger -t logwatch

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
磁盘配额是什么
磁盘配额是什么

磁盘配额是计算机中指定磁盘的储存限制,就是管理员可以为用户所能使用的磁盘空间进行配额限制,每一用户只能使用最大配额范围内的磁盘空间。php中文网为大家提供各种磁盘配额相关的内容,教程,供大家免费下载安装。

2023.06.21

3970

4

如何安装LINUX
如何安装LINUX

本站专题提供如何安装LINUX的相关教程文章,还有相关的下载、课程,大家可以免费体验。

2023.06.29

3393

10

linux find
linux find

find是linux命令,它将档案系统内符合 expression 的档案列出来。可以指要档案的名称、类别、时间、大小、权限等不同资讯的组合,只有完全相符的才会被列出来。find根据下列规则判断 path 和 expression,在命令列上第一个 - ( ) , ! 之前的部分为 path,之后的是 expression。还有指DOS 命令 find,Excel 函数 find等。本站专题提供linux find相关教程文章,还有相关

2023.06.30

2553

5

linux修改文件名
linux修改文件名

本专题为大家提供linux修改文件名相关的文章,这些文章可以帮助用户快速轻松地完成文件名的修改工作,大家可以免费体验。

2023.07.05

6170

7

linux系统安装教程
linux系统安装教程

linux系统是一种可以免费使用,自由传播,多用户、多任务、多线程、多CPU的操作系统。本专题提供linux系统安装教程相关的文章,大家可以免费体验。

2023.07.06

5802

7

linux查看文件夹大小
linux查看文件夹大小

Linux是一种自由和开放源码的类Unix操作系统,存在着许多不同的Linux版本,但它们都使用了Linux内核。Linux可安装在各种计算机硬件设备中,比如手机、平板电脑、路由器、视频游戏控制台、台式计算机、大型机和超级计算机。linux怎么查看文件夹大小呢?php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.07.20

3393

8

linux查看ip命令
linux查看ip命令

本专题为大家提供linux查看ip命令相关文章内容,感兴趣的朋友可以免费下载体验试试。

2023.07.20

2905

4

linux查看cpu使用率
linux查看cpu使用率

在linux的系统维护中,可能需要经常查看cpu使用率,分析系统整体的运行情况。本专题为大家带来了linux查看cpu使用率的相关文章,感兴趣的朋友千万不要错过了。

2023.07.25

3119

6

linux查找文件命令
linux查找文件命令

Linux是一种自由和开放源码的类Unix操作系统,存在着许多不同的Linux版本,但它们都使用了Linux内核。Linux可安装在各种计算机硬件设备中,比如手机、平板电脑、路由器、视频游戏控制台、台式计算机、大型机和超级计算机。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.07.31

297

3

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
热门推荐
/
最新课程
phpStudy极速入门视频教程
phpStudy极速入门视频教程

共6课时 | 54.6万人学习

独孤九贱(4)_PHP视频教程
独孤九贱(4)_PHP视频教程

共89课时 | 133.4万人学习