Linux怎么编写脚本自动提取Nginx访问日志中刷接口的高频IP

阿芳同学_5198

阿芳同学_5198

2026-10-22

884人浏览

原创

用awk统计日志中出现最多的ip:awk '{print $1}' /var/log/nginx/access.log | sort | uniq -c | sort -nr | head -20,其中$1提取首字段(默认为ip),sort确保相邻重复,uniq -c计数,sort -nr降序排列,head -20取前20名。

linux怎么编写脚本自动提取nginx访问日志中刷接口的高频ip

怎么用 awk 快速统计日志里出现最多的 IP

直接用 awk 提取第一列(默认空格分隔)、去重计数、按频次倒序,三步到位。Nginx 默认日志格式中 IP 在最前面,所以 $1 就是客户端 IP:

awk '{print $1}' /var/log/nginx/access.log | sort | uniq -c | sort -nr | head -20

注意:如果日志用了 log_format 自定义格式(比如加了前置时间戳或 JSON),$1 可能不是 IP,得先确认字段位置。可以用 head -1 /var/log/nginx/access.log | cut -d' ' -f1-5 看前几段结构。

常见错误:漏掉 sort 就直接 uniq -c ——uniq 只对相邻重复行计数,不排序等于白统计。

怎么过滤出“刷接口”的行为,不只是看 IP 频次

单纯 IP 出现多 ≠ 恶意刷量,可能是 CDN 节点或内网代理。要结合 URI 和状态码缩小范围:

  • 只统计 POST 或高频 GET /api/ 请求:awk '$6 ~ /^"POST|GET \/api\// && $9 == "200" {print $1}'
  • 排除已知爬虫 UA(可选):! /Baiduspider|SemrushBot|AhrefsBot/
  • 加上时间窗口更准(比如最近 1 小时):awk -v cutoff="$(date -d '1 hour ago' '+%d\/%b\/%Y:%H:[0-5][0-9]')",再匹配 $4 字段

关键点: 是请求行("GET /api/login HTTP/1.1"), 是响应状态码;字段编号取决于你的 log_format,务必用 awk '{print <p>关键点:<code>$6 是请求行("GET /api/login HTTP/1.1"),$9 是响应状态码;字段编号取决于你的 log_format,务必用 awk '{print $0}' access.log | head -1 实际验证。

}' access.log | head -1 实际验证。

Obsidian (Linux)
Obsidian (Linux)

操作 Obsidian 库(纯 Markdown 笔记),并通过 notesmd-cli 实现自动化。

下载

怎么写成可定时运行的 Bash 脚本

把上面逻辑封装成脚本,重点处理日志轮转和输出控制:

#!/bin/bash
LOG="/var/log/nginx/access.log"
# 如果启用了 logrotate,可能需要检查 access.log.1 或 journalctl
[ -f "$LOG.1" ] && LOG="$LOG.1"
TOP_IPS=$(awk '$6 ~ /^"GET \/api\// && $9 == "200" {print $1}' "$LOG" | sort | uniq -c | sort -nr | head -10 | awk '{print $2}')
<p>for ip in $TOP_IPS; do
count=$(grep -c "^$ip " "$LOG" | grep -oE '[0-9]+')
if [ "$count" -gt 500 ]; then
echo "$(date): suspicious IP $ip ($count hits)"</p><h1>这里可以接 iptables 或 fail2ban 命令</h1><p>fi
done</p>

容易踩的坑:

  • 脚本没加 #!/bin/bash 或权限不足(chmod +x monitor.sh)
  • 直接读 access.log 但 Nginx 正在写入,可能丢数据 → 更稳妥用 journalctl -u nginx --since "1 hour ago" | awk ...
  • 没考虑 IPv6 地址(含冒号),grep "^$ip " 会误匹配,建议改用 awk -v ip="$ip" '$1 == ip'

为什么不用 Python 而推荐 awk + shell 组合

不是 Python 不行,而是日志分析这类 I/O 密集型任务,awk 启动快、内存占用低、单行逻辑清晰。一个 1GB 的 access.log,awk 几秒出结果,Python 加载全部进内存再处理,容易 OOM,且代码量翻倍。

除非你要做复杂模式匹配(比如正则提取参数、调用外部 API 查 IP 归属),否则没必要上 Python。真要用,也别手写解析,直接用 goaccess 或 ngxtop 这类成熟工具更省心。

真正麻烦的是日志格式不统一、跨服务器汇总、需要实时告警——这些已经超出单脚本范畴,得上 ELK 或轻量级方案如 vector + prometheus。

相关专题

更多
nginx 重启
nginx 重启

nginx重启对于网站的运维来说是非常重要的,根据不同的需求,可以选择简单重启、平滑重启或定时重启等方式。本专题为大家提供nginx重启的相关的文章、下载、课程内容,供大家免费下载体验。

2023.07.27

403

5

nginx 配置详解
nginx 配置详解

Nginx的配置是指设置和调整Nginx服务器的行为和功能的过程。通过配置文件,可以定义虚拟主机、HTTP请求处理、反向代理、缓存和负载均衡等功能。Nginx的配置语法简洁而强大,允许管理员根据自己的需要进行灵活的调整。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.04

3707

6

nginx配置详解
nginx配置详解

NGINX与其他服务类似,因为它具有以特定格式编写的基于文本的配置文件。本专题为大家提供nginx配置相关的文章,大家可以免费学习。

2023.08.04

6465

6

tomcat和nginx有哪些区别
tomcat和nginx有哪些区别

tomcat和nginx的区别:1、应用领域;2、性能;3、功能;4、配置;5、安全性;6、扩展性;7、部署复杂性;8、社区支持;9、成本;10、日志管理。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.02.23

581

5

nginx报404怎么解决
nginx报404怎么解决

当访问 nginx 网页服务器时遇到 404 错误,表明服务器无法找到请求资源,可以通过以下步骤解决:1. 检查文件是否存在且路径正确;2. 检查文件权限并更改为 644 或 755;3. 检查 nginx 配置,确保根目录设置正确、没有冲突配置等等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.07.09

1496

5

Nginx报404错误解决方法
Nginx报404错误解决方法

解决方法:只需要加上这段配置:try_files $uri $uri/ /index.html;即可。想了解更多Nginx的相关内容,可以阅读本专题下面的文章。

2024.08.07

3978

3

nginx部署php项目教程汇总
nginx部署php项目教程汇总

本专题整合了nginx部署php项目教程汇总,阅读专题下面的文章了解更多详细内容。

2026.01.13

122

12

nginx配置文件详细教程
nginx配置文件详细教程

本专题整合了nginx配置文件相关教程详细汇总,阅读专题下面的文章了解更多详细内容。

2026.01.13

497

23

Nginx跨平台安装实操指南:Windows、macOS与Linux环境快速搭建
Nginx跨平台安装实操指南:Windows、macOS与Linux环境快速搭建

本指南详解Nginx在Windows、macOS及Linux系统的安装全流程。涵盖官方包解压、Homebrew一键部署、APT/YUM源配置及Docker容器化方案。无论新手或开发者,均可快速搭建运行环境,掌握跨平台核心指令,为后续配置与调优奠定坚实基础。

2026.03.16

159

12

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
尚观shell视频教程
尚观shell视频教程

共8课时 | 1.9万人学习

Python uv官方安装与入门文档
Python uv官方安装与入门文档

共0课时 | 0人学习

Buffalo框架快速入门指南
Buffalo框架快速入门指南

共0课时 | 0人学习