应规范nginx日志格式,用$uri字段归一化接口路径,过滤健康检查、静态资源、非成功状态码及爬虫ua,再按时间窗口或身份(如api key)聚合统计调用频次。

要通过分析 Nginx 日志评估 API 调用频率,关键不是“数总行数”,而是精准提取接口路径、过滤有效请求、按时间或维度聚合统计。直接解析默认日志格式容易出错,必须先规范日志输出,再用合适工具分层分析。
规范日志格式,确保路径可统计
默认 combined 日志里的 $request 包含方法、完整 URI(含参数)和协议,无法直接用于接口级统计。应改用 $uri 字段——它已解码且不含 query string,能准确归一化同一接口:
log_format api_freq '$remote_addr - $remote_user [$time_local] '
'"$request_method $uri $http_version" $status $body_bytes_sent '
'"$http_referer" "$http_user_agent" $request_time $upstream_response_time';
access_log /var/log/nginx/api.freq.log api_freq;
重载 Nginx 后,新请求将按此格式记录,例如:"POST /api/v1/users HTTP/1.1" 200 142 ...
→ 第7字段($uri)稳定为 /api/v1/users,不因 ?page=1 或 ?page=2 变成不同条目。
过滤噪音,聚焦真实业务调用
统计前必须排除干扰项,否则结果失真:
- 排除健康检查路径(如
/healthz、/readyz) - 排除静态资源(如
/favicon.ico、.js、.css) - 排除非 2xx/3xx 成功状态码(大量 404/500 往往是扫描或错误配置)
- 排除明显爬虫 UA(如
sqlmap、nuclei、Go-http-client)
示例命令(假设日志中 $uri 是第7字段,状态码是第9字段):
awk '$9 >= 200 && $9 <h3>按时间窗口统计调用频次</h3><p>单纯看总量不够,需观察节奏: </p>
- 分钟级突增:识别瞬时刷量或定时任务
- 小时级分布:发现业务高峰与低谷
- 天级趋势:判断增长/衰减是否健康
利用 awk 提取时间戳并归一化到分钟(格式 [10/Jan/2026:14:23:):
# 统计每分钟请求数(取日志第4字段,去掉末尾 ])
awk '{gsub(/\]$/, "", $4); print substr($4, index($4, ":")+1, 5)}' /var/log/nginx/api.freq.log | \
sort | uniq -c | sort -nr | head -10
输出类似:
872 14:23 795 14:22 631 14:24
说明 14:23 是当前峰值分钟。
关联身份与调用行为(进阶)
若日志中已记录 X-Api-Key 或 Authorization,可进一步分析:
- 单个 Key 的调用量(识别异常高频调用者)
- 不同 Key 类型的分布(如
test-xxxvsprod-xxx) - Key + 接口组合频次(判断是否某 Key 集中刷某个接口)
在 log_format 中加入:
'$http_x_api_key "$http_authorization"'
再用 awk -F'"' '{print $2, $4}' 提取 Key 和接口,配合 sort | uniq -c 分析。
不复杂但容易忽略
大量免费API接口:立即使用
涵盖生活服务API、金融科技API、企业工商API、等相关的API接口服务。免费API接口可安全、合规地连接上下游,为数据API应用能力赋能!











