Linux 中怎么在 Apache 中使用 Rewrite 匹配并拦截恶意爬虫

冬墨同学_1283

冬墨同学_1283

2026-08-19

657人浏览

原创

apache中用rewrite拦截恶意爬虫需启用mod_rewrite模块,通过rewritecond匹配user-agent、referer或ip等特征,再用rewriterule返回403;配置须置于.htaccess或虚拟主机directory块内,注意规则顺序与生效范围,并测试验证。

linux 中怎么在 apache 中使用 rewrite 匹配并拦截恶意爬虫

在 Linux 的 Apache 中用 Rewrite 拦截恶意爬虫,核心是靠 mod_rewrite 模块结合 RewriteCond 判断请求特征(如 User-Agent、Referer、IP 或访问路径),再用 RewriteRule 返回 403 禁止响应。操作简单但需注意语法位置和生效范围。

确保 mod_rewrite 已启用

先确认模块已加载:

  • 运行 a2enmod rewrite(Debian/Ubuntu)或检查 httpd.conf 中是否启用了 LoadModule rewrite_module modules/mod_rewrite.so(CentOS/RHEL)
  • 重启 Apache:systemctl restart apache2 或 systemctl restart httpd
  • 确保站点配置或 .htaccess 文件所在目录允许重写(AllowOverride All 或至少 AllowOverride FileInfo)

按 User-Agent 拦截已知爬虫

很多恶意爬虫的 UA 包含明显关键词(如 sqlmap、nikto、wget、curl、scrapy),可直接匹配屏蔽:

Alpine Linux
Alpine Linux

获取最新发布版本;聚合最新版本架构

下载
RewriteEngine On
RewriteCond %{HTTP_USER_AGENT} "sqlmap|nikto|wget|curl|scrapy|masscan|nuclei|dirbuster" [NC]
RewriteRule ^ - [F]
  • [NC] 表示不区分大小写
  • ^ 匹配任意请求路径,- 表示不重写,[F] 直接返回 403
  • 建议放在 .htaccess 根目录,或虚拟主机配置的 <directory></directory> 块内

按 Referer 拦截盗链或非授权来源

若发现图片、JS、CSS 被大量外部站直接引用,可限制 Referer:

RewriteEngine On
RewriteCond %{HTTP_REFERER} !^$
RewriteCond %{HTTP_REFERER} !^https?://(www\.)?yourdomain\.com [NC]
RewriteRule \.(jpg|jpeg|png|gif|js|css|webp)$ - [F]
  • 第一行排除空 Referer(部分浏览器或直接访问可能为空)
  • 第二行只允许你自己的域名(支持 http/https 和 www 变体)
  • 第三行针对常见静态资源后缀拦截,避免被刷带宽

按 IP 或 IP 段临时封禁高频异常请求

配合日志分析,把扫描频繁或返回 404 过多的 IP 加入黑名单:

RewriteEngine On
RewriteCond %{REMOTE_ADDR} ^(192\.168\.10\.123|203\.0\.113\.45|113\.73\.43\.155)$ [OR]
RewriteCond %{REMOTE_ADDR} ^183\.31\.185\.
RewriteRule ^ - [F]
  • [OR] 用于连接多个条件;末尾无 [OR] 的条件默认为 AND
  • 支持精确 IP 和前缀匹配(如 ^183\.31\.185\. 封整个 C 段)
  • 长期大量封 IP 建议改用 mod_evasive 或防火墙(iptables/nftables),避免 Rewrite 规则膨胀

不复杂但容易忽略:规则顺序很重要,靠前的条件会优先匹配;测试时建议先用 RewriteLog(Apache 2.2)或 LogLevel alert rewrite:trace3(Apache 2.4+)查日志验证逻辑是否命中。上线前务必备份原配置,并用 curl 模拟恶意 UA 测试是否真返回 403。

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

linux apache 爬虫

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
apache是什么意思
apache是什么意思

Apache是Apache HTTP Server的简称,是一个开源的Web服务器软件。是目前全球使用最广泛的Web服务器软件之一,由Apache软件基金会开发和维护,Apache具有稳定、安全和高性能的特点,得益于其成熟的开发和广泛的应用实践,被广泛用于托管网站、搭建Web应用程序、构建Web服务和代理等场景。本专题为大家提供了Apache相关的各种文章、以及下载和课程,希望对各位有所帮助。

2023.08.23

1075

4

apache启动失败
apache启动失败

Apache启动失败可能有多种原因。需要检查日志文件、检查配置文件等等。想了解更多apache启动的相关内容,可以阅读本专题下面的文章。

2024.01.16

11453

8

Java 流式处理与 Apache Kafka 实战
Java 流式处理与 Apache Kafka 实战

本专题专注讲解 Java 在流式数据处理与消息队列系统中的应用,系统讲解 Apache Kafka 的基础概念、生产者与消费者模型、Kafka Streams 与 KSQL 流式处理框架、实时数据分析与监控,结合实际业务场景,帮助开发者构建 高吞吐量、低延迟的实时数据流管道,实现高效的数据流转与处理。

2026.02.04

610

32

XAMPP Apache 与 MySQL 核心配置实战
XAMPP Apache 与 MySQL 核心配置实战

深入讲解 XAMPP 中 Apache 和 MySQL 的核心配置技巧,包括 httpd.conf 端口修改、虚拟主机(VirtualHost)多站点配置、MySQL 用户权限管理与远程连接设置、php.ini 关键参数调优,以及 SSL 证书的本地配置方法,适合有一定基础的开发者进阶使用。

2026.04.08

405

21

phpEnv Nginx 与 Apache 深度配置
phpEnv Nginx 与 Apache 深度配置

深入讲解 phpEnv 内置的 Nginx 与 Apache 两大 Web 服务器的配置技巧,涵盖 Nginx 与 Apache 的切换使用与场景对比、nginx.conf / httpd.conf 核心配置文件解读、反向代理与负载均衡本地模拟、Gzip 压缩与浏览器缓存策略配置、连接数/超时时间/Worker 进程等性能参数调优、访问日志与错误日志的路径管理与分析方法,帮助开发者在本地环境中模拟接近生产级的服务器配置。

2026.04.23

536

27

Apache Web Server 入门到生产部署实战指南
Apache Web Server 入门到生产部署实战指南

本指南带你从零开始,全面掌握 Apache Web Server 的入门与生产环境部署。内容涵盖在 Linux(Ubuntu/CentOS)系统下的快速安装与基础运维,深入解析核心配置文件、虚拟主机搭建及多站点管理。同时,结合实战讲解 HTTPS 安全加密、Let's Encrypt 证书配置、性能调优与服务器安全加固,助你快速构建稳定、高效且安全的企业级 Web 服务。

2026.05.12

174

10

Apache 开发与文件配置指南
Apache 开发与文件配置指南

本指南专为希望深入掌握 Apache 服务器的开发者与运维人员打造。内容从核心配置文件(httpd.conf)的语法架构出发,全面解析虚拟主机、访问控制与日志管理等基础配置。进阶部分聚焦 mod_rewrite 重写规则、自定义模块开发及 MPM 性能调优,结合 HTTPS 安全加固与生产环境故障排查实战,助你构建高并发、高可用的企业级 Web 服务架构。

2026.05.12

183

10

Apache 企业级应用与运维实践
Apache 企业级应用与运维实践

本指南聚焦Apache服务器在企业环境中的核心应用,提供从基础运维到高可用架构的实战解决方案。内容涵盖生产环境部署规范、安全加固策略、日志审计分析及故障应急处理,深入讲解负载均衡、缓存优化与监控体系构建。结合真实案例,助运维人员打造稳定、高效且可扩展的企业级Web服务平台。

2026.05.12

161

10

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Buffalo框架快速入门指南
Buffalo框架快速入门指南

共0课时 | 0人学习

Valgrind支持平台说明
Valgrind支持平台说明

共0课时 | 0人学习