ThinkPHP 5.1 利用 Swoole Process 实现多进程爬虫【采集】

蓮花仙者

蓮花仙者

2026-07-18

684人浏览

原创

thinkphp 5.1 中使用原生 swoole\process 实现多子进程并发网页采集,需禁用 opcache 保存注释、子进程重初始化应用并独立建库连接,通过自定义命令启动,错误日志按 pid 分离。

thinkphp 5.1 利用 swoole process 实现多进程爬虫【采集】

在 ThinkPHP 5.1 中通过 Swoole Process 启动多个独立子进程并发采集网页数据,避免单进程阻塞、提升抓取吞吐量,适用于中等规模的定向爬虫任务。

安装与环境准备

确认 PHP 已启用 Swoole 扩展(版本 ≥ 4.4.0),并在项目根目录执行:composer require topthink/think-swoole。该扩展提供 Process 封装支持,但本方案直接使用原生 Swoole\Process,不依赖其组件。

修改 public/index.php 入口文件顶部,添加 define('APP_PATH', __DIR__ . '/../application/'); 确保后续类加载路径正确。

【必须关闭 OPcache 的 opcache.save_comments = 0 设置】,否则匿名函数序列化失败会导致子进程启动报错。

创建进程管理器类

application/common/library/ 下新建 CrawlerProcessManager.php

定义静态方法 start($urls, $callback),接收待采集 URL 数组和回调函数;内部调用 new Swoole\Process(...) 创建子进程,每个进程处理一个 URL;主进程用 pcntl_wait() 阻塞等待全部结束。

子进程内需重新初始化 ThinkPHP 应用实例:调用 require APP_PATH . 'init.php' 并手动触发 App::run()->send(),否则无法加载模型、配置和数据库连接。

PHP 8.5.5
PHP 8.5.5

PHP 8.5.5 是 PHP 8.5 分支的维护更新版本。该版本延续了“小步快跑”的迭代逻辑,通过深度错误修复、底层性能微调以及安全加固,旨在为开发者提供一个更健壮、更高效的运行环境。该版本严格遵守语义化版本规范,不包含破坏性变更。

下载

编写采集逻辑回调

application/command/ 下新建 CrawlCommand.php,继承 think\Command

重写 configure() 设置命令名为 crawl:multiexecute() 中构造 URL 列表,例如 $urls = ['https://example.com/1', 'https://example.com/2']

定义匿名回调函数,参数为 $url$pid,内部使用 curl_init()file_get_contents() 获取页面内容,解析后写入数据库或本地文件;注意每个子进程必须独立建立数据库连接,不可复用父进程连接。

调用 CrawlerProcessManager::start($urls, $callback) 启动全部子进程。

启动爬虫命令

执行 php think crawl:multi 运行命令。

若出现 Segmentation fault,大概率是子进程中调用了未 fork 安全的扩展(如某些 Redis 扩展),需改用 phpredis 并在子进程内重新 connect。

子进程退出码非 0 时,主进程会记录错误日志到 runtime/log/crawl_error_日期.log,按 PID 区分错误来源。

php免费学习视频:立即使用
踏上前端学习之旅,开启通往精通之路!从前端基础到项目实战,循序渐进,一步一个脚印,迈向巅峰!

相关专题

更多
swoole为什么能常驻内存
swoole为什么能常驻内存

swoole常驻内存的特性:1. 事件驱动模型减少内存消耗;2. 协程并行执行任务占用更少内存;3. 协程池预分配协程消除创建开销;4. 静态变量保留状态减少内存分配;5. 共享内存跨协程共享数据降低内存开销。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.04.10

700

6

Swoole 安装与快速入门指南
Swoole 安装与快速入门指南

面向 PHP 开发者的 Swoole 入门指南,详细讲解 Swoole 扩展的安装方式(PECL 一键安装 / 源码编译安装 / Docker 镜像)、不同操作系统(Ubuntu/CentOS/macOS)的依赖准备与编译参数选择、php.ini 中扩展加载配置与 phpinfo() 验证、Swoole 与传统 PHP-FPM 运行模式的核心区别、第一个 TCP Server 与 HTTP Server 的创建与启动,帮助开发者快速理解

2026.05.18

79

26

Swoole 协程与异步编程实战
Swoole 协程与异步编程实战

深入讲解 Swoole 协程(Coroutine)体系的核心机制与实战应用,涵盖协程的创建方式(go / Co::create)与调度原理、协程与传统多进程/多线程的性能优势对比、Channel 通道的生产者-消费者通信模型、WaitGroup 协程同步等待、defer 延迟执行与资源释放、协程化 MySQL / Redis / HTTP 客户端的一键 Hook(Runtime::enableCoroutine)、连接池(Connect

2026.05.18

152

24

Swoole HTTP/WebSocket 服务器开发
Swoole HTTP/WebSocket 服务器开发

以 Web 应用开发为核心场景,讲解 Swoole HTTP Server 与 WebSocket Server 的完整开发流程,涵盖 HTTP Server 的请求解析(GET/POST/文件上传)与响应输出、路由分发设计与中间件实现、Cookie / Session 会话管理(结合 Redis 存储)、静态文件服务配置、WebSocket Server 的握手连接/消息收发/广播推送/心跳检测实现、在线聊天室与实时通知的项目实战、与

2026.05.18

186

20

Swoole与主流PHP框架集成教程合集
Swoole与主流PHP框架集成教程合集

本专题讲解 Swoole 与主流 PHP 框架的集成方案与性能提升实践,涵盖 Laravel Octane 的安装配置与 Swoole Worker 驱动接入、常驻内存下全局变量污染与单例陷阱的排查处理、请求上下文隔离策略、Hyperf 原生协程框架的项目搭建与注解式路由/依赖注入/AOP 切面使用、Swoft 框架的微服务组件集成、ThinkPHP 接入 Swoole 的改造要点、框架迁移中的兼容性问题(文件操作/Session/静态

2026.05.18

122

22

Swoole进程管理与高性能调优教程合集
Swoole进程管理与高性能调优教程合集

从架构原理到参数配置,全面讲解 Swoole 的进程管理体系与性能优化方法,涵盖 Master / Manager / Worker / Task 四层进程模型解析、Worker 进程数与 Task 进程数的合理配置、进程间通信(sendMessage / Pipeline / UnixSocket)机制、定时器(Timer / Tick)的使用与注意事项、Table 共享内存表的高性能数据共享、max_request 进程回收防止内存

2026.05.18

76

32

Swoole 微服务与分布式架构实践
Swoole 微服务与分布式架构实践

聚焦 Swoole 在微服务与分布式系统中的工程实践,讲解基于 Swoole TCP Server 的 RPC 服务开发(自定义协议/Protobuf 序列化/连接复用)、服务注册与发现(Consul / Nacos 对接)、负载均衡策略与健康检查、分布式任务队列(Task Worker / 结合 Redis 队列)实现异步处理、TCP 长连接网关的设计与万级连接管理、Swoole Process / ProcessPool 自定义守护

2026.05.18

170

29

墨刀AI提示词教学
墨刀AI提示词教学

本合集由PHP中文网精心整理,为您提供全面的墨刀AI提示词教学。内容涵盖高质量原型撰写公式与实操窍门,助您轻松掌握AI设计工具。无论是零基础入门还是进阶技巧,都能让您快速上手,大幅提升产品设计与协作效率。

2026.08.04

10

21

墨刀AI完整入门
墨刀AI完整入门

PHP中文网为您倾力打造墨刀AI保姆级入门指南完整版!本合集从零基础讲起,涵盖AI生成原型、提示词优化、图片转原型及多轮对话等核心功能。无论您是新手还是进阶用户,都能轻松掌握产品设计全流程。快来PHP中文网,一键解锁高效设计技巧,让想法即刻成型!

2026.08.04

7

20

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程