PHP 中使用 cURL 批量请求时性能优化与缓存实践

阿墨吖_9461

阿墨吖_9461

2026-04-28

356人浏览

原创

PHP 中使用 cURL 批量请求时性能优化与缓存实践

本文介绍如何通过本地文件缓存机制显著提升 php 中循环调用 curl 请求的历史数据获取效率,避免重复网络请求导致的严重性能瓶颈,并提供可直接复用的缓存封装函数与完整示例。

本文介绍如何通过本地文件缓存机制显著提升 php 中循环调用 curl 请求的历史数据获取效率,避免重复网络请求导致的严重性能瓶颈,并提供可直接复用的缓存封装函数与完整示例。

在批量抓取静态或低频更新的历史数据(如股票、汇率、行情等)时,若对同一接口反复发起数百次 cURL 请求,不仅响应极慢、易触发服务端限流,还会造成不必要的网络与服务器资源消耗。核心问题在于:每次循环都新建 cURL 句柄、建立 TCP 连接、发送完整 HTTP 头部、等待远程响应——而这些操作在数据不变的前提下完全可被规避。

最高效且轻量的解决方案是引入客户端本地缓存层。以下实践基于文件系统实现智能缓存:首次请求执行真实 cURL 调用并保存结果;后续相同参数的请求,在缓存有效期内(如 1 周)直接读取本地 JSON 文件,跳过全部网络开销。

CurlShip Directory Submission
CurlShip Directory Submission

向CurlShip提交产品,这是一个对机器人友好的SaaS目录。只需一条curl命令即可发布产品,支持OG标签抓取、带徽章的dofollow链接及层级升级。

下载

✅ 优化后的完整代码实现

/**
 * 通用函数缓存封装器:自动缓存指定函数的返回值
 *
 * @param string $func 函数名(需为可调用字符串)
 * @param array $args 函数参数数组
 * @param int $seconds 缓存有效期(秒),默认 604800(7 天)
 * @param bool $json 是否以 JSON 格式序列化/反序列化,默认 true
 * @param string $cache_dir 缓存目录路径(需有写权限),默认 ./cache/
 * @return mixed 缓存命中则返回缓存值,否则执行函数并缓存后返回
 */
function cachef($func, $args, $seconds = 604800, $json = true, $cache_dir = './cache/') {
    if (!is_dir($cache_dir)) {
        mkdir($cache_dir, 0755, true);
    }

    // 生成唯一缓存键:基于函数名 + 参数序列化哈希
    $request_hash = md5(json_encode([$func, $args]));
    $request_file = $cache_dir . $request_hash . '.json';

    $run = !file_exists($request_file) || (filemtime($request_file)  URL, 1 => POST 数据字符串]
 * @return string HTTP 响应体
 */
function post($args) {
    [$url, $data] = $args;

    $ch = curl_init();
    curl_setopt($ch, CURLOPT_URL, $url);
    curl_setopt($ch, CURLOPT_RETURNTRANSFER, true);
    curl_setopt($ch, CURLOPT_CUSTOMREQUEST, 'POST');
    curl_setopt($ch, CURLOPT_ENCODING, 'gzip');
    curl_setopt($ch, CURLOPT_HTTPHEADER, [
        'Accept'             => 'text/html, */*; q=0.01',
        'Accept-Language'    => 'en-US,en;q=0.9,ur;q=0.8,zh-CN;q=0.7,zh;q=0.6',
        'Cache-Control'      => 'no-cache',
        'Connection'         => 'keep-alive',
        'Content-Type'       => 'application/x-www-form-urlencoded; charset=UTF-8',
        'DNT'                => '1',
        'Origin'             => 'https://dps.psx.com.pk',
        'Pragma'             => 'no-cache',
        'Referer'            => 'https://dps.psx.com.pk/historical',
        'Sec-Fetch-Dest'     => 'empty',
        'Sec-Fetch-Mode'     => 'cors',
        'Sec-Fetch-Site'     => 'same-origin',
        'User-Agent'         => 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_15_7) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/100.0.4896.75 Safari/537.36',
        'X-Requested-With'   => 'XMLHttpRequest',
        'sec-ch-ua'          => '" Not A;Brand";v="99", "Chromium";v="100", "Google Chrome";v="100"',
        'sec-ch-ua-mobile'   => '?0',
        'sec-ch-ua-platform' => '"macOS"',
        'Accept-Encoding'    => 'gzip',
    ]);
    curl_setopt($ch, CURLOPT_POSTFIELDS, $data);

    $response = curl_exec($ch);
    $httpCode = curl_getinfo($ch, CURLINFO_HTTP_CODE);
    curl_close($ch);

    // 可选:添加基础错误处理(如非2xx响应可抛异常或记录日志)
    if ($httpCode >= 400) {
        error_log("cURL request failed with HTTP {$httpCode} for {$url}");
    }

    return $response;
}

// ✅ 使用示例:200 次循环请求 → 实际仅首次发起网络请求
for ($x = 0; $x  $month,
        'year'   => $year,
        'symbol' => strtoupper($symbol)
    ]);

    // 自动缓存:相同 $query + URL 组合在 7 天内复用本地结果
    $html = cachef('post', ['https://dps.psx.com.pk/historical', $query], 604800);

    // 可选:实时输出进度(防止超时中断,适用于 CLI 环境)
    echo '.';
    if ($x % 50 === 0) {
        echo " [{$x}/200]";
        flush(); // 强制刷新输出缓冲区
    }
}
echo "\nDone.\n";

⚠️ 注意事项与进阶建议

  • 缓存目录权限:确保 ./cache/ 目录存在且 Web 服务器用户(如 www-data 或 nginx)具有读写权限;
  • 参数一致性:cachef 依赖 json_encode([$func, $args]) 生成缓存键,因此 $args 中不应含资源、对象或闭包等不可序列化类型;
  • 安全性提示:本例未校验远程响应合法性,生产环境建议增加 curl_errno() 判断、HTTP 状态码验证及超时控制(如 CURLOPT_TIMEOUT => 10);
  • 替代方案:高频场景可升级为 Redis/Memcached 缓存;需支持并发写入时建议加文件锁(flock());
  • 调试技巧:临时将 $seconds 设为 1 可快速验证缓存逻辑是否生效;启用 error_log() 记录缓存命中/未命中状态便于排查。

通过该缓存策略,原本耗时数分钟甚至超时的 200 次请求,将压缩至首次约 1–2 秒 + 后续毫秒级响应,大幅提升脚本鲁棒性与执行效率。

php免费学习视频:立即使用
踏上前端学习之旅,开启通往精通之路!从前端基础到项目实战,循序渐进,一步一个脚印,迈向巅峰!

相关文章

数码产品性能查询
数码产品性能查询

该软件包括了市面上所有手机CPU,手机跑分情况,电脑CPU,电脑产品信息等等,方便需要大家查阅数码产品最新情况,了解产品特性,能够进行对比选择最具性价比的商品。

下载

相关标签:

php curl

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
php文件怎么打开
php文件怎么打开

打开php文件步骤:1、选择文本编辑器;2、在选择的文本编辑器中,创建一个新的文件,并将其保存为.php文件;3、在创建的PHP文件中,编写PHP代码;4、要在本地计算机上运行PHP文件,需要设置一个服务器环境;5、安装服务器环境后,需要将PHP文件放入服务器目录中;6、一旦将PHP文件放入服务器目录中,就可以通过浏览器来运行它。

2023.09.01

11124

6

php怎么取出数组的前几个元素
php怎么取出数组的前几个元素

取出php数组的前几个元素的方法有使用array_slice()函数、使用array_splice()函数、使用循环遍历、使用array_slice()函数和array_values()函数等。本专题为大家提供php数组相关的文章、下载、课程内容,供大家免费下载体验。

2023.10.11

6461

5

php反序列化失败怎么办
php反序列化失败怎么办

php反序列化失败的解决办法检查序列化数据。检查类定义、检查错误日志、更新PHP版本和应用安全措施等。本专题为大家提供php反序列化相关的文章、下载、课程内容,供大家免费下载体验。

2023.10.11

2155

5

php怎么连接mssql数据库
php怎么连接mssql数据库

连接方法:1、通过mssql_系列函数;2、通过sqlsrv_系列函数;3、通过odbc方式连接;4、通过PDO方式;5、通过COM方式连接。想了解php怎么连接mssql数据库的详细内容,可以访问下面的文章。

2023.10.23

4088

4

php连接mssql数据库的方法
php连接mssql数据库的方法

php连接mssql数据库的方法有使用PHP的MSSQL扩展、使用PDO等。想了解更多php连接mssql数据库相关内容,可以阅读本专题下面的文章。

2023.10.23

4794

6

html怎么上传
html怎么上传

html通过使用HTML表单、JavaScript和PHP上传。更多关于html的问题详细请看本专题下面的文章。php中文网欢迎大家前来学习。

2023.11.03

3771

9

PHP出现乱码怎么解决
PHP出现乱码怎么解决

PHP出现乱码可以通过修改PHP文件头部的字符编码设置、检查PHP文件的编码格式、检查数据库连接设置和检查HTML页面的字符编码设置来解决。更多关于php乱码的问题详情请看本专题下面的文章。php中文网欢迎大家前来学习。

2023.11.09

5397

8

php文件怎么在手机上打开
php文件怎么在手机上打开

php文件在手机上打开需要在手机上搭建一个能够运行php的服务器环境,并将php文件上传到服务器上。再在手机上的浏览器中输入服务器的IP地址或域名,加上php文件的路径,即可打开php文件并查看其内容。更多关于php相关问题,详情请看本专题下面的文章。php中文网欢迎大家前来学习。

2023.11.13

4242

8

sprintf函数用法详解
sprintf函数用法详解

sprintf函数的用法:1、格式化字符串;2、指定输出宽度和精度;3、返回值。更多关于sprintf函数用法详解的内容,大家可以阅读下面的文章。

2023.11.27

12142

4

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
墨刀帮助中心
墨刀帮助中心

共0课时 | 0人学习

MyEclipse学习中心
MyEclipse学习中心

共0课时 | 0人学习

Apache Subversion 官方手册
Apache Subversion 官方手册

共0课时 | 0人学习