
本文介绍如何通过本地缓存机制显著提升 php curl 批量请求的执行效率,避免重复调用相同接口造成的网络延迟与服务器压力,特别适用于获取静态或低频更新的历史数据场景。
本文介绍如何通过本地缓存机制显著提升 php curl 批量请求的执行效率,避免重复调用相同接口造成的网络延迟与服务器压力,特别适用于获取静态或低频更新的历史数据场景。
在 PHP 开发中,频繁调用 curl_init() → curl_exec() → curl_close() 组合进行 HTTP 请求(尤其是循环内多次发起相同结构的请求),往往会导致严重性能瓶颈:每次新建连接、DNS 解析、TLS 握手及响应等待都会叠加耗时,200 次请求可能耗时数分钟甚至超时。
根本原因在于:未复用连接、未规避重复请求、缺乏本地状态管理。而本例中请求的是巴基斯坦证券交易所(PSX)的历史行情数据(/historical),这类数据具有典型的「只读性」和「低时效性」——月度数据通常每日仅更新一次,甚至数日不变。因此,最直接高效的优化策略不是调优 cURL 参数,而是引入智能本地缓存层。
✅ 推荐方案:函数级可配置缓存(cachef())
我们封装一个通用缓存函数 cachef(),它能自动为任意函数(如 post)的结果生成唯一键、持久化存储至文件系统,并按设定 TTL(如 7 天 = 604800 秒)智能判定是否重载。关键优势包括:
向CurlShip提交产品,这是一个对机器人友好的SaaS目录。只需一条curl命令即可发布产品,支持OG标签抓取、带徽章的dofollow链接及层级升级。
- 零重复网络请求:相同 URL + 参数组合仅首次触发真实 cURL;
- 无需手动维护缓存逻辑:自动哈希、路径创建、过期判断、JSON 序列化/反序列化;
- 开箱即用:仅需两处修改 —— 替换原循环调用、适配 post() 入参格式。
以下是完整可运行代码示例:
/**
* 通用函数缓存包装器:自动缓存指定函数的返回值
* @param string $func 函数名(如 'post')
* @param array $args 传入该函数的参数数组
* @param int $seconds 缓存有效期(秒),默认 1 周(604800)
* @param bool $json 是否以 JSON 格式存储/读取(推荐 true)
* @param string $cache_dir 缓存目录路径(需有写权限)
* @return mixed 缓存命中则返回本地数据,否则执行函数并写入缓存
*/
function cachef($func, $args, $seconds = 604800, $json = true, $cache_dir = './cache/') {
if (!is_dir($cache_dir)) {
mkdir($cache_dir, 0755, true);
}
$request_hash = md5(json_encode([$func, $args]));
$request_file = $cache_dir . $request_hash . '.json';
// 判断是否需重新执行:文件不存在 或 已过期
$run = !file_exists($request_file) || (filemtime($request_file) URL, 1 => POST 数据字符串]
* @return string HTTP 响应体
*/
function post($args) {
[$url, $data] = $args;
$ch = curl_init();
curl_setopt($ch, CURLOPT_URL, $url);
curl_setopt($ch, CURLOPT_RETURNTRANSFER, true);
curl_setopt($ch, CURLOPT_CUSTOMREQUEST, 'POST');
curl_setopt($ch, CURLOPT_ENCODING, 'gzip');
curl_setopt($ch, CURLOPT_HTTPHEADER, [
'Accept' => 'text/html, */*; q=0.01',
'Accept-Language' => 'en-US,en;q=0.9,ur;q=0.8,zh-CN;q=0.7,zh;q=0.6',
'Cache-Control' => 'no-cache',
'Connection' => 'keep-alive',
'Content-Type' => 'application/x-www-form-urlencoded; charset=UTF-8',
'DNT' => '1',
'Origin' => 'https://dps.psx.com.pk',
'Pragma' => 'no-cache',
'Referer' => 'https://dps.psx.com.pk/historical',
'Sec-Fetch-Dest' => 'empty',
'Sec-Fetch-Mode' => 'cors',
'Sec-Fetch-Site' => 'same-origin',
'User-Agent' => 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_15_7) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/100.0.4896.75 Safari/537.36',
'X-Requested-With' => 'XMLHttpRequest',
'sec-ch-ua' => '" Not A;Brand";v="99", "Chromium";v="100", "Google Chrome";v="100"',
'sec-ch-ua-mobile' => '?0',
'sec-ch-ua-platform' => '"macOS"',
'Accept-Encoding' => 'gzip',
]);
curl_setopt($ch, CURLOPT_POSTFIELDS, $data);
$response = curl_exec($ch);
curl_close($ch);
return $response;
}
// ✅ 优化后的主循环(200 次请求瞬间完成)
for ($x = 0; $x $month,
'year' => $year,
'symbol' => strtoupper($symbol)
]);
// 使用 cachef 包装:相同 $query 将全部命中缓存
$html = cachef('post', ['https://dps.psx.com.pk/historical', $query], 604800);
// 可选:实时输出进度(防止超时中断)
echo '.';
if ($x % 50 === 0) {
flush(); // 强制刷新输出缓冲区
}
}
⚠️ 注意事项与进阶建议
- 缓存目录权限:确保 ./cache/ 目录存在且 Web 服务器用户(如 www-data)具备读写权限;
- 安全性提醒:生产环境请勿缓存含敏感信息或用户私有数据的响应;对动态内容(如实时股价)应大幅缩短 $seconds(如 60 秒);
-
替代方案对比:
- ✅ cachef():轻量、无依赖、适合中小型脚本;
- ⚠️ cURL Multi:可并发请求,但无法解决重复请求问题,且调试复杂;
- ❌ 纯 sleep() 或连接复用:治标不治本,仍浪费带宽与时间;
- 进一步优化:若需更高并发能力,可结合 curl_multi_init() 与缓存预热(提前批量生成缓存),或迁移到 Redis/Memcached 实现分布式缓存。
通过将「请求逻辑」与「缓存策略」解耦,本方案不仅解决了当前性能瓶颈,更构建了可复用、易维护的数据获取基础设施——让每一次重复请求,都成为一次毫秒级的本地读取。
php免费学习视频:立即使用
踏上前端学习之旅,开启通往精通之路!从前端基础到项目实战,循序渐进,一步一个脚印,迈向巅峰!










