php远程访问文件怎么打开_phpcurl分块读取远程大文件法【分块】

冬敏君_2190

冬敏君_2190

2026-01-14

429人浏览

原创

正确做法是关闭CURLOPT_RETURNTRANSFER(设为false),用CURLOPT_WRITEFUNCTION回调流式处理数据,维护缓冲区按行切分并安全解析JSON;fopen('http://...')缺乏超时、重试、Header控制等能力,不适合生产环境大文件下载。

php远程访问文件怎么打开_phpcurl分块读取远程大文件法【分块】

PHP 用 cURL 分块读取远程大文件时,curl_setopt($ch, CURLOPT_RETURNTRANSFER, true) 会吃光内存

这是最常踩的坑:想边下载边处理,却误设 CURLOPT_RETURNTRANSFER 为 true,导致整个响应体被缓存进内存。1GB 文件直接 OOM。正确做法是关掉它,改用回调函数流式接收。

  • CURLOPT_RETURNTRANSFER 必须设为 false(默认值,可不设)
  • 用 CURLOPT_WRITEFUNCTION 指定自定义写入回调,每次只处理 curl 推送的一小段数据(通常几 KB)
  • 回调函数必须返回实际写入字节数,否则 cURL 会中断连接
  • 记得用 stream_set_timeout() 或 CURLOPT_TIMEOUT 防止卡死

分块回调函数里怎么安全写入本地文件或解析 JSON 行?

回调不是“每行调用一次”,而是按底层 TCP 包大小推送数据(可能半行、跨行)。不能直接 json_decode($data),要自己做缓冲和行切分。

  • 维护一个全局或闭包内的 $buffer 字符串,拼接每次传入的 $data
  • 用 strpos($buffer, "\n") 找完整行,substr 截取后更新 $buffer
  • 对每一整行做业务处理(如 json_decode($line, true))
  • 写入文件推荐用 fwrite($fp, $line . "\n"),避免 file_put_contents(..., FILE_APPEND) 频繁打开文件
function writeCallback($ch, $data) {
    static $fp = null;
    static $buffer = '';

    $buffer .= $data;
    while (($pos = strpos($buffer, "\n")) !== false) {
        $line = substr($buffer, 0, $pos);
        $buffer = substr($buffer, $pos + 1);

        // 示例:写入文件
        if ($fp === null) $fp = fopen('/tmp/output.jsonl', 'wb');
        fwrite($fp, $line . "\n");
    }
    return strlen($data); // 必须返回,否则 cURL 报错 CURLE_WRITE_ERROR
}

为什么 fopen('http://...', 'r') 不适合大文件?

PHP 的 file_get_contents 和 fopen 封装了 stream wrapper,但默认不支持 chunked 编码下的流式控制,且无法设置超时、重试、Header 等关键参数。遇到 302 重定向或服务端分块传输(Transfer-Encoding: chunked)时行为不可控。

HTTP状态码查询
HTTP状态码查询

查询网站的HTTP响应状态码,判断网站是否正常访问、是否重定向、是否存在错误。适用于"HTTP状态码查询""网站状态查询""HTTP状态检测""网页状态码""网站响应码""301重定向查询"等请求。通过本地 Python 脚本调用网站HTTP状态查询接口,并使用环境变量中的专属 API Key。

下载
  • fopen('http://...') 无法获取响应状态码或 Header,出错只能靠 feof() 判断,不准确
  • 没有内置重试机制,网络抖动直接失败
  • 无法设置 User-Agent、Authorization 等必要 Header
  • 遇到 gzip 压缩响应,需手动解压(stream_filter_append 配置复杂)

生产环境必须加的防护项

远程文件不可信,不加限制的分块读取可能被恶意响应拖垮服务。

  • 用 CURLOPT_CONNECTTIMEOUT 和 CURLOPT_TIMEOUT 控制连接与总耗时(例如各 30 秒)
  • 用 CURLOPT_HEADERFUNCTION 检查 Content-Length 或 Content-Type,非预期类型提前中止
  • 在回调里做累计字节计数,超过阈值(如 500MB)主动 curl_close($ch) 并报错
  • 禁用重定向(CURLOPT_FOLLOWLOCATION 设为 false),防止跳转到不可控地址

真正难的不是“怎么分块”,而是“怎么在不信任的网络链路里稳住内存、不丢数据、不卡死”。这些细节漏一条,上线就变定时炸弹。

php免费学习视频:立即使用
踏上前端学习之旅,开启通往精通之路!从前端基础到项目实战,循序渐进,一步一个脚印,迈向巅峰!

相关文章

PHP速学教程(入门到精通)
PHP速学教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
json数据格式
json数据格式

JSON是一种轻量级的数据交换格式。本专题为大家带来json数据格式相关文章,帮助大家解决问题。

2023.08.07

2355

5

json是什么
json是什么

JSON是一种轻量级的数据交换格式,具有简洁、易读、跨平台和语言的特点,JSON数据是通过键值对的方式进行组织,其中键是字符串,值可以是字符串、数值、布尔值、数组、对象或者null,在Web开发、数据交换和配置文件等方面得到广泛应用。本专题为大家提供json相关的文章、下载、课程内容,供大家免费下载体验。

2023.08.23

3882

1

jquery怎么操作json
jquery怎么操作json

操作的方法有:1、“$.parseJSON(jsonString)”2、“$.getJSON(url, data, success)”;3、“$.each(obj, callback)”;4、“$.ajax()”。更多jquery怎么操作json的详细内容,可以访问本专题下面的文章。

2023.10.13

1296

3

go语言处理json数据方法
go语言处理json数据方法

本专题整合了go语言中处理json数据方法,阅读专题下面的文章了解更多详细内容。

2025.09.10

4519

7

curl_exec
curl_exec

curl_exec函数是PHP cURL函数列表中的一种,它的功能是执行一个cURL会话。给大家总结了一下php curl_exec函数的一些用法实例,这个函数应该在初始化一个cURL会话并且全部的选项都被设置后被调用。他的返回值成功时返回TRUE, 或者在失败时返回FALSE。

2023.06.14

3963

6

linux常见下载安装工具
linux常见下载安装工具

linux常见下载安装工具有APT、YUM、DNF、Snapcraft、Flatpak、AppImage、Wget、Curl等。想了解更多linux常见下载安装工具相关内容,可以阅读本专题下面的文章。

2023.10.30

955

4

js 字符串转数组
js 字符串转数组

js字符串转数组的方法:1、使用“split()”方法;2、使用“Array.from()”方法;3、使用for循环遍历;4、使用“Array.split()”方法。本专题为大家提供js字符串转数组的相关的文章、下载、课程内容,供大家免费下载体验。

2023.08.03

1938

5

js截取字符串的方法
js截取字符串的方法

js截取字符串的方法有substring()方法、substr()方法、slice()方法、split()方法和slice()方法。本专题为大家提供字符串相关的文章、下载、课程内容,供大家免费下载体验。

2023.09.04

3224

5

java基础知识汇总
java基础知识汇总

java基础知识有Java的历史和特点、Java的开发环境、Java的基本数据类型、变量和常量、运算符和表达式、控制语句、数组和字符串等等知识点。想要知道更多关于java基础知识的朋友,请阅读本专题下面的的有关文章,欢迎大家来php中文网学习。

2023.10.24

6404

49

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
墨刀帮助中心
墨刀帮助中心

共0课时 | 0人学习

MyEclipse学习中心
MyEclipse学习中心

共0课时 | 0人学习

Apache Subversion 官方手册
Apache Subversion 官方手册

共0课时 | 0人学习