本次批量处理是因为该项目本身经过多次外包,图片存储的到处都是,且没有专门生成缩略图和统一尺寸的图片,这次是在原有图文混排的数据中提取图片,存储到指定目录、裁剪尺寸并生成相应缩略图,并将结果存储到数据库。
在批量程序处理过程中,难免遇到程序执行时间过长,导致504错误等,调整服务器配置其实不是很好的解决方案,毕竟对生产环境动刀子...
不过我比较懒,不想对一次提取的图片再进行分页请求处理^_^
顺便说一句,最多的一次处理的数据提取的图片达到3000张~
下面进入正题,我们的主要目的是尽可能延长程序执行时间,使该抓到的图片都抓到,并处理完成写到数据库。
我们的环境是基于nginx的PHP5.6,首先代码上要注意的,一个是放上set_time_limit(0),这避免去调整php.ini,当然有些基本的比如最大内存等等还是要调的,这里不做介绍;另一个必须要设置curl的CURLOPT_TIMEOUT(我用的CURL抓远程图片)考虑到图片都是在已知的多台服务器上,超时抓不到一定是有问题的索性放弃,如果不设置这个超时,运行时会不停的给你报错。
接下来就是服务器了,首先是nginx的程序执行时间:
fastcgi_connect_timeout 900s;
fastcgi_send_timeout 900s;
fastcgi_read_timeout 900s;
这个配置在nginx.conf内,有则修改值,没有追加上,时间上根据自己情况设置,调整后重启服务。
MYSQL也会报超时错误,修改my.ini添加或修改一下配置:
wait_timeout=2880000
interactive_timeout=2880000
max_allowed_packet=100M
调整后重启mysql以便生效,经过上面的设置,基本扫清超时报错的各种情形,我的程序跑了2天3夜,采集和生成共计86G图片。
再强调一下,这么操作并不十分推荐,特别是生产环境下,会带来很多问题,最重要的,完成批量任务后,恢复上述设置~
相关推荐:
以上是PHP进行批量图片处理时程序执行超时的详细内容。更多信息请关注PHP中文网其他相关文章!

php把负数转为正整数的方法:1、使用abs()函数将负数转为正数,使用intval()函数对正数取整,转为正整数,语法“intval(abs($number))”;2、利用“~”位运算符将负数取反加一,语法“~$number + 1”。

实现方法:1、使用“sleep(延迟秒数)”语句,可延迟执行函数若干秒;2、使用“time_nanosleep(延迟秒数,延迟纳秒数)”语句,可延迟执行函数若干秒和纳秒;3、使用“time_sleep_until(time()+7)”语句。

php除以100保留两位小数的方法:1、利用“/”运算符进行除法运算,语法“数值 / 100”;2、使用“number_format(除法结果, 2)”或“sprintf("%.2f",除法结果)”语句进行四舍五入的处理值,并保留两位小数。

判断方法:1、使用“strtotime("年-月-日")”语句将给定的年月日转换为时间戳格式;2、用“date("z",时间戳)+1”语句计算指定时间戳是一年的第几天。date()返回的天数是从0开始计算的,因此真实天数需要在此基础上加1。

方法:1、用“str_replace(" ","其他字符",$str)”语句,可将nbsp符替换为其他字符;2、用“preg_replace("/(\s|\ \;||\xc2\xa0)/","其他字符",$str)”语句。

php判断有没有小数点的方法:1、使用“strpos(数字字符串,'.')”语法,如果返回小数点在字符串中第一次出现的位置,则有小数点;2、使用“strrpos(数字字符串,'.')”语句,如果返回小数点在字符串中最后一次出现的位置,则有。

在php中,可以使用substr()函数来读取字符串后几个字符,只需要将该函数的第二个参数设置为负值,第三个参数省略即可;语法为“substr(字符串,-n)”,表示读取从字符串结尾处向前数第n个字符开始,直到字符串结尾的全部字符。

php字符串有下标。在PHP中,下标不仅可以应用于数组和对象,还可应用于字符串,利用字符串的下标和中括号“[]”可以访问指定索引位置的字符,并对该字符进行读写,语法“字符串名[下标值]”;字符串的下标值(索引值)只能是整数类型,起始值为0。


热AI工具

Undresser.AI Undress
人工智能驱动的应用程序,用于创建逼真的裸体照片

AI Clothes Remover
用于从照片中去除衣服的在线人工智能工具。

Undress AI Tool
免费脱衣服图片

Clothoff.io
AI脱衣机

AI Hentai Generator
免费生成ai无尽的。

热门文章

热工具

SublimeText3 Mac版
神级代码编辑软件(SublimeText3)

DVWA
Damn Vulnerable Web App (DVWA) 是一个PHP/MySQL的Web应用程序,非常容易受到攻击。它的主要目标是成为安全专业人员在合法环境中测试自己的技能和工具的辅助工具,帮助Web开发人员更好地理解保护Web应用程序的过程,并帮助教师/学生在课堂环境中教授/学习Web应用程序安全。DVWA的目标是通过简单直接的界面练习一些最常见的Web漏洞,难度各不相同。请注意,该软件中

SecLists
SecLists是最终安全测试人员的伙伴。它是一个包含各种类型列表的集合,这些列表在安全评估过程中经常使用,都在一个地方。SecLists通过方便地提供安全测试人员可能需要的所有列表,帮助提高安全测试的效率和生产力。列表类型包括用户名、密码、URL、模糊测试有效载荷、敏感数据模式、Web shell等等。测试人员只需将此存储库拉到新的测试机上,他就可以访问到所需的每种类型的列表。

Atom编辑器mac版下载
最流行的的开源编辑器

ZendStudio 13.5.1 Mac
功能强大的PHP集成开发环境