搜索
首页后端开发php教程php远路抓取网站图片并保存

php远程抓取网站图片并保存

以前看到网上别人说写程序抓取网页图片的,感觉挺神奇,心想什么时候我自己也写一个抓取图片的方法!

?

刚好这两天没什么事,就参考了网上一个php抓取图片代码,重点借鉴了 匹配img标签和其src属性正则的写法,

封装了一个php远程抓取图片的类,测试了一下,速度还凑合, 两分钟从 艾妮 ini.iteye.com 抓取了 110多张图片

?

代码如下:

<?php /** * 一个用于抓取图片的类 * * @package default * @author  WuJunwei*  keleyi.com */class download_image {        public $save_path;                  //抓取图片的保存地址    //抓取图片的大小限制(单位:字节) 只抓比size比这个限制大的图片    public $img_size=0;     //定义一个静态数组,用于记录曾经抓取过的的超链接地址,避免重复抓取           public static $a_url_arr=array();           /**     * @param String $save_path    抓取图片的保存地址     * @param Int    $img_size     抓取图片的保存地址     */    public function __construct($save_path,$img_size)    {        $this->save_path=$save_path;        $this->img_size=$img_size;    }            /**     * 递归下载抓取首页及其子页面图片的方法  ( recursive 递归)     *     * @param   String  $capture_url  用于抓取图片的网址     *      */    public function recursive_download_images($capture_url)    {        if (!in_array($capture_url,self::$a_url_arr))   //没抓取过        {                                     self::$a_url_arr[]=$capture_url;   //计入静态数组        } else   //抓取过,直接退出函数        {            return;        }                        $this->download_current_page_images($capture_url);  //下载当前页面的所有图片                [email protected]??        [email protected]_get_contents($capture_url);                 //匹配a标签href属性中?之前部分的正则        $a_pattern = "|<a>]+href=['\" ]?([^ '\"?]+)['\" >]|U";           preg_match_all($a_pattern, $content, $a_out, PREG_SET_ORDER);                $tmp_arr=array();  //定义一个数组,用于存放当前循环下抓取图片的超链接地址        foreach ($a_out as $k => $v)         {            /**             * 去除超链接中的 空'','#','/'和重复值               * 1: 超链接地址的值 不能等于当前抓取页面的url, 否则会陷入死循环             * 2: 超链接为''或'#','/'也是本页面,这样也会陷入死循环,               * 3: 有时一个超连接地址在一个网页中会重复出现多次,如果不去除,会对一个子页面进行重复下载)             */            if ( $v[1] && !in_array($v[1],self::$a_url_arr) &&!in_array($v[1],array('#','/',$capture_url) ) )             {                $tmp_arr[]=$v[1];            }        }          foreach ($tmp_arr as $k => $v)         {                        //超链接路径地址            if ( strpos($v, 'http://')!==false ) //如果url包含http://,可以直接访问            {                $a_url = $v;            }else   //否则证明是相对地址, 需要重新拼凑超链接的访问地址            {                $domain_url = substr($capture_url, 0,strpos($capture_url, '/',8)+1);                $a_url=$domain_url.$v;            }            $this->recursive_download_images($a_url);        }            }                /**     * 下载当前网页下的所有图片      *     * @param   String  $capture_url  用于抓取图片的网页地址     * @return  Array   当前网页上所有图片img标签url地址的一个数组     */    public function download_current_page_images($capture_url)    {        [email protected]_get_contents($capture_url);   //屏蔽warning错误		//匹配img标签src属性中?之前部分的正则		$img_pattern = "|<img  alt="php远路抓取网站图片并保存" >]+src=['\" ]?([^ '\"?]+)['\" >]|U";           preg_match_all($img_pattern, $content, $img_out, PREG_SET_ORDER);		$photo_num = count($img_out);        //匹配到的图片数量        echo '<h1 id="capture-url-共找到-photo-num-张图片">'.$capture_url . "共找到 " . $photo_num . " 张图片</h1>";        foreach ($img_out as $k => $v)         {            $this->save_one_img($capture_url,$v[1]);        }    }    /**     * 保存单个图片的方法      *     * @param String $capture_url   用于抓取图片的网页地址     * @param String $img_url       需要保存的图片的url     *      */    public function save_one_img($capture_url,$img_url)    {                //图片路径地址        if ( strpos($img_url, 'http://')!==false )         {            // $img_url = $img_url;        }else           {            $domain_url = substr($capture_url, 0,strpos($capture_url, '/',8)+1);            $img_url=$domain_url.$img_url;        }                   $pathinfo = pathinfo($img_url);    //获取图片路径信息                $pic_name=$pathinfo['basename'];   //获取图片的名字        if (file_exists($this->save_path.$pic_name))  //如果图片存在,证明已经被抓取过,退出函数        {            echo $img_url . '<span   style="max-width:90%">该图片已经抓取过!</span><br>';             return;        }                        //将图片内容读入一个字符串        $img_data = @file_get_contents($img_url);   //屏蔽掉因为图片地址无法读取导致的warning错误        if ( strlen($img_data) > $this->img_size )   //下载size比限制大的图片        {            $img_size = file_put_contents($this->save_path . $pic_name, $img_data);            if ($img_size)            {                echo $img_url . '<span style="color:green;margin-left:80px">图片保存成功!</span><br>';            } else            {                echo $img_url . '<span style="color:red;margin-left:80px">图片保存失败!</span><br>';            }        } else        {            echo $img_url . '<span style="color:red;margin-left:80px">图片读取失败!</span><br>';        }     } } // ENDset_time_limit(120);     //设置脚本的最大执行时间  根据情况设置 $download_img=new download_image('E:/images/',0);   //实例化下载图片对象$download_img->recursive_download_images('http://ini.iteye.com/');      //递归抓取图片方法//$download_img->download_current_page_images($_POST['capture_url']);     //只抓取当前页面图片方法?></a>

?

声明
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn
使用数据库存储会话的优点是什么?使用数据库存储会话的优点是什么?Apr 24, 2025 am 12:16 AM

使用数据库存储会话的主要优势包括持久性、可扩展性和安全性。1.持久性:即使服务器重启,会话数据也能保持不变。2.可扩展性:适用于分布式系统,确保会话数据在多服务器间同步。3.安全性:数据库提供加密存储,保护敏感信息。

您如何在PHP中实现自定义会话处理?您如何在PHP中实现自定义会话处理?Apr 24, 2025 am 12:16 AM

在PHP中实现自定义会话处理可以通过实现SessionHandlerInterface接口来完成。具体步骤包括:1)创建实现SessionHandlerInterface的类,如CustomSessionHandler;2)重写接口中的方法(如open,close,read,write,destroy,gc)来定义会话数据的生命周期和存储方式;3)在PHP脚本中注册自定义会话处理器并启动会话。这样可以将数据存储在MySQL、Redis等介质中,提升性能、安全性和可扩展性。

什么是会话ID?什么是会话ID?Apr 24, 2025 am 12:13 AM

SessionID是网络应用程序中用来跟踪用户会话状态的机制。1.它是一个随机生成的字符串,用于在用户与服务器之间的多次交互中保持用户的身份信息。2.服务器生成并通过cookie或URL参数发送给客户端,帮助在用户的多次请求中识别和关联这些请求。3.生成通常使用随机算法保证唯一性和不可预测性。4.在实际开发中,可以使用内存数据库如Redis来存储session数据,提升性能和安全性。

您如何在无状态环境(例如API)中处理会议?您如何在无状态环境(例如API)中处理会议?Apr 24, 2025 am 12:12 AM

在无状态环境如API中管理会话可以通过使用JWT或cookies来实现。1.JWT适合无状态和可扩展性,但大数据时体积大。2.Cookies更传统且易实现,但需谨慎配置以确保安全性。

您如何防止与会议有关的跨站点脚本(XSS)攻击?您如何防止与会议有关的跨站点脚本(XSS)攻击?Apr 23, 2025 am 12:16 AM

要保护应用免受与会话相关的XSS攻击,需采取以下措施:1.设置HttpOnly和Secure标志保护会话cookie。2.对所有用户输入进行输出编码。3.实施内容安全策略(CSP)限制脚本来源。通过这些策略,可以有效防护会话相关的XSS攻击,确保用户数据安全。

您如何优化PHP会话性能?您如何优化PHP会话性能?Apr 23, 2025 am 12:13 AM

优化PHP会话性能的方法包括:1.延迟会话启动,2.使用数据库存储会话,3.压缩会话数据,4.管理会话生命周期,5.实现会话共享。这些策略能显着提升应用在高并发环境下的效率。

什么是session.gc_maxlifetime配置设置?什么是session.gc_maxlifetime配置设置?Apr 23, 2025 am 12:10 AM

thesession.gc_maxlifetimesettinginphpdeterminesthelifespanofsessiondata,setInSeconds.1)它'sconfiguredinphp.iniorviaini_set().2)abalanceIsiseededeedeedeedeedeedeedto to to avoidperformance andununununununexpectedLogOgouts.3)

您如何在PHP中配置会话名?您如何在PHP中配置会话名?Apr 23, 2025 am 12:08 AM

在PHP中,可以使用session_name()函数配置会话名称。具体步骤如下:1.使用session_name()函数设置会话名称,例如session_name("my_session")。2.在设置会话名称后,调用session_start()启动会话。配置会话名称可以避免多应用间的会话数据冲突,并增强安全性,但需注意会话名称的唯一性、安全性、长度和设置时机。

See all articles

热AI工具

Undresser.AI Undress

Undresser.AI Undress

人工智能驱动的应用程序,用于创建逼真的裸体照片

AI Clothes Remover

AI Clothes Remover

用于从照片中去除衣服的在线人工智能工具。

Undress AI Tool

Undress AI Tool

免费脱衣服图片

Clothoff.io

Clothoff.io

AI脱衣机

Video Face Swap

Video Face Swap

使用我们完全免费的人工智能换脸工具轻松在任何视频中换脸!

热工具

VSCode Windows 64位 下载

VSCode Windows 64位 下载

微软推出的免费、功能强大的一款IDE编辑器

ZendStudio 13.5.1 Mac

ZendStudio 13.5.1 Mac

功能强大的PHP集成开发环境

螳螂BT

螳螂BT

Mantis是一个易于部署的基于Web的缺陷跟踪工具,用于帮助产品缺陷跟踪。它需要PHP、MySQL和一个Web服务器。请查看我们的演示和托管服务。

记事本++7.3.1

记事本++7.3.1

好用且免费的代码编辑器

mPDF

mPDF

mPDF是一个PHP库,可以从UTF-8编码的HTML生成PDF文件。原作者Ian Back编写mPDF以从他的网站上“即时”输出PDF文件,并处理不同的语言。与原始脚本如HTML2FPDF相比,它的速度较慢,并且在使用Unicode字体时生成的文件较大,但支持CSS样式等,并进行了大量增强。支持几乎所有语言,包括RTL(阿拉伯语和希伯来语)和CJK(中日韩)。支持嵌套的块级元素(如P、DIV),