首頁  >  文章  >  後端開發  >  php实现递归抓取网页类实例_PHP

php实现递归抓取网页类实例_PHP

WBOY
WBOY原創
2016-05-30 14:59:19975瀏覽

本文实例讲述了php实现递归抓取网页类的方法。分享给大家供大家参考。具体如下:

<&#63;php
class crawler{
 private $_depth=5;
 private $_urls=array();
 function extract_links($url)
 {
  if(!$this->_started){
   $this->_started=1;
   $curr_depth=0;
  }else{
   $curr_depth++;
  }
  if($curr_depth<$this->_depth)
  {
   $data=file_get_contents($url);
   if(preg_match_all('/((&#63;:http|https)://(&#63;:www.)*(&#63;:[a-zA-Z0-9_-]{1,15}.+[a-zA-Z0-9_]{1,}){1,}(&#63;:[a-zA-Z0-9_/.-&#63;&:%,!;]*))/',$data,$urls12))
   {
    foreach($urls12[0] as $k=>$v){
     $check=get_headers($v,1);
     if(strstr($v,$url) && $check[0]=='HTTP/1.1 200 OK' && !array_search($v,$this->_urls) && $curr_depth<$this->_depth){
      $this->_urls[]=$v;
      $this->extract_links($v);
     }
    }
   }
  }
  return $this->_urls;
 }
}
&#63;>

希望本文所述对大家的php程序设计有所帮助。

陳述:
本文內容由網友自願投稿,版權歸原作者所有。本站不承擔相應的法律責任。如發現涉嫌抄襲或侵權的內容,請聯絡admin@php.cn