아직은 반찬입니다. 코드를 공유하는 것은 처음입니다. 이전에 작성했던 PHP 컬렉션 클래스입니다. 선택자에 대해 조금만 알아두면 매우 간단하고 강력하다고 생각합니다. 어떤 페이지라도 수집할 수 있습니다. https 페이지를 지원하므로 간단한 수집에도 충분합니다.
- /**
- *일반 목록 수집 클래스
- *Version V1.3
- *저자: JAE
- *블로그: http://blog.jaekj.com
- */
- require_once '../phpQuery/phpQuery/phpQuery.php';
- class QueryList{
-
- private $pageURL;
- private $regArr = array();
- public $jsonArr = array();
- private $regRange;
- private $html;
- /**************************************************
- * 매개변수: 페이지 주소 선택기 배열 블록 선택기
- * [선택기 배열] 설명: format array("name"=>array("selector","type"),.....)
- * [유형] 설명: 값 "text", "html", "속성"
- * [블록 선택기]: 먼저 규칙에 따라 여러 개의 큰 블록을 선택한 다음 블록에서 연결하는 것을 의미합니다. 🎜> ********************************************* ****/
- 함수 QueryList($pageURL,$regArr=array(),$regRange='')
- {
- $this->pageURL = $pageURL;
-
- //为了能获取https://
- $ch = 컬_init();
- 컬_setopt($ch, CURLOPT_URL,$this->pageURL);
- 컬_setopt($ch, CURLOPT_SSL_VERIFYPEER, 거짓);
- 컬_setopt($ch, CURLOPT_SSL_VERIFYHOST, false);
- 컬_setopt($ch,CURLOPT_RETURNTRANSFER,1);
- $this->html = 컬_exec($ch);
- 컬_닫기($ch);
-
- if(!empty($regArr))
- {
-
- $this->regArr = $regArr;
- $this->regRange = $regRange;
- $this->getList();
- }
-
- }
- 함수 setQuery($regArr,$regRange='')
- {
- $this->jsonArr=array();
- $this->regArr = $regArr;
- $this-> regRange = $regRange;
- $this->getList();
- }
- 비공개 함수 getList()
- {
-
- $hobj = phpQuery::newDocumentHTML($this- >html);
- if(!empty($this->regRange))
- {
- $robj = pq($hobj)->find($this->regRange);
-
- $i=0;
- foreach($robj as $item)
- {
-
- while(list($key,$reg_value)=each($this->regArr ))
- {
- $iobj = pq($item)->find($reg_value[0]);
-
- 스위치($reg_value[1])
- {
- 케이스 '텍스트':
- $this->jsonArr[$i][$key] = Trim(pq($iobj)->text());
- break;
- 케이스 'html' :
- $this->jsonArr[$i][$key] = Trim(pq($iobj)->html());
- break;
- 기본값:
- $this- >jsonArr[$i][$key] = pq($iobj)->attr($reg_value[1]);
- break;
-
- }
- }
- //重置数组指针
- 재설정($this->regArr);
- $i ;
- }
- }
- else
- {
- while(list($key,$ reg_value)=each($this->regArr))
- {
- $lobj = pq($hobj)->find($reg_value[0]);
-
-
- $ i=0;
- foreach($lobj as $item)
- {
- switch($reg_value[1])
- {
- case 'text':
- $this-> jsonArr[$i ][$key] = Trim(pq($item)->text());
- break;
- case 'html':
- $this->jsonArr[$i ][$key] = 트림(pq($item)->html());
- 중단;
- 기본값:
- $this->jsonArr[$i ][$key] = pq ($item)->attr($reg_value[1]);
- break;
-
- }
-
-
- }
-
-
- }
- }
- }
- function getJSON()
- {
- return json_encode($this->jsonArr);
- }
-
- }
-
-
코드 복사
- require 'Query/QueryList.class.php';
- //OSC 코드 공유 목록, 제목 링크 수집 작성자
- $url = "http://www.oschina.net/code/list";
- $reg = array("title"=>array(".code_title a:eq(0)", " text"),"url"=>array(".code_title a:eq(0)","href"),"author"=>array("img","title"));
- $ rang = ".code_list li";
- $hj = new QueryList($url,$reg,$rang);
- $arr = $hj->jsonArr;
- print_r($arr)
- //현재 페이지 오른쪽에 있는 TOP40 활성 기여자 이미지도 모아서 JSON 데이터를 가져오려면 이렇게 쓰면 됩니다.
- $reg = array("portrait"=>array( ".hot_top img","src "));
- $hj->setQuery($reg);
- $json = $hj->getJSON();
- echo $json "< ;hr/>";
-
- //OSC 콘텐츠 페이지 내용 수집
- $url = "http://www.oschina.net/code/snippet_186288_23816";
- $reg = array("title"=>array( ".QTitle h1","text"),"con"=>array(".Content","html"));
- $hj = new QueryList($ url,$reg);
- $ arr = $hj->jsonArr;
- print_r($arr);
-
- //예를 너무 많이 들지만 수집에 사용하기 매우 편리합니까? ?
코드 복사
- /**
- *바이두와 구글 검색 API 직접 작성
- *Version V2.0
- *작성자: JAE
- *블로그: http://blog.jaekj.com
- **/
- require_once 'QueryList_class.php' 🎜> private $searcher;
- private $key;
- 비공개 $num;
- 비공개 $page;
- 비공개 $regArr; > 공개 $jsonArr; if ($searcher=='baidu')
- {
- $this-> ;regArr = array("title"=>array("h3.t a,#thing_single_box a","text"),"tCon "=>array("div.c-abstract,font:slice(0,2 ),div#weibo,tabletree:eq(0),div.c-abstract-size p:eq(0),div.vd_sitcom_new_tinfo","text"),"url"=>array("h3.t a, #thing_single_box a","href")); -op';
- $this->regZnum=array("zNum"=>array("span.nums","text")); 'google' )
- {
- $this->regArr = array("title"=>array("h3.r a","text"),"tCon"=>array("span.st", "text"),"url"=>array("h3.r a","href")) >regZnum=array("zNum"=>array("div#resultStates","text")) ;key = $key;
- $this->num = $num;
- $this->page = $page-1;
- $this->getList(); 개인 함수 getList()
- {
- $s = urlcode($this->key) >num*$this->page;
- if($this->searcher==' baidu')
- {
- $url = "http://www.baidu.com/s ?pn=$start&rn=$num&wd=$s"
- $reg_znum='/[d,] /';
- }
- else if($this->searcher=='google')
- {
- $url="https://www.google.com.hk/search? filter=0&lr=&newwindow=1&safe=images&hl=one&as_qdr=all&num=$num&start=$start&q=$s";
- $reg_znum='/([d,] ) 결과(들)?/';
- }
- $searcherObj = new QueryList($url,$this->regArr,$this->regRange) ) 🎜> {
- $searcherObj->jsonArr[$i]['url'] = $this-&getBaiduRealURL($searcherObj->jsonArr[$i]['url'])
- else if($this->searcher=='google')
- {
- $searcherObj ->jsonArr[$i]['url'] = $this->getGoogleRealURL($searcherObj ->jsonArr[$i]['url']);
- }
- }
- $ this->jsonArr = $searcherObj->jsonArr; 기본값
-
- $searcherObj->setQuery($this->regZnum)?$zNum=$arr [0]:$zNum=0; /방향 키
- $zPage = ceil($zNum/$this->num)'=>((int)$this->1 페이지); zNum'=>$zNum,'zPage'=>$zPage,"s"=>"$this->key" ,'other'=>array('author'=>'JAE', 'QQ'=>'734708094','블로그'=>'http://blog.jaekj.com'),'데이터'=>$this->jsonArr);
-
-
- }
- function getJSON()
- {
- return json_encode($this->jsonArr);
- }
- private function getBaiduRealURL($url)
- {
- //기본적으로 기본 접두사 생성
- $header = get_headers($url,1);
- if (strpos($header[0],'301') || strpos( $ header [ 0 ] , ' 302 ' ) )
- {
- if ( is_array ( $ header [ ' Location ' ] ) )
- {
- // return $ header [ ' Location ' ][ count ( $header['Location'])-1];
- return $header['Location'][0];
- }
- else
- {
- return $header['Location'];
- }
- }
- else
- {
- return $url;
- }
- }
- 비공개 함수 getGoogleRealURL($url)
- {
- $reg_url = '/q=(. )&/U';
- return preg_match($reg_url,$url,$arr)?urldecode ($arr[1]):$url;
-
- }
- }
- // $hj = new Searcher('google','oschina',20,2);
- / / print_r( $hj->jsonArr);
- //Effect 데모 주소
- //http://blog.jaekj.com//jae/demo/searcher/Searcher_class.php?searcher=baidu&s=jaekj&num =20&page=1
코드 복사
|