>  기사  >  백엔드 개발  >  소스 코드 확보 - PHP에서 웹 데이터 수집을 위한 완전한 기능을 갖춘 오픈 소스 프로젝트가 있습니까?

소스 코드 확보 - PHP에서 웹 데이터 수집을 위한 완전한 기능을 갖춘 오픈 소스 프로젝트가 있습니까?

WBOY
WBOY원래의
2016-12-01 00:25:481394검색

웹페이지에서 데이터를 수집할 수 있는 오픈소스 도구가 있나요?

예를 들어 연속 규칙 캡처를 포함하려는 경우 페이징 정보를 먼저 캡처하고 여기에서 세부정보 페이지를 가져온 다음 세부정보 페이지에서 실제로 필요한 DOM 필드를 캡처합니다.

데이터베이스에 저장된 최종 사용자 정의가 포함되어 있습니다.

IP 등을 위조하는 기능이 포함됩니다.

자동 대기열 메커니즘, 자동 지연 포함

잠깐

감사합니다

답글 내용:

웹페이지에서 데이터를 수집할 수 있는 오픈소스 도구가 있나요?

예를 들어 연속 규칙 캡처를 포함하려는 경우 페이징 정보를 먼저 캡처하고 여기에서 세부정보 페이지를 가져온 다음 세부정보 페이지에서 실제로 필요한 DOM 필드를 캡처합니다.

데이터베이스에 저장된 최종 사용자 정의가 포함되어 있습니다.

IP 등을 위조하는 기능이 포함됩니다.

자동 대기열 메커니즘, 자동 지연 포함

잠깐

감사합니다

예, [Archer Cloud Crawler 개발 플랫폼]을 사용해 볼 수 있습니다. ]
Archer Cloud Crawler는 JS 개발자가 크롤러 시스템을 빠르게 개발할 수 있도록 지원하는 SaaS 서비스 플랫폼입니다. Archer는 사용하기 쉽고 유연하며 개방적인 클라우드 크롤러 개발 프레임워크를 제공하므로 개발자는 온라인에서 JS 코드 몇 줄만 작성하여 크롤러를 구현할 수 있습니다. 그리고 크롤러는 클라우드 서버에서 자동으로 실행되어 크롤링을 더 빠르고 효율적으로 만듭니다.

phpcrawler, PHP 크롤러, PHP 수집기, 다중 프로세스, 다중 스레드

php쿼리

성명:
본 글의 내용은 네티즌들의 자발적인 기여로 작성되었으며, 저작권은 원저작자에게 있습니다. 본 사이트는 이에 상응하는 법적 책임을 지지 않습니다. 표절이나 침해가 의심되는 콘텐츠를 발견한 경우 admin@php.cn으로 문의하세요.