首页 >后端开发 >php教程 >如何用客户端ip实现分布式爬虫

如何用客户端ip实现分布式爬虫

WBOY
WBOY原创
2016-08-08 09:06:431324浏览

如果用服务端爬虫会遇到各种问题,如何实现访客打开网页时用访客的ip访问被爬的网站,然后把资料上传,这样可以实现分布式爬虫吗?ajax获取被爬的资料然后传到自己的服务器?

是否已有类似的例子或者开源项目?

回复内容:

如果用服务端爬虫会遇到各种问题,如何实现访客打开网页时用访客的ip访问被爬的网站,然后把资料上传,这样可以实现分布式爬虫吗?ajax获取被爬的资料然后传到自己的服务器?

是否已有类似的例子或者开源项目?

你这是在窃取用户隐私,行不通的~

基本原理是创建一个隐藏的iframe然后请求目标网站,请求成功后使用ajax保存到本地服务器。。因为许多网站都做了反爬虫策略,所以服务端爬虫经常失效,这种情况下使用客户端爬虫很好用。

但是,用户体验不太好吧。。。。

声明:
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn