如题描述
因为一些需求想对一份url列表进行get请求扫描,看看这些页面是否存在
平时用的requests模块的get和多进程来实现,感觉还是不够快.于是产生了如题描述的这种想法.
顺便问下,为什么vps提供商会封我...好郁闷.
高洛峰2017-04-18 10:23:17
平时用的requests模块的get和多进程来实现,感觉还是不够快.于是产生了如题描述的这种想法.
取决于多种原因,你丢弃 GET 的响应体并不一定会更快。
如果 HEAD 满足你的要求,你就用 HEAD 吧。
记得使用 requests.Session
,这样对同一服务器的访问可以加速一倍以上。
PS: 建议好好学习一下 HTTP,这样遇到问题你就不需要来问然后等着,最后拿到一个自己都不明白的解决方案。