Heim  >  Artikel  >  Backend-Entwicklung  >  Teilen Sie ein Beispiel für die Einrichtung eines Python-Scrapy-IP-Proxys

Teilen Sie ein Beispiel für die Einrichtung eines Python-Scrapy-IP-Proxys

PHP中文网
PHP中文网Original
2017-06-20 16:43:232788Durchsuche

Erstellen Sie ein Python-Verzeichnis auf der gleichen Ebene wie Spider im Scrapy-Projekt und fügen Sie unten eine Py-Datei mit dem Inhalt

# encoding: utf-8
import base64
proxyServer = 代理服务器地址 ##我的是‘:9010’

# 代理隧道验证信息  这个是在那个网站上申请的
proxyUser = 用户名
proxyPass = 密码
proxyAuth = "Basic " + base64.b64encode(proxyUser + ":" + proxyPass)

class ProxyMiddleware(object):
    def process_request(self, request, spider):
        request.meta["proxy"] = proxyServer
        request.headers["Proxy-Authorization"] = proxyAuth

在setting文件中添加
DOWNLOADER_MIDDLEWARES = {
    '项目名.spider同级文件名.文件名.ProxyMiddleware': 543,
}

代码地址
<br>
hinzu

Das obige ist der detaillierte Inhalt vonTeilen Sie ein Beispiel für die Einrichtung eines Python-Scrapy-IP-Proxys. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!

Stellungnahme:
Der Inhalt dieses Artikels wird freiwillig von Internetnutzern beigesteuert und das Urheberrecht liegt beim ursprünglichen Autor. Diese Website übernimmt keine entsprechende rechtliche Verantwortung. Wenn Sie Inhalte finden, bei denen der Verdacht eines Plagiats oder einer Rechtsverletzung besteht, wenden Sie sich bitte an admin@php.cn