この記事では、主に Python の http および https プロキシを使用する例を紹介します。これは、必要な友人に参考にしていただけるようになりました。 Web サイトまたは API インターフェイスが速度制限されている、またはブロックされている場合、プロキシを使用すると、クロール プロセスが高速化され、リクエストの失敗が軽減されます。 Python プログラムがプロキシを使用する主な方法は次のとおりです。
その場合、データをクロールするためにコード内で一部のネットワーク ライブラリまたはクローラー フレームワークが使用されます。通常、そのようなフレームワークはエージェントの設定をサポートします。たとえば、次のようになります。使用するライブラリがプロキシ インターフェイスを設定しない場合は、最下層で urllib や request などのライブラリを使用します。一般的に使用されるネットワーク ライブラリは、これらの環境変数を自動的に認識して使用します。リクエストを開始するために変数によって設定されたプロキシ 設定は次のとおりです:<span style="font-size:14px;">import urllib.request as urlreq # 设置https代理 ph = urlreq.ProxyHandler({'https': 'https://127.0.0.1:1080'}) oper = urlreq.build_opener(ph) # 将代理安装到全局环境,这样所有请求都会自动使用代理 urlreq.install_opener(oper) res = oper.open("https://www.google.com") print(res.read())</span>(3) 上記の 2 つの方法が役に立たない場合は、監視、インターセプトできるいくつかのツールとライブラリを使用することもできます。また、(Fiddler、mitmproxy) などのネットワーク パケットを変更して、http 要求パケットをインターセプトし、アドレスを変更して、プロキシを使用した効果を実現します。 関連する推奨事項:
Python ソケットを使用して http(s) リクエスト メソッドを送信する
以上がPythonでhttpとhttpsプロキシを使用する例の説明の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。