検索

ホームページ  >  に質問  >  本文

python - 除了代理ip,香港的服务器爬取国内网站还有更好的方法吗?

我在做一只淘宝的爬虫,但是用的是香港的服务器,但是比较困惑:
因为每次爬淘宝的首页时候,就自动给我跳转到香港淘宝~~
导致源代码和内容都不一样~
请问如果遇到这种情况要怎么处理呢?

简单来说,比如采集58同城
如果我是泉州的,我想采集北京的,要怎么采集?

因为我用我的ip打开会总跳转到北京,但是直接想采集58首页的


?
![图片上传中...]

ringa_leeringa_lee2784日前875

全員に返信(3)返信します

  • PHP中文网

    PHP中文网2017-04-18 10:21:01

    リダイレクトを無効にします。リクエストを例に挙げます:

    リーリー

    返事
    0
  • PHP中文网

    PHP中文网2017-04-18 10:21:01

    北京から収集したい場合は、都市名を入力するだけですが、PGTIDによって保護されています

    http://bj.58.com/?PGTID=0d000...

    Jianyi はセレンを使用しています

    返事
    0
  • 迷茫

    迷茫2017-04-18 10:21:01

    場合によっては、サーバーが IP に対応する地理的位置情報に基づいてリダイレクトすることがあります。プロキシを見つける以外に方法はありません。 。

    返事
    0
  • キャンセル返事