搜尋

首頁  >  問答  >  主體

python - 代理导致Scrapy无法访问网站?

大家讲道理大家讲道理2916 天前378

全部回覆(3)我來回復

  • 大家讲道理

    大家讲道理2017-04-18 09:38:37

    把Lanten關掉~

    回覆
    0
  • 巴扎黑

    巴扎黑2017-04-18 09:38:37

    答案來源位址:CSDN部落格:Scrapy使用問題整理

    答案中最後提到了代理問題導致有些網站無法訪問,解決方法是在settings.py中修改:
    DOWNLOADER_MIDDLEWARES = {

    'scrapy.downloadermiddlewares.useragent.UserAgentMiddleware': None,

    }

    經測試修改後程式能夠運作

    回覆
    0
  • PHP中文网

    PHP中文网2017-04-18 09:38:37

    應該是Lanten改變了系統的代理,導致你的爬蟲也被迫使用這個代理ip去訪問

    回覆
    0
  • 取消回覆