搜索

首页  >  问答  >  正文

python - 代理导致Scrapy无法访问网站?

大家讲道理大家讲道理2898 天前377

全部回复(3)我来回复

  • 大家讲道理

    大家讲道理2017-04-18 09:38:37

    把Lanten关掉~

    回复
    0
  • 巴扎黑

    巴扎黑2017-04-18 09:38:37

    答案源地址:CSDN博客:Scrapy使用问题整理

    答案中最后提到了代理问题导致有些网站无法访问,解决方法是在settings.py中修改:
    DOWNLOADER_MIDDLEWARES = {

    'scrapy.downloadermiddlewares.useragent.UserAgentMiddleware': None,

    }

    经测试修改后程序能够运行

    回复
    0
  • PHP中文网

    PHP中文网2017-04-18 09:38:37

    应该是Lanten改变了系统的代理,导致你的爬虫也被迫使用这个代理ip去访问

    回复
    0
  • 取消回复