python - Scrapy的spider在IDE中方便執行調試

Question

我有很多spider，不能每次調試都手動創建一個debugger吧（scrapy crawl spider_name）

#想可以在spider檔中直接右鍵運行/調試。

Answer 1

參考文章：Scrapy爬蟲常見問題摘要

spider方便運作/調試

在spider檔中，加入cmdline的呼叫方法

import scrapy.cmdline

#Your Spider Class...

def main():
    scrapy.cmdline.execute(['scrapy', 'crawl', 'your_spider_name'])

if __name__ == '__main__':
    main()

Answer 2

新建一個py文件，用這個來調試

from scrapy.cmdline import execute

import sys
import os


sys.path.append(os.path.dirname(os.path.abspath(__file__)))

execute(["scrapy","crawl","YOUR_SPIDER"])