python - pyspider 定時爬取問題

Question

#在寫爬蟲的時候，發現 在程式碼中設定了 every 之後，21號爬取了一次之後，今天看 result 沒有更新，那個 lastcrawltime 依舊是 21號的。請問是不是我的參數設定的不正確？

####

Answer 1

你貼的這個 task 的圖，是什麼任務的？

貼的是 detail_page 的任務的

題主給 index_page 設定了小於 cronjob 間隔的時間。然而沒有給 detail_page 設定。這樣 detail_page 是不會被重新調度的

project 佇列狀態，最近活動任務是怎樣的？

Answer 2

有可能是 every 和 age 不符。如果 age 沒問題的話，說實話這屬於疑難雜症了，我也經常遇到，我都是去 taskdb 把相應的表清空，然後重啟 pyspider 重新運行項目