搜尋

首頁  >  問答  >  主體

python - pyspider 定時爬取問題


#在寫爬蟲的時候,發現 在程式碼中設定了 every 之後,21號爬取了一次之後,今天看 result 沒有更新,那個 lastcrawltime 依舊是 21號的。請問是不是我的參數設定的不正確?

####
我想大声告诉你我想大声告诉你2757 天前970

全部回覆(2)我來回復

  • 迷茫

    迷茫2017-05-18 10:55:29

    你貼的這個 task 的圖,是什麼任務的?

    貼的是 detail_page 的任務的

    題主給 index_page 設定了小於 cronjob 間隔的時間。然而沒有給 detail_page 設定。這樣 detail_page 是不會被重新調度的

    project 佇列狀態,最近活動任務是怎樣的?

    回覆
    0
  • 我想大声告诉你

    我想大声告诉你2017-05-18 10:55:29

    有可能是 every 和 age 不符。如果 age 沒問題的話,說實話這屬於疑難雜症了,我也經常遇到,我都是去 taskdb 把相應的表清空,然後重啟 pyspider 重新運行項目

    回覆
    0
  • 取消回覆