Maison  >  Questions et réponses  >  le corps du texte

python - 关于pyspdier的result_worker

pyspdier的 result_worker感觉比较鸡肋,一般大量数据爬取不会存到数据库,而是序列化到磁盘。那么result_worker的设计方向是否变化一下?从原来的存储爬取结果,变成一些爬取结果情况的统计信息,比如一段时间内某个project的爬取成功,失败数量,抛出result数量。如果支持一些图表化更好了。

PHP中文网PHP中文网2741 Il y a quelques jours513

répondre à tous(0)je répondrai

Pas de réponse
  • Annulerrépondre