search

Home  >  Q&A  >  body text

java - 请教爬虫设计方面的问题

业务在搞个爬虫玩玩。

有个阻塞队列里放了请求对象, Scheduler 模块会从阻塞队列里拿请求对象

问题是怎么优雅的发给 Downloader 模块,除了再使用个队列。还有其他什么方式?

开发使用的是 java ,下载模块是多线程的。

下载完后又怎么优雅的交给解析模块?

阿神阿神2804 days ago440

reply all(0)I'll reply

No reply
  • Cancelreply