php小编香蕉将为大家介绍一款强大的网络爬虫框架——Go Colly。Go Colly是基于Go语言开发的一款轻量级网络爬虫框架,它具有高性能、高并发、易扩展等特点。在使用Go Colly进行网络爬取时,我们常常需要根据自己的需求找到请求的元素。那么,Go Colly如何找到请求的元素呢?接下来,我们将一一为大家解答。
我正在尝试使用 colly 让特定的表循环遍历其内容,但该表未被识别,这是我到目前为止所拥有的。
package main import ( "fmt" "github.com/gocolly/colly" ) func main() { c := colly.NewCollector( colly.AllowedDomains("wikipedia.org", "en.wikipedia.org"), ) links := make([]string, 0) c.OnHTML("div.mw-parser-output", func(e *colly.HTMLElement) { e.ForEach("table.wikitable.sortable.jquery-tablesorter > tbody > tr", func(_ int, elem *colly.HTMLElement) { fmt.Println(elem.ChildAttr("a[href]", "href")) links = append(links, elem.ChildAttr("a[href]", "href")) }) }) c.OnRequest(func(r *colly.Request) { fmt.Println("Visiting", r.URL.String()) }) c.Visit("https://en.wikipedia.org/wiki/List_of_countries_and_dependencies_by_population") fmt.Println("Found urls for", len(links), "countries.") }
我需要循环思考表中的所有 tr 元素。
事实证明,类的名称实际上是 wikitable.sortable
,即使在 chrome 控制台中显示为 wikitable sortable jquery-tablesorter
。我不知道为什么名称如此不同,但它解决了我的问题。
以上是Go Colly如何找到请求的元素?的详细内容。更多信息请关注PHP中文网其他相关文章!