首頁  >  文章  >  後端開發  >  Go Colly如何找到請求的元素?

Go Colly如何找到請求的元素?

PHPz
PHPz轉載
2024-02-13 13:57:08843瀏覽

Go Colly如何找到请求的元素?

php小編香蕉將為大家介紹一款強大的網路爬蟲框架-Go Colly。 Go Colly是基於Go語言開發的輕量級網路爬蟲框架,它具有高效能、高並發、易擴展等特點。在使用Go Colly進行網路爬取時,我們常常需要根據自己的需求找到請求的元素。那麼,Go Colly如何找到請求的元素呢?接下來,我們將一一為大家解答。

問題內容

我正在嘗試使用 colly 讓特定的表循環遍歷其內容,但該表未被識別,這是我到目前為止所擁有的。

package main

import (
    "fmt"
    
    "github.com/gocolly/colly"
)

func main() {
    c := colly.NewCollector(
        colly.AllowedDomains("wikipedia.org", "en.wikipedia.org"),
    )
    
    links := make([]string, 0)

    c.OnHTML("div.mw-parser-output", func(e *colly.HTMLElement) {
        
        e.ForEach("table.wikitable.sortable.jquery-tablesorter > tbody > tr", func(_ int, elem *colly.HTMLElement) {
            fmt.Println(elem.ChildAttr("a[href]", "href"))
            links = append(links, elem.ChildAttr("a[href]", "href"))
        })
    })
    
    c.OnRequest(func(r *colly.Request) {
        fmt.Println("Visiting", r.URL.String())
    })

    c.Visit("https://en.wikipedia.org/wiki/List_of_countries_and_dependencies_by_population")
    fmt.Println("Found urls for", len(links), "countries.")
}

我需要循環思考表中的所有 tr 元素。

解決方法

事實證明,類別的名稱實際上是wikitable.sortable,即使在chrome 控制台中顯示為wikitable sortable jquery-tablesorter。我不知道為什麼名稱如此不同,但它解決了我的問題。

以上是Go Colly如何找到請求的元素?的詳細內容。更多資訊請關注PHP中文網其他相關文章!

陳述:
本文轉載於:stackoverflow.com。如有侵權,請聯絡admin@php.cn刪除