golang中怎么抓取網(wǎng)頁并分析頁面包含的鏈接

golang中怎么抓取網(wǎng)頁并分析頁面包含的鏈接，相信很多沒有經(jīng)驗的人對此束手無策，為此本文總結(jié)了問題出現(xiàn)的原因和解決方法，通過這篇文章希望你能解決這個問題。

1. 下載非標準的包,"golang.org/x/net/html"

2. 先安裝git，使用git命令下載

git clone https://github.com/golang/net

3. 將net包，放到GOROOT路徑下

比如：

我的是：GOROOT = E:\go\

所以最終目錄是：E:\go\src\golang.org\x\net

注意：如果沒有g(shù)olang.org和x文件夾，就創(chuàng)建

4. 創(chuàng)建fetch目錄，在其下創(chuàng)建main.go文件，main.go文件代碼內(nèi)容如下：

package main
 
import (
 "os"
 "net/http"
 "fmt"
 "io/ioutil"
)
 
func main() {
 for _, url := range os.Args[1:] {
 resp, err := http.Get(url)
 if err != nil {
  fmt.Fprintf(os.Stderr, "fetch: %v\n", err)
 }
 b, err := ioutil.ReadAll(resp.Body)
 resp.Body.Close()
 if err != nil {
  fmt.Fprintf(os.Stderr, "fetch: reading %s: %v\n", url, err)
  os.Exit(1)
 }
 fmt.Printf("%s",b)
 }
}

5. 編譯fetch

go build test.com\justin\demo\fetch

注意：test.com\justin\demo\ 是我的項目路徑，具體編譯根據(jù)自己項目路徑編譯。

6. 執(zhí)行fetch.exe 文件

fetch.exe https://www.qq.com

注意：https://www.qq.com是要爬的網(wǎng)址，配置正確的話，會打印出網(wǎng)址的HTML內(nèi)容。如果沒有，請檢查以上步驟是否正確。

7. 網(wǎng)頁已經(jīng)抓取了，那么剩下就分析頁面包含的鏈接了，創(chuàng)建findlinks目錄，在其下創(chuàng)建main.go文件，main.go文件代碼內(nèi)容如下：

package main
 
import (
 "os"
 "fmt"
 "golang.org/x/net/html"
)
 
func main() {
 doc, err := html.Parse(os.Stdin)
 if err != nil {
 fmt.Fprint(os.Stderr, "findlinks: %v\n", err)
 os.Exit(1)
 }
 for _, link := range visit(nil, doc) {
 fmt.Println(link)
 }
}
 
func visit(links []string, n *html.Node) []string {
 if n.Type == html.ElementNode && n.Data == "a" {
 for _, a := range n.Attr {
  if a.Key == "href" {
  links = append(links, a.Val)
  }
 }
 }
 for c := n.FirstChild; c != nil; c = c.NextSibling {
 links = visit(links, c)
 }
 return links
}

8. 編譯findlinks

go build test.com\justin\demo\findlinks

注意：test.com\justin\demo\ 是我的項目路徑，具體編譯根據(jù)自己項目路徑編譯。

9. 執(zhí)行findlinks.exe 文件

fetch.exe https://www.qq.com | findlinks.exe

> 10. 執(zhí)行后結(jié)果：獲取到各種不同形式的超鏈接

看完上述內(nèi)容，你們掌握golang中怎么抓取網(wǎng)頁并分析頁面包含的鏈接的方法了嗎？如果還想學(xué)到更多技能或想了解更多相關(guān)內(nèi)容，歡迎關(guān)注億速云行業(yè)資訊頻道，感謝各位的閱讀！