Node如何實作批量爬取頭條影片並保存（程式碼實作）

這篇文章帶給大家的內容是關於Node如何實現批量爬取頭條影片並保存（程式碼實現），有一定的參考價值，有需要的朋友可以參考一下，希望對你有所幫助。

簡介

一般批次爬取影片或圖片的套路是，使用爬蟲取得檔案連結集合，然後透過 writeFile 等方法逐一儲存檔案。然而，頭條的視頻，在需要爬取的 html 文件（服務端渲染輸出）中，無法捕捉視頻鏈接。影片連結是頁面在客戶端渲染時，透過某些 js 檔案內的演算法或解密方法，根據影片的已知 key 或 hash 值，動態計算並新增到 video 標籤的。這也是網站的一種反爬措施。

我們在瀏覽這些頁面時，透過審核元素，可以看到計算後的檔案位址。然而在批量下載時，逐個手動的獲取視頻鏈接顯然不可取。開心的是，puppeteer 提供了模擬存取 Chrome 的功能，讓我們可以爬取經過瀏覽器渲染出來的最終頁面。

專案啟動

指令

npm i
npm start

Notice: 安裝 puppeteer 的過程稍慢，耐心等待。

設定檔

// 配置相关
module.exports =  {
  originPath: 'https://www.ixigua.com', // 页面请求地址
  savePath: 'D:/videoZZ' // 存放路径
}

技術點

puppeteer

官方API

puppeteer 提供一個進階 API 來控制 Chrome 或 Chromium。

puppeteer 主要功能：

• 利用網頁產生PDF、圖片

• 爬取SPA應用，並產生預先渲染內容（即「SSR」服務端渲染）

• 可以從網站抓取內容

• 自動化表單提交、UI測試、鍵盤輸入等

使用到的API：

• puppeteer.launch() 啟動瀏覽器實例

• browser .newPage() 建立一個新頁面

• page.goto() 進入指定網頁

• page.screenshot() 截圖

• page.waitFor() 頁面等待，可以是時間、某個元素、某個函數

• page.$eval() 取得一個指定元素，相當於document.querySelector

• page.$$eval() 取得某類別元素，相當於document.querySelectorAll

• #page.$( '#id .className') 取得文件中的某個元素，操作類似jQuery

#程式碼範例

const puppeteer = require('puppeteer');
 
(async () => {
  const browser = await puppeteer.launch();
  const page = await browser.newPage();
  await page.goto('https://example.com');
  await page.screenshot({path: 'example.png'});
 
  await browser.close();
})();

影片檔下載方法

• #下載影片主方法

const downloadVideo = async video => {
  // 判断视频文件是否已经下载
  if (!fs.existsSync(`${config.savePath}/${video.title}.mp4`)) {
    await getVideoData(video.src, 'binary').then(fileData => {
      console.log('下载视频中：', video.title)
      savefileToPath(video.title, fileData).then(res =>
        console.log(`${res}: ${video.title}`)
      )
    })
  } else {
    console.log(`视频文件已存在：${video.title}`)
  }
}

• 取得影片資料

getVideoData (url, encoding) {
  return new Promise((resolve, reject) => {
    let req = http.get(url, function (res) {
      let result = ''
      encoding && res.setEncoding(encoding)
      res.on('data', function (d) {
        result += d
      })
      res.on('end', function () {
        resolve(result)
      })
      res.on('error', function (e) {
        reject(e)
      })
    })
    req.end()
  })
}

• 將影片資料儲存到本地

savefileToPath (fileName, fileData) {
  let fileFullName = `${config.savePath}/${fileName}.mp4`
  return new Promise((resolve, reject) => {
    fs.writeFile(fileFullName, fileData, 'binary', function (err) {
      if (err) {
        console.log('savefileToPath error:', err)
      }
      resolve('已下载')
    })
  })
}

目標網站：西瓜影片 
專案功能：下載頭條號碼【維辰財經】下的最新20個影片 
#專案位址：Github 位址

以上是Node如何實作批量爬取頭條影片並保存（程式碼實作）的詳細內容。更多資訊請關注PHP中文網其他相關文章！