Python爬蟲爬取美劇網站

一直有愛看美劇的習慣，一方面鍛鍊一下英文聽力，一方面打發一下時間。之前是能在影片網站上面線上看的，可是自從廣電總局的限制令之後，進口的美劇英劇等貌似就不在像以前一樣同步更新了。但是，身為一個宅diao的我又怎甘心沒劇追呢，所以網上隨便查了一下就找到一個能用迅雷下載的美劇下載網站【天天美劇】，各種資源隨便下載，最近迷上的BBC的高畫質紀錄片，大自然美得不要不要的。

雖然說找到了資源網站可以下載了，但每次都要打開瀏覽器，輸入網址，找到該美劇，然後點擊連結才能下載。時間長了就覺得過程好繁瑣，有時候網站連結還會打不開，會有點麻煩。正好一直在學習Python爬蟲，所以今天就心血來潮來寫了個爬蟲，抓取該網站上所有美劇鏈接，並保存在文本文檔中，想要哪部劇就直接打開復制鏈接到迅雷就可以下載啦。

其實一開始打算寫那種發現一個url，使用requests打開抓取下載鏈接，從主頁開始爬完全站。但是，好多重複鏈接，還有其網站的url不是我想的那麼規則，寫了半天也沒有寫出我想要的那種發散式的爬蟲，也許是自己火候還不到吧，繼續努力。 。 。

後來發現，其電視劇連結都是在文章裡面，然後文章url後面有個數字編號，就像這樣的http://cn163.net/archives/24016/，所以機智的我又用了之前寫過的爬蟲經驗，解決方法就是自動生成url，其後面的數字不是可以變的嗎，而且每部劇的都是唯一的，所以嘗試了一下大概有多少篇文章，然後用range函數直接連續生成數來構造url。

但是很多url是不存在的，所以會直接掛掉，別擔心，我們用的可是requests，其自帶的status_code就是用來判斷請求返回的狀態的，所以只要是返回的狀態碼是404的我們都把它跳過，其他的都進去爬取鏈接，這就解決了url的問題了。

以下就是上述步驟的實作程式碼。

def get_urls(self):
  try:
    for i in range(2015,25000):
      base_url='http://cn163.net/archives/'
      url=base_url+str(i)+'/'
      if requests.get(url).status_code == 404:
        continue
      else:
        self.save_links(url)
  except Exception,e:
    pass

其餘的就進行的很順利了，網路上找到前人寫的類似的爬蟲，但是只是爬取一篇文章的，所以藉鑑了一下其正規表示式。自己用了BeautifulSoup還沒有正規效果好，所以果斷棄了，學海無涯啊。但效果也不是那麼理想，有一半左右的連結不能正確抓取，還需繼續優化。

# -*- coding:utf-8 -*-
import requests 
import re
import sys
import threading
import time
reload(sys)
sys.setdefaultencoding('utf-8')
class Archives(object):

  def save_links(self,url):
    try:

      data=requests.get(url,timeout=3)
      content=data.text
      link_pat='"(ed2k://\|file\|[^"]+?\.(S\d+)(E\d+)[^"]+?1024X\d{3}[^"]+?)"'
      name_pat=re.compile(r'<h2>(.*?)</h2>',re.S)
      links = set(re.findall(link_pat,content))
      name=re.findall(name_pat,content)
      links_dict = {}
      count=len(links)
    except Exception,e:
      pass
    for i in links:
      links_dict[int(i[1][1:3]) * 100 + int(i[2][1:3])] = i#把剧集按s和e提取编号
    try:
      with open(name[0].replace('/',' ')+'.txt','w') as f:
        print name[0]
        for i in sorted(list(links_dict.keys())):#按季数+集数排序顺序写入
          f.write(links_dict[i][0] + '\n')
      print "Get links ... ", name[0], count
    except Exception,e:
      pass

  def get_urls(self):
    try:
      for i in range(2015,25000):
        base_url='http://cn163.net/archives/'
        url=base_url+str(i)+'/'
        if requests.get(url).status_code == 404:
          continue
        else:
          self.save_links(url)
    except Exception,e:
      pass
  def main(self):
    thread1=threading.Thread(target=self.get_urls())
    thread1.start()
    thread1.join()
  if __name__ == '__main__':
  start=time.time()
  a=Archives()
  a.main()
  end=time.time()
  print end-start

完整版程式碼，其中還用到了多線程，但是感覺沒什麼用，因為Python的GIL的緣故吧，看似有兩萬多部劇，本來以為要很久才能抓取完成，但是除去url錯誤的和沒配對到的，總共抓取時間20分鐘不到。搞得我本來還想用Redis在兩台Linux上爬取，但是折騰了一番之後感覺沒必要，所以就這樣吧，後面需要更大數據的時候再去弄。

還有過程中遇到一個很折磨我的問題是檔案名稱的保存，必須在此抱怨一下，txt文字格式的檔案名稱能有空格，但是不能有斜線、反斜線、括號等。就是這個問題，一早上的時間都花在這上面的，一開始我以為是抓取數據的錯誤，後面查了半天才發現是爬取的劇名中帶有斜杠，這可把我坑苦了。

更多Python爬蟲爬取美劇網站相關文章請關注PHP中文網！