首頁 >後端開發 >Python教學 >基於Python3.4實作簡單抓取爬蟲功能詳細介紹

基於Python3.4實作簡單抓取爬蟲功能詳細介紹

巴扎黑
巴扎黑原創
2017-09-16 10:16:361578瀏覽

這篇文章主要介紹了Python3.4程式實作簡單抓取爬蟲功能,涉及Python3.4網頁抓取及正則解析相關操作技巧,需要的朋友可以參考下

本文實例講述了Python3.4程式實作簡單抓取爬蟲功能。分享給大家參考,具體如下:


import urllib.request
import urllib.parse
import re
import urllib.request,urllib.parse,http.cookiejar
import time
def getHtml(url):
  cj=http.cookiejar.CookieJar()
  opener=urllib.request.build_opener(urllib.request.HTTPCookieProcessor(cj))
  opener.addheaders=[('User-Agent','Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/41.0.2272.101 Safari/537.36'),('Cookie','4564564564564564565646540')]
  urllib.request.install_opener(opener)
  page = urllib.request.urlopen(url)
  html = page.read()
  return html
#print ( html)
#html = getHtml("http://weibo.com/")
def getimg(html):
  html = html.decode('utf-8')
  reg='"screen_name":"(.*?)"'
  imgre = re.compile(reg)
  src=re.findall(imgre,html)
  return src
#print ("",getimg(html))
uid=['2808675432','3888405676','2628551531','2808587400']
for a in list(uid):
  print (getimg(getHtml("http://weibo.com/"+a)))
  time.sleep(1)

以上是基於Python3.4實作簡單抓取爬蟲功能詳細介紹的詳細內容。更多資訊請關注PHP中文網其他相關文章!

陳述:
本文內容由網友自願投稿,版權歸原作者所有。本站不承擔相應的法律責任。如發現涉嫌抄襲或侵權的內容,請聯絡admin@php.cn