這次帶給大家設定cookie過期自動更新和自動獲取,設定cookie過期自動更新和自動獲取的注意事項有哪些,下面就是實戰案例,一起來看一下。
本文實現cookie的自動獲取,及cookie過期自動更新。
社群網站中的許多資訊都需要登入才能取得到,以微博為例,不登入帳號,只能看到大V的前十條微博。保持登入狀態,必須使用到Cookie。以登入www.weibo.cn 為例:
在chrome中輸入:http://login.weibo.cn/login/
##分析控制台的Headers的請求返回,會看到weibo.cn有幾組返回的cookie。實作步驟:
1,採用selenium自動登入取得cookie,儲存到檔案;2,讀取cookie,比較cookie的有效期,若過期則再次執行步驟1;3,在請求其他網頁時,填入cookie,實現登入狀態的維持。 1,在線獲取cookie採用selenium + PhantomJS 模擬瀏覽器登錄,獲取cookie;cookies一般會有多個,逐個將cookie存入以.weibo後綴的文件。def get_cookie_from_network(): from selenium import webdriver url_login = 'http://login.weibo.cn/login/' driver = webdriver.PhantomJS() driver.get(url_login) driver.find_element_by_xpath('//input[@type="text"]').send_keys('your_weibo_accout') # 改成你的微博账号 driver.find_element_by_xpath('//input[@type="password"]').send_keys('your_weibo_password') # 改成你的微博密码 driver.find_element_by_xpath('//input[@type="submit"]').click() # 点击登录 # 获得 cookie信息 cookie_list = driver.get_cookies() print cookie_list cookie_dict = {} for cookie in cookie_list: #写入文件 f = open(cookie['name']+'.weibo','w') pickle.dump(cookie, f) f.close() if cookie.has_key('name') and cookie.has_key('value'): cookie_dict[cookie['name']] = cookie['value'] return cookie_dict2,從檔案中取得cookie從目前目錄遍歷以.weibo結尾的文件,即cookie檔。採用pickle解包成dict,比較expiry值與當前時間,若過期則回傳為空;
def get_cookie_from_cache(): cookie_dict = {} for parent, dirnames, filenames in os.walk('./'): for filename in filenames: if filename.endswith('.weibo'): print filename with open(self.dir_temp + filename, 'r') as f: d = pickle.load(f) if d.has_key('name') and d.has_key('value') and d.has_key('expiry'): expiry_date = int(d['expiry']) if expiry_date > (int)(time.time()): cookie_dict[d['name']] = d['value'] else: return {} return cookie_dict3,若快取cookie過期,則再次從網路取得cookie
def get_cookie(): cookie_dict = get_cookie_from_cache() if not cookie_dict: cookie_dict = get_cookie_from_network() return cookie_dict4,帶cookie請求微博其他主頁
def get_weibo_list(self, user_id): import requests from bs4 import BeautifulSoup as bs cookdic = get_cookie() url = 'http://weibo.cn/stocknews88' headers = {'User-Agent': 'Mozilla/5.0 (Windows NT 6.1) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/31.0.1650.57 Safari/537.36'} timeout = 5 r = requests.get(url, headers=headers, cookies=cookdic,timeout=timeout) soup = bs(r.text, 'lxml') ... # 用BeautifulSoup 解析网页 ...相信看了本文案例你已經掌握了方法,更多精彩請關注php中文網其它相關文章! 推薦閱讀:
以上是設定cookie過期自動更新和自動獲取的詳細內容。更多資訊請關注PHP中文網其他相關文章!