Cookie可以說是和我們的生活息息相關,當你在淘寶購物的時候,那些推薦的寶貝就是Cookie的傑作。
上一篇我們講解的是Selenium PhantomJs的基本操作,今天帶給大家的是Cookie的介紹和模擬登入示範。
什麼是Cookie?
在電腦術語中是指一種能夠讓網站伺服器把少量資料儲存到客戶端的硬碟或內存,或是從客戶端的硬碟讀取數據的一種技術。
開啟Chrome的開發者工具(F12),點開Network,點選一個請求url,就可以看到請求頭(Request Headers)裡面的一個Cookie訊息了。當然我們從上面的回應頭中可以看到一個Set-Cookie的訊息,這就是伺服器向瀏覽器設定Cookie的一些訊息,例如Cookie的作用域,時間等。
Cookie的用途
儲存使用者登入訊息,判斷使用者是否登入;保存使用者瀏覽足跡;
Cookie是伺服器在客戶端儲存的資訊.這些資訊是有伺服器產生伺服器解釋的。
請求時,客戶端需要把未逾時的Cookies傳送給伺服器。伺服器需要解析Cookies判斷使用者資訊。
我們的瀏覽器會在你每次瀏覽網頁是自動儲存cookie,例如你開啟清除瀏覽器瀏覽記錄時,就會有cookie資訊。
cookie為我們帶來了很多便利,他還可以記錄我們的瀏覽足跡,停留頁面時間。例如你狂淘寶的時候,淘寶的推薦你喜歡的寶貝,就是根據你的cookie,取得你瀏覽過哪些商品,而產生的。
模擬登入示範
我們還是以知乎為例。 https://www.zhihu.com/people/yu-kun-73/answers
這個URL是我的知乎資訊頁,當然大家可以用自己的知乎頁做範例。如果我們直接訪問他,會看到上方的登入按鈕,而是我已經登入了在訪問呢。就不會顯示登入按鈕,而是個人編輯資料一些連結。
那麼,如果我們使用爬蟲去參觀呢。
import requests headers = { 'User-Agent': 'Mozilla/5.0 (Windows NT 6.1; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/59.0.3071.115 Safari/537.36' } url = 'https://www.zhihu.com/people/yu-kun-73/answers' resp = requests.get(url, headers=headers).text print(resp)
透過列印的結果,我們可以看到,html 程式碼裡是有登入按鈕的。這就證明我們並沒有登入這個頁面。那麼,如果我們在爬取一些需要登入帳號才可以爬取資料的網站時,我們必然是要解決登入問題的。那麼如何實現登入呢。
答案就是我們的Cookie了。我們在之前的文章中說過,requests函式庫在處理Cookie時,是非常簡單的。我們只需要加上「User-Agent’」新增請求cookies就可以了。
import requests headers = { 'Cookie': # 你的登录过后的浏览器cookies, 'User-Agent': 'Mozilla/5.0 (Windows NT 6.1; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/59.0.3071.115 Safari/537.36' } url = 'https://www.zhihu.com/people/yu-kun-73/answers' resp = requests.get(url, headers=headers).text print(resp)
我們再看一次列印訊息,就可以看到有編輯個人資料的連結了。這就說明我們已經成功登入了。是不是很簡單呢,別急,難的在後面。
最後
#那麼,如果我們要登入一些複雜的網站,例如新浪微博這種必須要登入才能取得資訊的網站,使用cookie登入是肯定行不通的。因為這些網站會經常更新一些網站的演算法,我們的cookie就會在工作一會兒失效,那麼這些網站我們就需要向登入頁post我們的登入資訊。
這些登入資訊參數一般都會存放在登入頁的請求頭下面的Form Data裡面,我們只要攜帶這些資訊Post,就可以順利登入。但是如果遇到驗證碼,那就很麻煩了。驗證碼的問題一直是考驗爬蟲的一個門檻,這個大家自己研究。
以上是Cookie介紹和模擬登入演示的詳細內容。更多資訊請關注PHP中文網其他相關文章!