搜尋
首頁php框架Laravel記錄使用Laravel-s抵禦百度爬蟲的經歷

#什麼是Laravel-s記錄使用Laravel-s抵禦百度爬蟲的經歷

LaravelS是一個膠水項目,用於快速整合Swoole到Laravel或Lumen,賦予它們更好的性能github位址


#為什麼用Laravel-s

百度小程式上線後,百度爬蟲過高的qps(並發) 導致cpu 滿載,伺服器宕機,伺服器配置4核8G記憶體5M寬頻。這時候怎麼辦? 調整 php-fpm 參數,設定為靜態,靜態模式對比動態模式效能更高。例如設定子進程數量255甚至更高,越高承受的並發量越大,但越高佔用記憶體越大。結論,一定程度上有效果,但高並發下無用。

    回饋百度調整爬蟲抓取頻率。結論,等吧,黃花菜都涼了,但還是回饋下比較好。
  • 負載平衡。讓其他伺服器分擔壓力,前提是有足夠的伺服器,且都要部署相同的程式碼,且不能影響其他伺服器本來職責的業務。或是在某雲臨時申請N台伺服器,但你不知道爬蟲什麼時間來,什麼時間去,不切實際。
  • 接下來是文章的主題,用 Laravel-s 加速 http 回應。
  • Laravel-s 究竟起到多少加速效果

因為當時沒有統計所有時段qps 具體值,所以沒辦法得出準確的結論,只能根據調整前後的機器負載做比較。 部署前,

cpu

滿載,機器宕機N次,癱瘓狀態。外網出寬頻佔滿(5M),部署後cpu立即降到20 , 暫時升級寬頻15M後,

cpu

達到60%,外網寬頻仍被佔滿(只能說百度爬蟲是真作啊,多少寬頻你就來多少啊)。結論,至少帶來5倍的效能提升。 具體部署

爬蟲所爬取的頁面只是一部分,所以並不是將線上專案改造成laravel-s ,也不現實。我們只需要將爬取的頁面分開來,單獨部署到laravel-s

新空項目,業務邏輯只處理抓取的頁面api,項目連接埠號碼如6501

  • 部署laravel-s ,測試api 及ab壓測

  • 線上項目將爬蟲爬取的頁面路徑代理到新建項目,如
  • 127.0.0.1:6501

  • location ~ ^/v1/test.* {
     proxy_pass http://127.0.0.1:6501;
     proxy_set_header Host $host;}

    注意的幾點:

#在conf/laravels.php 中,預設開啟

worker
    數量是
  • cpu

    核數的兩倍。 laravles 是運行在

    swoole
  • ,在記憶體中,每次更改程式碼,需重啟
  • laravel-s

    由於第2條的原因,資料庫連線無法釋放,需開啟 laravel 的斷開重連(>laravle5.1)。在

    conf/database.php
  • mysql

    配置中新增<pre class='brush:php;toolbar:false;'>&amp;#39;options&amp;#39; =&gt; [ // 开启持久连接 \PDO::ATTR_PERSISTENT =&gt; true,],</pre>

以上是記錄使用Laravel-s抵禦百度爬蟲的經歷的詳細內容。更多資訊請關注PHP中文網其他相關文章!

陳述
本文轉載於:learnku。如有侵權,請聯絡admin@php.cn刪除
Laravel的後端功能:數據庫,邏輯等等Laravel的後端功能:數據庫,邏輯等等Apr 14, 2025 am 12:04 AM

Laravel在後端開發中表現強大,通過EloquentORM簡化數據庫操作,控制器和服務類處理業務邏輯,並提供隊列、事件等功能。 1)EloquentORM通過模型映射數據庫表,簡化查詢。 2)業務邏輯在控制器和服務類中處理,提高模塊化和可維護性。 3)其他功能如隊列系統幫助處理複雜需求。

Laravel的多功能性:從簡單站點到復雜系統Laravel的多功能性:從簡單站點到復雜系統Apr 13, 2025 am 12:13 AM

選擇Laravel開發項目是因為其靈活性和強大功能適應不同規模和復雜度的需求。 Laravel提供路由系統、EloquentORM、Artisan命令行等功能,支持從簡單博客到復雜企業級系統的開發。

Laravel(PHP)與Python:開發環境和生態系統Laravel(PHP)與Python:開發環境和生態系統Apr 12, 2025 am 12:10 AM

Laravel和Python在開發環境和生態系統上的對比如下:1.Laravel的開發環境簡單,僅需PHP和Composer,提供了豐富的擴展包如LaravelForge,但擴展包維護可能不及時。 2.Python的開發環境也簡單,僅需Python和pip,生態系統龐大,涵蓋多個領域,但版本和依賴管理可能複雜。

Laravel和後端:為Web應用程序提供動力邏輯Laravel和後端:為Web應用程序提供動力邏輯Apr 11, 2025 am 11:29 AM

Laravel是如何在後端邏輯中發揮作用的?它通過路由系統、EloquentORM、認證與授權、事件與監聽器以及性能優化來簡化和增強後端開發。 1.路由系統允許定義URL結構和請求處理邏輯。 2.EloquentORM簡化數據庫交互。 3.認證與授權系統便於用戶管理。 4.事件與監聽器實現松耦合代碼結構。 5.性能優化通過緩存和隊列提高應用效率。

為什麼Laravel如此受歡迎?為什麼Laravel如此受歡迎?Apr 02, 2025 pm 02:16 PM

Laravel受歡迎的原因包括其簡化開發過程、提供愉快的開發環境和豐富的功能。 1)它吸收了RubyonRails的設計理念,結合PHP的靈活性。 2)提供瞭如EloquentORM、Blade模板引擎等工具,提高開發效率。 3)其MVC架構和依賴注入機制使代碼更加模塊化和可測試。 4)提供了強大的調試工具和性能優化方法,如緩存系統和最佳實踐。

django或laravel哪個更好?django或laravel哪個更好?Mar 28, 2025 am 10:41 AM

Django和Laravel都是全棧框架,Django適合Python開發者和復雜業務邏輯,Laravel適合PHP開發者和優雅語法。 1.Django基於Python,遵循“電池齊全”哲學,適合快速開發和高並發。 2.Laravel基於PHP,強調開發者體驗,適合小型到中型項目。

哪個是更好的PHP或Laravel?哪個是更好的PHP或Laravel?Mar 27, 2025 pm 05:31 PM

PHP和Laravel不是直接可比的,因為Laravel是基於PHP的框架。 1.PHP適合小型項目或快速原型開發,因其簡單直接。 2.Laravel適合大型項目或高效開發,因其提供豐富功能和工具,但學習曲線較陡,性能可能不如純PHP。

Laravel是前端還是後端?Laravel是前端還是後端?Mar 27, 2025 pm 05:31 PM

laravelisabackendframeworkbuiltonphp,設計ForweBapplicationDevelopment.itfocusessonserver-sideLogic,databasemagemention和Applicationstructure和CanBeintegratedWithFrontendTechnologiesLikeLikeVue.jsorreActeReacterVue.jsorreActforforfull-stackDevefloct。

See all articles

熱AI工具

Undresser.AI Undress

Undresser.AI Undress

人工智慧驅動的應用程序,用於創建逼真的裸體照片

AI Clothes Remover

AI Clothes Remover

用於從照片中去除衣服的線上人工智慧工具。

Undress AI Tool

Undress AI Tool

免費脫衣圖片

Clothoff.io

Clothoff.io

AI脫衣器

AI Hentai Generator

AI Hentai Generator

免費產生 AI 無盡。

熱門文章

R.E.P.O.能量晶體解釋及其做什麼(黃色晶體)
3 週前By尊渡假赌尊渡假赌尊渡假赌
R.E.P.O.最佳圖形設置
3 週前By尊渡假赌尊渡假赌尊渡假赌
R.E.P.O.如果您聽不到任何人,如何修復音頻
3 週前By尊渡假赌尊渡假赌尊渡假赌
WWE 2K25:如何解鎖Myrise中的所有內容
4 週前By尊渡假赌尊渡假赌尊渡假赌

熱工具

ZendStudio 13.5.1 Mac

ZendStudio 13.5.1 Mac

強大的PHP整合開發環境

Dreamweaver Mac版

Dreamweaver Mac版

視覺化網頁開發工具

SecLists

SecLists

SecLists是最終安全測試人員的伙伴。它是一個包含各種類型清單的集合,這些清單在安全評估過程中經常使用,而且都在一個地方。 SecLists透過方便地提供安全測試人員可能需要的所有列表,幫助提高安全測試的效率和生產力。清單類型包括使用者名稱、密碼、URL、模糊測試有效載荷、敏感資料模式、Web shell等等。測試人員只需將此儲存庫拉到新的測試機上,他就可以存取所需的每種類型的清單。

VSCode Windows 64位元 下載

VSCode Windows 64位元 下載

微軟推出的免費、功能強大的一款IDE編輯器

Dreamweaver CS6

Dreamweaver CS6

視覺化網頁開發工具