搜尋
首頁後端開發php教程PHP實作的日誌收集系統

PHP實作的日誌收集系統

Apr 18, 2018 pm 01:59 PM
php收集系統

這篇文章主要介紹了關於PHP實現的日誌收集系統,有著一定的參考價值,現在分享給大家,有需要的朋友可以參考一下

    最近業務中涉及到遠端伺服器的日誌收集需求, 出於限制技術堆疊擴大的想法,使用PHP進行了實現.

    實現過程中有些小小需要注意的點,記錄如下:

##1. 主動獲取. 由於伺服器較多, 如果使用Flume之類的架構, 需要在每台伺服器上安裝軟體, 這就產生了運維成本. 所以我們使用收集端主動獲取的方式. 不需要在生產者(服務端)安裝軟體.

2.SSH連線. 每台伺服器都配置了SSH連線權限,使用PHP的ssh2擴充即可遠端連線並存取伺服器內容.


##3.伺服器日誌結構統一.  每台伺服器上的日誌檔案都按同一目錄規則放置,以簡化程式邏輯.

4.CLI運行. 收集是持續運行的程式,使用CLI模式,要注意,此時所使用的INI檔案問題.


5.SSH連線異常.  有時,由於網路問題,導致SSH連線或驗證失敗, 延遲重試即可.


6 .日誌截斷與壓縮. 通常,我們的運維會在每天的固定時間對日誌進行截斷和壓縮, 這就有了兩種類型的文件需要讀取:壓縮與未壓縮的日誌, 需要分別處理.


7.日誌中的時間戳. 以秒為單位的時間戳記不足以區分請求, 我們增加$msec以毫秒計量, 同一毫秒內,同一IP來源,同一UA的可以認為是一個請求.

8.讀取目錄.  使用readdir即可讀取SSH格式的遠端目錄, readdir("ssh2.sft://......"); 過濾掉不需要的檔案後, 按檔案建立時間排序,逐一處理.

9.讀取壓縮檔案. 如果用file_get_contents會導致介面長期無回應, 我使用了fopen, fread 逐步讀取. 一次讀取8K (再大也沒有用了).  每讀取一定次數後,輸出一個進度顯示.

10.壓縮檔案快取. 讀取成功後, 儲存到快取目錄, 以便備份以及下次使用.如果程式出錯或重新運行時, 先檢查快取目錄, 如果有快取檔案,就不用從網路上讀取了.


#11.解壓縮. 使用gzdecode即可. 這會導致PHP記憶體需要暴增, 調整PHP.INI吧, 把記憶體限制擴大.

12.壓縮日誌處理完成記錄. 處理完成一個壓縮檔後, 在資料庫中記錄下來, 以後PHP程式運行後,就不用重複處理了.


13.未壓縮日誌處理. 未壓縮的日誌顯示,此日誌仍在增長中. 不需要快取. 使用資料庫記錄,目前檔案指標(使用ftell,fseek ). 記錄檔案建立日期.


14.未壓縮日誌判斷. 當檔案日期與記錄的日期不同時, 或檔案小於記錄中的檔案大小, 說明此檔案被更新了, 需要重置檔案指標.


    否則可以直接定位(fseek),以繼續從上次處理的位置進行.


15.日誌行分解. 使用正規即可,根據空格及定界符進行區分. 也可使用logParser第三方類庫來處理. 為節省內存開銷.可使用Iterator 協程模式, 逐行返回.


16.日誌判重. 事先讀取每個伺服器的最後日誌時間戳(毫秒)以及IP,UA. 


#17.日誌保存. 我是使用了MYSQL來保存日誌. 每一行日誌執行一次MYSQL會極大浪費運行時間, 可以累積4000行再一次插入.

18.錯誤處理. 除了SSH連接失敗外, 還會讀取半行日誌,導致分解失敗, 此時也拋出異常. 由主程式捕獲,並重新運行即可.


相關推薦:

#php輸出日誌

php 寫入日誌函數

php實作一個日誌功能

####

以上是PHP實作的日誌收集系統的詳細內容。更多資訊請關注PHP中文網其他相關文章!

陳述
本文內容由網友自願投稿,版權歸原作者所有。本站不承擔相應的法律責任。如發現涉嫌抄襲或侵權的內容,請聯絡admin@php.cn
您如何防止與會議有關的跨站點腳本(XSS)攻擊?您如何防止與會議有關的跨站點腳本(XSS)攻擊?Apr 23, 2025 am 12:16 AM

要保護應用免受與會話相關的XSS攻擊,需採取以下措施:1.設置HttpOnly和Secure標誌保護會話cookie。 2.對所有用戶輸入進行輸出編碼。 3.實施內容安全策略(CSP)限制腳本來源。通過這些策略,可以有效防護會話相關的XSS攻擊,確保用戶數據安全。

您如何優化PHP會話性能?您如何優化PHP會話性能?Apr 23, 2025 am 12:13 AM

优化PHP会话性能的方法包括:1.延迟会话启动,2.使用数据库存储会话,3.压缩会话数据,4.管理会话生命周期,5.实现会话共享。这些策略能显著提升应用在高并发环境下的效率。

什麼是session.gc_maxlifetime配置設置?什麼是session.gc_maxlifetime配置設置?Apr 23, 2025 am 12:10 AM

theSession.gc_maxlifetimesettinginphpdeterminesthelifespanofsessiondata,setInSeconds.1)它'sconfiguredinphp.iniorviaini_set().2)abalanceisesneededeededeedeedeededto toavoidperformance andunununununexpectedLogOgouts.3)

您如何在PHP中配置會話名?您如何在PHP中配置會話名?Apr 23, 2025 am 12:08 AM

在PHP中,可以使用session_name()函數配置會話名稱。具體步驟如下:1.使用session_name()函數設置會話名稱,例如session_name("my_session")。 2.在設置會話名稱後,調用session_start()啟動會話。配置會話名稱可以避免多應用間的會話數據衝突,並增強安全性,但需注意會話名稱的唯一性、安全性、長度和設置時機。

您應該多久再生一次會話ID?您應該多久再生一次會話ID?Apr 23, 2025 am 12:03 AM

會話ID應在登錄時、敏感操作前和每30分鐘定期重新生成。 1.登錄時重新生成會話ID可防會話固定攻擊。 2.敏感操作前重新生成提高安全性。 3.定期重新生成降低長期利用風險,但需權衡用戶體驗。

如何在PHP中設置會話cookie參數?如何在PHP中設置會話cookie參數?Apr 22, 2025 pm 05:33 PM

在PHP中設置會話cookie參數可以通過session_set_cookie_params()函數實現。 1)使用該函數設置參數,如過期時間、路徑、域名、安全標誌等;2)調用session_start()使參數生效;3)根據需求動態調整參數,如用戶登錄狀態;4)注意設置secure和httponly標誌以提升安全性。

在PHP中使用會議的主要目的是什麼?在PHP中使用會議的主要目的是什麼?Apr 22, 2025 pm 05:25 PM

在PHP中使用會話的主要目的是維護用戶在不同頁面之間的狀態。 1)會話通過session_start()函數啟動,創建唯一會話ID並存儲在用戶cookie中。 2)會話數據保存在服務器上,允許在不同請求間傳遞數據,如登錄狀態和購物車內容。

您如何在子域中分享會議?您如何在子域中分享會議?Apr 22, 2025 pm 05:21 PM

如何在子域名間共享會話?通過設置通用域名的會話cookie實現。 1.在服務器端設置會話cookie的域為.example.com。 2.選擇合適的會話存儲方式,如內存、數據庫或分佈式緩存。 3.通過cookie傳遞會話ID,服務器根據ID檢索和更新會話數據。

See all articles

熱AI工具

Undresser.AI Undress

Undresser.AI Undress

人工智慧驅動的應用程序,用於創建逼真的裸體照片

AI Clothes Remover

AI Clothes Remover

用於從照片中去除衣服的線上人工智慧工具。

Undress AI Tool

Undress AI Tool

免費脫衣圖片

Clothoff.io

Clothoff.io

AI脫衣器

Video Face Swap

Video Face Swap

使用我們完全免費的人工智慧換臉工具,輕鬆在任何影片中換臉!

熱工具

SublimeText3 Linux新版

SublimeText3 Linux新版

SublimeText3 Linux最新版

VSCode Windows 64位元 下載

VSCode Windows 64位元 下載

微軟推出的免費、功能強大的一款IDE編輯器

MinGW - Minimalist GNU for Windows

MinGW - Minimalist GNU for Windows

這個專案正在遷移到osdn.net/projects/mingw的過程中,你可以繼續在那裡關注我們。 MinGW:GNU編譯器集合(GCC)的本機Windows移植版本,可自由分發的導入函式庫和用於建置本機Windows應用程式的頭檔;包括對MSVC執行時間的擴展,以支援C99功能。 MinGW的所有軟體都可以在64位元Windows平台上運作。

Dreamweaver Mac版

Dreamweaver Mac版

視覺化網頁開發工具

DVWA

DVWA

Damn Vulnerable Web App (DVWA) 是一個PHP/MySQL的Web應用程序,非常容易受到攻擊。它的主要目標是成為安全專業人員在合法環境中測試自己的技能和工具的輔助工具,幫助Web開發人員更好地理解保護網路應用程式的過程,並幫助教師/學生在課堂環境中教授/學習Web應用程式安全性。 DVWA的目標是透過簡單直接的介面練習一些最常見的Web漏洞,難度各不相同。請注意,該軟體中