首页 >后端开发 >Python教程 >开发一个监视位于远程服务器上的日志文件的系统,类似于 Unix 命令 tail -f。

开发一个监视位于远程服务器上的日志文件的系统,类似于 Unix 命令 tail -f。

Barbara Streisand
Barbara Streisand原创
2024-09-28 22:11:02841浏览

Develop a system that monitors a log file located on a remote server, similar to the Unix command tail -f.

这个问题的目标是:
目标是开发一个监视远程服务器上日志文件的系统,类似于 Unix 命令 tail -f。日志文件不断添加新数据。该系统应包括:

  1. 一个服务器应用程序,用于跟踪同一服务器上指定日志文件的持续更改。该应用程序应该能够将新添加的数据实时传输给客户端。

  2. 基于 Web 的客户端界面,可通过 URL(例如 http://localhost/log)访问,旨在动态显示日志文件更新,而不需要用户重新加载页面。最初,在访问该页面时,用户应该会看到日志文件中的最新 10 行。
    还处理了以下场景:

  3. 服务器必须主动向客户端推送更新,以确保最小延迟,实现尽可能接近实时的更新。

  4. 鉴于日志文件可能非常大(可能有几 GB),您需要制定一种策略来有效获取最后 10 行而不处理整个文件。

  5. 服务器应仅将文件的新添加内容传输给客户端,而不是重新发送整个文件。

  6. 服务器支持来自多个客户端的并发连接而不降低性能至关重要。

  7. 客户端的网页应立即加载,而不是在初始请求后停留在加载状态,并且不应该需要重新加载来显示新的更新。

我创建了一个 Flask 应用程序,它具有简单的 UI,可显示最后 10 条消息。

我使用了flask-socketio来形成连接,还使用了处理文件的一些基本概念,如fileObj.seek()、fileObj.tell()等

from flask import Flask, render_template
from flask_socketio import SocketIO, emit
from threading import Lock

app = Flask(__name__)
socketio = SocketIO(app)
thread = None
thread_lock = Lock()
LOG_FILE_PATH = "./static/client.txt"
last_position = 0
position_lock = Lock()

@app.route('/')
def index():
    return render_template('index.html')

@socketio.on('connect')
def test_connect():
    global thread
    with thread_lock:
        if thread is None:
            print("started execution in background!")
            thread = socketio.start_background_task(target=monitor_log_file)

def monitor_log_file():
    global last_position
    while True:
        try:
            with open(LOG_FILE_PATH, 'rb') as f:
                f.seek(0, 2)
                file_size = f.tell()
                if last_position != file_size:
                    buffer_size = 1024
                    if file_size < buffer_size:
                        buffer_size = file_size
                    f.seek(-buffer_size, 2)
                    lines = f.readlines()
                    last_lines = lines[-10:]
                    content = b'\n'.join(last_lines).decode('utf-8')
                    socketio.sleep(1)  # Add a small delay to prevent high CPU usage
                    socketio.emit('log_updates', {'content': content})
                    print("Emitted new Lines to Client!")
                    last_position = file_size
                else:
                    pass
        except FileNotFoundError:
            print(f"Error: {LOG_FILE_PATH} not found.")
        except Exception as e:
            print(f"Error while reading the file: {e}")

if __name__ == '__main__':
    socketio.run(app, debug=True, log_output=True, use_reloader=False)

<!DOCTYPE html>
<html lang="en">
<head>
    <meta charset="UTF-8">
    <title>Basics</title>
    <script src="https://cdnjs.cloudflare.com/ajax/libs/socket.io/4.5.4/socket.io.js"></script>
</head>
<body>
<h1>User Updated Files Display it over here:</h1>
<div id="output"></div>

<script>
    var socket = io("http://127.0.0.1:5000");
    socket.on('connect', function() {
        console.log('Connected to the server');
    });
    socket.on('disconnect', function() {
        console.log('Client disconnected');
    });
    socket.on('log_updates', function(data) {
        console.log("data", data);
        var div = document.getElementById('output');
        var lines = data.content.split('\n');
        div.innerHTML = '';
        lines.forEach(function(line) {
            var p = document.createElement('p');
            p.textContent = line;
            div.appendChild(p);
        });
    });
</script>
</body>
</html>

还在 Flask 应用程序的 static 文件夹下创建一个 client.log 文件。
如果我做错了什么,请随时纠正我。有任何更正请在下面评论!

以上是开发一个监视位于远程服务器上的日志文件的系统,类似于 Unix 命令 tail -f。的详细内容。更多信息请关注PHP中文网其他相关文章!

声明:
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn