如何在Python Django中通过中间件捕获并记录所有慢查询SQL?

星芳君_2525

星芳君_2525

2026-07-18

753人浏览

原创

Django的django.db.connection.queries在生产环境不可靠,因其仅在DEBUG=True时启用、每次请求后清空、且无执行时间字段;真正获取毫秒级耗时需通过CursorWrapper拦截execute/executemany,结合time.perf_counter()计时并记录SQL、参数、耗时、请求路径等上下文。

如何在python django中通过中间件捕获并记录所有慢查询sql?

为什么 Django 的 django.db.connection.queries 在生产环境不可靠

因为默认只在 DEBUG=True 时才记录查询,且每次请求结束后清空,无法跨请求统计耗时;更关键的是,它不包含执行时间字段,只有 SQL 文本和参数,根本没法判断“慢”。真正能拿到毫秒级耗时的,是 Django 内置的 django.db.backends.utils.CursorWrapper 执行路径,或者更底层的数据库适配器钩子。

用 CursorWrapper 包装器拦截所有查询(推荐方案)

这是最轻量、最可控的方式:不依赖第三方包,不修改配置,也不需要 patch 全局模块。核心是在中间件中临时替换当前线程的 cursor 类,让它在 execute 和 executemany 调用前后打点计时。

  • 必须在中间件 process_request 中动态 patch 当前 connection 的 cursor 方法,不能提前 patch 类本身(否则影响其他请求)
  • 注意区分 django.db.connections['default'] 和多数据库场景,需遍历所有注册的 alias
  • 计时要用 time.perf_counter(),不是 time.time(),避免系统时间跳变干扰
  • 记录内容至少包括:sql、params、duration_ms、stack(可选)、request.path
import time
from django.db import connections
from django.db.backends.utils import CursorWrapper
<p>class SlowQueryMiddleware:
def <strong>init</strong>(self, get_response):
self.get_response = get_response</p><pre class="brush:php;toolbar:false;">def __call__(self, request):
    # 对每个数据库连接都包装 cursor
    for conn in connections.all():
        original_cursor = conn.cursor

        def wrapped_cursor(*args, **kwargs):
            cursor = original_cursor(*args, **kwargs)
            return TrackedCursorWrapper(cursor, request)

        conn.cursor = wrapped_cursor

    response = self.get_response(request)

    # 恢复原始 cursor 方法(防止污染后续请求)
    for conn in connections.all():
        if hasattr(conn, '_original_cursor'):
            conn.cursor = conn._original_cursor
    return response

class TrackedCursorWrapper(CursorWrapper): def execute(self, sql, params=None): start = time.perf_counter() try: return super().execute(sql, params) finally: duration = (time.perf_counter() - start) * 1000 if duration > 500: # 慢查询阈值设为 500ms self.log_slow_query(sql, params, duration, 'execute')

def executemany(self, sql, param_list):
    start = time.perf_counter()
    try:
        return super().executemany(sql, param_list)
    finally:
        duration = (time.perf_counter() - start) * 1000
        if duration > 500:
            self.log_slow_query(sql, param_list, duration, 'executemany')

def log_slow_query(self, sql, params, duration, method):
    # 这里写入日志或发到 Sentry/ELK 等
    import logging
    logger = logging.getLogger('slow_sql')
    logger.warning(
        f"[{method}] {duration:.2f}ms | {sql[:100]} | params={params}"
    )

别直接用 django.db.models.signals.post_save 或 pre_init

这些信号只覆盖 ORM 层操作,完全捕获不到 raw SQL(比如 connection.cursor().execute(...))、bulk_create 底层调用、或第三方库如 django-filter 生成的查询。信号机制本质是事件广播,而慢查询根源在数据库驱动执行环节——必须从执行入口拦截,而不是等 ORM 构建完再监听。

testing-python
testing-python

使用pytest编写和评估有效的Python测试。适用于编写测试、审查测试代码、调试测试失败或提高测试覆盖率。

下载
  • post_migrate、pre_migrate 是迁移相关,和运行时查询无关
  • connection_created 只在连接建立时触发一次,无法捕获单次 query
  • 试图用 logging 配置 django.db.backends 日志级别会输出全部 SQL,但没结构化 duration 字段,且日志格式难解析

部署时注意线程安全与性能开销

这个中间件本身不锁全局资源,但频繁创建 wrapper 实例 + 计时 + 日志写入,在高并发下可能成为瓶颈。实际线上建议:

  • 阈值不要设太低(比如 100ms),避免日志爆炸;优先关注 >300ms 的查询
  • 禁用 params 记录敏感字段(如密码、token),可用正则清洗或直接设为 None
  • 日志异步写入(例如用 concurrent.futures.ThreadPoolExecutor 提交日志任务),避免阻塞主线程
  • 开发环境可开启,生产环境建议配合 feature flag 控制开关,而非硬编码启用

真正的难点不在怎么记,而在记下来之后怎么归因:同一个慢 SQL 可能来自不同 view、不同用户、不同数据量。没有上下文(比如 request.user.id、view_name、queryset.query)的慢 SQL 日志,基本等于无效日志。

Python免费学习笔记(深入):立即使用
在学习笔记中,你将探索 Python 的核心概念和高级技巧!

相关专题

更多
python打包成可执行文件
python打包成可执行文件

本专题为大家带来python打包成可执行文件相关的文章,大家可以免费的下载体验。

2023.07.20

1671

4

python能做什么
python能做什么

python能做的有:可用于开发基于控制台的应用程序、多媒体部分开发、用于开发基于Web的应用程序、使用python处理数据、系统编程等等。本专题为大家提供python相关的各种文章、以及下载和课程。

2023.07.25

4224

7

format在python中的用法
format在python中的用法

Python中的format是一种字符串格式化方法,用于将变量或值插入到字符串中的占位符位置。通过format方法,我们可以动态地构建字符串,使其包含不同值。php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

2023.07.31

1669

3

python教程
python教程

Python已成为一门网红语言,即使是在非编程开发者当中,也掀起了一股学习的热潮。本专题为大家带来python教程的相关文章,大家可以免费体验学习。

2023.08.03

24457

23

python环境变量的配置
python环境变量的配置

Python是一种流行的编程语言,被广泛用于软件开发、数据分析和科学计算等领域。在安装Python之后,我们需要配置环境变量,以便在任何位置都能够访问Python的可执行文件。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.04

2987

5

python eval
python eval

eval函数是Python中一个非常强大的函数,它可以将字符串作为Python代码进行执行,实现动态编程的效果。然而,由于其潜在的安全风险和性能问题,需要谨慎使用。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.04

3027

5

scratch和python区别
scratch和python区别

scratch和python的区别:1、scratch是一种专为初学者设计的图形化编程语言,python是一种文本编程语言;2、scratch使用的是基于积木的编程语法,python采用更加传统的文本编程语法等等。本专题为大家提供scratch和python相关的文章、下载、课程内容,供大家免费下载体验。

2023.08.11

1163

5

python合并两个列表
python合并两个列表

Python是一种强大的编程语言,具有许多方便的功能和工具。在Python中,有多种方法可以合并两个列表。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.10

596

4

python是前端还是后端
python是前端还是后端

Python属于前端也属于后端,其灵活性和丰富的生态系统使得开发人员能够在不同的领域中灵活运用。本专题为大家提供python相关的文章、下载、课程内容,供大家免费下载体验。

2023.08.11

2343

5

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程