Nginx源码级教程:ngx_http_chunked_filter_module分块传输逻辑

夏晨同学_6953

夏晨同学_6953

2026-03-21

164人浏览

原创

ngx_http_chunked_filter_module 是 Nginx 实现 HTTP/1.1 分块传输编码的核心模块,仅在 HTTP 版本 ≥ 1.1、未设 Content-Length、状态码允许 body 且未禁用 chunked 时触发,通过重写 chain_t 链表插入 chunk header(如 "X\r\n")、trailer("\r\n")及终止标记 "0\r\n\r\n",不拷贝数据而注入边界信息,依赖 filter 链顺序与内存管理协同工作。

nginx源码级教程:ngx_http_chunked_filter_module分块传输逻辑

nginx 的 ngx_http_chunked_filter_module 是实现 HTTP/1.1 分块传输编码(Chunked Transfer Encoding)的核心模块,它在响应体不带 Content-Length 且启用 chunked 编码时自动介入,将响应数据按块封装并追加 0\r\n\r\n 结束标记。它的逻辑并不复杂,但嵌入在 filter 链中、与内存管理及上下游协同紧密,理解其源码有助于排查响应截断、头部错乱、大文件流式输出异常等问题。

何时触发 chunked 编码

该模块不是默认始终启用的,它只在满足以下全部条件时才参与处理:

  • 请求使用的 HTTP 版本 ≥ 1.1(r->http_version >= NGX_HTTP_VERSION_11)
  • 响应未显式设置 Content-Length 头(r->headers_out.content_length_n == -1)
  • 响应状态码允许 body(如非 1xx/204/304)且未禁用 chunked(r->chunked 为 1)
  • 上游未自行完成 chunked 封装(例如某些 upstream 模块已写好 chunk header)

注意:r->chunked = 1 通常由 ngx_http_set_chunked 设置,发生在 header 过滤阶段(如 ngx_http_header_filter)检测到无 Content-Length 时。

核心过滤逻辑:ngx\_http\_chunked\_filter

该函数是模块主入口,被注册为 body filter,在每个 output chain buffer 到达时调用。它不直接操作 socket,而是重写 chain_t 链表结构,插入 chunk header 和 trailer:

  • 对首个非空 buffer,前置插入形如 "X\r\n" 的 chunk size 行(十六进制 + CRLF)
  • 对每个 buffer 末尾追加 "\r\n"(chunk data 后的 CRLF)
  • 在整条响应结束时(收到空 buffer 或 last_buf 标志),插入终止块 "0\r\n\r\n"
  • 若遇到 flush 标志或 last_buf,立即尝试发送当前链表,避免缓冲堆积

关键细节:它不拷贝原始数据,而是通过构造新的 ngx_buf_t(指向栈上字符串或常量内存)并调整 chain_t 指针关系来“注入”chunk 边界信息。所有 chunk header 均分配在 request pool 中,生命周期与请求一致。

与内存和 buffer 管理的协作

chunked filter 对 buffer 类型敏感,会跳过某些特殊 buffer:

  • 忽略 buf->in_file == 1 的文件 buffer(不处理 sendfile 场景,chunked 不适用于纯 sendfile)
  • 跳过 buf->sync 或 buf->last_buf 但尚未结束的 buffer(交由后续逻辑判断)
  • 当一个 buffer 同时含 last_buf 和 last_in_chain,即视为响应终结,立即添加 "0\r\n\r\n"

若响应中途出错(如 upstream timeout),模块依赖 ngx_http_finalize_request 清理未发送的 chunk header,避免客户端等待超时。这也意味着:手动调用 ngx_http_send_special(r, NGX_HTTP_LAST) 时,必须确保此前所有 body 已经过 chunked filter,否则结尾 chunk 可能丢失。

调试与常见问题定位

遇到 chunked 相关异常(如浏览器卡在 loading、curl 报 transfer closed with outstanding read),可从以下方向切入:

  • 开启 error_log debug;,搜索 "http chunked" 日志,确认模块是否被调用及插入 header 的位置
  • 用 tcpdump 或 Wireshark 抓包,检查响应流中是否缺失 "0\r\n\r\n" 或 chunk size 格式错误(如十进制、多出空格)
  • 检查是否有其他 filter(如 gzip、slice)顺序错误——chunked filter 必须在压缩 filter 之后(否则压缩后长度未知,无法 chunk),但在 write filter 之前
  • 自定义模块若直接操作 r->out 或绕过 filter 链写 body,极易破坏 chunked 结构,应统一走 ngx_http_output_filter

不复杂但容易忽略:chunked 是协议层封装,它不改变业务数据,只负责让长度未知的流可被 HTTP 客户端正确解析。理解它如何穿插在 filter 链中,比记住每行代码更重要。

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
C语言变量命名
C语言变量命名

c语言变量名规则是:1、变量名以英文字母开头;2、变量名中的字母是区分大小写的;3、变量名不能是关键字;4、变量名中不能包含空格、标点符号和类型说明符。php中文网还提供c语言变量的相关下载、相关课程等内容,供大家免费下载使用。

2023.06.20

3749

3

c语言入门自学零基础
c语言入门自学零基础

C语言是当代人学习及生活中的必备基础知识,应用十分广泛,本专题为大家c语言入门自学零基础的相关文章,以及相关课程,感兴趣的朋友千万不要错过了。

2023.07.25

2468

9

c语言运算符的优先级顺序
c语言运算符的优先级顺序

c语言运算符的优先级顺序是括号运算符 > 一元运算符 > 算术运算符 > 移位运算符 > 关系运算符 > 位运算符 > 逻辑运算符 > 赋值运算符 > 逗号运算符。本专题为大家提供c语言运算符相关的各种文章、以及下载和课程。

2023.08.02

1420

5

c语言数据结构
c语言数据结构

数据结构是指将数据按照一定的方式组织和存储的方法。它是计算机科学中的重要概念,用来描述和解决实际问题中的数据组织和处理问题。数据结构可以分为线性结构和非线性结构。线性结构包括数组、链表、堆栈和队列等,而非线性结构包括树和图等。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.09

1358

4

c语言random函数用法
c语言random函数用法

c语言random函数用法:1、random.random,随机生成(0,1)之间的浮点数;2、random.randint,随机生成在范围之内的整数,两个参数分别表示上限和下限;3、random.randrange,在指定范围内,按指定基数递增的集合中获得一个随机数;4、random.choice,从序列中随机抽选一个数;5、random.shuffle,随机排序。

2023.09.05

1436

5

c语言const用法
c语言const用法

const是关键字,可以用于声明常量、函数参数中的const修饰符、const修饰函数返回值、const修饰指针。详细介绍:1、声明常量,const关键字可用于声明常量,常量的值在程序运行期间不可修改,常量可以是基本数据类型,如整数、浮点数、字符等,也可是自定义的数据类型;2、函数参数中的const修饰符,const关键字可用于函数的参数中,表示该参数在函数内部不可修改等等。

2023.09.20

2398

7

c语言get函数的用法
c语言get函数的用法

get函数是一个用于从输入流中获取字符的函数。可以从键盘、文件或其他输入设备中读取字符,并将其存储在指定的变量中。本文介绍了get函数的用法以及一些相关的注意事项。希望这篇文章能够帮助你更好地理解和使用get函数 。

2023.09.20

4000

8

c数组初始化的方法
c数组初始化的方法

c语言数组初始化的方法有直接赋值法、不完全初始化法、省略数组长度法和二维数组初始化法。详细介绍:1、直接赋值法,这种方法可以直接将数组的值进行初始化;2、不完全初始化法,。这种方法可以在一定程度上节省内存空间;3、省略数组长度法,这种方法可以让编译器自动计算数组的长度;4、二维数组初始化法等等。

2023.09.22

19055

6

c语言中null和NULL的区别
c语言中null和NULL的区别

c语言中null和NULL的区别是:null是C语言中的一个宏定义,通常用来表示一个空指针,可以用于初始化指针变量,或者在条件语句中判断指针是否为空;NULL是C语言中的一个预定义常量,通常用来表示一个空值,用于表示一个空的指针、空的指针数组或者空的结构体指针。

2023.09.22

549

3

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
热门推荐
/
最新课程
phpStudy极速入门视频教程
phpStudy极速入门视频教程

共6课时 | 54.7万人学习

独孤九贱(4)_PHP视频教程
独孤九贱(4)_PHP视频教程

共89课时 | 134.1万人学习