Lua 协程调度原理:理解 OpenResty 如何在单线程内支撑万级并发请求

落静同学_9462

落静同学_9462

2026-04-23

188人浏览

原创

openresty万级并发依赖nginx事件循环与lua协程协作调度:每个请求在单worker内以同步风格编写,实则通过ngx.yield挂起、c回调唤醒,全程无系统线程切换,协程生命周期由nginx严格控制。

lua 协程调度原理:理解 openresty 如何在单线程内支撑万级并发请求

OpenResty 的万级并发能力,不靠多线程,也不靠进程池,而是靠 Nginx 事件循环 + Lua 协程的协作式调度。它让每个请求在单个 worker 进程内“看起来像同步写,实际是非阻塞跑”。

协程不是线程,是用户态的执行上下文切换

Lua 协程(coroutine.create、coroutine.resume、coroutine.yield)本身不涉及操作系统调度,只是保存/恢复 Lua 栈和寄存器状态。OpenResty 没有直接用原生 coroutine.yield,而是封装了 ngx.yield(内部调用 lua_yield),并将其与 Nginx 的事件循环深度绑定。

关键点:

  • 每个 HTTP 请求进入时,lua-nginx-module 为其创建一个主协程(main coroutine),对应一个独立的 Lua 栈
  • 这个协程在 worker 进程的单一线程中运行,不抢占 CPU,也不需要锁
  • 一旦调用 ngx.location.capture、resty.http:request 或 ngx.sleep,协程立刻 yield,交出控制权
  • Nginx 事件循环继续处理其他就绪连接,不等待 I/O 完成

挂起后怎么恢复?靠 C 回调触发 resume

协程挂起后不会自己醒来。真正唤醒它的,是 Nginx 底层注册的 C 回调函数——比如子请求返回时触发 ngx_http_lua_handle_subrequest,Redis 响应到达时走 ngx_http_lua_redis_handler。这些回调最终都会调用 ngx_http_lua_run_thread(),再用 lua_resume 恢复对应协程。

这意味着:

Meshy
Meshy

Meshy是一款AI 3D生成工具,AI 快速从文本或图像生成 3D 模型。

下载
  • 协程生命周期完全由 Nginx 控制,开发者只需写同步风格代码
  • 没有手动 resume / yield 配对错误的风险(不像裸 Lua 协程)
  • 如果异步操作失败(如超时、连接拒绝),回调仍会触发,但协程恢复后会收到错误值(如 nil, "timeout")
  • pcall 包裹的协程代码能捕获这类错误,但无法拦截底层 C 层崩溃(如内存越界)

为什么不用原生 coroutine.yield?

因为裸 coroutine.yield 只是暂停,没有告诉 Nginx “我等什么事件”。OpenResty 必须知道协程因何挂起(co_op 字段记录:是等子请求?等 cosocket?还是 sleep?),才能在正确时机、用正确参数恢复它。

典型区别:

  • 你写 ngx.sleep(0.1) → 实际注册一个定时器事件,并设置 ctx->co_op = LUA_CO_SLEEP
  • 你写 ngx.location.capture("/api") → 发起子请求,设 ctx->co_op = LUA_CO_SUBREQ
  • 你误写 coroutine.yield() → Nginx 不认识这个 yield,后续无法恢复,请求卡死或直接 500

所有 OpenResty 提供的异步 API,本质都是“挂起 + 注册事件 + 等待回调”,不是简单让出时间片。

协程调度的隐含成本在哪?

协程切换开销极低,但真实瓶颈常出现在别处:

  • 每个协程独占一份 Lua 栈(默认 128KB),大量并发请求会快速吃光 worker 进程的栈空间
  • 频繁调用 ngx.location.capture 会创建大量子请求上下文,比直连 upstream 更重
  • 滥用 resty.core 的 JIT 优化可能反而导致热代码缓存污染,尤其在动态生成函数时
  • lua_shared_dict 是唯一跨协程共享的数据结构,但读写需注意原子性(incr 安全,set 不保证)

真正容易被忽略的,是协程与 Nginx phase 的耦合关系:比如在 access_by_lua* 中发起耗时 cosocket 调用,会导致整个请求卡在 access 阶段,后续 rewrite / content 都无法并行准备——这不是协程的问题,而是阶段设计失当。

相关专题

更多
服务器是什么
服务器是什么

服务器是一种计算机硬件设备或软件程序,它具有强大的计算和存储能力,用请求、存储数据和提供服务。它在互联网中着关重要的作用,为用户提供各种服务和资源。本专题为大家提供服务器相关的文章、下载、课程内容,供大家免费下载体验。

2023.08.15

437

5

连接apple id服务器时出错
连接apple id服务器时出错

连接apple id服务器时出错的原因包括网络连接问题、服务器问题、Apple ID账户问题、设备问题、防火墙或安全软件问题、时间和日期设置问题、Apple服务器维护等。本专题为大家提供apple id相关的文章、下载、课程内容,供大家免费下载体验。

2023.09.08

900

5

搭建互联网服务器
搭建互联网服务器

搭建互联网服务器需要:1、选择合适的硬件和操作系统,第一步是选择合适的硬件和操作系统;2、安装和配置操作系统,是搭建互联网服务器的关键步骤;3、安装和配置服务器软件,是搭建互联网服务器的下一步,常见的服务器软件包括Apache、Nginx、Tomcat等;4、配置防火墙和安全性,是搭建互联网服务器的重要步骤;5、域名解析和配置,是搭建互联网服务器的最后一步。

2023.09.19

2812

5

如何查看服务器状态
如何查看服务器状态

查看服务器状态的方法有使用命令行工具、图形界面工具、监控工具、日志文件和远程管理工具等。本专题为大家提供服务器状态相关的文章、下载、课程内容,供大家免费下载体验。

2023.10.09

936

5

服务器域名转接慢怎么解决
服务器域名转接慢怎么解决

服务器域名转接慢的解决办法有DNS优化、服务器优化、CDN加速、前端优化和网络优化等。本专题为大家提供服务器相关的文章、下载、课程内容,供大家免费下载体验。

2023.10.17

849

5

服务器评测软件
服务器评测软件

服务器评测软件有PassMark Software、CPU-Z、GPU-Z、CrystalDiskMark、IOmeter、JMeter、LoadRunner、Apache Bench等等。详细介绍:1、PassMark Software是一款综合性的服务器性能测试软件,可以评估服务器在各种负载条件下的性能;2、CPU-Z是一款可以提供服务器CPU详细信息的软件等等。

2023.10.17

434

3

如何开启TFTP服务器
如何开启TFTP服务器

开启TFTP服务器的步骤包括选择TFTP服务器软件、下载和安装软件、配置TFTP服务器以及启动和测试服务器等。本专题为大家提供服务器相关的文章、下载、课程内容,供大家免费下载体验。

2023.10.18

2536

4

服务器负载不兼容怎么解决
服务器负载不兼容怎么解决

解决方法:1、增加服务器资源;2、负载均衡;3、优化应用程序;4、增加缓存机制;5、分布式架构;6、限流和熔断;7、自动化扩容。想知道更详细服务器负载不兼容的解决方法,可以访问本专题下面的文章。

2023.10.20

4712

4

宽带如何接入服务器
宽带如何接入服务器

宽带接入服务器的方法有ADSL宽带接入服务器、光纤接入服务器、无线接入服务器和以太网接入服务器等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2023.10.20

747

5

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
燕十八nginx精品视频教程
燕十八nginx精品视频教程

共23课时 | 8万人学习