Linux 怎么解决高并发请求下的服务响应延迟高

冷漠man

冷漠man

2026-08-05

603人浏览

原创

高并发下服务响应延迟高的本质是系统资源或网络栈在请求洪峰中出现瓶颈,需分层定位:用curl -w、tcpdump、ss、vmstat等工具区分应用层卡顿、内核协议栈拥塞或底层资源争抢,并针对性调优tcp参数、连接队列、缓冲区及拥塞算法。

linux 怎么解决高并发请求下的服务响应延迟高

高并发下服务响应延迟高,本质是系统资源或网络栈在请求洪峰中出现瓶颈。解决思路不是堆参数,而是分层定位、精准干预:先确认是应用层卡顿、内核协议栈拥塞,还是底层资源争抢。

查清延迟发生在哪一层

用工具快速分段测量耗时,避免盲调:

  • curl -w 看 HTTP 各阶段时间:DNS 解析、TCP 连接、TLS 握手、首字节响应(%{time_starttransfer}),区分是网络建立慢还是后端处理慢
  • tcpdumpWireshark 抓包,看 SYN/ACK 是否延迟、是否有重传、TIME-WAIT 是否堆积
  • ss -snetstat -s | grep -i "retransmit\|drop" 查 TCP 重传、丢包、连接异常统计
  • vmstat 1pidstat -u 1 观察 CPU 使用率与上下文切换次数——若上下文切换远高于 CPU 核心数,说明连接调度过载

收紧连接生命周期,释放端口和内存

短连接服务(如 API 网关)最常见问题是 TIME-WAIT 占满端口、本地端口枯竭:

宝塔Linux面板11.8.1
宝塔Linux面板11.8.1

宝塔Linux面板11.8.1为官网当前正式版,新增AI建站能力并经过宝塔网站工程师深度调教,开放自定义AI功能API,同时对WAF进行界面重构和深度优化,提升拦截能力与运维效率。

下载
  • 扩大可用端口范围:net.ipv4.ip_local_port_range = 1024 65535
  • 允许复用处于 TIME-WAIT 的端口:net.ipv4.tcp_tw_reuse = 1(NAT 环境下安全,tcp_tw_recycle 已废弃,禁用)
  • 缩短 FIN 超时:net.ipv4.tcp_fin_timeout = 30,加快连接回收
  • 限制最大孤儿 socket 数:net.ipv4.tcp_max_orphans = 8192,防内存被异常断连耗尽

加固内核接收与调度能力

当瞬时连接激增,内核队列溢出会导致连接被静默丢弃:

  • 增大全连接队列:net.core.somaxconn = 65535(需同步调大应用 listen() 的 backlog 参数)
  • 加大网卡收包队列:net.core.netdev_max_backlog = 5000,应对千兆以上网卡的突发流量
  • 提升半连接队列:net.ipv4.tcp_max_syn_backlog = 65535,抵御 SYN 洪水并加速握手
  • 增加系统文件句柄上限:fs.file-max = 1048576,并在 /etc/security/limits.conf 中设 * soft nofilehard nofile 至同等值

优化 TCP 缓冲与拥塞控制

缓冲区太小会频繁触发 ACK 和窗口收缩;默认拥塞算法(Cubic)在高带宽低延迟链路上不够高效:

  • 调大 TCP 缓冲区上限:net.core.rmem_max = 25165824net.core.wmem_max = 25165824
  • 设置自适应缓冲范围:net.ipv4.tcp_rmem = "4096 131072 25165824"net.ipv4.tcp_wmem = "4096 131072 25165824"
  • 启用 BBR 拥塞控制:net.ipv4.tcp_congestion_control = bbr(Linux 4.9+ 原生支持,比 Cubic 更适合高吞吐低延迟场景)
  • 开启 TCP 快速打开(TFO):net.ipv4.tcp_fastopen = 3,减少首次请求的 RTT

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

linux 并发请求

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
服务器是什么
服务器是什么

服务器是一种计算机硬件设备或软件程序,它具有强大的计算和存储能力,用请求、存储数据和提供服务。它在互联网中着关重要的作用,为用户提供各种服务和资源。本专题为大家提供服务器相关的文章、下载、课程内容,供大家免费下载体验。

2023.08.15

355

5

连接apple id服务器时出错
连接apple id服务器时出错

连接apple id服务器时出错的原因包括网络连接问题、服务器问题、Apple ID账户问题、设备问题、防火墙或安全软件问题、时间和日期设置问题、Apple服务器维护等。本专题为大家提供apple id相关的文章、下载、课程内容,供大家免费下载体验。

2023.09.08

618

5

搭建互联网服务器
搭建互联网服务器

搭建互联网服务器需要:1、选择合适的硬件和操作系统,第一步是选择合适的硬件和操作系统;2、安装和配置操作系统,是搭建互联网服务器的关键步骤;3、安装和配置服务器软件,是搭建互联网服务器的下一步,常见的服务器软件包括Apache、Nginx、Tomcat等;4、配置防火墙和安全性,是搭建互联网服务器的重要步骤;5、域名解析和配置,是搭建互联网服务器的最后一步。

2023.09.19

1216

5

如何查看服务器状态
如何查看服务器状态

查看服务器状态的方法有使用命令行工具、图形界面工具、监控工具、日志文件和远程管理工具等。本专题为大家提供服务器状态相关的文章、下载、课程内容,供大家免费下载体验。

2023.10.09

429

5

服务器域名转接慢怎么解决
服务器域名转接慢怎么解决

服务器域名转接慢的解决办法有DNS优化、服务器优化、CDN加速、前端优化和网络优化等。本专题为大家提供服务器相关的文章、下载、课程内容,供大家免费下载体验。

2023.10.17

324

5

服务器评测软件
服务器评测软件

服务器评测软件有PassMark Software、CPU-Z、GPU-Z、CrystalDiskMark、IOmeter、JMeter、LoadRunner、Apache Bench等等。详细介绍:1、PassMark Software是一款综合性的服务器性能测试软件,可以评估服务器在各种负载条件下的性能;2、CPU-Z是一款可以提供服务器CPU详细信息的软件等等。

2023.10.17

190

3

如何开启TFTP服务器
如何开启TFTP服务器

开启TFTP服务器的步骤包括选择TFTP服务器软件、下载和安装软件、配置TFTP服务器以及启动和测试服务器等。本专题为大家提供服务器相关的文章、下载、课程内容,供大家免费下载体验。

2023.10.18

1056

4

服务器负载不兼容怎么解决
服务器负载不兼容怎么解决

解决方法:1、增加服务器资源;2、负载均衡;3、优化应用程序;4、增加缓存机制;5、分布式架构;6、限流和熔断;7、自动化扩容。想知道更详细服务器负载不兼容的解决方法,可以访问本专题下面的文章。

2023.10.20

1871

4

宽带如何接入服务器
宽带如何接入服务器

宽带接入服务器的方法有ADSL宽带接入服务器、光纤接入服务器、无线接入服务器和以太网接入服务器等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2023.10.20

323

5

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
phpMyAdmin 安装文档
phpMyAdmin 安装文档

共0课时 | 0人学习

Apifox下载与安装手册
Apifox下载与安装手册

共0课时 | 0人学习

安装 Xdebug 并配置 phpstorm
安装 Xdebug 并配置 phpstorm

共1课时 | 127人学习