gzip中怎么在多核服务器上利用并行版pigz替代gzip以大幅缩短时间

秋萱君_6000

秋萱君_6000

2026-07-29

224人浏览

原创

直接用 pigz 替代 gzip 即可实现多核并行压缩,兼容标准 .gz 格式,安装简单且无需修改逻辑;常用方式包括管道压缩、tar 集成及替换内置压缩程序,并可通过 -p、-1、-k 等参数优化性能与资源占用。

gzip中怎么在多核服务器上利用并行版pigz替代gzip以大幅缩短时间

直接用 pigz 替代 gzip 就能立刻跑满多核,不需要改逻辑、不破坏兼容性,压缩后仍是标准 .gz 格式,解压照常用 gunzip 或 gzip -d。

安装 pigz(一行搞定)

不同系统只需一条命令:

  • Ubuntu/Debian:sudo apt install pigz
  • CentOS/RHEL:sudo yum install pigz 或 sudo dnf install pigz
  • 也可用 conda:conda install -c conda-forge pigz

替换 gzip 的三种常用方式

核心原则:把原本交给 gzip 处理的数据流,换成由 pigz 接收并并行压缩。

  • mysqldump 直接压缩:
    mysqldump -u root -p mydb | pigz > backup.sql.gz
  • tar 打包+压缩一体化:
    tar -cf - /data | pigz -p 4 > backup.tar.gz
    (-p 4 表示用 4 个线程;省略则自动用全部可用核心)
  • 替代 tar 内置 gzip:
    tar --use-compress-program=pigz -cpvf backup.tar.gz /data
    这样写法最接近传统习惯,且支持解压时也自动用 pigz 加速

控制资源,避免压垮服务器

多核加速虽好,但线程数不是越多越好,尤其内存或 I/O 已紧张时:

WorkRally
WorkRally

WorkRally是一款由腾讯视频推出的AI漫剧智能创作平台。

下载
  • 查当前逻辑 CPU 数:nproc,一般设为该数值的 70%~100%
  • 限制线程数防抖动:pigz -p 2(比如双核或内存小的机器)
  • 降低压缩级别换速度:pigz -1 比默认 -6 快 2–3 倍,体积只略大
  • 保留原文件加 -k 参数:pigz -k file.txt

验证是否真用了多核

执行中看 CPU 占用是否明显提升:

  • 运行时执行:htop 或 top,观察多个 cpu 核心是否同时活跃
  • 确认 pigz 进程在运行:ps aux | grep pigz
  • 对比耗时:同数据下,pigz 通常比 gzip 快 2–8 倍(取决于核心数和数据类型)

不复杂但容易忽略:只要把命令里 gzip 换成 pigz,管道一接,多核就动起来了。

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
服务器是什么
服务器是什么

服务器是一种计算机硬件设备或软件程序,它具有强大的计算和存储能力,用请求、存储数据和提供服务。它在互联网中着关重要的作用,为用户提供各种服务和资源。本专题为大家提供服务器相关的文章、下载、课程内容,供大家免费下载体验。

2023.08.15

457

5

连接apple id服务器时出错
连接apple id服务器时出错

连接apple id服务器时出错的原因包括网络连接问题、服务器问题、Apple ID账户问题、设备问题、防火墙或安全软件问题、时间和日期设置问题、Apple服务器维护等。本专题为大家提供apple id相关的文章、下载、课程内容,供大家免费下载体验。

2023.09.08

1020

5

搭建互联网服务器
搭建互联网服务器

搭建互联网服务器需要:1、选择合适的硬件和操作系统,第一步是选择合适的硬件和操作系统;2、安装和配置操作系统,是搭建互联网服务器的关键步骤;3、安装和配置服务器软件,是搭建互联网服务器的下一步,常见的服务器软件包括Apache、Nginx、Tomcat等;4、配置防火墙和安全性,是搭建互联网服务器的重要步骤;5、域名解析和配置,是搭建互联网服务器的最后一步。

2023.09.19

3732

5

如何查看服务器状态
如何查看服务器状态

查看服务器状态的方法有使用命令行工具、图形界面工具、监控工具、日志文件和远程管理工具等。本专题为大家提供服务器状态相关的文章、下载、课程内容,供大家免费下载体验。

2023.10.09

1216

5

服务器域名转接慢怎么解决
服务器域名转接慢怎么解决

服务器域名转接慢的解决办法有DNS优化、服务器优化、CDN加速、前端优化和网络优化等。本专题为大家提供服务器相关的文章、下载、课程内容,供大家免费下载体验。

2023.10.17

1089

5

服务器评测软件
服务器评测软件

服务器评测软件有PassMark Software、CPU-Z、GPU-Z、CrystalDiskMark、IOmeter、JMeter、LoadRunner、Apache Bench等等。详细介绍:1、PassMark Software是一款综合性的服务器性能测试软件,可以评估服务器在各种负载条件下的性能;2、CPU-Z是一款可以提供服务器CPU详细信息的软件等等。

2023.10.17

574

3

如何开启TFTP服务器
如何开启TFTP服务器

开启TFTP服务器的步骤包括选择TFTP服务器软件、下载和安装软件、配置TFTP服务器以及启动和测试服务器等。本专题为大家提供服务器相关的文章、下载、课程内容,供大家免费下载体验。

2023.10.18

3456

4

服务器负载不兼容怎么解决
服务器负载不兼容怎么解决

解决方法:1、增加服务器资源;2、负载均衡;3、优化应用程序;4、增加缓存机制;5、分布式架构;6、限流和熔断;7、自动化扩容。想知道更详细服务器负载不兼容的解决方法,可以访问本专题下面的文章。

2023.10.20

6592

4

宽带如何接入服务器
宽带如何接入服务器

宽带接入服务器的方法有ADSL宽带接入服务器、光纤接入服务器、无线接入服务器和以太网接入服务器等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2023.10.20

987

5

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Linux开发篇视频教程
Linux开发篇视频教程

共18课时 | 4.6万人学习