如何在PostgreSQL中使用COPY命令替代INSERT以提升数据导入速度?

冬晨酱_5561

冬晨酱_5561

2026-07-02

441人浏览

原创

copy from 是绕过 sql 引擎的底层写入通道,调优 wal 和事务配置(如 synchronous_commit=off、checkpoint_timeout=3600)可提速至 8.4 秒;配合流式 copy_from()、binary 格式及导入后 analyze/vacuum/索引重建,方达理论性能。

如何在postgresql中使用copy命令替代insert以提升数据导入速度?

COPY FROM 不是“更快的 INSERT”,它是完全绕过 SQL 引擎的底层写入通道——用对了能快 20–50 倍,用错了可能比 INSERT 还慢。

为什么 COPY FROM 比 INSERT 快,但你没跑出理论速度?

根本卡点不在语法,而在 WAL 和事务配置:synchronous_commit = on 会让每次写入都等磁盘刷盘;checkpoint_timeout = 30s 会强制每半分钟做一次全量检查点,直接打断 COPY 流程。实测 100 万行 CSV,未调优时耗时 40 秒,调优后压到 8.4 秒。

  • synchronous_commit = off —— 仅限可接受崩溃丢失最后几秒数据的场景
  • checkpoint_timeout = 3600(1 小时),max_wal_size 设为单次导入体积的 1.5 倍以上
  • wal_level 必须为 replica,不是 logical(避免逻辑复制额外开销)
  • 临时禁用目标表的索引和外键约束,导入完成再重建;否则每行都触发索引更新

COPY FROM STDIN 在应用代码里怎么喂数据才不卡?

很多人用 copy_expert() 拼字符串,结果被 Python GIL 和内存拷贝拖垮。真正高效的是 copy_from() 配合流式迭代器,直接喂二进制或 CSV 行,不构造完整字符串。

  • 用 csv.writer 写入 BytesIO,而非 StringIO + encode(),减少编码转换
  • 每批次控制在 10000–50000 行;小于 1000 行网络往返放大延迟,大于 100000 行易触发客户端内存暴涨
  • 显式关闭 autocommit:conn.autocommit = False;COPY 本身是原子操作,外层事务反而增加开销
  • 别在循环里反复调用 copy_from();应一次性传入文件对象或生成器,让驱动内部流式处理

FORMAT binary 比 csv 快 2–3 倍,但要注意什么?

二进制格式跳过字段解析和类型推断,尤其含 timestamp、json、数组字段时更稳。但它要求客户端支持序列化,psycopg2 中需用 Binary() 包装字节流。

  • CSV 要手动处理 NULL 'NULL'、DATEFORMAT、ENCODING 'UTF8' 等隐形坑
  • binary 格式不兼容 header 行,也不支持 FREEZE 或 LOG ERRORS 选项
  • 加 FREEZE 可跳过后续 VACUUM(仅对本次插入生效),但只适用于无并发写入的场景
  • 去掉 LOG ERRORS:错误日志本身会成为 I/O 瓶颈;先用小批量验证格式,再全量跑

导入后三件事,漏一件前面全白干

COPY 不触发 ANALYZE,也不更新 pg_class.reltuples,统计信息滞后会让后续查询走错执行计划。必须手动补上:

  • ANALYZE table_name;
  • VACUUM table_name;(尤其没加 FREEZE 时)
  • 重建索引:CREATE INDEX CONCURRENTLY ...(避免锁表)

最常被忽略的是统计信息更新——它不会自动发生,且无法通过重连或重启修复,只能显式执行。

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
postgresql常用命令
postgresql常用命令

postgresql常用命令psql、createdb、dropdb、createuser、dropuser、\l、\c、\dt、\d table_name、\du、\i file_name、\e和\q等。本专题为大家提供postgresql相关的文章、下载、课程内容,供大家免费下载体验。

2023.10.10

213

5

常用的数据库软件
常用的数据库软件

常用的数据库软件有MySQL、Oracle、SQL Server、PostgreSQL、MongoDB、Redis、Cassandra、Hadoop、Spark和Amazon DynamoDB。更多关于数据库软件的内容详情请看本专题下面的文章。php中文网欢迎大家前来学习。

2023.11.02

4289

19

postgresql常用命令有哪些
postgresql常用命令有哪些

postgresql常用命令psql、createdb、dropdb、createuser、dropuser、\l、\c、\dt、\d table_name、\du、\i file_name、\e和\q等。更详细的postgresql常用命令,大家可以访问下面的文章。

2023.11.16

627

3

postgresql常用命令介绍
postgresql常用命令介绍

postgresql常用命令有\l、\d、\d5、\di、\ds、\dv、\df、\dn、\db、\dg、\dp、\c、\pset、show search_path、ALTER TABLE、INSERT INTO、UPDATE、DELETE FROM、SELECT等。想了解更多postgresql的相关内容,可以阅读本专题下面的文章。

2023.11.20

1376

6

PostgreSQL性能优化与索引调优实战
PostgreSQL性能优化与索引调优实战

本专题面向后端开发与数据库工程师,深入讲解 PostgreSQL 查询优化原理与索引机制。内容包括执行计划分析、常见索引类型对比、慢查询优化策略、事务隔离级别以及高并发场景下的性能调优技巧。通过实战案例解析,帮助开发者提升数据库响应速度与系统稳定性。

2026.02.12

460

19

PostgreSQL 性能优化与查询执行计划实战
PostgreSQL 性能优化与查询执行计划实战

本专题深入解析PostgreSQL性能优化核心,聚焦查询执行计划的实战应用。通过EXPLAIN命令精准定位瓶颈,结合索引策略、SQL改写与参数调优,系统提升查询效率。从执行计划解读到性能调优全流程,助你掌握数据库性能诊断与优化实战能力。

2026.05.08

150

10

PostgreSQL 在 Next.js / Go 全栈架构中的工程化实践
PostgreSQL 在 Next.js / Go 全栈架构中的工程化实践

本文详解如何利用Next.js(搭配Drizzle ORM)与Go后端构建高性能应用,充分发挥PG在JSONB非结构化存储与pgvector向量检索上的优势。从数据建模到Docker容器化部署,打造支持AI时代的“One Database”工程化解决方案。

2026.05.08

881

10

PostgreSQL高级特性、内核机制与现代数据架构
PostgreSQL高级特性、内核机制与现代数据架构

本专题从MVCC并发控制与WAL日志等内核机制出发,详解JSONB、PostGIS及pgvector等高级特性。探讨如何利用单一引擎支撑关系型、向量及图数据等现代数据架构需求,助您掌握构建高并发、智能化应用的核心技术。

2026.05.08

224

10

数据库三范式
数据库三范式

数据库三范式是一种设计规范,用于规范化关系型数据库中的数据结构,它通过消除冗余数据、提高数据库性能和数据一致性,提供了一种有效的数据库设计方法。本专题提供数据库三范式相关的文章、下载和课程。

2023.06.29

2445

3

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
热门推荐
/
最新课程
phpStudy极速入门视频教程
phpStudy极速入门视频教程

共6课时 | 54.6万人学习

独孤九贱(4)_PHP视频教程
独孤九贱(4)_PHP视频教程

共89课时 | 133.4万人学习