Python如何读取并转换数据库导出的SQL文件为JSON?

冬晨酱_5767

冬晨酱_5767

2026-07-17

188人浏览

原创

sql文件不是json格式,需用sqlite3内存数据库或sqlparse解析;sqlite导出文件可用executescript执行后提取数据,mysql/postgresql需先剥离insert语句并处理编码、blob等特殊字段。

python如何读取并转换数据库导出的sql文件为json?

SQL文件不是标准数据格式,不能直接用json.load()解析

很多人拿到一个dump.sql就下意识想用json.loads()或pd.read_json(),结果抛出JSONDecodeError: Expecting value。这是因为SQL导出文件本质是文本语句集合(如INSERT INTO users VALUES (1, 'Alice');),不是JSON结构。必须先提取数据,再构造字典/列表,最后序列化。

用sqlite3内存数据库解析SQLite导出的SQL最稳妥

如果原始SQL来自SQLite(常见于sqlite3 .dump命令),可直接加载到内存DB执行,再用cursor.fetchall()取值。比正则解析更可靠,避免字段含引号、换行、转义等导致的错位。

  • 确保SQL文件以CREATE TABLE开头,且不含PRAGMA或BEGIN TRANSACTION等非DML语句(可先用grep -v "^PRAGMA\|^BEGIN\|^COMMIT" dump.sql > clean.sql过滤)
  • 用sqlite3.connect(":memory:")创建空内存库,调用conn.executescript()一次性执行全部建表+插入语句
  • 对每个表执行SELECT * FROM table_name,用cursor.description获取字段名,组合成dict列表
import sqlite3
import json
<p>conn = sqlite3.connect(":memory:")
with open("dump.sql") as f:
conn.executescript(f.read())</p><p>tables = [row[0] for row in conn.execute("SELECT name FROM sqlite_master WHERE type='table'")]
result = {}
for table in tables:
cur = conn.execute(f"SELECT * FROM {table}")
columns = [desc[0] for desc in cur.description]
result[table] = [dict(zip(columns, row)) for row in cur.fetchall()]</p><p>with open("output.json", "w") as f:
json.dump(result, f, indent=2)
</p>

MySQL/PostgreSQL导出的SQL需先剥离INSERT语句再解析

这类SQL通常包含大量INSERT INTO table (...) VALUES (...);,且括号内可能嵌套逗号、单引号、NULL等。硬写正则极易断裂。推荐用sqlparse库做语法级拆分:

Claw Code Suite (Python-Only Edition)
Claw Code Suite (Python-Only Edition)

仅使用 Python 将 Claw Code 虚拟化框架与 OpenClaw 集成,提供 184 种工具和 200 多条命令,用于安全分析和代码质量...

下载
  • 安装:pip install sqlparse
  • 用sqlparse.parse()得到语句对象,过滤出INSERT类型节点
  • 对每条INSERT,提取表名、字段列表、值列表;注意处理NULL、字符串引号、十六进制字面量(如X'FF')
  • 字段名缺失时(如INSERT INTO t VALUES (1,'a')),需提前用DESCRIBE t或\d t查表结构

若SQL中混有UPDATE或DELETE,它们不产生JSON数据,应跳过。

遇到中文乱码或BLOB字段要单独处理

导出SQL若含INSERT INTO t VALUES (1, X'c3a9');(UTF-8 hex)或INSERT ... VALUES ('中文', 0x8000);,直接当字符串读会出错。关键点:

  • 打开文件时显式指定编码:open("dump.sql", encoding="utf-8")(若报错尝试gbk或latin-1)
  • 识别X'...'或0x...模式,用bytes.fromhex()转为bytes,再按需解码(如.decode('utf-8', errors='ignore'))
  • JSON不支持bytes,必须转为str或base64编码字符串(base64.b64encode(blob).decode())

真正麻烦的是SQL里混用多种编码、字段类型和转义规则——这种情况下,与其硬解析,不如让原数据库直出JSON(如MySQL 5.7+ 的SELECT ... INTO OUTFILE配合JSON_OBJECT)。

Python免费学习笔记(深入):立即使用
在学习笔记中,你将探索 Python 的核心概念和高级技巧!

相关专题

更多
python打包成可执行文件
python打包成可执行文件

本专题为大家带来python打包成可执行文件相关的文章,大家可以免费的下载体验。

2023.07.20

1731

4

python能做什么
python能做什么

python能做的有:可用于开发基于控制台的应用程序、多媒体部分开发、用于开发基于Web的应用程序、使用python处理数据、系统编程等等。本专题为大家提供python相关的各种文章、以及下载和课程。

2023.07.25

4444

7

format在python中的用法
format在python中的用法

Python中的format是一种字符串格式化方法,用于将变量或值插入到字符串中的占位符位置。通过format方法,我们可以动态地构建字符串,使其包含不同值。php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

2023.07.31

1709

3

python教程
python教程

Python已成为一门网红语言,即使是在非编程开发者当中,也掀起了一股学习的热潮。本专题为大家带来python教程的相关文章,大家可以免费体验学习。

2023.08.03

26157

23

python环境变量的配置
python环境变量的配置

Python是一种流行的编程语言,被广泛用于软件开发、数据分析和科学计算等领域。在安装Python之后,我们需要配置环境变量,以便在任何位置都能够访问Python的可执行文件。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.04

3167

5

python eval
python eval

eval函数是Python中一个非常强大的函数,它可以将字符串作为Python代码进行执行,实现动态编程的效果。然而,由于其潜在的安全风险和性能问题,需要谨慎使用。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.04

3187

5

scratch和python区别
scratch和python区别

scratch和python的区别:1、scratch是一种专为初学者设计的图形化编程语言,python是一种文本编程语言;2、scratch使用的是基于积木的编程语法,python采用更加传统的文本编程语法等等。本专题为大家提供scratch和python相关的文章、下载、课程内容,供大家免费下载体验。

2023.08.11

1183

5

python合并两个列表
python合并两个列表

Python是一种强大的编程语言,具有许多方便的功能和工具。在Python中,有多种方法可以合并两个列表。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.10

596

4

python是前端还是后端
python是前端还是后端

Python属于前端也属于后端,其灵活性和丰富的生态系统使得开发人员能够在不同的领域中灵活运用。本专题为大家提供python相关的文章、下载、课程内容,供大家免费下载体验。

2023.08.11

2483

5

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Uvicorn官方安装与入门手册
Uvicorn官方安装与入门手册

共0课时 | 0人学习

Python uv官方项目管理指南
Python uv官方项目管理指南

共0课时 | 0人学习

Python uv官方安装与入门文档
Python uv官方安装与入门文档

共0课时 | 0人学习