Python leveldb 的嵌入式 KV 存储

冬静吖_4650

冬静吖_4650

2026-02-24

391人浏览

原创

推荐使用 plyvel 而非 leveldb,需先安装原生 LevelDB 库;路径须绝对且父目录存在;put/get 仅支持 bytes,字符串需显式 encode/decode;迭代器须用 with 管理,避免并发写与隐式编码陷阱。

python leveldb 的嵌入式 kv 存储

leveldb 在 Python 里不能直接 pip install

Python 官方生态没有 leveldb 这个包,你 pip install leveldb 会失败,报 ModuleNotFoundError 或编译错误。真正能用的是第三方绑定,主流只有两个:plyvel(推荐)和 python-leveldb(已基本停更)。前者基于 C++ LevelDB 原生库,稳定、更新勤、文档清晰;后者依赖旧版 API,PyPI 上最后更新是 2019 年。

实操建议:

  • 用 pip install plyvel,不是 leveldb
  • 确保系统已安装原生 LevelDB 库:brew install leveldb(macOS)、apt-get install libleveldb-dev(Ubuntu/Debian)
  • Windows 用户优先考虑 WSL,原生 Windows 编译 plyvel 极易失败,CI/CD 流水线里要加平台判断

open() 时路径必须是绝对路径或相对当前工作目录

Plyvel 的 DB 构造函数对路径处理很“直给”,不自动展开 ~、不解析 ../、也不检查父目录是否存在。常见错误是传入 ~/data/mydb 或 ./db,结果报 IOError: Invalid argument 或静默创建在意外位置。

实操建议:

  • 一律用 os.path.abspath() 或 pathlib.Path().resolve() 处理路径
  • 创建前手动确保父目录存在:os.makedirs(os.path.dirname(db_path), exist_ok=True)
  • 避免在多进程环境下共用同一 DB 路径——LevelDB 不支持并发写,会触发 IOError: lock hold by current process

put() / get() 默认只接受 bytes,字符串要 encode

LevelDB 底层只存字节序列,plyvel 不做隐式编码。传入 str 会直接抛 TypeError: expected bytes, got str;读出来也是 bytes,不 decode 就打印乱码或报错。

macOS UI 自动化技能包 —— 用 Python 控制你的 Mac
macOS UI 自动化技能包 —— 用 Python 控制你的 Mac

让 macOS 自动化像说话一样简单 —— 用代码控制你的 Mac,无需学习 AppleScript 系统要求 macOS 14+ (Sonoma) Python 3.9+ 需要开启:辅助功能 + 屏幕录制权限

下载

实操建议:

  • 写入前统一 .encode('utf-8'),读取后立刻 .decode('utf-8')
  • 别依赖默认编码:不同环境 sys.getdefaultencoding() 可能不同,显式指定更安全
  • 如果存结构化数据(如 dict),先 json.dumps(...).encode('utf-8'),读出再 json.loads(...)
  • 注意空值:None 不能直接 put,需转成 b'' 或约定特殊字符串如 b''

迭代器遍历 key-value 时容易漏掉边界或阻塞

DB.iterator() 返回的迭代器是懒执行、底层持锁的。常见坑是:没用 with 语句包裹、在循环中修改 DB、或迭代未完成就 close DB,导致 RuntimeError: Iterator is invalid 或进程卡死。

实操建议:

  • 务必用 with db.iterator() as it: 确保资源释放
  • 不要在迭代过程中调用 db.put() 或 db.delete() —— 会破坏迭代状态
  • 需要范围扫描?用 it = db.iterator(start=b'prefix:', stop=b'prefix;'),注意 stop 是排他边界(; ASCII 码比 : 大 1)
  • 大数据量遍历时,避免一次性 list(it),改用流式处理,否则内存暴涨

LevelDB 的「嵌入式」优势在于零网络、低延迟,但代价是它不提供事务回滚、无 SQL、也没有内置过期机制——所有上层逻辑都得自己兜底,比如 key 设计要带时间戳、删除逻辑要配合定时任务。这点很容易在初期被忽略。

Python免费学习笔记(深入):立即使用
在学习笔记中,你将探索 Python 的核心概念和高级技巧!

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

python

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
数据分析工具有哪些
数据分析工具有哪些

数据分析工具有Excel、SQL、Python、R、Tableau、Power BI、SAS、SPSS和MATLAB等。详细介绍:1、Excel,具有强大的计算和数据处理功能;2、SQL,可以进行数据查询、过滤、排序、聚合等操作;3、Python,拥有丰富的数据分析库;4、R,拥有丰富的统计分析库和图形库;5、Tableau,提供了直观易用的用户界面等等。

2023.10.12

4683

8

SQL中distinct的用法
SQL中distinct的用法

SQL中distinct的语法是“SELECT DISTINCT column1, column2,...,FROM table_name;”。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2023.10.27

971

4

SQL中months_between使用方法
SQL中months_between使用方法

在SQL中,MONTHS_BETWEEN 是一个常见的函数,用于计算两个日期之间的月份差。想了解更多SQL的相关内容,可以阅读本专题下面的文章。

2024.02.23

1229

5

SQL出现5120错误解决方法
SQL出现5120错误解决方法

SQL Server错误5120是由于没有足够的权限来访问或操作指定的数据库或文件引起的。想了解更多sql错误的相关内容,可以阅读本专题下面的文章。

2024.03.06

6661

10

sql procedure语法错误解决方法
sql procedure语法错误解决方法

sql procedure语法错误解决办法:1、仔细检查错误消息;2、检查语法规则;3、检查括号和引号;4、检查变量和参数;5、检查关键字和函数;6、逐步调试;7、参考文档和示例。想了解更多语法错误的相关内容,可以阅读本专题下面的文章。

2024.03.06

3403

4

oracle数据库运行sql方法
oracle数据库运行sql方法

运行sql步骤包括:打开sql plus工具并连接到数据库。在提示符下输入sql语句。按enter键运行该语句。查看结果,错误消息或退出sql plus。想了解更多oracle数据库的相关内容,可以阅读本专题下面的文章。

2024.04.07

6640

11

sql中where的含义
sql中where的含义

sql中where子句用于从表中过滤数据,它基于指定条件选择特定的行。想了解更多where的相关内容,可以阅读本专题下面的文章。

2024.04.29

9161

6

sql中删除表的语句是什么
sql中删除表的语句是什么

sql中用于删除表的语句是drop table。语法为drop table table_name;该语句将永久删除指定表的表和数据。想了解更多sql的相关内容,可以阅读本专题下面的文章。

2024.04.29

1250

5

sql中删除一列的命令是什么
sql中删除一列的命令是什么

在sql中,使用alter table语句可以删除一列,语法为:alter table table_name drop column column_name。想了解更多sql的相关内容,可以阅读本专题下面的文章。

2024.04.29

1092

5

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Uvicorn官方安装与入门手册
Uvicorn官方安装与入门手册

共0课时 | 0人学习

Python uv官方项目管理指南
Python uv官方项目管理指南

共0课时 | 0人学习

Python uv官方安装与入门文档
Python uv官方安装与入门文档

共0课时 | 0人学习