c++如何解析JSONL(JSON Lines)格式的大型数据集【实战】

千晨吖_2082

千晨吖_2082

2026-04-14

472人浏览

原创

JSONL 不能用 json::parse() 一次性解析,因其每行是独立 JSON 值而非单个 JSON;必须逐行读取、去空行、跳 BOM 后解析,避免报错和内存溢出。

c++如何解析jsonl(json lines)格式的大型数据集【实战】

JSONL 解析为什么不能直接用 json::parse() 一次性读整个文件

因为 JSONL 不是单个 JSON 对象,而是每行一个独立的 JSON 值({}、[]、"string"、123 等),json::parse()(如 nlohmann/json)遇到换行或连续对象会直接报 parse_error —— 典型错误是 parse error at line 2, column 1: syntax error while parsing value - invalid literal。你不是 JSON 写错了,是误把多行当整体了。

关键判断:只要文件后缀是 .jsonl 或 .ndjson,且每行开头是 {、[、"、数字或 true/false/null,就必须逐行解析。

用 std::getline() + json::parse() 流式读取最稳

这是处理 GB 级 JSONL 的通用做法:不加载全文,不构造大字符串,避免内存爆炸。核心逻辑就是“读一行 → 解析一行 → 处理一行 → 清理”。

实操要点:

Expanso yaml-to-json
Expanso yaml-to-json

使用 Expanso Edge 管道将 YAML 输入转换为 JSON 格式。

下载
  • std::ifstream 要用 std::ios::binary 模式打开(尤其 Windows 下防 截断)
  • 每行用 std::getline() 读入 std::string,**必须检查是否为空行**(JSONL 规范允许空行,但 json::parse("") 会崩溃)
  • 解析前建议用 line.find_first_not_of(" ") != std::string::npos 跳过空白行
  • nlohmann/json 默认对 UTF-8 友好,但若源数据含 BOM(如 ),需手动跳过前 3 字节,否则解析失败

示例片段:

std::string
  • 用 std::string_view 替代 std::string 接收 getline() 结果(C++17 起支持,需确保生命周期安全;更稳妥的是预分配大 buffer + file.read() 手动切行)
  • nlohmann/json 提供 json::parse(iterator, iterator) 重载,可传 string_view::begin()/end(),避免拷贝
  • 若只取几个字段(如 "id"、"timestamp"),用 json::find() + at(),别用 operator[](后者会隐式创建键)
  • 批量处理时,考虑用 std::vector<:json> 缓存 100–1000 行再统一处理,减少 I/O 等待毛刺

遇到嵌套引号、转义反斜杠或非 UTF-8 编码怎么办

JSONL 本身不限制内容编码,但 nlohmann/json 强依赖 UTF-8。常见问题:

  • 日志类 JSONL 常含 Windows-1252 编码的引号(如 “smart quotes”),导致 parse_error —— 必须提前转码(用 iconv 或 utf8cpp 库)
  • 原始字符串里有未转义的 (如 Windows 路径 "C: emp ile.json"),JSON 标准要求双写:"C:\temp\file.json";若源数据没转义,解析必败,得用正则预清洗(慎用,可能误杀合法 JSON 转义)
  • 某行末尾缺引号或括号(半截 JSON),json::parse() 报错位置不可靠 —— 建议加行号计数,出错时打印上下文 3 行辅助定位

真正难的不是语法解析,是数据脏。生产环境 JSONL 几乎总混着编码混乱、字段缺失、类型漂移(同一字段有时是 string 有时是 null),得在 process(j) 里做防御性访问,比如 j.value("score", 0.0) 而非 j["score"].get()。

C++免费学习笔记(深入):立即使用
在学习笔记中,你将探索 C++ 的入门与实战技巧!

相关文章

c++速学教程(入门到精通)
c++速学教程(入门到精通)

c++怎么学习?c++怎么入门?c++在哪学?c++怎么学才快?不用担心,这里为大家提供了c++速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

js json c++

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
json数据格式
json数据格式

JSON是一种轻量级的数据交换格式。本专题为大家带来json数据格式相关文章,帮助大家解决问题。

2023.08.07

2295

5

json是什么
json是什么

JSON是一种轻量级的数据交换格式,具有简洁、易读、跨平台和语言的特点,JSON数据是通过键值对的方式进行组织,其中键是字符串,值可以是字符串、数值、布尔值、数组、对象或者null,在Web开发、数据交换和配置文件等方面得到广泛应用。本专题为大家提供json相关的文章、下载、课程内容,供大家免费下载体验。

2023.08.23

3722

1

jquery怎么操作json
jquery怎么操作json

操作的方法有:1、“$.parseJSON(jsonString)”2、“$.getJSON(url, data, success)”;3、“$.each(obj, callback)”;4、“$.ajax()”。更多jquery怎么操作json的详细内容,可以访问本专题下面的文章。

2023.10.13

1236

3

go语言处理json数据方法
go语言处理json数据方法

本专题整合了go语言中处理json数据方法,阅读专题下面的文章了解更多详细内容。

2025.09.10

4319

7

string转int
string转int

在编程中,我们经常会遇到需要将字符串(str)转换为整数(int)的情况。这可能是因为我们需要对字符串进行数值计算,或者需要将用户输入的字符串转换为整数进行处理。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.02

7279

3

c语言中null和NULL的区别
c语言中null和NULL的区别

c语言中null和NULL的区别是:null是C语言中的一个宏定义,通常用来表示一个空指针,可以用于初始化指针变量,或者在条件语句中判断指针是否为空;NULL是C语言中的一个预定义常量,通常用来表示一个空值,用于表示一个空的指针、空的指针数组或者空的结构体指针。

2023.09.22

549

3

java中null的用法
java中null的用法

在Java中,null表示一个引用类型的变量不指向任何对象。可以将null赋值给任何引用类型的变量,包括类、接口、数组、字符串等。想了解更多null的相关内容,可以阅读本专题下面的文章。

2024.03.01

1698

6

while的用法
while的用法

while的用法是“while 条件: 代码块”,条件是一个表达式,当条件为真时,执行代码块,然后再次判断条件是否为真,如果为真则继续执行代码块,直到条件为假为止。本专题为大家提供while相关的文章、下载、课程内容,供大家免费下载体验。

2023.09.25

354

5

scripterror怎么解决
scripterror怎么解决

scripterror的解决办法有检查语法、文件路径、检查网络连接、浏览器兼容性、使用try-catch语句、使用开发者工具进行调试、更新浏览器和JavaScript库或寻求专业帮助等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2023.10.18

1049

5

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
WEB前端教程【HTML5+CSS3+JS】
WEB前端教程【HTML5+CSS3+JS】

共101课时 | 21.3万人学习

JS进阶与BootStrap学习
JS进阶与BootStrap学习

共39课时 | 4.9万人学习