ShareGPT数据集的统计分析脚本:计算平均轮次和长度等指标的代码教程

落涛酱_4650

落涛酱_4650

2026-05-25

168人浏览

原创

需解析sharegpt的jsonl文件以统计平均轮次、每轮平均字符数等指标,可用python标准库(轻量)、pandas(高效批量)或jq命令行(快速验证)三种方式实现。

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

sharegpt数据集的统计分析脚本:计算平均轮次和长度等指标的代码教程

如果您需要对ShareGPT数据集进行基础统计分析,例如获取对话平均轮次、每轮平均字符数、总样本量等量化指标,则需解析其JSONL格式文件并逐条提取结构化字段。以下是完成该任务的多种实现方式:

一、使用Python标准库(json + pathlib)逐行解析

该方法不依赖外部包,适用于轻量级环境或受限系统,直接读取JSONL每一行并累加统计量。

1、导入json和pathlib模块,指定ShareGPT数据集路径。

2、初始化计数器:total_turns = 0、total_samples = 0、char_sum = 0、max_turns = 0。

3、以文本模式打开文件,对每一行调用json.loads()解析为字典。

4、检查字典中是否存在conversations键且值为列表,跳过缺失项。

5、遍历conversations列表,对每个字典检查是否含fromvalue字段,累加len(conversations)到total_turns,累加len(item["value"])到char_sum。

6、更新total_samples += 1,max_turns = max(max_turns, len(conversations))。

7、循环结束后计算平均轮次 = total_turns / total_samples,平均长度 = char_sum / total_turns。

二、使用pandas高效批量处理

该方法利用pandas的内存优化与向量化操作,在中大型数据集(如>10万样本)上显著提升解析速度与可读性。

1、安装pandas:pip install pandas。

JoyAI
JoyAI

JoyAI是一款面向创意内容生产的一站式AIGC工具。

下载

2、使用pd.read_json(path, lines=True)一次性加载全部JSONL行至DataFrame。

3、对conversations列应用lambda函数:len(x)获取每样本轮次,存入新列turns。

4、对conversations列展开为行级记录,再对每个字典提取value字段长度,存入length列。

5、调用df["turns"].mean()和df.explode("conversations")["length"].mean()分别获取平均轮次与平均单轮长度。

6、输出时确保total_samples = len(df)avg_turns = df["turns"].mean().round(2)

三、使用jq命令行工具快速验证(Linux/macOS)

该方法无需启动Python解释器,适合在服务器端快速抽样校验数据结构完整性与分布粗略特征。

1、确认系统已安装jq:brew install jq(macOS)或 apt-get install jq(Ubuntu)。

2、执行命令统计总行数:wc -l sharegpt.jsonl

3、抽取首100行并统计每行conversations数组长度:head -100 sharegpt.jsonl | jq '.conversations | length'

4、将上述长度结果汇总求平均:head -100 sharegpt.jsonl | jq '[.conversations | length] | add / (length | tonumber)'

5、提取所有value字段字符长度并求均值:head -100 sharegpt.jsonl | jq -r '.conversations[].value | length' | awk '{sum += $1; count++} END {print sum/count}'

相关专题

更多
数据分析的方法
数据分析的方法

数据分析的方法有:对比分析法,分组分析法,预测分析法,漏斗分析法,AB测试分析法,象限分析法,公式拆解法,可行域分析法,二八分析法,假设性分析法。php中文网为大家带来了数据分析的相关知识、以及相关文章等内容。

2023.07.04

1562

6

数据分析方法有哪几种
数据分析方法有哪几种

数据分析方法有:1、描述性统计分析;2、探索性数据分析;3、假设检验;4、回归分析;5、聚类分析。本专题为大家提供数据分析方法的相关的文章、下载、课程内容,供大家免费下载体验。

2023.08.07

2050

5

网站建设功能有哪些
网站建设功能有哪些

网站建设功能包括信息发布、内容管理、用户管理、搜索引擎优化、网站安全、数据分析、网站推广、响应式设计、社交媒体整合和电子商务等功能。这些功能可以帮助网站管理员创建一个具有吸引力、可用性和商业价值的网站,实现网站的目标。

2023.10.16

5830

14

数据分析网站推荐
数据分析网站推荐

数据分析网站推荐:1、商业数据分析论坛;2、人大经济论坛-计量经济学与统计区;3、中国统计论坛;4、数据挖掘学习交流论坛;5、数据分析论坛;6、网站数据分析;7、数据分析;8、数据挖掘研究院;9、S-PLUS、R统计论坛。想了解更多数据分析的相关内容,可以阅读本专题下面的文章。

2024.03.13

2784

8

Python 数据分析处理
Python 数据分析处理

本专题聚焦 Python 在数据分析领域的应用,系统讲解 Pandas、NumPy 的数据清洗、处理、分析与统计方法,并结合数据可视化、销售分析、科研数据处理等实战案例,帮助学员掌握使用 Python 高效进行数据分析与决策支持的核心技能。

2025.09.08

3745

12

Python 数据分析与可视化
Python 数据分析与可视化

本专题聚焦 Python 在数据分析与可视化领域的核心应用,系统讲解数据清洗、数据统计、Pandas 数据操作、NumPy 数组处理、Matplotlib 与 Seaborn 可视化技巧等内容。通过实战案例(如销售数据分析、用户行为可视化、趋势图与热力图绘制),帮助学习者掌握 从原始数据到可视化报告的完整分析能力。

2025.10.14

5472

24

Python 数据分析与可视化合集
Python 数据分析与可视化合集

聚焦 Python 在数据分析领域的核心应用,讲解 NumPy 数组运算、Pandas 数据清洗与聚合统计、缺失值与异常值处理、数据透视表生成,以及使用 Matplotlib、Seaborn、Pyecharts 制作折线图、柱状图、热力图、地图等多种可视化图表,适合数据分析师和运营人员快速掌握用 Python 从原始数据中挖掘洞察的能力。

2026.04.08

196

25

Python数据分析与Pandas高级实战
Python数据分析与Pandas高级实战

本专题围绕 Python 数据分析展开,系统讲解 Pandas 的高级用法,包括数据清洗、透视表、时间序列分析以及多表合并与分组操作。通过实战案例,帮助开发者掌握高效处理与分析数据的方法,提高数据处理效率与分析能力。

2026.04.13

291

25

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
热门推荐
/
最新课程
phpStudy极速入门视频教程
phpStudy极速入门视频教程

共6课时 | 54.6万人学习

独孤九贱(4)_PHP视频教程
独孤九贱(4)_PHP视频教程

共89课时 | 133.1万人学习