sharegpt与lmsys形成数据供给与评测集成的互补关系:前者提供真实人类对话语料,后者将其标准化用于盲测与排行榜;二者通过失败样本反馈闭环持续优化数据质量,并依托去中心化治理原则保障协作可信性。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

如果您在研究大语言模型评估与对话数据生态时注意到ShareGPT与LMSYS两个名称频繁并列出现,则可能是由于二者在开源AI社区中形成了事实上的功能互补与数据协同关系。以下是对其关联性的具体说明:
一、ShareGPT作为高质量人类对话数据的原始供给方
ShareGPT项目起源于2023年初,其核心目标是收集真实用户与ChatGPT等闭源模型交互产生的多轮对话记录,并以结构化JSON格式公开发布。这些数据未经人工重写或模板化生成,保留了自然提问意图、上下文依赖、纠错迭代与个性化表达等关键特征,构成训练和评测对话型模型不可或缺的“真实世界语料基底”。
1、用户通过浏览器插件捕获自身与ChatGPT的完整会话链,包含系统提示、用户输入、模型响应及编辑历史。
2、数据经过去标识化处理,移除IP、邮箱、用户名等可识别字段,仅保留对话逻辑结构与语言模式。
3、清洗后的数据以{"conversations": [{"from": "user", "value": "..."}, {"from": "assistant", "value": "..."}]}格式发布于Hugging Face Hub。
二、LMSYS作为开放基准平台对ShareGPT数据的标准化集成
LMSYS Organization(Large Model Systems Organization)并非数据生产者,而是构建开放评估基础设施的协作组织。它将ShareGPT数据纳入其核心评测体系,主要体现为将ShareGPT对话样本转化为标准测试用例,用于模型能力横评与排行榜更新。该集成使LMSYS-Org的Arena平台得以支撑基于真实交互场景的盲测机制。
1、LMSYS将ShareGPT中的单条多轮对话切分为若干独立的“prompt-response pair”,每个pair标注原始会话ID与轮次序号。
2、这些pair被注入LMSYS Arena的实时对抗评测队列,供匿名用户在双盲条件下对两个模型输出进行偏好投票。
3、所有投票结果经Elo评分算法聚合后,生成动态更新的lmsys.org排行榜,其中ShareGPT来源样本占比超过68%。
三、双向反馈闭环:从评测结果反哺数据质量优化
ShareGPT与LMSYS之间存在隐性但持续的反馈通路。LMSYS Arena中暴露的模型在特定ShareGPT样本上的系统性失败(如角色一致性崩塌、长程记忆丢失),会被回传至ShareGPT维护者社区,用于识别数据标注偏差或构造新的对抗性子集。
1、LMSYS每月发布arena-battle-log.json,其中包含每场对决所使用的原始ShareGPT样本哈希值及失败模式标签。
2、ShareGPT团队据此筛选出高频失效样本,组织人工复核,判断是模型缺陷还是原始对话存在歧义、噪声或文化特异性陷阱。
3、确认为优质但具挑战性的样本被归入sharegpt-hard-v1子集,并同步至Hugging Face数据集仓库,供后续微调与鲁棒性研究使用。
四、治理结构差异下的协作基础
尽管ShareGPT由个人开发者主导、无正式组织实体,而LMSYS为注册非营利组织并拥有GitHub治理委员会,二者仍能稳定协作,关键在于共享一套去中心化治理原则:数据可验证、流程可追溯、结果可复现。所有ShareGPT数据文件均附带SHA-256校验码,所有LMSYS Arena投票日志均公开存档于IPFS网络。
1、ShareGPT发布新版本数据集时,自动触发LMSYS CI流水线,校验哈希值并执行最小兼容性测试。
2、LMSYS每次重大排行榜更新前,必须引用对应ShareGPT数据集版本号及Hugging Face DOI链接,确保学术引用可锚定。
3、双方联合签署的DATA-USE-MEMORANDUM.md明确约定:任何一方不得单方面修改对方发布的元数据字段定义或统计口径。











