DeepSeek开源项目再添利器!今日发布全新并行文件系统3FS,赋能DeepSeek数据访问。
3FS(Fire-Flyer文件系统)充分利用现代SSD和RDMA网络的高带宽,在180节点集群中实现高达6.6 TiB/s的聚合读取吞吐量,在25节点集群的GraySort基准测试中达到3.66 TiB/min的吞吐量。单客户端节点的KVCache查找峰值吞吐量更是超过40 GiB/s。
该系统采用分离式架构,支持强一致性语义,并能有效支持V3/R1中的训练数据预处理、数据集加载、检查点保存/重载、嵌入向量搜索以及推理中的KVCache查找。
DeepSeek团队表示,3FS旨在为其数据密集型任务提供高效、可靠的存储和访问方案,从而加速AI研究和开发进程。
以上是DeepSeek开源周第五天:'动力推进器”Fire-Flyer文件系统的详细内容。更多信息请关注PHP中文网其他相关文章!