用飞桨一站式搞定大模型生产 PaddleFleetX大模型开发套件业内首发

秋伟君_2166

秋伟君_2166

2023-04-12

1553人浏览

转载

11月30日,由深度学习技术及应用国家工程研究中心主办、百度飞桨承办的wave summit+2022深度学习开发者峰会如期举行。峰会上,百度ai技术生态总经理马艳军发布了飞桨深度学习平台的最新技术和生态进展,全新发布飞桨开源框架2.4版本,带来业界首个端到端大模型开发套件paddlefleetx,联合12家硬件生态伙伴发布飞桨生态发行版,ai studio学习与实训社区升级推出企业实训和生态异构算力中心等等。这一系列举措标志着飞桨持续夯实ai技术基座,不断深入产业融合创新。

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

图:百度AI技术生态总经理马艳军分享飞桨平台最新发布

飞桨开源框架2.4版发布,以底层技术创新持续优化性能表现

此次飞桨升级的2.4版本,框架开发更加灵活便捷,大规模模型分布式训练持续领先,并实现了全场景高性能推理部署。

开发方面,飞桨开源框架2.4版本针对稀疏计算、图学习等重要场景新增160多个API,并且API开发门槛和成本大幅降低,使此次新增的API中有1/3来自生态开发者的贡献。针对AI for Science场景需求,2.4版实现了通用的高阶自动微分功能,更好地支持科学计算相关应用。同时,飞桨全面提升了核心动转静技术的可扩展性和部署灵活性,新模型动转静成功率达92%,充分发挥动态图和静态图各自优势。

训练方面,2.4版全新升级,推出了基于GPU的超大规模图模型训练引擎PGLBox,在业内率先实现了可同时支持复杂算法、超大图、超大离散模型的一体化图学习方案。另外,飞桨的集合通信分布式训练性能也做到了极致优化,为大模型训练提供了全面丰富的分布式训练性能优化体系,基于此,飞桨今年连续两次获得国际权威的AI训练基准测试MLPerf Training榜单第一。

作为AI实现产业落地的“最后一公里”,模型的推理部署过程十分关键。首先对于大模型的推理,飞桨开源框架2.4版支持自适应模型切分和分布式推理等功能,依托飞桨框架动转静能力,可实现自动深度融合及高性能优化,全面支撑大模型应用落地。同时为了从根本上解决AI应用落地面临的场景碎片化、开发成本高、推理速度慢三大难题,飞桨全新推出的全场景高性能AI部署工具FastDeploy,一站式满足端、边、云多场景,多框架与多硬件的部署需求,不仅API设计统一,简单易用,而且还支持自动化压缩与高性能推理引擎深度联动,可充分发挥软硬一体融合优势,拥有业内领先的推理性能,为AI产业应用落地提供最优解。

持续降低应用门槛,加速AI应用落地

大模型的应用可以降低AI应用的门槛,但大模型开发、训练、推理部署过程仍具有很大的挑战。为了更好地支撑大模型应用落地,飞桨全新发布端到端大模型开发套件PaddleFleetX。PaddleFleetX无缝对接飞桨并行策略并支持定制化组合,可以扩展支持更多类型的大模型,开发者可以根据模型结构的特点自行选择并行策略组合,并且支持GPU/NPU/DCU等多硬件平台的多云环境的训练调试。同时,PaddleFleetX还支持自适应分布式推理技术,真正做到了分布式策略的训推一体,大可支持超大模型的服务化部署,小可协同训压推结合的丰富小型化策略,实现端侧轻量化部署。

此次峰会上,飞桨产业级开源模型库开源算法新增至600个以上,覆盖视觉、自然语言、时序建模等主流任务场景;经过产业实践打磨的精度与性能平衡PP系列特色模型新增至42个;飞桨产业实践范例增至68个,覆盖金融、工业、交通、互联网、安防、教育等十个重点行业场景;发布飞桨产业级模型库一站式入口,聚合模型知识与工具集,打通模型选择、快速体验、模型开发与使用、模型部署全流程。飞桨从产业模型开源、范例参考等方面蓄力,为企业应用AI技术提供便利支持,共同解决产业痛点难点。

百度排名查询
百度排名查询

查询关键词在百度PC端前50名的网站信息,返回排名、标题、描述、URL和收录量。适用于"百度排名查询""关键词排名查询""百度PC排名""百度前50名""SEO排名查询""百度关键词排名"等请求。通过本地 Python 脚本调用百度PC前50名信息接口,并使用环境变量中的专属 API Key。

下载

携手各领域生态伙伴共创共享,共同打造繁荣飞桨AI生态

推动人工智能在产业中落地应用,离不开与硬件生态伙伴的携手前行。今年5月,飞桨联合硬件生态伙伴发布“硬件生态共创计划”,在联合研发、资源共享、联合授权、培训赋能等多个维度全面合作。截至11月,飞桨“硬件生态共创计划”成员已经从13家增加至28家。同时,飞桨携手英伟达、Arm、寒武纪、昆仑芯、天数智芯、Graphcore、燧原等12家厂商联合发布了飞桨生态发行版,在为开发者提供更好的软硬一体化体验的同时,携手共建繁荣硬件生态。

为进一步加速AI产业智能化升级,飞桨深入产业场景,联合国家能源集团、中国工商银行、中国联通、中国石油、中国铁道科学研究院、中国移动、中国一汽等行业龙头企业,发布产业实践范例征集计划,链接企业与开发者,解决各行业实际产业场景中的关键问题,助力AI产业落地。

飞桨建设的AI Studio学习与实训社区致力于让AI学习和应用更简单,目前也已成为国内最大的AI开发者社区。本次峰会上,AI Studio升级新增两大板块:企业实训和生态异构算力中心。

企业实训为企业应用深度学习提供了实训阵地。截至目前,飞桨已与20余家知名企业联合举办赛事,共同探索AI应用方案,培养AI人才。长期以来,AI Studio为广大开发者提供了包括CPU和GPU的丰富算力资源,又接入了曙光DCU算力,为开发者提供线上体验中心,为硬件基础设施提供便捷的体验环境,生态异构算力中心欢迎更多硬件厂商入驻。

源于产业实践的百度飞桨深度学习开源开放平台,是百度践行融合创新、降低门槛的AI大生产平台。未来,随着深度学习核心技术的持续深耕,飞桨将更好地支撑AI与大模型落地应用,不断建设更加繁荣的AI生态,推动产业加速实现智能化升级,让AI惠及千行百业。

相关专题

更多
GoFrame框架Web开发与路由中间件
GoFrame框架Web开发与路由中间件

本专题聚焦GoFrame框架的Web开发,拆解路由注册与匹配规则、请求参数获取、参数校验与中间件执行顺序,说明统一响应、JWT鉴权、文件上传与接口文档生成的落地方式,并补充优雅重启与测试实践。

2026.11.17

0

15

GoFrame框架安装与gf命令行工具
GoFrame框架安装与gf命令行工具

本专题围绕GoFrame框架的安装与工具链配置展开,讲清Go版本要求、gf命令行的安装方式、代理镜像与依赖准备,说明项目初始化、热编译、交叉编译打包的做法,并整理安装阶段的常见报错与验证步骤。

2026.11.17

0

15

GoFrame框架零基础入门
GoFrame框架零基础入门

本专题整理GoFrame框架的入门知识,从模块化设计理念、环境准备到跑通第一个Web服务,讲清目录分层、配置加载、日志与中间件的用法,并对比Gin、Go-Zero的差异,帮助Go开发者建立整体认知。

2026.11.17

0

15

SQLAlchemy 一对多关系怎么建立
SQLAlchemy 一对多关系怎么建立

SQLAlchemy 一对多关系怎么建立?本专题整理父子表外键、relationship 双向映射、关联查询、级联删除和加载优化等相关文章,帮助你理解并实现常见的 ORM 关系建模。

2026.11.17

0

10

SQLAlchemy 如何增删改查
SQLAlchemy 如何增删改查

SQLAlchemy 如何增删改查?本专题整理 ORM 新增记录、条件查询、更新和删除、Session 事务提交与批量处理等实用文章,帮助你掌握 Python 数据库操作流程。

2026.11.17

0

11

SQLAlchemy ORM 模型怎么写
SQLAlchemy ORM 模型怎么写

SQLAlchemy ORM 模型怎么写?本专题整理模型类定义、Mapped 字段映射、主键与约束、表结构创建和常见报错的相关文章,帮助你从基础配置到实际建模逐步掌握 SQLAlchemy。

2026.11.17

0

16

Go-Zero API开发使用教程
Go-Zero API开发使用教程

本专题聚焦Go-Zero的API开发,拆解.api描述文件的语法结构、路由与分组定义、参数绑定与校验规则,说明统一响应体、JWT鉴权、跨域与接口文档生成的落地方式,并给出网关聚合与接口测试的实践建议。

2026.11.12

160

15

Go-Zero安装与goctl环境配置教程
Go-Zero安装与goctl环境配置教程

本专题围绕Go-Zero的安装与工具链配置展开,讲清Go版本要求、goctl安装方式、代理镜像、protoc依赖与环境变量设置,说明多版本共存、升级回退与CI流水线安装的做法,并整理安装阶段的常见报错与验证步骤。

2026.11.12

120

15

Go-Zero零基础入门教程
Go-Zero零基础入门教程

本专题整理Go-Zero的入门知识,从框架定位、环境准备到跑通第一个API服务,讲清目录分层、配置加载、日志与中间件的基本用法,并对比Gin、Kratos的差异,帮助Go开发者建立整体认知,判断它是否适合当前项目。

2026.11.12

100

15

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Kimi K2.6学习视频
Kimi K2.6学习视频

共1课时 | 166人学习

QClaw产品手册
QClaw产品手册

共0课时 | 0人学习

PostgreSQL vs MySQL
PostgreSQL vs MySQL

共1课时 | 198人学习