百度CTO王海峰：飞桨开发者数已达800万，大语言模型为通用人工智能带来曙光

北京将举办由深度学习技术及应用国家工程研究中心主办的2023 WAVE SUMMIT深度学习开发者大会

王海峰，百度首席技术官和深度学习技术及应用国家工程研究中心主任，在主题演讲中首次表示，大型语言模型具备了人工智能的核心基础能力，包括理解、生成、逻辑和记忆，为通用人工智能带来了新的希望

有800万开发者正在使用飞桨，并且已经创建了超过80万个模型

2019年4月，WAVE SUMMIT深度学习开发者大会首次举办。在该大会上，王海峰强调了深度学习的通用性以及其具备的标准化、自动化和模块化的工业大生产特征，推动了人工智能进入工业大生产阶段。经过四年的发展，深度学习技术和应用的进展充分验证了这一观点。深度学习技术越来越通用，深度学习平台的标准化、自动化和模块化特征也越来越明显。同时，预训练大模型的兴起进一步扩展了人工智能应用的深度和广度。因此，可以说人工智能已经进入了工业大生产阶段

在标准化方面，我们通过联合优化框架和模型，统一适配多种硬件，使应用模式更简洁高效，从而大幅降低人工智能应用的门槛。在自动化方面，我们提供全流程的人工智能研发解决方案，包括训练、适配和推理部署，以提高效率。在模块化方面，我们提供丰富的产业级模型库，以支持人工智能在各种场景中的便捷应用

飞桨产业级深度学习开源开放平台和文心大模型相互促进，使飞桨生态蓬勃发展，吸引了800万开发者，为22万家企事业单位提供服务，并基于飞桨创建了80万个模型。王海峰解释了飞桨开发者社区AI Studio中文名“星河社区”的深刻寓意：“文心与飞桨相融，一同驶向星河”。在飞桨和文心的共同推动下，与所有开发者一起，共同构建星河社区，共同探索通用人工智能的无限可能

大型语言模型为通用人工智能带来了新的希望

王海峰认为，人工智能具备多种典型能力，其中核心基础能力包括理解、生成、逻辑和记忆。这四项能力越强，人工智能越接近通用人工智能的水平。而大语言模型则具备了这四项能力，为通用人工智能的发展带来了希望

具体而言，人工智能的典型能力，如创作、编程、解题、规划等，都基于核心基础能力，如理解、生成、逻辑、记忆等，尽管在不同程度上依赖程度有所不同。以解题为例，从理解题目、解答题目到最终写出答案，需要综合运用理解、记忆、逻辑和生成能力

这些能力如何获取呢？以文心一言为例，我们首先通过融合学习数万亿数据和数千亿知识来训练预训练大模型。然后，我们利用有监督精调、人类反馈的强化学习和提示等技术来进一步提升模型性能。此外，我们还具备知识增强、检索增强和对话增强等技术优势

通过多种策略优化数据源和数据分布，构建基础模型长文建模，进行多类型多阶段有监督精调和多任务自适应有监督精调，以及实施多层次多粒度奖励模型等技术创新，全面提升基础通用能力。在增强检索和知识方面，通过知识点增强提高对世界知识的掌握和应用能力；通过大规模逻辑数据构建、逻辑知识建模、多粒度语义知识组合以及符号神经网络，提升逻辑能力；通过构建全面安全的数据、内容、模型和系统安全体系，确保大模型的安全性

通过飞桨端到端自适应混合并行训练技术以及压缩、推理、服务部署的协同优化，文心大模型的训练速度提高了3倍，推理速度提高了30多倍，从而提升了效率

通过数据驱动、提示构建以及插件增强的应用方面，我们已经上线了五个插件，包括文心一言、百度搜索、览卷文档、E 言易图、说图解画和一镜流影。这些插件使得我们的模型具备了生成实时准确信息、长文本摘要和问答、数据洞察和图表制作、基于图片的创作和问答以及文生视频等能力。通过插件机制，我们扩展了大模型的能力边界，以更好地适应各种场景需求。王海峰表示，未来我们将与开发者共同建设插件生态系统，并共享技术创新成果

以大语言模型为代表的人工智能正在深入千行百业，加速产业升级和经济增长。在这个进程中，技术创新和应用落地形成良性循环，理解、生成、逻辑、记忆等能力持续提升，产业应用的广度和深度持续拓展，大型语言模型为通用人工智能带来了新的希望。

以上是百度CTO王海峰：飞桨开发者数已达800万，大语言模型为通用人工智能带来曙光的详细内容。更多信息请关注PHP中文网其他相关文章！