首页 >科技周边 >人工智能 >超强AI性能展现,AndesGPT为Find X7加持力量

超强AI性能展现,AndesGPT为Find X7加持力量

WBOY
WBOY转载
2024-01-09 09:50:31981浏览

从2022年底开始,人工智能(AI)迅速蔓延全球,成为全球关注的焦点之一。作为智能产品,手机也需要变得更加智慧。因此,手机厂商们也积极努力不懈地提升手机的AI能力。 1月8日,OPPO隆重推出了Find X7系列,这一高端旗舰系列不仅在性能、影像、屏幕等方面取得了巨大突破,而且其AI能力的显着增强也成为了手机界的一大亮点。

AndesGPT加持!Find X7带来强大AI表现

我们之前已经得知,Find X7系列将推出行业首个在端侧部署的70亿参数大模型。通过"端云协同"架构,该系列能够实现本地与云端协同运作,从而为Find X7系列带来全新的智能能力。

OPPO的安第斯大模型(AndesGPT)是一个以用户为中心的大型智能体,它具备对话增强、个性专属和端云协同三项重要能力,为AI助手在智能终端的应用提供了强大的支持。这一模型的目标是为用户提供更加个性化和智能化的服务,通过与用户的对话交互,实现智能终端的超级入口。

AndesGPT加持!Find X7带来强大AI表现

由于安第斯云的灵活计算部署,Find X7系列在云端可以快速迭代大型模型。其中,浸没式GPU+IB网络训练集群使得训练性能比传统风冷提升了8%以上,同时能效提升了45%,算力部署密度提升了400%以上。 OPPO自研的SGPU云原生虚拟化技术将GPU使用成本降低至最高70%。此外,通过独创的PagedAttention技术,AndesGPT能够降低50%的首字延迟,并提升30%的推理吞吐量。

  值得一提的是,OPPO通过与MediaTek的深度合作,率先在行业采用4位量化技术(行业最优大模型端侧部署方案),共同推动AndesGPT 大语言模型和视觉大模型在端侧逐步落地,做到精度不掉点性能更优。在 4 位量化技术支持下,AndesGPT 在端侧响应更快安全性更好,可以基于同一个模型采用两个优化方案共同计算,从而提升模型的内容生成时间。此外,OPPO还与 MediaTek 的联合优化,对HTP、APU、GPU实现高性能的加速。

AndesGPT加持!Find X7带来强大AI表现

Find X7 系列搭载了基于 AndesGPT 端侧部署的70亿参数大语言模型,这使得其具备了比其他手机更快速的大模型响应速度和能力。举个例子,Find X7 的200字摘要首字生成仅需0.2秒,相比其他手机,速度提升了20倍。而对于2000字摘要,仅需2.9秒,速度是其他手机的2.5倍。从这些数据可以看出,在Al智能通话摘要功能上,Find X7 系列以1万4千字的数量,达到了其他手机的3.5倍水平。

此外,Find X7系列还引入了全新的小布助手、自研语音降噪大模型以及AI弱网预加载功能。小布助手经过进一步的升级,变得更加智能。它不仅可以激发你的创作灵感,还能提供商业分析工具中常用的SWOT分析和帮助你制作PPT大纲等功能。此外,未来还将逐步开放更多试验性功能,不断丰富用户的智能AI体验。

AndesGPT加持!Find X7带来强大AI表现

  不得不说,这次的Find X7系列出色地将AI融入进来,提供了更多高效便捷的功能助力用户轻松解决日常生活的问题。

以上是超强AI性能展现,AndesGPT为Find X7加持力量的详细内容。更多信息请关注PHP中文网其他相关文章!

声明:
本文转载于:sohu.com。如有侵权,请联系admin@php.cn删除