芯展速AICC2026圆满收官副总裁许玮演讲拆解AI90推理成本新边界

小明酱_4480

小明酱_4480

2026-09-23

362人浏览

原创

芯展速aicc2026圆满收官副总裁许玮演讲拆解ai90推理成本新边界

图:芯展速副总裁许玮

9月21日,在芯展速AI战略发布会落幕仅三天后,公司携全新「AI90架构」亮相AICC2026人工智能大会。副总裁许玮受邀出席AI心片论坛并发表主题演讲,系统阐释AI90的技术内核及其对AI推理成本极限的突破性重构,引发主流科技媒体广泛关注与持续追踪报道。

展区热度:消费级GPU释放数据中心级Token生成能力

“AI90 Token工厂”展区成为本次AICC现场最具吸引力的展台之一,吸引大量观众驻足体验,使芯展速跃升为大会焦点参展企业。

芯展速AICC2026圆满收官副总裁许玮演讲拆解AI90推理成本新边界

展区内,AI90实时演示屏幕上跃动的TPS数值,令来自智算中心、AI应用开发企业的专业观众频频驻足,纷纷与芯展速技术专家展开深度技术探讨。

主题分享:AI90 Token工厂——边侧推理的新范式

在AICC AI心片论坛上,芯展速副总裁许玮带来题为《AI90 Token工厂》的专题报告,全面解析该边侧推理引擎的底层架构设计与真实场景性能表现。

芯展速AICC2026圆满收官副总裁许玮演讲拆解AI90推理成本新边界

时尚资讯分享服务平台网站模板
时尚资讯分享服务平台网站模板

时尚资讯分享服务平台网站模板是一款适合提供各种时尚新闻资讯分享服务网站模板下载。提示:本模板调用到谷歌字体库,可能会出现页面打开比较缓慢。

下载

他指出:AI90的核心创新在于KVCache智能调度机制——通过将大模型推理过程中占用显存最多的KVCache,动态、分级地卸载至AISSD,构建起HBM + DRAM + AISSD三级异构存储协同调度体系。

他进一步说明:实测数据显示,AI90在吞吐量(TPS)上实现10倍提升,首Token响应时间(TTFT)缩短达50倍。这一跃迁,正推动智能体、对话机器人等高交互类AI应用,从“延迟明显、体验割裂”迈入“毫秒响应、自然流畅”的全新阶段。

媒体专访:AI90锚定“云边端”战略的边侧支点

演讲结束后,CSDN记者第一时间对许玮进行专访,围绕AI90 Token工厂的技术实现路径及边缘侧落地实践展开深入交流。

芯展速AICC2026圆满收官副总裁许玮演讲拆解AI90推理成本新边界

(左一)芯展速副总裁许玮接受媒体采访

许玮在访谈中,将AI90置于芯展速“云—边—端”全栈布局中进行全景解读——

在边缘侧,AI90 Token工厂显著压降推理开销,支撑大模型在资源受限的边缘节点稳定、高效运行;在云端,依托芯展速全介质存储底座,为智算中心提供PB级数据集的超高并发读写能力;在终端侧,AISSD加速方案已启动规模化部署,加速AgentPC与新一代智能终端落地,真正实现本地化、低延迟AI推理。

当算力瓶颈逐步消融,数据流动效率正日益成为决定AI能力边界的决定性因素。作为AI算力基础设施的关键组成,芯展速将持续强化“存—连—管”全栈技术能力,联合生态伙伴加速存算协同演进,让高性能AI算力无缝覆盖云端、边缘与终端全场景。

相关专题

更多
Buffalo框架数据库开发全教程
Buffalo框架数据库开发全教程

本专题围绕Buffalo框架数据库开发,讲解database.yml多环境配置、soda与fizz迁移生成回滚、模型结构体标签、增删改查与条件查询、一对多与多对多关联、数据校验、回调钩子、事务处理及原生SQL执行能力。

2026.09.23

0

15

Buffalo框架路由与请求处理实操指南
Buffalo框架路由与请求处理实操指南

本专题讲解Buffalo框架路由与请求处理机制,涵盖路由注册与分组、资源路由、Handler编写规范、Context上下文方法、参数绑定、中间件编写挂载、Session与Cookie读写、Flash消息及错误页面定制方法。

2026.09.23

0

15

Buffalo框架零基础入门教程
Buffalo框架零基础入门教程

本专题整理Buffalo框架入门内容,涵盖Go环境准备、buffalo CLI安装、新项目生成、目录结构说明、dev热加载启动、数据库连接配置与常见报错排查,帮助新手按约定优于配置的思路跑通第一个Buffalo框架应用。

2026.09.23

0

15

Conan创建软件包配方指南
Conan创建软件包配方指南

本专题介绍通过conanfile.py创建软件包的方法,讲解包名、版本、依赖和构建设置等基础信息,以及source、build、package、package_info等常用方法的作用及编写思路。

2026.09.22

0

12

Conan二进制包配置指南
Conan二进制包配置指南

本专题介绍Conan根据操作系统、编译器、架构和构建类型生成二进制包的方法,讲解Profile、Settings、Options及Package ID的作用,帮助管理不同平台和编译环境下的包版本。

2026.09.22

0

13

Conan私有仓库搭建教程
Conan私有仓库搭建教程

本专题系统的讲解Conan私有仓库的搭建流程,涵盖仓库服务部署、存储目录配置、用户认证、权限划分和远程地址添加,并介绍内部C++依赖包的上传、下载及版本维护方法。

2026.09.22

0

19

loomy官网入口地址合集
loomy官网入口地址合集

本专题汇总了 Loomy 桌面 AI 助理的官方入口地址合集及使用指南。提供 macOS 与 Windows 客户端下载 。Loomy 是讯飞推出的桌面级 AI 工作搭子,支持文件整理、数据分析、网页操作及通过飞书/钉钉远程操控电脑,助你高效完成本地办公任务 。

2026.09.22

0

19

NumPy常见函数使用方法
NumPy常见函数使用方法

本专题整理 NumPy 常见函数使用方法相关教程,覆盖函数大全、参数用法、数组运算、统计聚合、排序处理、where 条件筛选、linspace 创建数列等常用场景,帮助读者快速掌握 NumPy 函数调用思路和实际数据处理技巧。

2026.09.22

0

21

NumPy性能优化版本更新与常见报错排查
NumPy性能优化版本更新与常见报错排查

本专题整理 NumPy 性能优化、版本更新与常见报错排查相关教程,覆盖向量化计算、广播性能、内存布局、NumPy 2.0 升级、版本兼容冲突、安装导入报错、dtype 溢出、矩阵运算异常和 broadcasting 报错修复,帮助读者系统掌握 NumPy 性能调优与问题定位方法。

2026.09.22

20

25

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Uniapp从零开始实现新闻资讯应用
Uniapp从零开始实现新闻资讯应用

共64课时 | 9.3万人学习

Uniapp从零开始实现新闻资讯应用
Uniapp从零开始实现新闻资讯应用

共67课时 | 12.1万人学习