(全球TMT2023年9月18日訊)9月14-15日,2023全球AI晶片高峰會(GACS 2023)在深圳正式舉行。奎芯科技副總裁王曉陽發表主題為《驅動雲/邊緣側算力建設的高性能互聯接口方案》的演講。王曉陽分享了AIGC產業算力需求引發的晶片互聯趨勢,並對算力晶片瓶頸進行了分析,提出了奎芯內存互聯解決方案和Chiplet落地解決方案。
王曉陽,奎芯科技的副總裁,在GACS 2023晶片架構創新專場上發表了演講
目前,AIGC的發展推動了算力需求快速增長,但由於記憶體頻寬和I/O頻寬發展速度的相對滯後,大模型訓練和推理面臨記憶體牆和I/O牆。此外,未來大模型進行推理部署時,比起晶片的算力和工藝,對於記憶體容量和頻寬的要求更高。針對大模型推理這類訪存密集型任務,對其算力需求的估計不能只考慮FLOPs的需求,更重要的瓶頸在於內存頻寬,使用奎芯M2link 互聯方案可以增加封裝內的HBM容量,增加SOC的有效可使用算力面積。
以上是奎芯科技亮相2023全球AI晶片高峰會的詳細內容。更多資訊請關注PHP中文網其他相關文章!