聯發科天璣 9300 成功在端側運行 130 億參數 AI 大模型

11月6日晚間，聯發科發表了旗艦晶片天璣9300。根據官方介紹，天璣9300升級為APU 790，支援8倍速生成式AI Trasformer算符加速，具備獨特的內存硬體壓縮技術和NeuroPilot Compression混合精度INT4量化技術，同時整數運算速度提升2倍，浮點運算速度提升2倍，功耗降低了45%

聯發科官方表示，他們已經成功將天璣 9300 移植到終端設備上，並在該設備上成功運行了70億參數的人工智慧大語言模型。此外，他們還成功運行了130億參數和330億參數的人工智慧大語言模型

還有，天璣9300也支援生成式AI文生圖功能，可以產生表情包

聯發科也發布了“藍心小V”，這是與vivo合作打造的工具，已經在2023年vivo開發者大會上推出，是OriginOS 4的“專屬私人助理”。更多詳細資料請參考IT之家之前的報導

以上是聯發科天璣 9300 成功在端側運行 130 億參數 AI 大模型的詳細內容。更多資訊請關注PHP中文網其他相關文章！