優刻得為智譜AI建構千卡推理集群，協助全球用戶享受大模型智能生活

回到2021 年的一個夜晚，一位母親陷入創作瓶頸，無法繼續她的小說；父親則忙於編寫程式碼，設想在工作之餘開發一款小遊戲，但卻被程式碼調試問題困擾；而他們的孩子，面對書桌上的一道奧數題，皺著眉頭苦苦思索。

2024 年的今天，AI 大模型的出現讓這一切改變。

在「智譜清言」的助力下，媽媽的小說創作煥發新生，她只需將自己的創意和構思輸入給大模型，就可以生成自然生動的故事情節和對話；爸爸用大模型進行程式碼程式設計和調試，透過分析程式碼邏輯，大大減少了開發的繁瑣流程，減輕了一大半的⼯作量；大模型也成為了小朋友學習上的得力助手，不僅能進行作業智能批改，還能提供詳實的解題思路，大幅提升了學習效率。

大模型算力，讓全球用戶享受智慧化生活

智譜AI 致力於打造全球領先的認知智能大模型，其新一代基座大模型GLM-4 效能大幅提升，逼近GPT-4，展現了業界領先的多模態大語言模型能力。透過智譜大模型與優刻得算力的強強結合，GLM-4 穩定、高效運行於雲端，並具備大規模即時推理能力，成功實現了成本效益和服務品質的平衡。這項創新使得智譜大模型能夠深入理解使用者需求，快速回應，讓全球使用者提早享受智慧化生活的便利與高效。

早在 2022 年起，優刻得就開始為智譜 AI 提供強大的底層算力支援。優刻得低成本、高附加價值的烏蘭察布智算中心，提供客製化高電機櫃和充沛的GPU 算力，能夠幫助智譜大模型迅速搭建並擴大訓練和推理集群的規模，提升模型研發效率，支援大模型應用快速上線和對外服務。目前，優刻得智算中心算力管理規模共超過 3000P。

優刻得烏蘭察布智算中心

############################################ ##優刻得助力智譜AI 建構超千卡規模推理集群#########自「智譜清言」正式上線以來，每日吸引數百萬用戶訪問，面臨著在文本、圖片、影片等多場景下的大規模即時推理需求。為了滿足激增的模型計算需求，需持續擴展計算卡數量，建構千卡層級的推理集群，以進一步提升算力資源利用率與推理效能。 ######優刻得推理服務平台，提供超大規模融合算力，支援計算叢集的統一調度和管理。目前，優刻得已成功助力智譜 AI 建構了超千卡規模的推理集群。同時，在優刻得雲互通產品的加持下，平台還具備強大的 “混合組網能力”，讓大模型得以實現訓推一體化。基於全生命週期的算力資源管理，不僅確保了大模型的高效、穩定運行，使其能夠應對各類複雜的推理任務，同時也為雲端上服務的即時回應提供了堅實的技術保障。 #########匹配全棧算力資源，實現多樣化的推理場景涵蓋##########智譜大模型廣泛應用於智慧程式設計、智慧寫作等領域，為各行業的智慧化升級提供強大的技術支援。無論是處理文字、圖像或影片等多模態數據，智譜大模型都能展現出卓越的效能和靈活性。 ######優刻得推理服務平台匹配全棧算力資源，相容於通用大模型和行業大模型等多樣化場景，面向文圖生成、代碼生成等各類模型提供彈性穩定的推理服務，滿足各算力場景對大規模即時推理的需求。其中，「CodeGeeX」就是智譜AI 在優刻得彈性靈活的算力部署方案支撐下，所推出的一款基於大模型的智能編程助手，它可以實現代碼的生成與補全、自動添加註釋、程式碼翻譯，以及智慧問答等功能，每天幫助程式設計師編寫2000 萬行程式碼，顯著提高工作效率。 ###

除了公有雲上的模式推理服務，優刻得也支援大模型的私有化部署。優刻得與智譜AI 正探索以「大模型一體機」 為載體的全新合作方式，聯合推出的行業大模型解決方案能夠更好地幫助金融、醫療、汽車、製造等行業快速落地大模型業務。當下，優刻得推理服務平台已融合了豐富的行業模型資源，這些行業模型能夠針對不同行業需求進行定制，提供了更加精準和高效的推理能力。

大幅降低推理成本，實現成本效益與服務品質的平衡

#隨著 AIGC 技術的持續演進，其對 GPU 算力的依賴愈發明顯。大模型企業在追求卓越運算效能的同時，對推理算力的運用效率與成本要求也愈來愈重視。

目前，優刻得引進了先進的 GPU 資源管理和調度機制，為智譜大模型提供靈活可靠的效能支援。透過智慧分配和動態調整叢集任務，有效降低了單一節點的負載壓力，同時避免算力資源的閒置和過度消耗。在這種精細化的資源管理方式下，優刻得助力智譜大模型的算力利用率顯著提升，帶來經濟又高效的大模型推理體驗。優刻得的產品在推理成本方面顯著優於同類競爭對手，成功實現了成本效益與服務品質的平衡。

同時，智譜 AI 使用了優刻得自主研發的 UPFS 平行檔案系統，來最佳化模型推理效能。 UPFS 支援 IB/RoCE 網絡，提供對資料百微秒的存取和最高數百 GB/s 的讀寫吞吐，進一步提高資料傳輸和通訊的效率。

未來，優刻得將與智譜 AI 攜手並進，以更靈活可靠的智算底座，推動大模型技術的持續創新與應用。相信透過雙方的緊密合作與不懈努力，大模型將在各個領域落地生根、全面融入生產和生活，更多用戶、更多家庭都能享受到智能、高效、便捷的人工智慧體驗。

以上是優刻得為智譜AI建構千卡推理集群，協助全球用戶享受大模型智能生活的詳細內容。更多資訊請關注PHP中文網其他相關文章！