螞蟻集團WAIC發布大模型密算平台，協助大模型破解資料供給挑戰

大模型向下紮根深入產業，必須要破解高品質資料供給的挑戰。 7月5日，2024年世界人工智慧大會進入第二天，作為資料要素領域的主要技術服務商，螞蟻集團發布「隱語Cloud」大模型密算平台，透過軟硬體結合的可信任隱私運算技術，在大模型託管和大模型推理等環節實現資料密態流轉，保護模型資產、資料安全和使用者隱私。當下，高品質資料供給與安全流通，成為大模型進入垂直產業應用的首要挑戰。其一，產業大模型要獲得解決專業問題的能力，首先要經過數量充足、品質高的專業資料訓練。然而，專業資料往往分散在不同的機構、企業中，由於價值大、保密要求高，難以流動。此外，企業、大模型廠商和使用者之間存在信任壁壘，企業擔心資料對外洩露，大模型廠商擔心模型資產安全，使用者擔心個人資料和隱私風險。

在發布會現場，螞蟻密算CEO王磊介紹，「隱語Cloud」大模型密算平台首批推出兩大服務，分別為：

1. 大模型密態託管：保護模型資產不被洩漏和盜用。
2. 大模型密態推理：保護使用者互動時的資料安全和商業機密。

此外，該平台支援：

• GPU在可信任執行環境下進行運算。
• 記憶體、磁碟加密等方法，實現端對端加密和跨域存取控制。
• 輕量化遠距認證。

當下，大模型私有化部署不僅增加維運成本，也影響服務效率與品質。隱語Cloud大模型密算平台提供公有雲和專有雲交付方案，支援通用大模型。

王磊透露，該平台服務將逐步涵蓋垂直大模型資料安全全鏈路，包括：

• 密態計算服務。
• 密態大模型開發全鏈路工具。

螞蟻集團副總裁兼首席技術安全官、螞蟻密算董事長韋韜認為，隱私計算技術決定了資料跨域供給的上限。螞蟻集團從2016年開始探索隱私運算技術，希望聯合產業夥伴推動產業發展。

目前，螞蟻可信任隱私運算核心技術已開源，包括「隱語」框架和「星綻」作業系統。此外，螞蟻也與大學緊密合作，並設立了「隱私計算專案科研基金」。

今年5月，螞蟻集團成立密態運算公司浙江螞蟻密算科技有限公司，將提供端到端資料安全保障、軟硬體結合的運算加速解決方案和隱私運算雲端服務平台。

以上是螞蟻集團WAIC發布大模型密算平台，協助大模型破解資料供給挑戰的詳細內容。更多資訊請關注PHP中文網其他相關文章！