麥肯錫合夥人：生成式AI有助於解決雲端遷移中的各種難題

麥肯錫公司合夥人Bhargs Srivathsan近日在新加坡舉行的會議上表示，只要運用得當，生成式AI技術可望將雲端遷移工作量減少30%到50%。

Srivathsan認為，「目前的進度只能說才剛剛邁出第一步。隨著大語言模型（LLM）的發展成熟，將工作負載遷移至公有雲的時間表將不斷縮短、遷移過程效率也能隨之提升。」

她建議組織先使用大語言模型對系統內的基礎設施進行摸底，解析其中的短板與優勢，再在工作負載轉移完成後繼續應用AI工具可查看遷移是否切實有效。

另外，還可以利用大語言模型完成更多相關工作，例如撰寫架構審查委員會指南等說明資料。

這位合夥人表示，儘管不少企業才剛開始考慮採用AI技術，但麥肯錫所投資的企業中已經有40%在更新其IT投入。

Srivathsan認為，生成式AI與雲之間屬於「共生」關係。

 「必須承認，如果沒有公有雲的普及、就不可能把生成式AI真正帶入生活。而與之對應，生成式AI也能實際加快公有雲遷移、並幫助用戶從原有公有雲中解鎖脫離。」

在Srivathsan看來，生成式AI的四大核心用例分別是內容生成、客戶參與、創建合成資料、以及編寫程式碼。當然，這裡的編寫程式碼並非從零開始完成軟體開發。生成式AI的編碼能力主要體現在接手員工離職後無人熟悉的遺留代碼，或是將原代碼轉換為新的語言形式。

她也強調，之所以說公有雲比嘗試內部自建模式更可靠，是因為企業用戶往往不具備充足的GPU儲備。而且市面上現成商用模型的成本也比自行訓練更加低廉。

Srivathsan指出，對於身處受監管行業、掌握大量專有數據或擔心知識產權遭到侵犯的用戶，還可以設置相應的護欄。

在她看來，大語言模型在未來五六年時間內將主要運行在超大規模基礎設施環境當中，直到模型發展成熟。而且跟很多人想像中不同，其實生成式AI的實現並不一定壓根那麼誇張的算力儲備，畢竟很少有用例會對延遲提出如此嚴苛的要求。

也就是說，除非是特斯拉上運行的自動駕駛功能、或者負責指揮製造車間即時運行的軟體，否則確實沒必要把硬體堆得太滿。

另外，多數情況下也沒必要使用定製或大規模模型。

這位麥肯錫合夥人評論稱，「很多企業都以為自己需要買輛超級跑車來送披薩。當然用不著嘍，真正符合需求的模型往往沒那麼複雜、也沒那麼大。舉例來說，生成客服支援腳本肯定沒必要動用650億參數的大體量模型。」

但她同時給出建議，如果開發人員正在訪問自己本不該接觸到的非專有模型或數據，則務必在組織內外之間添加API網關來建立起「即時警報」機制。

以上是麥肯錫合夥人：生成式AI有助於解決雲端遷移中的各種難題的詳細內容。更多資訊請關注PHP中文網其他相關文章！