生成式AI的成本和永續性

所有使用DALL-E創建圖像或讓ChatGPT撰寫學期論文的人都在消耗大量雲端資源。誰來為這一切買單？

譯者| 布加迪

審校| 孫淑娟

人工智慧（AI）對於任何平台（包括公有雲）而言都是資源密集型的技術。大多數AI技術都需要大量的推理運算，從而提高了對處理器、網路和儲存資源的需求，最終增加了電費、基礎設施成本和碳排放量。

ChatGPT等生成式AI系統的崛起再次將這個問題推到了前台。考慮到這項技術大行其道，加上公司、政府和公眾可能廣泛使用該技術，可以預料耗電量成長曲線會呈現令人擔憂的弧線。

AI自20世紀70年代以來一直切實可行，但考慮到成熟完備的AI系統需要大量的資源才能正常運作，最初並沒有太大的商業影響。我記得我在20多歲時設計的基於AI的系統需要超過4000萬美元的硬體、軟體和資料中心空間才能讓它運作起來。順便說一下，該項目與其他許多AI項目一樣從未迎來發布日期，商業方案根本就不可行。

雲端運算改變了這一切。借助公有雲，曾經難以企及的任務現在能夠以足夠顯著的成本效益來處理。事實上，您可能已經猜到了，雲端運算的興起與過去10年到15年AI的興起相得益彰，我要說現在兩者休戚相關。

雲端資源的可持續性和成本

其實不需要做太多的研究就能預測這個領域會發生什麼事。市場對AI服務的需求將會飆升，例如現在非常流行的生成式AI系統以及其他AI和機器學習系統。引領這股熱潮的將是透過創新尋求優勢（例如智慧供應鏈）的企業，甚至是成千上萬希望生成式AI系統來撰寫學期論文的大學生。

對AI的需求加大意味著對這些AI系統所使用的資源的需求隨之加大，例如公有雲及其提供的服務。這項需求很可能會由更多容納伺服器和網路設備這些耗電大戶的資料中心來滿足。

公有雲供應商就像其他公共資源提供者一樣，會隨著需求的增加而提高價格，就像我們看到民用電費季節性上漲一樣（同樣基於需求）。因此，我們通常會控制用電量，在夏天將空調的溫度開得高一點。

然而，更高的雲端運算成本可能不會對企業產生相同的影響。企業可能會發現這些AI系統並非可有可無，而是驅動某些關鍵業務流程所必需的。在許多情況下，它們可能會試圖在內部節省資金，可能會採用減少員工數量以抵消AI系統的成本。生成式AI系統很快就會取代許多資訊工作者絕非什麼秘密。

我們能做些什麼？

如果對運行AI系統的資源的需求會導致更高的計算成本和碳排放量，我們能做些什麼？答案或許在於找到更有效率的方法讓AI充分利用處理器、網路和儲存等資源。

比如說，對管線進行取樣可以透過減少處理的資料量來加快深度學習。麻省理工學院（MIT）和IBM的研究表明，使用這種方法可以減少在大型資料集上運行神經網路所需的資源。然而這也限制了準確性，這對於一些商業用例而言是可以接受的，但不是對所有商業用例而言都可以接受。

另一種已經在其他技術領域應用的方法是記憶體中計算。這種架構可以透過避免資料進出記憶體來加快AI處理速度。相反，AI計算直接在記憶體模組中運行，這大大加快了速度。

其他方法正在開發中，例如改變物理處理器（使用協處理器處理AI計算以提高速度）或採用量子運算等下一代運算模型。可以預料，大型公有雲供應商會在近期宣布能夠解決許多這些問題的技術。

您該怎麼辦？

本文倒不是說要避免AI，以降低雲端運算費用或拯救地球。 AI是一種基礎性的運算方法，大多數企業都可以利用它來創造巨大價值。

建議您在進行基於AI的開發專案或全新的AI系統開發專案時，應清楚了解成本和永續性方面的影響，兩者密切相關。您必須做出成本/效益選擇，這實際上回到了舊話題：投入所需的成本、冒一定的風險後，可以為公司帶來什麼樣的價值。這方面沒什麼新意。

我相信，這個問題基本上有望透過創新來解決，無論創新是記憶體中運算、量子運算或其他尚未出現的技術。 AI技術供應商和雲端運算供應商都熱衷於讓AI更具成本效益和更節能環保，這是個好消息。

原文標題：The cost and sustainability of generative AI#，作者：David S. Linthicum

#

以上是生成式AI的成本和永續性的詳細內容。更多資訊請關注PHP中文網其他相關文章！