如何管理生成式AI

作者丨Dom Couldwell

編譯丨諾亞

出品| 51CTO技術堆疊（微訊號：blog51cto）

#根據麥肯錫公司估計，生成式人工智慧預計每年將為全球經濟帶來2.6兆至4.4兆美元的經濟效益。這項預測是建立在63個新的應用場景之上的，這些場景有望在多個市場中為客戶帶來改進、效率提升和新產品。對於開發者和IT領導者而言，這無疑是一個巨大的機會。

生成式AI的核心在於資料。數據不僅賦予了生成式AI理解和分析周遭世界的能力，也為其變革性的潛能提供了動力。在生成式AI領域取得成功，公司需要有效管理和準備資料。

為成功建構和運營大規模的AI服務，以及支持生成式AI項目，你需要確保在數據準備方面做足功課，並採取明智可持續的資金支持策略。緩慢的步伐和逐漸減弱的支持方式無法在人工智慧領域取得優勢。因此，除了擴大AI服務規模外，還要確保專案的資金來源穩定，以助長長期發展和持續創新。

如果我們不改進資料管理方式，或未能採取正確的方法來應對規模擴大和成本控制問題，那么生成式AI蘊含的巨大潛力將會被白白浪費掉。以下是一些關於我們如何改進資料管理方法以及如何長期支持生成式AI專案的思考。

1.資料從哪裡來

資料以多種形態存在，每種形態的資料若使用得當，都能提升生成式AI洞察的豐富性和品質。

第一種形式是結構化數據，它以規則有序且一致的方式組織起來，包括產品資訊、客戶人口統計資料或庫存水準等項目。這類數據提供了有組織的事實基礎，可以添加到生成式AI專案中以提高回應的品質。

此外，您可能還有外部資料來源可以補充內部結構化資料來源，例如天氣報告、股票價格或交通流量等。這些數據能夠為決策過程帶來實時和真實世界的背景信息，將其融入項目可提供額外高質量數據，但可能沒有必要自行生成這類數據。

另一種常見的數據集是衍生數據，涵蓋了透過分析和建模場景創建的數據。此類深度見解可能包括客戶意圖報告、季節性銷售預測或群組分析等。

最後一種常見數據形式是非結構化數據，與分析師習慣的常規報告或數據格式不同，這類數據包括圖像、文件和音訊文件等格式。這些數據捕捉了人類溝通和表達的細微之處。生成式AI程式常常圍繞著影像或音訊工作，它們是生成式AI模型的常見輸入和輸出。

2.要讓生成式AI實作大規模應用

所有這些多樣的資料集各自存在於自己的環境中。為了使其對生成式AI專案有用，關鍵在於使這一多樣化的資料景觀在即時情況下可供存取。由於涉及如此大量的潛在數據，任何方法都必須能夠在需求增長時動態擴展，並在全球範圍內複製數據，確保資源在接到請求時能靠近用戶，從而避免停機時間並減少交易請求中的延遲。

此外，還需要對這些資料進行預處理，以便生成式AI系統能夠有效利用。這涉及到創建嵌入（embeddings），即代表語義含義的數學值，即向量。嵌入使得生成式AI系統能夠超越特定文本匹配，而是涵蓋資料內含的意義和上下文。無論原始資料形式為何，創建嵌入意味著資料能夠被生成式AI系統理解並使用，同時保留其意義和上下文。

透過這些嵌入，企業可以支援跨所有資料的向量搜尋或混合搜索，同時結合價值和意義。然後將這些結果收集起來傳回用於整合結果的大規模語言模型（LLM）。透過從多個來源提供更多數據，而不是只依賴LLM本身，你的生成式AI專案就能為使用者提供更準確的結果，並降低虛構內容的風險。

為了在實踐中實現這一點，必須選擇正確的底層資料架構。在這個過程中，應盡可能避免資料分散在不同解決方案中形成碎片化拼湊，因為每一個這樣的解決方案都代表著一個需要長期支援、查詢和管理的資料孤島。使用者應該能夠快速向LLM提問並迅速回應，而不是等待多個元件回應並由模型權衡其結果。統一的資料架構應提供無縫的資料集成，使生成式AI能夠充分利用所有可用的資料頻譜。

3.模組化方法的優點

為了擴展生成式AI實施，需要在加快採用速度與維持對關鍵資產的控制之間取得平衡。採用模組化的方式來建構生成式AI代理可以使這個過程變得更容易，因為它可以分解實施過程，避免潛在的瓶頸。

類似於微服務設計在應用程式中的應用，AI服務的模組化方法也鼓勵圍繞應用程式和軟體設計的最佳實踐，消除故障點，並讓更多潛在用戶能夠接觸這項技術。這種方法也使得監控整個企業中AI代理的表現變得更容易，能夠更精確地找出問題發生的位置。

模組化的第一個好處是可解釋性，因為參與生成式AI系統的各組成部分彼此分離，這樣就更容易分析代理是如何運作和做出決策的。 AI通常被視為“黑箱”，而模組化使得追蹤和解釋結果變得更加容易。

第二個好處是安全性，因為各個元件可以透過最佳認證和授權機制進行保護，確保只有授權使用者才能存取敏感資料和功能。模組化也使得合規和治理變得更容易，因為個人識別資訊（PII）或智慧財產權（IP）可以得到保障，與底層LLM保持分離。

4.提供持續靈活的資金模式

除了採用微服務方法之外，還應在整體生成式AI專案中採用平台思維模式。這意味著取代傳統的以專案為基礎的軟體專案資金模型，轉而提供持續且靈活的資金模型。這種方法賦予參與者基於價值做決策的能力，能夠回應新興機會，並發展最佳實踐，而不受制於僵硬的資金週期或商業案例。

以這種方式管理預算也能鼓勵開發人員和業務團隊將生成式AI視為組織已有的基礎設施的一部分，從而更容易平滑規劃工作負載的高峰和低谷，更容易採取「卓越中心」的方法並在長期內保持一致性。

類似的做法是將生成式AI視為企業本身營運的產品，而非單純的軟體。 AI代理應作為產品來管理，因為這更能有效地反映其所創造的價值，並使整合、工具和提示方面的支援資源更容易獲得。簡化這種模式有助於在整個組織內普及對生成式AI的理解，促進最佳實踐的採納，並創造出共享專業知識和協作的生成式AI開發文化。

生成式AI具有巨大的潛力，各公司正競相在其營運中實施新的工具、代理和提示。然而，要將這些潛在專案投入生產，就需要有效管理資料、奠定係統規模化發展的基礎，並建立合適的預算模型以支援團隊。合理安排流程和優先順序將有助於你和你的團隊釋放這項技術的變革潛力。

參考網址：https://www.infoworld.com/article/3713461/how-to-manage-generative-ai.html

#

以上是如何管理生成式AI的詳細內容。更多資訊請關注PHP中文網其他相關文章！