生成式AI在雲端架構的幾點建議

重寫內容而不改變原意，需要將語言改寫為中文，不需要出現原句

為了重新表達這個內容，我們可以使用以下詞語：策劃| 議徵

生成式AI的加入對雲端架構帶來了許多改變，包括資料可用性、安全性、模型選擇和監控等面向。因此，在建構一個雲端架構的同時，如果還要設計生成式AI驅動的系統，就需要做一些不同的改變。同時，也需要考慮目前出現的最佳做法。結合過去20年的經驗，以下是作者給的一些建議，供大家參考

1、理解你的用例

明確定義雲端架構中產生人工智慧的目的和目標。如果我反覆看到任何錯誤，那就是沒有理解商業系統中生成人工智慧的含義。了解您的目標是實現什麼，無論是內容生成、推薦系統還是其他應用程式。這意味著寫下內容，並就目標、如何實現目標以及最重要的是如何定義成功達成共識。這對於生成人工智慧來說並不新鮮；這是贏得每一次遷移和建構在雲端的全新系統的一步。

我看到許多雲端中的整個生成AI專案都以失敗告終，因為它們沒有很好地理解業務用例。公司製造了一個很酷的東西，但不會為業務帶來任何價值。這是行不通的。

2、資料來源和品質是關鍵

重新寫成：為了訓練和推理人工智慧模型，需要識別適用的資料來源。這些數據必須具備可訪問性和高質量，並經過嚴格管理。同時，確保雲端儲存解決方案的可用性和相容性也是必要的。生成型人工智慧系統以資料為核心，可以稱之為以資料為導向的系統；資料是推動生成性人工智慧系統所產生結果的關鍵。只有輸入優質數據，才能得到優質的輸出結果

因此，將數據可存取性作為雲端架構的主要驅動因素是有幫助的。您需要將大多數相關資料作為訓練資料進行訪問，通常將其保留在現有位置，而不是將其遷移到單一物理實體。否則，你最終會得到多餘的數據，沒有單一的真相來源

在將數據輸入人工智慧模型之前，考慮高效的數據管道來預處理和清理數據。這樣可以確保資料品質和模型效能。這大約是使用產生人工智慧的雲端架構成功率的80%。然而，這一點最容易被忽視，因為雲端架構師更專注於生成人工智慧系統的處理，而不是為這些系統提供資料。數據就是一切。

3、資料安全和隱私

就像資料很重要一樣，應用於資料的安全性和隱私性也很重要。人工智慧的生成處理可以將看似毫無意義的數據轉化為可以暴露敏感資訊的數據。

為了保護產生人工智慧使用的敏感數據以及可能產生的新數據，必須實施強而有力的數據安全措施、加密和存取控制。同時，至少要遵守相關的資料隱私法規。這並不意味著只需在架構上安裝一些安全系統作為最後一步；安全性必須在每一步都融入到系統中

#4、可擴展性和推理資源

規劃可擴展的雲端資源，以適應不同的工作負載和資料處理需求。大多數公司都考慮自動擴展和負載平衡解決方案。我看到的一個更重大的錯誤是建立一個規模良好但成本高昂的系統。

需要重新寫的內容是：在原意不變的情況下，需要將內容改寫成中文。不需要出現原句

5、考慮模型的選型

根據您的特定用例和需求，選擇示例性的生成AI架構（通用對抗性網路、轉換器等）。考慮用於模型培訓的雲端服務，如AWS SageMaker和其他服務，並找到最佳化的解決方案。這也意味著要理解你可能有許多相互關聯的模型，這將是常態。

我們需要實作穩健的模型部署策略，其中包括版本控制和容器化，以確保雲端架構中的應用程式和服務能夠存取AI模型

6、監控和日誌記錄

設定監控和日誌系統以追蹤AI模型效能、資源利用率和潛在問題不是可選的。建立異常警報機制，以及為處理雲端中產生人工智慧而建構的可觀察性系統。

另外，需要持續監控和優化雲端資源的成本，因為生成式人工智慧可能對資源有較高的需求。可以使用雲端成本管理工具和實踐來實現。這意味著finops需要監控部署的各個方面，包括最低的營運成本效率以及評估架構是否最佳的架構效率。大多數體系結構都需要進行調整和持續改進

7、其他考慮

為了確保高可用性，需要進行故障切換和冗餘操作，以最大限度地減少系統故障時的停機時間和資料遺失。在必要時要實施冗餘措施。此外，還需要定期審計和評估雲端基礎架構中產生的人工智慧系統的安全性，解決漏洞並保持合規性

制定人工智慧道德使用指南是明智之舉，尤其是在產生內容或做出影響使用者決策時。因此，我們需要解決偏見和公平問題。目前有關人工智慧和公平的訴訟案件，我們需要確保我們所做的事情是正確的。持續評估使用者體驗，以確保人工智慧產生的內容符合使用者期望，並提高使用者參與度

無論你是否使用產生人工智慧，雲端運算架構的其他方面都是一樣的。關鍵是要意識到，有些事情要重要得多，需要更加嚴格，而且總是有改進的空間。

參考連結：https://www.php.cn/link/edfccb5cf44f7c2c385f8d4470117a0d

#

以上是生成式AI在雲端架構的幾點建議的詳細內容。更多資訊請關注PHP中文網其他相關文章！