在使用者的瀏覽器中本地運行 AI

我們都知道人工智慧有多偉大，但是，仍然存在兩個主要問題：資料隱私和成本。

現在所有使用人工智慧的應用程式都連接到雲端API。這些 API 記錄提示和上下文，在某些情況下，它們使用這些資料來訓練模型。這意味著您在其中包含的任何敏感資料都可能會暴露。

大多數 Web 應用程式使用以下模式整合 AI 功能：

這裡的問題是應用程式伺服器需要將使用者資料傳送到AI API，這是第三方API，我們無法真正知道使用者資料會發生什麼事。

但是，我們為什麼不在用戶設備而不是雲端處理人工智慧？我已經對其進行了幾週的測試，並取得了驚人的結果。我發現了 3 個主要優點：

1. 用戶資料絕對不會發送給第三方。它始終保留在用戶設備上。
2. 對於應用程式開發者來說是免費的，您不需要為用戶推理付費，因為它直接發生在用戶設備上。
3. 可擴充性是無限的，因為每個新使用者都會帶來自己的運算能力。

讓我們快速看一下當我們將 AI 計算卸載給用戶時，先前的架構如何變化：

這是一個非常簡單的概念。用戶一如既往地使用我們的應用程序，但是當有一些任務需要執行人工智慧計算時，我們不使用第三方API，而是將其發送給用戶，用戶的設備將以最安全的方式執行該計算，本地。

這不僅僅是一個夢想，它已經功能齊全了，我創建了一個名為Offload的平台，讓每個人都可以輕鬆使用這個架構，只需更改幾行程式碼。 SDK 將處理幕後的所有事務，從下載適合使用者裝置的模型，到協助您在本地管理提示和評估提示回應，將評估結果傳回給您，而不會暴露使用者資料。一切都透過單一函數呼叫透明地進行。

我正在尋找可能從中受益的網頁開發人員，即使它只是為了業餘愛好項目，所以，如果你喜歡這種方法ping我！我很樂意幫助您在應用程式中進行設置，您會發現在幾分鐘內遷移實際上非常簡單。

將 Offload 整合到您的應用程式中

以上是在使用者的瀏覽器中本地運行 AI的詳細內容。更多資訊請關注PHP中文網其他相關文章！