綜述聯邦學習技術及其應用在影像處理中的現狀
- WBOY轉載
- 2023-04-23 12:55:111542瀏覽
近年來，圖已被廣泛應用於表示和處理許多領域的複雜數據，如醫療、交通運輸、生物資訊學和推薦系統等。圖機器學習技術是獲取隱匿在複雜資料中豐富資訊的有力工具，並且在像節點分類和連結預測等任務中，展現出很強的效能。
儘管圖機器學習技術取得了重大進展，但大多數都需要把圖資料集中儲存在單機上。然而，隨著對資料安全和使用者隱私的重視，集中儲存資料變的不安全和不可行。圖資料通常分佈在多個資料來源（資料孤島），由於隱私和安全的原因，從不同的地方收集所需的圖資料變的不可行。
例如一家第三方公司想為一些金融機構訓練圖機器學習模型，以幫助他們偵測潛在的金融犯罪和詐欺客戶。每個金融機構都擁有私有客戶數據，如人口統計數據以及交易記錄等。每個金融機構的客戶形成一個客戶圖，其中邊代表交易記錄。由於嚴格的隱私權政策和商業競爭，各個機構的私人客戶資料無法直接與第三方公司或其它他機構共享。同時，機構之間也可能有關聯，這可視為機構之間的結構資訊。因此面臨的主要挑戰是：在不直接存取每個機構的私有客戶資料的情況下，基於私有客戶圖和機構間結構信息，來訓練用於金融犯罪檢測的圖機器學習模型。
聯邦學習（FL）是一種分散式機器學習方案，透過協作訓練解決資料孤島問題。它使參與者（即客戶）能夠在不共享其私有資料的情況下聯合訓練機器學習模型。因此，將 FL 與圖機器學習相結合成為解決上述問題的有希望的解決方案。
本文中，來自維吉尼亞大學的研究者提出聯邦圖機器學習（FGML，Federated Graph Machine Learning）。一般來說，FGML 可以根據結構資訊的層級分為兩種設定：第一種是具有結構化資料的FL，在具有結構化資料的FL 中，客戶基於其圖資料協作訓練圖機器學習模型，同時將圖資料保留在本地。第二種是結構化 FL，在結構化 FL 中，客戶端之間存在結構訊息，形成客戶端圖。可以利用客戶端圖設計更有效的聯合最佳化方法。
論文網址：https://arxiv.org/pdf/2207.11812.pdf
#雖然FGML 提供了一個有前景的藍圖，但仍有一些挑戰：
##1、跨客戶端的資訊缺失。在具有結構化資料的 FL 中，常見的場景是每個客戶端機器都擁有全域圖的子圖，並且一些節點可能具有屬於其他客戶端的近鄰。出於隱私考慮，節點只能在客戶端內聚合其近鄰的特徵，但無法存取位於其它客戶端上的特徵，這導致節點表示不足。
2、圖結構的隱私洩漏。在傳統 FL 中，不允許客戶端公開其資料樣本的特徵和標籤。在具有結構化資料的 FL 中，也應考慮結構資訊的隱私。結構資訊可以透過共享鄰接矩陣直接公開，也可以透過傳輸節點嵌入間接公開。
3、跨客戶端的資料異質性。與傳統 FL 中資料異質性來自 non-IID 資料樣本不同，FGML 中的圖資料包含豐富的結構資訊。同時，不同客戶的圖結構也會影響圖機器學習模型的效能。
4、參數使用的策略。在結構化 FL 中，客戶端圖使客戶端能夠從其相鄰客戶端獲取資訊。在結構化 FL 中，需要設計有效的策略，以充分利用由中心伺服器協調或完全分散的近鄰資訊。
為了回應上述挑戰，研究人員開發了大量演算法。目前各種演算法主要關注標準 FL 中的挑戰和方法，只有少數人嘗試解決 FGML 中的具體問題和技術。有人發表對 FGML 進行分類的綜述性論文，但沒有總結 FGML 中的主要技術。而有的綜述文章僅涵蓋了 FL 中數量有限的相關論文，並非常簡要地介紹了目前現有的技術。
#
而在今天介紹的這篇論文中，作者首先介紹 FGML 中兩種問題設計的概念。然後，回顧了每種 shezhi 下的最新的技術進展，也介紹了 FGML 的實際應用。並對可用於 FGML 應用的可存取圖資料集和平台進行總結。最後，作者給了幾個有前景的研究方向。文章的主要貢獻包括：
FGML 技術分類：文章給出了基於不同問題的 FGML 分類法，並總結了每個設定中的關鍵挑戰。
全面的技術回顧：文章全面概述了 FGML 中的現有技術。與現有其它綜述性論文相比，作者不僅研究了更廣泛的相關工作，而且提供了更詳細的技術分析，而不是簡單地列出每種方法的步驟。
實際應用：文章首次總結 FGML 的實際應用。作者根據應用領域進行分類，並介紹每個領域的相關工作。
資料集和平台：文章介紹了 FGML 中現有的資料集和平台，對於想在 FGML 中開發演算法和部署應用程式的工程師和研究人員非常有幫助。
未來方向：文章不僅指出了現有方法的局限性，而且給出了 FGML 未來的發展方向。
FGML 技術綜述 這裡對文章的主要結構做下簡介。
第 2 節簡要介紹了圖機器學習中的定義以及 FGML 中兩種設定的概念和挑戰。
第 3 節和第 4 節回顧了這兩種設定中的主流技術。第 5 節進一步探討了 FGML 在現實世界中的應用。第 6 節介紹了相關 FGML 論文中使用的開放圖資料集和 FGML 的兩個平台。在第 7 節中提供了未來可能的發展方向。
最後第 8 節對全文進行了總結。更多詳細資訊請參考原論文。
以上是綜述聯邦學習技術及其應用在影像處理中的現狀的詳細內容。更多資訊請關注PHP中文網其他相關文章！