如何產生「好」的圖？面向圖產生的深度生成模型系統綜述

https://www.zhuanzhi.ai/paper/a904f0aa0762e65e1dd0b8b464df7168

圖是描述對象及其關係的重要數據表示形式，它們出現在各種各樣的現實場景中。圖生成是該領域的關鍵問題之一，它考慮的是學習給定圖的分佈，產生更多新的圖。然而，由於其廣泛的應用，具有豐富歷史的圖的生成模型傳統上是手工製作的，並且只能對圖的一些統計屬性建模。

最近在用於圖生成的深度生成模型方面的進展是提高生成圖的保真度的重要一步，並為新類型的應用鋪平了道路。本文對用於圖生成的深度生成模型領域的文獻進行了廣泛的概述。首先，給出了面向圖生成的深度生成模型的形式化定義和初步知識;其次，分別提出了用於無條件和條件圖生成的深度生成模型的分類;對各自已有的工作進行了比較分析。在此之後，將概述此特定領域中的評估指標。最後，總結了深度圖生成的應用，並指出了五個有發展前景的研究方向。  

引言

圖在現實世界中無所不在，表示物件及其關係，如社會網絡、引文網絡、生物網絡、交通網絡等。眾所周知，圖還具有複雜的結構，其中包含豐富的底層值[1]。人們在這方面做出了巨大的努力，產生了豐富的相關文獻和處理各種圖形問題的方法。

這些工作可分為兩類:1)預測和分析給定圖的模式。 2)學習給定圖的分佈，產生更多新穎的圖。第一種類型涵蓋了許多研究領域，包括節點分類、圖分類和連結預測。在過去的幾十年裡，在這個領域已經做了大量的工作。與第一類問題相比，第二類問題與圖生成問題有關，這也是本文的重點。

圖生成包括建模和生成真實世界的圖的過程，它在幾個領域都有應用，例如理解社交網路[2]，[3]，[4]中的交互動態，異常檢測[5]，蛋白質結構建模[6]，[7]，原始碼生成和翻譯[8]，[9]，語義解析[10]。由於其廣泛的應用，圖的生成模型的發展有著豐富的歷史，產生了著名的模型，如隨機圖、小世界模型、隨機區塊模型和貝葉斯網路模型，這些模型基於先驗結構假設[11 ]生成圖。這些圖生成模型[12]、[13]、[14]旨在建模預先選擇的圖族，如隨機圖[15]、小世界網路[16]和無標度圖[12]。然而，由於其簡單性和手工製作的性質，這些隨機圖模型通常對複雜依賴的建模能力有限，只能對圖的一些統計屬性建模。

這些方法通常很適合預先定義原則為之量身定制的屬性，但通常無法很好地適用於其他屬性。例如，接觸網路模型可以擬合流感流行，但不能擬合動態功能連接。然而，在許多領域，網路的性質和生成原理在很大程度上是未知的，例如那些解釋大腦網路中的精神疾病的機制，網路攻擊和惡意軟體的傳播。對於另一個例子，Erdos-Renyi的圖沒有許多現實世界網路中典型的重尾度分佈。此外，先驗假設的使用限制了這些傳統技術在更大規模的領域中探索更多的應用，在這些領域中，圖的先驗知識總是不可用。

考慮到傳統圖生成技術的局限性，一個關鍵的開放挑戰是開發可以從觀察到的圖集合中直接學習生成模型的方法，這是提高生成圖的保真度的重要一步。它為新類型的應用鋪平了道路，如發現新的藥物[17]，[18]，和蛋白質結構建模[19]，[20]，[21]。深度生成模型的最新進展，如變分自編碼器(VAE)[22]和生成對抗網路(GAN)[23]，已被提出用於生成圖的許多深度學習模型，這些模型形式化了用於生成圖的深度生成模型的有前途的領域，這是本綜述的重點。

在深度圖生成方面已經開展了各種先進的工作，從一次性圖生成到順序圖生成過程，適應了各種深度生成學習策略。這些方法旨在透過不同領域的工作來解決上述挑戰中的一個或幾個，包括機器學習、生物資訊學、人工智慧、人類健康和社交網路挖掘。但是，不同的研究領域所發展的方法往往使用不同的詞彙，從不同的角度解決問題。

此外，缺乏標準和全面的評估程序來驗證所開發的圖的深度生成模型。為此，本文對用於圖生成的深度生成模型進行了系統性的綜述。目的是幫助跨學科研究者選擇合適的技術來解決其應用領域的問題，更重要的是幫助圖生成研究者理解圖生成的基本原理，並識別深度圖生成領域的開放研究機會。據我們所知，這是第一次對用於圖生成的深度生成模型的全面綜述。下面，我們總結了這次綜述的主要貢獻:

本文提出一種用於圖生成的深度生成模型分類法，按問題設定和方法進行分類。介紹了不同子類別之間的優缺點和關係。對用於圖生成的深度生成模型以及基礎的深度生成模型進行了詳細的描述、分析和比較。

• 我們總結和分類現有的評估程序和指標，基準資料集和對應的圖生成任務的深度生成模型的結果。
• 我們介紹了圖表深度生成模型的現有應用領域，以及它們為這些應用帶來的潛在好處和機會。
• 我們提出了用於圖生成的深度生成模型領域的幾個開放問題和有前途的未來研究方向。

用於圖產生的無條件深度產生模型

無條件深度圖所產生的目的是透過深度生成模型從真實分佈p(G)中抽樣的一組觀察到的真實圖來學習分佈pmodel(G)。根據生成過程的風格，我們可以將這些方法分為兩個主要分支:(1)順序生成:按順序依次生成節點和邊;(2)一次生成:根據矩陣表示建立一個概率圖模型，一次生成所有節點和邊。這兩種產生圖的方法各有優缺點。順序生成雖然有效率地執行了前一種生成的局部決策，但在保持長期依賴性方面存在困難。因此，圖的一些全域屬性(如無標度屬性)很難包含進去。此外，現有的關於序列產生的工作僅限於預先定義的序列的順序，從而留下了排列的作用。一次性生成方法可以透過多次迭代同步產生和細化整個圖(即節點和邊)，從而對圖的全局屬性進行建模，但由於需要對節點之間的全局關係進行集體建模，其時間複雜度通常超過O(N2)，因此大多數方法難以擴展到大型圖。

用於圖產生的條件深度產生模型

#條件深度圖產生的目標是根據觀察到的一組現實圖G及其對應的輔助資訊(即條件y)學習條件分佈pmodel(G|y)。輔助資訊可以是類別標籤、語意上下文、來自其他分佈空間的圖等。與無條件深度圖生成相比，條件生成除了在生成圖方面的挑戰外，還需要考慮如何從給定條件中提取特徵並將其整合到圖的生成中。

因此，為了系統地介紹現有的條件深度圖產生模型，我們主要描述這些方法如何處理條件。由於條件可以是任何形式的輔助訊息，因此它們被分為三種類型，包括圖、序列和語義上下文，如圖1中分類法樹的黃色部分所示

以上是如何產生「好」的圖？面向圖產生的深度生成模型系統綜述的詳細內容。更多資訊請關注PHP中文網其他相關文章！