卷！ MIT泊松流生成模型擊敗擴散模型，兼顧質量與速度

引言

擴散模型最早來自物理中的熱力學，最近卻在人工智慧領域大放異彩。還有什麼物理理論可以推動生成模型研究的發展呢？最近，來自 MIT 的研究者受到高維電磁理論的啟發，提出了一種稱作泊松流（Poisson Flow）的生成模型。理論上，這種模型具有直觀的圖像和嚴謹的理論；實驗上，它在生成質量、生成速度和魯棒性上往往比擴散模型更好。本文已被NeurIPS 2022接收。

• #論文網址：https://arxiv.org/abs/2209.11178  
• #程式碼位址：https://github.com/Newbeeer/Poisson_flow

#受到靜電力學的啟發，研究人員提出了一個新的生成模型，名為泊松流模型 (Poisson Flow Generative Models, or # PFGM)。直觀上，該研究可以把 N 維的資料點看成在 N 1 維空間中新增維度 z=0 平面上的一群正電荷，它們產生了高維度空間中的電場。從 z=0 平面開始沿著它們產生的電場線往外走，研究能夠把樣本送到一個半球面上（如圖一所示）。這些電場線的方向對應於高維空間中泊松方程式 (Poisson Equation)的解的梯度。研究人員證明了當半球的半徑夠大的時候，電場線能夠把在 z=0 平面上的電荷分佈（也就是資料分佈）轉換成一個在半球面上的均勻分佈（圖二）。

PFGM 利用了電場線的可逆性來產生z=0 平面上的資料分佈：首先研究人員在大的半球面上均勻取樣，接著讓樣本沿著電場線從球面往z=0 平面運動，從而產生數據。由於沿著電場線的運動可以由一個常微分方程（ODE）來描述，因此在實際的採樣中研究人員只需要解一個由電場線方向決定的 ODE。透過電場，PFGM 將一個球面上的簡單分佈轉換為一個複雜的資料分佈。從這個角度來看，PFGM 可以被認為是一種連續的標準化流(Normalizing Flow)。

在影像生成實驗中，PFGM 是目前在標準資料集CIFAR-10 上表現最好的標準化流模型，取得了2.35 的FID score （圖片品質的度量）。研究人員也展示了 PFGM 的其他一些用途，例如它能夠計算圖片的似然 (likelihood)、進行圖片編輯和擴展到高解析度的圖片資料集。此外，研究人員發現 PFGM 比近期大熱的擴散模型(Diffusion Models)有著三個優點：

（1）在在相同的網絡結構上，PFGM 的ODE 生成的樣本質量遠好於擴散模型的ODE；（2）在與擴散模型的SDE （隨機微分方程）生成質量差不多的情況下，PFGM 的ODE 達到了10 倍- 20 倍的加速；

（3）PFGM 在表達能力較弱的網絡結構上比擴散模型穩健。

圖一：樣本點沿著電場線移動 。上圖：資料分佈呈現愛心狀；下圖：資料分佈呈PFGM 狀

##################### ###圖二：左圖：泊松場在三維中的軌跡；右圖：在影像上使用PFGM 的前向ODE 和反向ODE#########

方法概覽

注意到上述的過程將 N 維資料嵌入了在 N 1 維（多了 z 維度）的空間中。為了方便區分，研究者把 N 維資料和 N 1 維用 x 和表示。為了得到上述的高維電場線，需要解如下的泊松方程式：

其中是位於z=0 平面上想要產生的資料分佈；是位能函數，也就是研究者求解的目標。由於只需要知道電場線的方向，研究人員推導出了電場線的梯度（位能函數的梯度）的解析形式：

##電場線的軌跡（見圖二）能夠被下面的ODE 所描述：

#在下面的定理中，研究人員證明了上述ODE 定義了一個高維半球面上的均勻分佈和z=0 平面上的資料分佈的雙射。這個結論與圖一、圖二的直觀相同：可以透過電場線來還原資料分佈。

PFGM 的訓練

#給定一個從資料分佈中取樣得到資料集 ，研究者使用此資料集所對應的電場線梯度，近似資料分佈對應的電場線梯度：

##此電場線梯度是學習目標。研究透過 perturb

 函數在空間中進行選點，且平方損失函數讓神經網路

去學習空間中歸一化的電場線梯度

#, 具體演算法如下：

#PFGM 的取樣############# ##當學習完歸一化去學習空間中歸一化的電場線梯度############後，可以透過如下的ODE 對資料分佈進行取樣：######

此 ODE 透過減少 z，使得樣本從大球面沿著電場線逐漸移動到 z=0 平面。此外，該研究提出了將大球面上的均勻分佈投影到某個 z 平面以方便 ODE 模擬，並進一步透過變數替換來進一步加速取樣。具體步驟請參閱文章的 3.3 節。

實驗結果

在表一中，研究使用標準資料集 CIFAR-10 來評估不同模型。在該資料集上，PFGM 是表現最好的可逆標準化流模型，取得了 2.35 的 FID score。在使用相同的網路結構 (DDPM /DDPM deep) 的條件下，PFGM 的表現優於擴散模型。研究人員同時觀測到，在與擴散模型的 SDE （隨機微分方程）生成質量差不多的情況下，PFGM 達到了 10 倍 - 20 倍的加速，更好地兼顧了生成質量與速度。此外，研究人員發現 PFGM 在表達能力較弱的網絡結構上比擴散模型穩健，且在更高維的資料集上仍優於同等條件下的擴散模型。具體請見文章的實驗章節。在圖三中，研究視覺化了 PFGM 生成圖片的過程。

表一：CIFAR-10 資料上的取樣品質（FID, Inception）與取樣步數(NFE)

圖三：PFGM 在CIFAR-10, CelebA 64x64, LSUN bedroom 256x256 上的取樣過程

結論

###該研究提出了一個基於泊松方程式的生成模型PFGM。這個模型預測 N 1 維的擴展空間中的歸一化電場線梯度，並透過電場線對應的 ODE 來取樣。實驗中，該研究的模型是目前最好的標準化流模型，並在相同的網路結構上取得了比擴散模型更好的生成效果與更快的取樣速度。 PFGM 的取樣過程對雜訊更穩健，也能擴展到更高維度的資料集中。研究人員期望 PFGM 能夠在其他應用領域中也能取得亮眼表現，例如分子生成和 3D 數據生成。 ######

以上是卷！ MIT泊松流生成模型擊敗擴散模型，兼顧質量與速度的詳細內容。更多資訊請關注PHP中文網其他相關文章！