Meta千億參數大模型OPT-IML「升級版」來了，完整模型和程式碼公佈！

今年五月，MetaAI官員宣布發布了基於1750億參數的超大模型OPT-175B，也對所有社群免費開放。

12月22日，該模型的更新版本OPT-IML（Open Pre-trained Transformer）正式上線，Meta稱其「對2000個語言任務進行了微調，包含1750億個參數」，也將為非商業研究用途免費開放。

這次更新的OPT-IML的效能表現如何，先上兩張圖來看。

這次的OPT-IML創建了兩種模型尺寸，分別是30B和175B。

與舊版OPT模型相比，OPT-IML在14個標準NLP評估任務的平均表現都優於OPT。

在零次學習任務上兩種模型大小分別好7%~ 和32-shot 任務分別好4%~ 和 0.4%~。

在這項研究中，研究人員描述了增加模型和基準大小如何影響指令調整決策對下游任務表現的影響。

為此他們開發了OPT-IML Bench，這是一個相當大的指令元學習(IML) 基準，包含2000個NLP任務，這些任務根據現有的八個基準分為任務類別。

為訓練OPT-IML 30B和175B，研究人員首先從該框架的角度對應用於OPT-30B 的指令調優決策提出了見解。

在具有不同目標和輸入格式的四個評估基準（PromptSource、FLAN、Super-NaturalInstructions 和UnifiedSKG）上，OPT-IML 在兩個尺度上展示了所有三種泛化技巧。

它不僅在所有基準測試中顯著優於OPT，而且以極具競爭力的方式優於針對該特定基準優化的現有模型。

此外OPT-IML已經開源，Github連結小編也放在下面啦~

##Github連結：https://github.com/facebookresearch/metaseq/tree/main/projects/OPT-IML

接下來透過論文來一起了解一下OPT-IML。

論文連結：https://github.com/facebookresearch/metaseq/blob/main/projects/OPT-IML/optimal_paper_v1 .pdf

研究方法

大型語言模型的指令微調已成為增強其零樣本和少樣本泛化能力的有效方法。在這項研究中，Meta研究人員對指令微調進行了三個重要的補充。

首先，他們編譯了一個大規模的指令微調基準，其中包含來自八個資料集集合的2,000個NLP任務，按任務類型分類。

研究人員在此基準上選擇性地建構評估拆分，以測試三種不同類型的模型泛化能力：#

包括來自完全保留類別的任務（tasks from fully held-out categories）、來自已見類型的保留任務（held-out tasks from seen types）以及來自已見任務的保留實例（held- out instances from seen tasks）。

#指令微調

對模型進行微調，以使它們與遵守說明保持一致，是目前機器學習的研究方向之一。

指令微調有兩種方法。一種專注於使用人工註釋的指令和回饋對各種任務的模型進行微調；另一種，專注於透過註釋或自動向可公開存取的基準和資料集添加指令。

在本研究中，Meta AI成員專注於第二種技術，並編譯了許多可公開存取的資料集，其中包含改進OPT的方法。

研究過程中，Meta成員使用來自四個基準的1836個任務，提出了類似的縮放方法。最後，在調整整個測試，以突破具有挑戰性的外部基準（例如 MMLU 和 Big-Bench Hard (BBH)）性能極限的同時，研究人員描述了可能影響下游性能的各種指令調整策略的權值。

多任務學習

多任務學習是基於指令的微調 (MTL) 的一種表述。

MTL 是一種流行的範例，當與共享可比較參數或表示的類似函數結合使用時，它可以提高任務的泛化效能。

近年來，MTL已應用於眾多NLP場景，主要著重於透過利用相關活動的訊號來提高訓練任務或新領域的表現。

相較之下，基於指令的微調有助於我們提高對前所未見問題的泛化效能。它是透過指令將所有任務組合成一個概念並透過在所有任務上分配模型的權重來一起訓練它們來實現的。

什麼是OPT？

大型語言模型，即具有超過 1000 億個參數的自然語言處理系統，在過去幾年中改變了NLP和AI研究。

這些模型接受了大量不同文字的訓練，展現出令人驚訝的新能力，可以產生創意文字、解決基本數學問題、回答閱讀理解問題等等。

雖然在某些情況下，公眾可以透過付費 API 與這些模型進行交互，但完整的研究存取權限仍然僅限於少數資源豐富的實驗室。

這種受限存取限制了研究人員理解這些大型語言模型如何運作以及為何工作的能力，阻礙了提高其穩健性和減輕偏見等已知問題的進展。

出於對開放科學的承諾，Meta AI於今年5月發布了Open Pretrained Transformer (OPT-175B)，這是一個具有1750 億參數的模型，在公共數據集上訓練而成，之所以分享這個模型，Meta AI 希望更多的社群參與理解關於大模型的基本技術。

簡單來說，Meta將用於人工智慧研究的大型語言模型存取權限開放給大眾，從而實現大模型研究的人工智慧民主化。

與舊版比較

根據Meta現在發布的IML版本經過微調，在自然語言任務上的表現比舊版OPT更好。

典型的語言任務包括回答問題、總結文字和翻譯。

為了進行微調，研究人員使用了大約2000個自然語言任務。這些任務分為八個NLP基準（OPT-IML Bench），研究人員也提供了這些基準。

平均而言，以30B和175B模型為例，OPT-IML比OPT的零次學習準確度提高了約 6-7%。在32次學習中，300億參數的模型準確度有顯著改進，1750億參數的模型有輕微改進。

經過對比，Meta團隊發現OPT-IML的性能在所有基準測試上都優於OPT，並且在零樣本和少樣本學習準確度方面，比其他基於指令微調的模型更具競爭力。

以上是Meta千億參數大模型OPT-IML「升級版」來了，完整模型和程式碼公佈！的詳細內容。更多資訊請關注PHP中文網其他相關文章！