搜尋
首頁科技週邊人工智慧谷歌將視覺遷移模型參數擴展到220億,自ChatGPT火爆後研究者集體行動

與自然語言處理類似,對預訓練視覺主幹的遷移提高了模型在各種視覺任務上的表現。更大的資料集、可擴展的架構和新的訓練方法都推動了模型效能的提升。

然而,視覺模型仍然遠遠落後於語言模型。具體來說,迄今為止最大的視覺模型 ViT 只有 4B 參數,而入門級語言模型通常超過 10B 參數,更別說具有 540B 參數的大型語言模型。

為了探索AI 模型的性能極限,Google Research 最近在CV 領域的一項研究,率先將Vision Transformer 參數量擴展到了22B,提出ViT-22B,與之前類似的模型參數量4B 相比,可以說這是迄今為止最大的稠密型ViT 模型。

谷歌將視覺遷移模型參數擴展到220億,自ChatGPT火爆後研究者集體行動

論文網址:https://arxiv.org/pdf/2302.05442.pdf

#對比之前最大的ViT- G 和ViT-e,表1 給出了比較結果,由下表可得,ViT-22B 主要是擴展了模型的寬度,使得參數量更大,深度和ViT-G 一樣。

谷歌將視覺遷移模型參數擴展到220億,自ChatGPT火爆後研究者集體行動

目前的ViT 大模型

正如這位知乎網友所說,難道是谷歌在ChatGPT 上輸了一局,勢必要在CV 領域爭口氣?

谷歌將視覺遷移模型參數擴展到220億,自ChatGPT火爆後研究者集體行動

如何做到的?原來研究早期,他們發現在擴展 ViT 的過程中,出現了訓練不穩定性,並且可能會帶來架構變化。然後研究人員仔細設計模型,並以前所未有的效率實現模型並行訓練。 ViT-22B 的品質是透過一套全面的任務來評估的,從(少樣本)分類到密集輸出任務,在這些任務中,它達到或超過了當前 SOTA 水平。例如,即使用作凍結的視覺特徵提取器,ViT-22B 在 ImageNet 上的準確率也達到了 89.5%。透過訓練 text tower 來匹配這些視覺特徵,它在 ImageNet 上實現了 85.9% 的零樣本設定準確率。此外,該模型可以看作是一個教師,用作蒸餾目標,研究人員訓練了一個 ViT-B 學生模型,在 ImageNet 上的準確率為 88.6%,達到了此類規模模型上 SOTA 水平。

模型架構

ViT-22B 是基於Transformer 的編碼器模型,類似於原始Vision Transformer 架構,但包含以下三個主要修改,以提高效率和大規模訓練的穩定性:平行層、查詢/ 鍵(QK)歸一化和omitted biases。

並行層。如同Wang 和Komatsuzaki 研究所述,該研究設計了一個Attention 和MLP 並行結構:

谷歌將視覺遷移模型參數擴展到220億,自ChatGPT火爆後研究者集體行動

#這可以透過組合MLP 和注意力塊的線性投影來實現額外的並行化。值得注意的是,用於查詢 / 鍵 / 值投影的矩陣乘法和 MLP 的第一線性層被融合到一個單獨的操作中,對於 MLP 的注意力外投影和第二層線性層也是如此。

QK 歸一化。訓練大模型的一個困難是模型的穩定性,在將 ViT 擴展的過程中,研究人員發現在數千輪的 step 後訓練損失呈發散性。特別是在 8B 參數的模型中這種現象特別突出。為了穩定模型訓練,研究人員採用 Gilmer 等人的方法,在點積注意力計算之前對查詢和鍵應用 LayerNorm 歸一化操作,以提升訓練的穩定性。具體來說,注意力權重計算為:#

谷歌將視覺遷移模型參數擴展到220億,自ChatGPT火爆後研究者集體行動

omitted biases。在 PaLM 之後,偏置項從 QKV 投影中移除,並且所有的 Layernorm 都在沒有偏壓的情況下應用,從而提高了加速器的利用率 (3%),且品質沒有下降。然而,與 PaLM 不同的是,研究人員對 MLP 密集層使用了偏置項,即便如此,這種方式在兼顧品質的同時,速度並沒有下降。 

圖 2 展示了一個 ViT-22B 編碼器區塊。嵌入層在原有 ViT 的基礎上進行了 patch 提取、線性投影和添加位置嵌入等操作。研究人員使用多頭注意力池化來聚合頭中的每個 token 表示。

谷歌將視覺遷移模型參數擴展到220億,自ChatGPT火爆後研究者集體行動

ViT-22B 使用 14 × 14 的 patch,影像解析度為 224 × 224。 ViT-22B 採用了一種學習到的一維位置嵌入。在對高解析度影像進行微調期間,研究人員根據預訓練的位置嵌入在原始影像中的位置執行二維插值。

訓練基礎設施與效率

ViT-22B 使用 FLAX 函式庫,實作方式是 JAX,並在 Scenic 中建置。它同時利用了模型和資料並行性。值得一提的是,研究人員使用了 jax. xmap API,它提供了對所有中間體的分片(例如權重和激活)以及晶片間通信的明確控制。研究人員將晶片組織成大小為 t × k 的 2D 邏輯網格,其中 t 是資料平行軸的大小,k 是模型軸的大小。然後,對於 t 組中的每個組,k 個設備獲得相同批次的圖像,每個設備只保留 1/k 的激活,並負責計算所有線性層輸出的 1/k(詳細內容如下)。

谷歌將視覺遷移模型參數擴展到220億,自ChatGPT火爆後研究者集體行動

#圖3:非同步並行線性操作(y = Ax):跨裝置的重疊通訊與計算的模型並行矩陣乘法。

非同步並行線性運算。為了最大限度地提高吞吐量,必須考慮計算和通訊。也就是說,如果希望這些操作在分析上等效於未分片的情況,就必須盡可能少地進行通信,理想情況下讓它們重疊,這樣就可以保持矩陣乘法單元(FLOP 的大部分容量所在)始終處於繁忙狀態。

參數分片。該模型在第一個軸上是資料並行的。每個參數可以在這個軸上完全複製,也可以讓每個裝置保存它的一個區塊。研究人員選擇從模型參數中分割一些大張量,以便能夠擬合更大的模型和批次大小。

使用這些技術,ViT-22B 在 TPUv4 上訓練期間,每個核心每秒處理 1.15k token。 ViT-22B 的模型 flops 利用率(MFU)為 54.9%,顯示硬體的使用非常有效。請注意,PaLM 報告的 MFU 為 46.2%,而研究人員在相同硬體上為 ViT-e(僅數據並行)測量的 MFU 為 44.0%。

實驗結果

實驗探討了 ViT-22B 用於影像分類的評估結果。

表 2 結果顯示,ViT-22B 在各種指標上仍有顯著的改善。此外,研究表明,像 ViT-22B 這樣的大型模型的 Linear probing 可以接近或超過具有高分辨率的小型模型的 full fine-tuning 性能,通常成本更小、更容易做到。

谷歌將視覺遷移模型參數擴展到220億,自ChatGPT火爆後研究者集體行動

研究進一步在細粒度分類資料集iNaturalist 2017 上測試線性可分離性,將ViT-22B 與其他ViT 變體進行比較。研究測試了 224px 和 384px 的輸入解析度。結果如圖 4。研究觀察到 ViT-22B 明顯優於其他 ViT 變體,特別是在標準的 224px 輸入解析度下。這表明 ViT-22B 中大量的參數對於從圖像中提取詳細資訊是有用的。

谷歌將視覺遷移模型參數擴展到220億,自ChatGPT火爆後研究者集體行動

表 3 顯示了 ViT-22B 對 CLIP、ALIGN、BASIC、CoCa、LiT 模型的零樣本遷移結果。表 3 底部比較了三個 ViT 模型效能。

在所有的 ImageNet 測試集中,ViT-22B 取得了相當或更好的結果。值得注意的是,ObjectNet 測試集上的零樣本結果與 ViT 模型大小高度相關。最大的 ViT-22B 將新的 SOTA 設定在具有挑戰性的 ObjectNet 測試集中。

谷歌將視覺遷移模型參數擴展到220億,自ChatGPT火爆後研究者集體行動

Out-of-distribution (OOD)。研究建立了一個從 JFT 到 ImageNet 的標籤映射,以及從 ImageNet 到不同分佈外資料集的標籤映射,即 ObjectNet、ImageNet-v2、ImageNet- R 和 ImageNet- A。

目前可以確認的結果是,與 ImageNet 上的改進一致,擴展模型增加了分佈外性能。這適用於只看過 JFT 影像的模型,以及在 ImageNet 上進行微調的模型。在這兩種情況下,ViT-22B 在更大的模型上都延續了 OOD 表現更好的趨勢(圖 5,表 11)。

谷歌將視覺遷移模型參數擴展到220億,自ChatGPT火爆後研究者集體行動

此外,研究人員也研究了ViT-22B 模型在語意分割和單目深度估計任務中捕獲的幾何和空間資訊品質。

語意分割。研究人員在三個基準上評估 ViT-22B 作為語意分割主幹:ADE20K、Pascal Context 和 Pascal VOC。從表 4 可以看出,當只看到少量分割遮罩時,ViT-22B 主幹遷移效果較好。

谷歌將視覺遷移模型參數擴展到220億,自ChatGPT火爆後研究者集體行動

單目深度估計。表 5 總結了研究的主要發現。從最上面的行(DPT 解碼器)中可以觀察到,與不同的主幹相比,使用 ViT-22B 特性產生了最佳的性能(在所有指標上)。透過將 ViT-22B 主幹與 ViT-e(一個較小的模型,但在與 ViT-22B 相同的資料上進行訓練)進行比較,研究發現擴展架構可以提高效能。

此外,將ViT-e 主幹與ViT-L(與ViT-e 類似的架構,但訓練的資料較少)進行比較,研究發現這些改進也來自於擴展訓練前的資料。這些發現表明,更大的模型和更大的數據集都有助於提高效能。

谷歌將視覺遷移模型參數擴展到220億,自ChatGPT火爆後研究者集體行動

該研究也在影片資料集上進行了探索。表 6 展示了在 Kinetics 400 和 Moments in Time 資料集上的視訊分類結果,顯示可以使用凍結的主幹實現具有競爭力的結果。研究首先與 ViT-e 進行比較,ViT-e 擁有最大的先驗視覺主幹模型,由 40 億個參數組成,並且也在 JFT 資料集上進行訓練。我們觀察到更大的 ViT-22B 模型在 Kinetics 400 上提高了 1.5 分,在 Moments in Time 上提高了 1.3 分。

最後研究注意到,透過完整的端對端微調,還有進一步改進的空間。

谷歌將視覺遷移模型參數擴展到220億,自ChatGPT火爆後研究者集體行動

更多技術細節請參閱原始論文。

以上是谷歌將視覺遷移模型參數擴展到220億,自ChatGPT火爆後研究者集體行動的詳細內容。更多資訊請關注PHP中文網其他相關文章!

陳述
本文轉載於:51CTO.COM。如有侵權,請聯絡admin@php.cn刪除
AI技能差距正在減慢供應鏈AI技能差距正在減慢供應鏈Apr 26, 2025 am 11:13 AM

經常使用“ AI-Ready勞動力”一詞,但是在供應鏈行業中確實意味著什麼? 供應鏈管理協會(ASCM)首席執行官安倍·埃什肯納齊(Abe Eshkenazi)表示,它表示能夠評論家的專業人員

一家公司如何悄悄地努力改變AI一家公司如何悄悄地努力改變AIApr 26, 2025 am 11:12 AM

分散的AI革命正在悄悄地獲得動力。 本週五在德克薩斯州奧斯汀,Bittensor最終遊戲峰會標誌著一個關鍵時刻,將分散的AI(DEAI)從理論轉變為實際應用。 與閃閃發光的廣告不同

NVIDIA釋放NEMO微服務以簡化AI代理開發NVIDIA釋放NEMO微服務以簡化AI代理開發Apr 26, 2025 am 11:11 AM

企業AI面臨數據集成挑戰 企業AI的應用面臨一項重大挑戰:構建能夠通過持續學習業務數據來保持準確性和實用性的系統。 NeMo微服務通過創建Nvidia所描述的“數據飛輪”來解決這個問題,允許AI系統通過持續接觸企業信息和用戶互動來保持相關性。 這個新推出的工具包包含五個關鍵微服務: NeMo Customizer 處理大型語言模型的微調,具有更高的訓練吞吐量。 NeMo Evaluator 提供針對自定義基準的AI模型簡化評估。 NeMo Guardrails 實施安全控制,以保持合規性和適當的

AI為藝術與設計的未來描繪了一幅新圖片AI為藝術與設計的未來描繪了一幅新圖片Apr 26, 2025 am 11:10 AM

AI:藝術與設計的未來畫卷 人工智能(AI)正以前所未有的方式改變藝術與設計領域,其影響已不僅限於業餘愛好者,更深刻地波及專業人士。 AI生成的藝術作品和設計方案正在迅速取代傳統的素材圖片和許多交易性設計活動中的設計師,例如廣告、社交媒體圖片生成和網頁設計。 然而,專業藝術家和設計師也發現AI的實用價值。他們將AI作為輔助工具,探索新的美學可能性,融合不同的風格,創造新穎的視覺效果。 AI幫助藝術家和設計師自動化重複性任務,提出不同的設計元素並提供創意輸入。 AI支持風格遷移,即將一種圖像的風格應用

Zoom如何徹底改變與Agent AI的合作:從會議到里程碑Zoom如何徹底改變與Agent AI的合作:從會議到里程碑Apr 26, 2025 am 11:09 AM

Zoom最初以其視頻會議平台而聞名,它通過創新使用Agentic AI來引領工作場所革命。 最近與Zoom的CTO XD黃的對話揭示了該公司雄心勃勃的願景。 定義代理AI 黃d

對大學的存在威脅對大學的存在威脅Apr 26, 2025 am 11:08 AM

AI會徹底改變教育嗎? 這個問題是促使教育者和利益相關者的認真反思。 AI融入教育既提出了機遇和挑戰。 正如科技Edvocate的馬修·林奇(Matthew Lynch)所指出的那樣

原型:美國科學家正在國外尋找工作原型:美國科學家正在國外尋找工作Apr 26, 2025 am 11:07 AM

美國科學研究和技術發展或將面臨挑戰,這或許是由於預算削減導致的。據《自然》雜誌報導,2025年1月至3月期間,美國科學家申請海外工作的數量比2024年同期增加了32%。此前一項民意調查顯示,75%的受訪研究人員正在考慮前往歐洲和加拿大尋找工作。 過去幾個月,數百項NIH和NSF的撥款被終止,NIH今年的新撥款減少了約23億美元,下降幅度接近三分之一。洩露的預算提案顯示,特朗普政府正在考慮大幅削減科學機構的預算,削減幅度可能高達50%。 基礎研究領域的動盪也影響了美國的一大優勢:吸引海外人才。 35

所有有關打開AI最新的GPT 4.1家庭的信息 - 分析Vidhya所有有關打開AI最新的GPT 4.1家庭的信息 - 分析VidhyaApr 26, 2025 am 10:19 AM

Openai推出了強大的GPT-4.1系列:一個專為現實世界應用設計的三種高級語言模型家族。 這種巨大的飛躍提供了更快的響應時間,增強的理解和大幅降低了成本

See all articles

熱AI工具

Undresser.AI Undress

Undresser.AI Undress

人工智慧驅動的應用程序,用於創建逼真的裸體照片

AI Clothes Remover

AI Clothes Remover

用於從照片中去除衣服的線上人工智慧工具。

Undress AI Tool

Undress AI Tool

免費脫衣圖片

Clothoff.io

Clothoff.io

AI脫衣器

Video Face Swap

Video Face Swap

使用我們完全免費的人工智慧換臉工具,輕鬆在任何影片中換臉!

熱工具

Safe Exam Browser

Safe Exam Browser

Safe Exam Browser是一個安全的瀏覽器環境,安全地進行線上考試。該軟體將任何電腦變成一個安全的工作站。它控制對任何實用工具的訪問,並防止學生使用未經授權的資源。

Dreamweaver Mac版

Dreamweaver Mac版

視覺化網頁開發工具

WebStorm Mac版

WebStorm Mac版

好用的JavaScript開發工具

EditPlus 中文破解版

EditPlus 中文破解版

體積小,語法高亮,不支援程式碼提示功能

mPDF

mPDF

mPDF是一個PHP庫,可以從UTF-8編碼的HTML產生PDF檔案。原作者Ian Back編寫mPDF以從他的網站上「即時」輸出PDF文件,並處理不同的語言。與原始腳本如HTML2FPDF相比,它的速度較慢,並且在使用Unicode字體時產生的檔案較大,但支援CSS樣式等,並進行了大量增強。支援幾乎所有語言,包括RTL(阿拉伯語和希伯來語)和CJK(中日韓)。支援嵌套的區塊級元素(如P、DIV),