大模型湧向行動端的浪潮愈演愈烈,終於有人把多模態大模型也搬到了行動端。近日,美團、浙大等推出了能夠在行動端部署的多模態大模型,包含了 LLM 基座訓練、SFT、VLM 全流程。也許在不久的將來,每個人都能方便、快速、低成本的擁有屬於自己的大模型。
論文網址:https://arxiv.org/pdf/2312.16886.pdf Code 網址:https://github.com/Meituan- AutoML/MobileVLM
大型多模態模型(LMMs),尤其是視覺語言模型(VLMs)系列,由於其在感知和推理方面的能力大大增強,已成為構建通用助手的一個很有前途的研究方向。然而,如何將預先訓練好的大型語言模型(LLMs)和視覺模型的表徵連接起來,提取跨模態特性,完成如視覺問題解答、圖像字幕、視覺知識推理和對話等任務,一直是個難題。
GPT-4V 和 Gemini 在這項任務上的出色表現已經被多次證明。不過,這些專有模型的技術實作細節我們還知之甚少。同時,研究界也提出了一系列語言調整方法。例如,Flamingo 利用視覺 token,透過門控交叉注意力層對凍結的語言模型進行調節。 BLIP-2 認為這種交互作用是不夠的,並引入了一個輕量級查詢transformer(稱為Q-Former),它能從凍結的視覺編碼器中提取最有用的特徵,並將其直接輸入到凍結的LLM 中。 MiniGPT-4 透過一個投影層將 BLIP-2 中的凍結視覺編碼器與凍結語言模型 Vicuna 配對。另外,LLaVA 應用了一個簡單的可訓練映射網絡,將視覺特徵轉換為嵌入 token,其維度與語言模型要處理的單字嵌入相同。
值得注意的是,訓練策略也逐漸轉變,以適應多樣性的大規模多模態資料。 LLaVA 可能是將 LLM 的指令調整範式複製到多模態場景的首次嘗試。為了產生多模態指令追蹤數據,LLaVA 向純語言模型 GPT-4 輸入文字訊息,如圖像的描述語句和圖像的邊界框座標。 MiniGPT-4 首先在綜合性的圖像描述語句資料集上進行訓練,然後在【影像 - 文字】對的校準資料集上進行微調。 InstructBLIP 基於預訓練的 BLIP-2 模型執行視覺語言指令調整,Q-Former 是在以指令調整格式組織的各種資料集上訓練的。 mPLUG-Owl 引入了一種兩階段訓練策略:首先對視覺部分進行預訓練,然後使用 LoRA ,基於不同來源的指令資料對大語言模型 LLaMA 進行微調。
- 儘管 VLM 取得了上述的進展,人們也存在著在計算資源有限的情況下使用跨模態功能的需求。 Gemini 在一系列多模態基準上超越了 sota,並為低記憶體設備引入了 1.8B 和 3.25B 參數的移動級 VLM。而 Gemini 也使用了蒸餾和量化等常用壓縮技術。本文的目標是建立首個開放的行動級 VLM,利用公共資料集和可用技術進行訓練,以實現視覺感知和推理,並為資源受限的平台量身定制。本文的貢獻如下:
本文提出了MobileVLM,它是專為移動場景量身打造的多模態視覺語言模型的全端級改造。據作者表示,這是第一個從零開始提供詳細、可複現和強大性能的視覺語言模型。透過受控和開源資料集,研究者建立了一套高效能的基礎語言模型和多模態模型。 本文對視覺編碼器的設計進行了廣泛的消融實驗,並系統地評估了 VLM 對各種訓練範式、輸入解析度和模型大小的表現敏感度。 本文在視覺特徵和文字特徵之間設計了一個高效的映射網絡,能更好地對齊多模態特徵,同時減少推理消耗。
#整體架構設計






應用 RoPE 注入位置資訊。 應用預歸一化來穩定訓練。具體來說,本文使用 RMSNorm 代替層歸一化, MLP 膨脹比使用 8/3 而不是 4。 使用 SwiGLU 激活函數取代 GELU 。


#在表7 中,研究者比較了不同規模和不同視覺token 數量下的多模態表現。所有實驗均使用 CLIP ViT 作為視覺編碼器。
#由於特徵互動和token交互作用都是有益的,研究者對前者採用了深度卷積,對後者採用了點卷積。表 9 顯示了各種 VL 映射網路的效能。表 9 中的第 1 行是 LLaVA 中使用的模組,該模組只透過兩個線性層對特徵空間進行轉換。第 2 行在每個 PW(pointwise)之前添加了一個 DW(depthwise)卷積,用於 token 交互,該卷積使用 2 倍下採樣,步長為 2。加上兩個前端 PW 層會帶來更多的特徵級交互,從而彌補 token 減少帶來的性能損失。第 4 行和第 5 行顯示,增加更多參數並不能達到預期效果。第 4 和第 6 行顯示,在映射網路末端對 token 進行下取樣具有正面效果。
SFT 的量化分析
以上是美團、浙大等合作,打造全流程行動裝置多模態大模型MobileVLM,能夠即時運行,並且採用驍龍888處理器的詳細內容。更多資訊請關注PHP中文網其他相關文章!

由於AI的快速整合而加劇了工作場所的迅速危機危機,要求戰略轉變以外的增量調整。 WTI的調查結果強調了這一點:68%的員工在工作量上掙扎,導致BUR

約翰·塞爾(John Searle)的中國房間論點:對AI理解的挑戰 Searle的思想實驗直接質疑人工智能是否可以真正理解語言或具有真正意識。 想像一個人,對下巴一無所知

與西方同行相比,中國的科技巨頭在AI開發方面的課程不同。 他們不專注於技術基準和API集成,而是優先考慮“屏幕感知” AI助手 - AI T

MCP:賦能AI系統訪問外部工具 模型上下文協議(MCP)讓AI應用能夠通過標準化接口與外部工具和數據源交互。由Anthropic開發並得到主要AI提供商的支持,MCP允許語言模型和智能體發現可用工具並使用合適的參數調用它們。然而,實施MCP服務器存在一些挑戰,包括環境衝突、安全漏洞以及跨平台行為不一致。 Forbes文章《Anthropic的模型上下文協議是AI智能體發展的一大步》作者:Janakiram MSVDocker通過容器化解決了這些問題。基於Docker Hub基礎設施構建的Doc

有遠見的企業家採用的六種策略,他們利用尖端技術和精明的商業敏銳度來創造高利潤的可擴展公司,同時保持控制。本指南是針對有抱負的企業家的,旨在建立一個

Google Photos的新型Ultra HDR工具:改變圖像增強的遊戲規則 Google Photos推出了一個功能強大的Ultra HDR轉換工具,將標準照片轉換為充滿活力的高動態範圍圖像。這種增強功能受益於攝影師

技術架構解決了新興的身份驗證挑戰 代理身份集線器解決了許多組織僅在開始AI代理實施後發現的問題,即傳統身份驗證方法不是為機器設計的

(注意:Google是我公司的諮詢客戶,Moor Insights&Strateging。) AI:從實驗到企業基金會 Google Cloud Next 2025展示了AI從實驗功能到企業技術的核心組成部分的演變,


熱AI工具

Undresser.AI Undress
人工智慧驅動的應用程序,用於創建逼真的裸體照片

AI Clothes Remover
用於從照片中去除衣服的線上人工智慧工具。

Undress AI Tool
免費脫衣圖片

Clothoff.io
AI脫衣器

Video Face Swap
使用我們完全免費的人工智慧換臉工具,輕鬆在任何影片中換臉!

熱門文章

熱工具

VSCode Windows 64位元 下載
微軟推出的免費、功能強大的一款IDE編輯器

ZendStudio 13.5.1 Mac
強大的PHP整合開發環境

MantisBT
Mantis是一個易於部署的基於Web的缺陷追蹤工具,用於幫助產品缺陷追蹤。它需要PHP、MySQL和一個Web伺服器。請查看我們的演示和託管服務。

記事本++7.3.1
好用且免費的程式碼編輯器

mPDF
mPDF是一個PHP庫,可以從UTF-8編碼的HTML產生PDF檔案。原作者Ian Back編寫mPDF以從他的網站上「即時」輸出PDF文件,並處理不同的語言。與原始腳本如HTML2FPDF相比,它的速度較慢,並且在使用Unicode字體時產生的檔案較大,但支援CSS樣式等,並進行了大量增強。支援幾乎所有語言,包括RTL(阿拉伯語和希伯來語)和CJK(中日韓)。支援嵌套的區塊級元素(如P、DIV),