根據外媒《華爾街日報》消息,Meta正在加緊開發新的大語言模型,能力將完全對標GPT-4,預計明年推出。
訊息還特別強調了,Meta新的大語言模型將比Llama 2大數倍,而且大機率還是會開源,支援免費商用。
自從年初Meta將LlaMA「不小心」洩漏出來之後,到7月份Llama 2的開源發布,Meta漸漸找到了自己在這次AI浪潮中的獨特位置—— AI開源社群的旗幟。
人員的變動不斷,模型的能力有缺陷,只能依賴開源軟體來解決問題
年初,在OpenAI在用GPT-4引爆了科技業之後,Google,微軟也相繼推出了自己的AI產品。
在5月份的時候,美國監管層就邀請了當時他們認為AI行業相關的頭部企業CEO,開了一個圓桌會議,討論AI技術的發展。
OpenAI、Google和微軟都受邀參加了,甚至還有新創公司Anthropic,但Meta卻沒有出現。當時官方回應Meta缺席的原因是:「我們只邀請了AI產業中最頂尖的公司。」
##好事沒有輪上Meta,但是麻煩卻源源不絕地找上門。
小札在6月初收到了國會寄來的一封質詢信,信中要求他詳細解釋3月份LlaMA洩漏事故的原因和影響。這封信措辭嚴厲,要求非常明確
而在後來的幾個月時間裡,即便在Llama 2發布之後,Meta之前花重金打造的AI團隊卻仍在逐漸分崩離析。
在Llama 2的致謝中,提到了4個最早發起這項研究的團隊成員,其中三人已經離職,目前只有Edouard Grave仍在Meta公司工作
業界大牛何愷,也將離開Meta,回歸學術界。
根據最近The Information的爆料文章,Meta的AI團隊,因為對於內部算力的爭奪,摩擦不斷,人員陸續離開。
在這樣的大背景下,小扎自己應該也很清楚,Meta自己的大語言模型,也確實沒有辦法和業界最前沿的GPT-4沾邊。
無論是從基準測試的各個方向還是使用者回饋來看,Llama 2和GPT-4之間的差距仍然很大
在各項基準測試中,開源的Llama 2和GPT-4之間存在相當大的差距
# 因此,小扎決定讓Meta繼續在模型開源之路上狂奔不止 或許小扎背後的思路是這樣的:Meta模型的能力一般,無法與閉源大佬競爭,繼續保密也沒有意義。因此,乾脆開源,讓AI社群以自家模型為基礎進行不斷迭代,以擴大自己產品在業界的影響力 小扎曾多次公開表示,開源社群對於他們的模型迭代起到了啟發作用,使得他們的技術團隊能夠在未來開發出更具競爭力的產品 小扎在Fridman的播客中強調,開源能讓Meta從社群中吸收靈感,而未來Meta可能會推出閉源模型。 請參閱:https://lexfridman.com/mark-zuckerberg-2/ 而事實也證明,Meta的這個選擇確實是正確的。 雖然在算力資源和技術實力上比不上谷歌,OpenAI,但是Meta的Llama 2等開源模型對於開源社群的吸引力依然是首屈一指的。隨著Llama 2慢慢成為AI開源社群的「技術底座」,Meta也在業界找到了自己的生態位。 最明顯的一個標誌是,馬上9月份將要召開的國會AI閉門會議之中,小扎終於成為了監管層的座上賓,和谷歌、OpenAI等行業最前沿的公司CEO一同作為代表,對於AI產業監管發出自己的聲音。 而如果明年Meta推出的新模型,能夠繼續保持進步,獲得和GPT-4持平的能力,一方面能讓開源社區持續拉近與閉源巨頭的差距,坐實了「開源社群與業界最先進水準差距在一年左右」的說法。 另一方面,小札在訪談中也曾透露,如果未來大模型能力進一步提升,Meta可能會推出自己的閉源模型。如果新的模型能進一步迫近產業SOTA,也許就離Meta推出自己的閉源模型不遠了。 儘管Meta在這次AI浪潮中似乎暫時落後,但小扎並不滿足於只做一個追隨者 在Yann Lecun的指導下,Meta也在準備顛覆整個產業 所以,這個傳說中能比肩GPT-4的神秘大模型之後,Meta AI未來會是什麼樣子? 因為目前還沒有具體訊息,我們也只能做一番猜測,例如從Meta AI首席科學家LeCun的態度入手。 當紅炸雞GPT,一直是LeCun批評和鄙視的人工智慧發展路線。 今年2月4日,LeCun直截了當地表達了他的觀點,他認為大型語言模型在通往人類級別AI的道路上是一條錯誤的路徑 他認為這種根據機率生成自回歸的大模型最多活不過5年,因為這些人工智慧只是在大量的文本上訓練的,它們無法理解現實世界。 這些模型既不會進行計劃,也不能進行推理,它們只具備上下文學習的能力 嚴肅的說,這些在LLM上訓練的人工智慧幾乎毫無「智能」可言。 而LeCun期待的,則是能夠通往AGI的 「世界模型」。 世界模型能夠學習世界如何運作,更快速地進行學習,為完成複雜任務做出計劃,並隨時應對不熟悉的新情況。 這與需要大量預訓練的LLM不同,世界模型能夠像人類一樣,從觀察中找到規律,適應新環境、掌握新技能。 Meta力求多樣化的模型開發,與OpenAI在LLM領域不斷精進深耕的策略相比 今年6月14日, Meta發布了一個「類人」的人工智慧模型I-JEPA,也是史上第一個基於LeCun世界模型願景關鍵部分的AI模型。 請點擊以下連結查看論文:https://arxiv.org/abs/2301.08243 I-JEPA能夠理解圖像中的抽象表徵,並透過自我監督學習獲取常識 #I-JEPA無需額外的人工製作知識作為輔助 隨後,Meta推出了Voicebox,這是一個全新的創新語音生成系統,它基於Meta AI提出的一種全新的方法——流匹配 它可以合成六種語言的語音,執行去雜訊、編輯內容、轉換音訊風格等操作。 Meta也發布了通用的具身AI代理人 透過語言引導技能協調(LSC),機器人可以在預先繪製的某些環境中自由移動和拾取物品 在多模態模型的開發中,Meta獨具特色 ImageBind,第一個能夠從六種不同模態綁定資訊的人工智慧模型。 它具備了機器全面的理解能力,能夠將照片中的物體與它們的聲音、三維形狀、溫度以及運動方式聯繫起來 而來自Meta AI和CMU_Robotics共同開發的RoboAgent,讓機器人可以獲得各種各樣的非平凡技能,並將它們推廣到數百個生活場景中。 所有這些場景的資料都比之前在該領域的工作少了一個數量級 ##對於這次爆料的模型,有網友表示,希望他們繼續開放原始碼。 然而,也有一些網友表示,Meta要到2024年初才會開始訓練 #但令人欣慰的是,Meta依舊釋放了自己將繼續堅持原有戰略的訊號。 Meta的未來
以上是Meta計劃在明年發布全新的開源版GPT-4級大模型,其參數量將是Llama 2的數倍,用戶可免費商用的詳細內容。更多資訊請關注PHP中文網其他相關文章!

本文展示了AI如何以Tomorrow.io為典型的例子來徹底改變空間行業。 與像SpaceX這樣的建立太空公司不同,SpaceX並非沒有AI的核心,明天是AI本地公司。 讓我們探索

在印度(2025)登陸您夢想中的機器學習實習! 對於學生和早期職業專業人員來說,機器學習實習是一個有意義的職業的完美髮射台。 跨不同部門的印度公司 - 尖端的基因

在過去的一年中,在線瀏覽的景觀經歷了重大轉變。 這種轉變始於增強,個性化的搜索結果,例如困惑和副駕駛等平台,並隨著Chatgpt的整合而加速了

網絡攻擊正在發展。 通用網絡釣魚電子郵件的日子已經一去不復返了。 網絡犯罪的未來是超個性化的,利用了容易獲得的在線數據和AI來製作高度針對性的攻擊。 想像一個知道您的工作的騙子

新當選的教皇獅子座(Leo Xiv)在對紅衣主教學院的就職演講中,討論了他的同名人物教皇里奧XIII的影響,他的教皇(1878-1903)與汽車和汽車和汽車公司的黎明相吻合

本教程演示瞭如何使用模型上下文協議(MCP)和FastAPI將大型語言模型(LLM)與外部工具集成在一起。 我們將使用FastAPI構建一個簡單的Web應用程序,並將其轉換為MCP服務器,使您的L

探索DIA-1.6B:由兩個本科生開發的開創性的文本對語音模型,零資金! 這個16億個參數模型產生了非常現實的語音,包括諸如笑聲和打噴嚏之類的非語言提示。本文指南

我完全同意。 我的成功與導師的指導密不可分。 他們的見解,尤其是關於業務管理,構成了我的信念和實踐的基石。 這種經驗強調了我對導師的承諾


熱AI工具

Undresser.AI Undress
人工智慧驅動的應用程序,用於創建逼真的裸體照片

AI Clothes Remover
用於從照片中去除衣服的線上人工智慧工具。

Undress AI Tool
免費脫衣圖片

Clothoff.io
AI脫衣器

Video Face Swap
使用我們完全免費的人工智慧換臉工具,輕鬆在任何影片中換臉!

熱門文章

熱工具

SecLists
SecLists是最終安全測試人員的伙伴。它是一個包含各種類型清單的集合,這些清單在安全評估過程中經常使用,而且都在一個地方。 SecLists透過方便地提供安全測試人員可能需要的所有列表,幫助提高安全測試的效率和生產力。清單類型包括使用者名稱、密碼、URL、模糊測試有效載荷、敏感資料模式、Web shell等等。測試人員只需將此儲存庫拉到新的測試機上,他就可以存取所需的每種類型的清單。

Dreamweaver Mac版
視覺化網頁開發工具

MinGW - Minimalist GNU for Windows
這個專案正在遷移到osdn.net/projects/mingw的過程中,你可以繼續在那裡關注我們。 MinGW:GNU編譯器集合(GCC)的本機Windows移植版本,可自由分發的導入函式庫和用於建置本機Windows應用程式的頭檔;包括對MSVC執行時間的擴展,以支援C99功能。 MinGW的所有軟體都可以在64位元Windows平台上運作。

SublimeText3 英文版
推薦:為Win版本,支援程式碼提示!

WebStorm Mac版
好用的JavaScript開發工具