AI失控風險引發Meta舉牌抗議，LeCun稱開源AI社群蓬勃發展

在AI領域，人們長期以來對於開源和閉源的選擇存在分歧。然而，在大規模模型的時代，開源已經成為一股強大的力量悄悄崛起。根據先前Google洩露的內部文件，整個社群正在快速建立與OpenAI和Google大規模模型相似的模型，其中包括圍繞Meta的LLaMA等開源模型

毫無疑問，Meta是開源世界的核心所在，一直在不斷努力推動開源事業，例如最近發布的Llama 2。然而，眾所周知，樹大必有枯枝，最近Meta因為開源而陷入了一些麻煩

#在Meta 的舊金山辦公室外，一群手舉標語的抗議者聚集在一起，抗議Meta 公開發布AI 模型的策略，並聲稱這些發布的模型造成了潛在不安全技術的「不可逆轉的擴散」。甚至有抗議者將 Meta 發布的大模型比作“大規模殺傷性武器”。

這些抗議者自稱為「concerned citizens」（關心某事的公民），由 Holly Elmore 領導。根據領英信息，她是 AI Pause（中止 AI）運動的獨立倡導者。

需要改寫的內容是：圖片來源：MISHA GUREVICH

如果一個模型被證明不安全，她指出可以關閉API，例如像谷歌和OpenAI那樣，只允許用戶透過API存取大型模型

與此相反，Meta的LLaMA系列開源模型提供了模型權重給公眾，這使得任何擁有適當硬體和專業知識的人都可以自行複製和調整模型。一旦模型權重發布，發佈公司將無法再控制AI的使用方式

對於Holly Elmore來說，釋放模型權重是一種危險的策略，因為任何人都可以修改這些模型，而且無法撤回這些修改。她認為「模型越強大，這種策略就越危險」

與開源相比，透過API 存取的大型模型通常具備各種安全特性，例如回應過濾或透過特定訓練阻止輸出危險或令人厭惡的反應

如果可以釋放模型權重，那麼重新訓練模型以跳過這些"護欄"將變得更容易。這使得利用這些開源模型來製作網路釣魚軟體和進行網路攻擊變得更加可能

#需要改寫的內容是：圖片來源：MISHA GUREVICH

因為，她認為部分問題在於「針對模型釋放的安全措施不夠」，需要有更好的方式來確保模型安全。

目前，Meta尚未對此發表任何評論。然而，Meta首席AI科學家Yann LeCun似乎對「開源AI必須被取締」這一說法進行了回應，並展示了巴黎開源AI創業社群的繁榮景象

##與Holly Elmore 持不同意見的人也有很多，認為AI 發展的開放策略是確保實現技術信任的唯一方法。

有網友表示，開源有利有弊，既可以讓人們獲得更高透明度並增強創新，但也將面臨惡意行為者濫用（如程式碼）的風險。

###############不出所料，OpenAI 再次遭到了揶揄，「它應該回歸開源。」###########################################################################################都#########對開源持有擔憂的不在少數############麻省理工學院人工智慧安全博士後研究員Peter S. Park 表示，未來廣泛發布先進的AI模型將會帶來特別的問題，因為基本上是不可能防止濫用AI 模型############不過，非營利人工智慧研究組織EleutherAI 的執行董事Stella Biderman 表示：「到目前為止，幾乎沒有證據表明開源模型造成了任何具體的損害。目前還不清楚是否僅在API 背後放置一個模型就可以解決安全問題。」############Biderman 認為： 「建構LLM 的基本要素已在免費的研究論文中公開，世界上任何人都可以閱讀論文文獻來發展自己的模型。」######

她也補充說：「鼓勵公司對模型細節保密可能會對領域研究的透明度、公眾意識和科學發展產生嚴重的不良後果，特別是會影響獨立研究人員。」

儘管大家已經在討論開源帶來的影響，但Meta 的方法是否真的足夠開放，是否能夠發揮開源的優勢，還未可知。

開放原始碼促進會（OSI）執行董事Stefano Maffulli 表示：「開源AI 的概念尚未正確定義。不同的組織使用該術語來指稱不同的事物——表示不同程度的‘公開可用的東西’，這會讓人們感到困惑。」

Maffulli 指出，對於開源軟體來說，關鍵問題是原始程式碼是否公開可用並可復現用於任何目的。然而，要重現 AI 模型可能需要共享訓練資料、收集資料的方式、訓練軟體、模型權重、推理程式碼等等。其中，最重要的是訓練資料可能涉及隱私和版權問題

OSI 自去年以來一直致力於為「開源AI」給出一個確切的定義，很有可能會在未來幾週內發布早期草案。但無論如何，他都認為開源對 AI 發展至關重要。 「如果 AI 不是開源的，我們就不可能擁有值得信賴、負責任的 AI」，他說。

未來，關於開源與閉源的分歧會一直延續下去，但開源已經無法阻擋。

#

以上是AI失控風險引發Meta舉牌抗議，LeCun稱開源AI社群蓬勃發展的詳細內容。更多資訊請關注PHP中文網其他相關文章！