美國防部生成式人工智慧先期發展動向分析

導讀：生成式人工智慧的應用，在過去一年中呈現爆炸性成長，它們利用大量的歷史資料進行學習，可以根據簡單的引導提示快速生成文字、圖像或影片等內容。自出現以來，美國國防部對生成式人工智慧的發展迅速列入關注並採取了一些措施。

生成式人工智慧(AI)能力，如大型語言模式(LLM)在全球的受歡迎程度、能力和影響力都在不斷增長。這些能力是在大規模資料集上訓練的，以便產生細節和明顯連貫的內容，這在以前需要人類創作。這些能力帶來了新的機遇，同時也帶來了新的重大風險。國防部門迫切需要探索這種技術的應用以及這些模型的規模、速度和互動能力的潛力，以提高任務效率，同時確定適當的保護措施並減輕各種相關風險。

成立「利馬」工作小組

美國國防部於2023年8月10日宣布成立了一個人工智慧技術特別工作小組－「利馬」(Task Force Lima)，以集中研究並部署大型語言模型等生成式人工智慧工具。 「利馬」工作小組由五角大廈首席數位和人工智慧辦公室(CDAO)領導，將開發、評估、推薦和監控整個國防部的生成人工智慧技術的實施，以確保國防部能夠負責任和安全地設計、部署和使用產生人工智慧技術，確保CDAO在維護國家安全的同時保持尖端技術的最前沿。 「利馬」工作小組將提供指導並提出建議，供相關決策機構處理。

綜合目標

為了能夠負責任的、統一的採用這種尖端技術，「利馬」工作小組的將為國防部提供框架和倡議，以實現以下綜合目標：

• 加速有前景的生成式人工智慧倡議和聯合解決方案;
• 將不同的開發和研究工作聯合成國防部的實踐社區，以加速創新和實施;
• 評估原則、組織、訓練、物資、領導、人員、設施和政策方面的解決方案;
• 推動技術教育，建立負責任的實施和使用文化;確保國防部與跨部門、國際、教育、公民社會和工業合作夥伴在負責任地開發和使用生成式人工智慧方面的合作。

前期工作

#2023年9月18日，「利馬」工作小組表示將在未來18個月內充分了解軍方和國防部對於生成式人工智慧的需求，以加速對該技術的理解、評估、部署及監測，大規模整合具備任務適應性的相關技術。此期間「利馬」工作小組的工作包括：

• 全面了解人工智慧的工作原理和外部資料應用流程，並聚焦軍事用例與作戰過程的聯繫，與其他部門合作，訓練多個種類的大語言模型;
• 為美國國防部製定基於生成式人工智慧的臨時指南、框架和工作流程，參與國防部對大語言模型的實際研究和部署;
• 建立週期會議機制，讓內部各級人員及時了解「利馬」工作小組正在製定的計畫和方法;
• 向業界發布資訊徵詢書，了解並探討創新人工智慧的開發與整合風險與效益。

小結

「利馬」工作小組的任務實際上是為整個美國國防部開發、評估、推薦和監控生成人工智慧能力，並負責任地確保國防部可控地大規模整合這些技術。 「利馬」工作小組把整體的任務分成幾個階段，目前的第一階段是盡可能多地學習外面的一切，邀請公眾和工業界幫助國防部「進一步了解和探索開發、獲取和整合生成人工智慧的風險和好處”，以快速瀏覽生成人工智慧在國防領域呈現的不確定和變革性的力量，另一項短期任務是為五角大樓提供關於生成人工智慧的臨時指南。

這些先期工作最基礎的好處在於，當尋求收購低風險商業軟體時，「利馬」工作小組現在可以建立許多業內公認的標準和安全措施。根據白宮10月30日發布的政令，對於政府來說，國防部是一個完美的試驗台，可以在封閉的環境中以負責任的方式推進和現實地培訓生成人工智慧技術。無論利馬工作小組編纂了什麼樣的指導方針、最佳實踐或標準，都必須在聯邦政府內共享，以便為其他部門和機構的工作提供資訊。

對於生成式人工智慧技術能否廣泛應用，美軍希望解決的關鍵問題包括：如何規避機器幻覺問題、如何衡量模型的性能、如何制定可信賴的人工智慧的度量標準、如何管理訓練模型所用的數據等，美軍也正在與工業界合作共同解決上述問題。關於美國國防部最終是否會以何種方式、出於何種目的大規模部署生成式人工智慧，仍有許多未知因素。 (來源：北京藍德資訊科技有限公司)

以上是美國防部生成式人工智慧先期發展動向分析的詳細內容。更多資訊請關注PHP中文網其他相關文章！