AV字節：新模型，研究進展和監管辯論

本週的AI景觀取得了重大進步，領先的公司揭示了尖端的模型和工具。關鍵亮點包括AI21實驗室的Jamba 1.5的發布，Anthropicai對Claude 3的增強功能以​​及Bindu Reddy的Dracarys的引入，這是一種以編碼為中心的模型。在迅速的工程和混合體系結構中取得了進一步的進展，強調了AI功能和應用的快速發展。

關鍵發展

• 新型號： AI21實驗室推出了Jamba 1.5，這是一種功能強大的模型，具有更快的推理和出色的長篇小寫性能，超過了Llama 3.1 70B之類的模型。
• 模型改進： Anthropicai集成了乳膠渲染，並促使緩存到Claude 3中，從而提高了其數學能力和效率。 Bindu Reddy的Dracarys成為了頂級開源編碼模型。
• 研究突破：迅速優化和混合體系結構的實質進展正在擴大AI處理複雜任務和廣泛背景的能力。
• AI工具和應用程序：諸如Spellbook Associate（法律技術）和MLX HUB（模型管理）之類的新工具正在擴大AI的實際影響範圍。
• 行業挑戰：該報告強調了在多步AI工作流程中高精度以及圍繞開源與封閉源模型的相對優點進行的持續討論的持續困難。
• 監管格局：圍繞AI安全性和法規的持續辯論被強調，重點是加利福尼亞的SB 1047和Anthropic在開源模型法規中的立場。

AI模型的進步和發布

AI21 Labs'Jamba 1.5

AI21實驗室揭開了Jamba 1.5的介紹，這是對Jamba模型的重大升級。這種增強的模型在處理長篇小說中表現出色，並提供更快的推理速度2.5倍。基準測試證明了其出色的性能，甚至超過了較大的模型，例如Llama 3.1 70B。

• Jamba 1.5是Mini（52B - 12B Active）和大型（398B - 94B Active）版本提供的混合SSM轉換器MOE模型。
• 關鍵功能包括256K上下文窗口，多語言功能以及針對長篇小說應用程序的優化性能。
• 在競技場硬基准上，其令人印象深刻的分數為65.4，這強調了其在諸如Llama 3.1 70B之類的大型競爭對手中的性能優勢。

Anthropicai的Claude 3增強

Claude 3收到了更新，包括用於改進數學方程式處理的乳膠渲染，並提示Claude 3 Opus的緩存，從而導致更有效的查詢處理。

賓杜·雷迪（Bindu Reddy）的糟糕

Bindu Reddy推出了Dracarys，以專門設計用於編碼任務的領先開源70B類模型。在基準測試中，它的表現優於Llama 3.1 70B和其他型號，並且可以在擁抱的臉上使用。該模型與開源對應物相比顯示了編碼性能的明顯改善。

其他值得注意的型號：Mistral Nemo Minitron 8B，PHI-3.5和Flexora

Mistral Nemo Minitron 8B表現出比美洲駝的表現出色3.1 8b和Mismtral 7b。微軟的PHI-3.5因其安全性和性能而受到讚譽。 Flexora引入了一種創新的Lora微調方法，改善了結果，同時將訓練參數降低了50％。

人工智能研究和方法論

迅速的工程進步

突出了迅速優化的複雜性，強調了在廣闊的搜索空間內識別最佳提示的困難。注意到了簡單算法（如Autoprompt/GCG）的驚人有效性。

混合體系結構

討論了混合MAMBA/變壓器體系結構的效率，特別是對於長篇小說和快速推斷。

AI應用程序和相關工具

拼寫副本和其他工具

法術專業人士的AI代理Spellbook副助理，可以自動化任務並改編項目計劃。 Llamaindex 0.11還發布了具有新功能，例如工作流程。引入了MLX HUB，這是一種用於管理擁抱面樞紐模型的命令行工具。

人工智能發展，行業趨勢和安全

挑戰和考慮因素

該報告強調了在多步AI代理工作流程中實現高精度的挑戰，將其與自動駕駛汽車的“最後一英里問題”進行了比較。還解決了有關開源和封閉源模型之間性能權衡的持續辯論。

監管和道德方面

圍繞加利福尼亞州SB 1047的討論以及對開源LLM法規的人類立場強調了對負責人AI開發和部署的關鍵需求。

結論

過去一周展示了AI領域的顯著進步，從開創性模型發佈到有關負責AI開發的關鍵討論。諸如Jamba 1.5和Dracarys之類的模型中的持續創新，再加上迅速優化和混合體系結構的進步，標誌著快速發展的景觀。但是，需要仔細考慮道德意義和監管框架的需求仍然是至關重要的，以確保AI使社會受益。

以上是AV字節：新模型，研究進展和監管辯論的詳細內容。更多資訊請關注PHP中文網其他相關文章！