蘋果為自家晶片打造開源框架MLX，實現Llama 7B並在M2 Ultra上運行

2020 年 11 月，蘋果推出 M1 晶片，其速度之快、功能之強大一時令人驚艷。 2022 年蘋果又推出了 M2，今年 10 月，M3 晶片正式登場。

蘋果在發布晶片時，非常注重其晶片的AI模型訓練和部署能力

蘋果推出的ML Compute 可用於在Mac上進行TensorFlow 模型的訓練。 PyTorch 則支援在 M1 版本的 Mac 上進行 GPU 加速的 PyTorch 機器學習模型訓練，使用蘋果 Metal Performance Shaders (MPS) 作為後端來實現。這些使得 Mac 用戶能夠在本地訓練神經網路。

蘋果宣布推出專門用於機器學習的開源陣列框架，該框架將在蘋果晶片上運行，名為MLX

MLX 是為機器學習研究人員專門設計的框架，旨在有效地訓練和部署AI 模型。框架的設計概念簡單易懂。研究人員能夠輕鬆地擴展和改進 MLX，以便快速地探索和測試新的想法。 MLX 的設計靈感來自於NumPy、PyTorch、Jax 和ArrayFire 等框架

##專案位址：https://github .com/ml-explore/mlx

MLX 計畫貢獻者之一、Apple 機器學習研究團隊（MLR）研究科學家Awni Hannun 展示了一段使用MLX 框架實作Llama 7B 並在M2 Ultra 上運行的影片。

MLX快速地引起了機器學習研究人員的注意。 TVM，MXNET和XGBoost的作者，CMU助理教授以及OctoML CTO的陳天奇轉推表示：「蘋果晶片又有新的深度學習框架了。」

#有人認為蘋果再次「重蹈覆轍」，這是對MLX 的評價

#為了保持原始意思不變，需要將內容改寫成中文。不需要出現原始句子

MLX 特性、範例

#在這個專案中，我們能夠觀察到MLX具備以下幾個主要特點

熟悉的API。 MLX 擁有非常像 NumPy 的 Python API，以及功能齊全的 C API（與 Python API 非常相似）。 MLX 還有更進階的套件（例如 mlx.nn 和 mlx.optimizers），它們的 API 很像 PyTorch，可以簡化建立更複雜的模型。

可組合函數變換。 MLX 擁有自動微分、自動向量化和計算圖最佳化的可組合函數變換。

惰性計算

。 MLX 中的計算是惰性的，陣列只有在需要時才被實例化。

動態圖建構

。 MLX 中的計算圖建置是動態的，改變函數參數的形狀不會導致編譯變慢，而且 debug 很簡單、容易上手。

######多重裝置#########。任何支援的裝置上（如 CPU 和 GPU）都可以運作操作。 ###############統一記憶體#########。 MLX 與其他框架的顯著差異在於統一內存，陣列共享記憶體。 MLX 上的操作可以在任何支援的裝置類型上運行，無需移動資料。 ############此外，專案提供了多種使用MLX 框架的範例，例如MNIST 範例，可以很好地幫助您學習如何使用MLX########## ###########圖片來源：https://github.com/ml-explore/mlx-examples/tree/main/mnist############除了上述範例，MLX 也提供了其他更實用的例子，例如：#######

• Transformer 語言模型訓練;
• LLaMA 大規模文字生成與LoRA 微調;
• Stable Diffusion 生成圖片；
• OpenAI 的Whisper 語音辨識。

更詳細的文件可參考：https://ml-explore.github.io/mlx/build/html/install.html

#

以上是蘋果為自家晶片打造開源框架MLX，實現Llama 7B並在M2 Ultra上運行的詳細內容。更多資訊請關注PHP中文網其他相關文章！