Apple membina rangka kerja sumber terbuka MLX untuk cipnya sendiri, melaksanakan Llama 7B dan menjalankannya pada M2 Ultra

Pada November 2020, Apple melancarkan cip M1, yang sangat pantas dan berkuasa. Apple akan melancarkan M2 pada tahun 2022, dan pada Oktober tahun ini, cip M3 secara rasminya akan debut.

Apabila Apple mengeluarkan cipnya, ia sangat mementingkan latihan model AI dan keupayaan penggunaan cipnya

Komputasi ML yang dilancarkan oleh Apple boleh digunakan untuk melatih model TensorFlow pada Mac. PyTorch menyokong latihan model pembelajaran mesin PyTorch dipercepatkan GPU pada versi M1 Mac, menggunakan Apple Metal Performance Shaders (MPS) sebagai bahagian belakang. Ini membolehkan pengguna Mac melatih rangkaian saraf secara tempatan.

Apple mengumumkan pelancaran rangka kerja tatasusunan sumber terbuka khusus untuk pembelajaran mesin, yang akan dijalankan pada cip Apple dan dipanggil MLX

MLX ialah rangka kerja yang direka khas untuk penyelidik pembelajaran mesin, Direka untuk cekap melatih dan menggunakan model AI. Konsep reka bentuk rangka kerja ini mudah dan mudah difahami. Penyelidik boleh meluaskan dan menambah baik MLX dengan mudah untuk meneroka dan menguji idea baharu dengan cepat. Reka bentuk MLX diilhamkan oleh rangka kerja seperti NumPy, PyTorch, Jax dan ArrayFire

Alamat projek: https://github.com/ml-explore/mlx

para penyumbang kepada projek MLX, Awni Hannun, saintis penyelidik di Pasukan Penyelidikan Pembelajaran Mesin (MLR) Apple, menunjukkan video menggunakan rangka kerja MLX untuk melaksanakan Llama 7B dan menjalankannya pada M2 Ultra.

MLX dengan cepat menarik perhatian penyelidik pembelajaran mesin. Chen Tianqi, pengarang TVM, MXNET dan Komen pada MLX

Untuk mengekalkan maksud asal tidak berubah, kandungan perlu ditulis semula ke dalam bahasa Cina. Tiada ayat asal diperlukan

Ciri MLX, contoh

Dalam projek ini, kita dapat perhatikan bahawa MLX mempunyai ciri utama berikut

API Familiar

. MLX mempunyai API Python yang sangat mirip dengan NumPy, serta API C++ berciri penuh yang hampir sama dengan API Python. MLX juga mempunyai pakej yang lebih maju (seperti mlx.nn dan mlx.optimizers) yang APInya sangat serupa dengan PyTorch dan boleh memudahkan pembinaan model yang lebih kompleks.

Transformasi fungsi gabungan

. MLX menampilkan transformasi fungsi boleh gubah dengan pembezaan automatik, vektorisasi automatik dan pengoptimuman graf pengiraan.

Malas mengira

. Pengiraan dalam MLX adalah malas dan tatasusunan dibuat hanya apabila diperlukan.

Pembinaan grafik dinamik

. Pembinaan graf pengiraan dalam MLX adalah dinamik, mengubah bentuk parameter fungsi tidak akan menyebabkan kompilasi menjadi perlahan, dan penyahpepijatan adalah mudah dan mudah digunakan.

Berbilang peranti

. Operasi boleh dijalankan pada mana-mana peranti yang disokong seperti CPU dan GPU.

Memori Bersatu

. Perbezaan ketara antara MLX dan rangka kerja lain ialah memori bersatu, memori perkongsian tatasusunan. Operasi pada MLX boleh dijalankan pada mana-mana jenis peranti yang disokong tanpa mengalihkan data.

Selain itu, projek ini menyediakan pelbagai contoh menggunakan rangka kerja MLX, seperti contoh MNIST, yang boleh membantu anda mempelajari cara menggunakan MLX

Sumber imej: https://github .com/ ml-explore/mlx-examples/tree/main/mnist

Selain contoh di atas, MLX juga menyediakan contoh lain yang lebih praktikal, seperti:

• Latihan model bahasa pengubah;
• LLaMA penjanaan teks berskala besar dan penalaan halus LoRA
• Stable Diffusion untuk menghasilkan imej
• ;

Untuk dokumentasi yang lebih terperinci, sila rujuk: https://ml-explore.github.io/mlx/build/html/install.html#

🎜

Atas ialah kandungan terperinci Apple membina rangka kerja sumber terbuka MLX untuk cipnya sendiri, melaksanakan Llama 7B dan menjalankannya pada M2 Ultra. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!