Panduan Langkah demi Langkah: Menjalankan Model LLM dengan Ollama

Helo Artisan,

Dalam catatan blog hari ini, kita akan mempelajari tentang Ollama, ciri utamanya dan cara memasangnya pada OS yang berbeza.

Apa itu Ollama?

• Ollama ialah alat sumber terbuka yang membolehkan anda menjalankan Model Bahasa Besar (LLM) pada mesin tempatan anda. Ia mempunyai banyak koleksi model LLM. Ia memastikan privasi dan keselamatan data menjadikannya pilihan yang lebih popular dalam kalangan pembangun AI, penyelidik dan pemilik perniagaan yang mengutamakan kerahsiaan data.
• Ollama menyediakan pemilikan penuh data anda dan mengelakkan potensi risiko.
• Ollama ialah alat luar talian yang mengurangkan kependaman dan pergantungan pada pelayan luaran, menjadikannya lebih pantas dan lebih dipercayai.

Ciri-ciri Ollama:

1. Pengurusan model AI: Ia membolehkan anda mengurus semua modelnya dengan mudah pada sistem anda dengan memberi anda kawalan penuh ke atasnya untuk memuat turun, menjalankan dan mengalih keluar model daripada sistem anda. Ia juga mengekalkan versi setiap model yang dipasang pada mesin anda.

2. Antara Muka Baris Perintah (CLI): Kami beroperasi pada CLI untuk menarik, menjalankan dan mengurus model LLM secara tempatan. Bagi pengguna yang lebih suka pengalaman visual, ia turut menyokong alatan antara muka pengguna grafik (GUI) pihak ketiga seperti Open WebUI.

3. Sokongan berbilang platform: Ollama menawarkan keserasian merentas platform yang merangkumi Windows, Linux dan MacOS, menjadikannya mudah untuk disepadukan ke dalam aliran kerja sedia ada anda, tidak kira sistem pengendalian yang anda gunakan.

Cara menggunakan Ollama pada berbilang platform

Dalam bahagian ini, kita akan melihat cara memuat turun, memasang dan menjalankan Ollama secara setempat pada merentas platform.

• Untuk memuat turun Ollma lawati tapak web rasminya di sini dan muat turunnya mengikut sistem pengendalian pilihan anda.
• Proses pemasangan untuk MacOS adalah serupa dengan Windows dan untuk Linux, anda perlu menjalankan arahan untuk memasang Ollama pada sistem anda.

Saya akan membimbing anda melalui proses pemasangan untuk Windows, yang boleh anda ikuti sama untuk macOS.

• Klik butang muat turun untuk OS pilihan anda memuat turun fail boleh laku. Kemudian, buka fail untuk memulakan proses pemasangan.

• Untuk memasangnya pada Linux, buka terminal dan jalankan arahan berikut untuk memasang Ollama pada mesin anda.

curl -fsSL https://ollama.com/install.sh | sh

Ya!, anda telah berjaya memasang Ollama. Ia akan berada dalam dulang sistem anda yang menunjukkan ia sedang berjalan.

• Kini kita akan melihat cara menggunakan dan memuat turun model berbeza yang disediakan oleh Ollama dengan bantuan Antara Muka Talian Perintah (CLI).

• Buka terminal anda dan ikuti langkah ini. Berikut ialah senarai model LLM yang disediakan oleh Ollama.

1. ollama: arahan ini akan menyenaraikan semua arahan yang tersedia.
2. ollama -v atau --version: paparkan versi
3. senarai ollama: senaraikan semua model yang dipasang dalam sistem anda

Sekarang kita akan lihat cara memasang model menggunakan Ollama

Model LLM boleh dipasang dalam dua cara:

1. nama_model tarik ollama
2. ollama run model_name - Jika model belum dimuat turun pada sistem, ia akan mula menarik model dan kemudian menjalankannya

Kami akan memasang model gemma2 dalam sistem kami
gemma2: Google Gemma 2 ialah model berprestasi tinggi dan cekap tersedia dalam tiga saiz: 2B, 9B dan 27B.

curl -fsSL https://ollama.com/install.sh | sh

Ia akan membuka gesaan untuk menulis mesej seperti di bawah:

ollama run gemma2

• Kami perlu menulis gesaan kami di sini, yang mengembalikan respons.
• Untuk keluar dari model kita perlu menulis /bye

Kini anda boleh menggunakan mana-mana model yang disediakan oleh Ollama dalam ini. Teroka model dan cuba gunakannya mengikut keperluan anda.

Kesimpulan:
Kami telah meneroka Ollama, alat sumber terbuka yang membolehkan anda menjalankan model LLM secara tempatan, tidak seperti alat lain yang bergantung pada pelayan awan. Ollama memastikan keselamatan dan privasi data, dan kami telah mempelajari cara menjalankan dan menggunakannya pada mesin tempatan anda. Ia menawarkan cara yang mudah dan mudah untuk menjalankan model LLM dengan mudah, terus pada sistem anda.

Selamat Membaca!
Selamat Mengekod!
? ❤️

Atas ialah kandungan terperinci Panduan Langkah demi Langkah: Menjalankan Model LLM dengan Ollama. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!