Komputer yang saya belanjakan 300 yuan untuk memasang berjaya dijalankan melalui model besar tempatan

Jika 2023 diiktiraf sebagai tahun pertama AI, maka 2024 berkemungkinan menjadi tahun penting untuk mempopularkan model AI yang besar.

Pada tahun lalu, sejumlah besar model AI yang besar dan sejumlah besar aplikasi AI telah muncul Pengeluar seperti Meta dan Google juga telah mula melancarkan model besar dalam talian/tempatan mereka sendiri kepada orang ramai, serupa dengan yang jauh. konsep "kecerdasan buatan AI". Konsep tidak dapat dicapai tiba-tiba datang kepada orang ramai.

Kini, orang ramai semakin terdedah kepada kecerdasan buatan dalam kehidupan mereka. Jika anda melihat dengan teliti, anda akan mendapati bahawa hampir semua pelbagai aplikasi AI yang anda boleh akses digunakan pada "awan". Jika anda ingin membina peranti yang boleh menjalankan model besar secara tempatan, maka perkakasan itu adalah AIPC serba baharu berharga lebih daripada 5,000 yuan, yang tidak mesra pengguna biasa.

(Sumber foto: Google)

Tetapi memampatkan belanjawan secara melampau dan kemudian memadankan konsol "boleh guna" adalah keseronokan terbaik untuk setiap pemain DIY. Persoalannya sekarang, jika anda benar-benar ingin mendapatkan komputer yang boleh menjalankan model pertuturan yang besar secara tempatan, berapakah kosnya?

Bajet saya ialah - 300 yuan.

Walaupun harga produk ingatan/penyimpanan yang serius telah meningkat baru-baru ini, harga sampah asing tidak banyak berubah malah sekumpulan CPU sampah asing dan GPU kad perlombongan mempunyai trend penurunan harga. Dalam konteks trend AI semasa, saya tidak bersedia untuk mematuhi keperluan audio dan video pejabat, dan memutuskan untuk mencabar diri saya dengan bajet 300 yuan untuk cuba membina hos model besar tempatan peringkat permulaan yang menjimatkan kos. .

Mengenai operasi khusus dan sama ada keputusan akhir memuaskan, anda akan tahu secara semula jadi selepas mengikuti saya.

CPU lama klasik, GPU peringkat penambang

Dari segi pemilihan CPU, saya terus mengambil Intel® Core™ i3-4170T daripada Xianyu.

Pemproses ini mempunyai dua teras dan empat utas, frekuensi utama 3.2GHz, tiada keupayaan frekuensi turbo, cache pintar 3MB, dan seni bina Haswell menggunakan teknologi proses 22nm Ciri terbesar ialah ia mempunyai paparan teras HD4400, yang itulah sebabnya saya memilihnya. . dan hanya ada dua Belum lagi slot memori DDR3, tiada antara muka keluaran HDMI atau slot cakera keras M2 Terdapat hanya dua antaramuka USB 3.0 dan SATA III Kelebihan terbesar perkara ini ialah harga terpakai yang sangat rendah .

Set U papan ini berharga kurang daripada 80 yuan secara keseluruhan, dan nisbah prestasi harganya adalah cemerlang sehingga hari ini.

(Sumber: Taobao)

Dengan CPU jenis ini, anda tidak perlu terlalu risau tentang pelesapan haba.

Pelesapan haba penyejuk udara tolak ke bawah yang dihantar oleh Xianyu dalam pek 20, walaupun penampilannya agak hodoh dan kasar, ia sudah pasti lebih daripada cukup untuk menyekat konfigurasi harga ultra-rendah saya. . yang pertama secara amnya 75 Harga yang kedua biasanya sekitar 120 yuan Memandangkan niat asal saya kali ini bukan untuk permainan, saya akhirnya memilih kad perlombongan Zotac P106-090 Kad ini tidak sesuai untuk masalah lebar jalur permainan, tetapi harganya ada di sana.

Akhir sekali, cukupkan ia dengan dua memori DDR3 tanpa nama untuk membentuk memori dwi-saluran, gunakan bekalan kuasa Tembok Besar 350W untuk menghidupkannya, SSD SATA 120GB sebagai cakera sistem, dan lakukan dengan gris silikon kerbau besar yang tinggal daripada pemasangan terakhir Mari kita lakukan, dan akhirnya menambah bekas bandar komputer kecil 20 yuan, dan kami mempunyai semua perkakasan asas untuk pemasangan 300 yuan.

(Sumber foto: Lei Technology)

Lari untuk mendapatkan markah jika anda tidak menerimanya! Prestasi yang agak munasabah

Pemasangan lengkap, nyalakan casis!

Mari lakukan ujian prestasi mudah dahulu Sebagai seorang veteran yang telah berkhidmat selama bertahun-tahun, prestasi Intel® Core™ i3-4170T adalah seperti itu Walaupun penggunaan kuasa dibuka dengan Trottlestop hampir setara dengan mudah alih Tahap pemproses teras generasi ke-6 teras akhir akhir dan teras ke-7.

(Sumber foto: Lei Technology)

Dalam sesi ujian sebenar, ujian CPU-Z memperoleh 319.9 mata dalam ujian teras tunggal dan 881.0 mata dalam ujian berbilang teras Di bawah standard ujian CINEBENCH, skor berbilang teras CINEBENCH R20 ialah 732cb dan satu-. skor teras ialah 301cb. Sudah tentu, prestasi ini tidak cemerlang, tetapi ia benar-benar mencukupi untuk kerja pejabat harian dan hiburan ringan.

(Sumber: Teknologi Lei)

Melihat bahagian GPU, Zotac P106-090 Kami telah dibina menggunakan proses 16nm. 1354MHz Ia boleh ditingkatkan kepada 1531MHz, mempunyai 768 unit teduhan, menyokong DirectX12, spesifikasi memori ialah memori Samsung GDDR5 3072MB/192Bit, dan frekuensi memori boleh mencapai 2002MHz. . , Ini menghasilkan perbezaan prestasi yang agak jelas antara kedua-duanya walaupun mereka mempunyai teras yang sama Saya memilih kad grafik P106-090 semata-mata kerana ia boleh memberikan kuasa pengkomputeran CUDA pada harga yang sangat rendah.

Seperti yang ditunjukkan dalam rajah, dalam ujian Fire Strike untuk menilai prestasi DX11, P106-90 mencapai skor grafik 3287 mata dalam ujian Extreme dalam ujian Time Spy untuk menilai prestasi DX12, P106-90 dicapai skor grafik 3287 mata dalam ujian Asas Dalam ujian, ia mencapai skor grafik 2251 mata Prestasi ini serupa dengan GTX1050, tetapi terdapat jurang tertentu antara prestasi paparan teras R5-7640H.

(Sumber: Lei Technology)

Dari segi storan, kami membelanjakan 40 yuan untuk membeli cakera keras 128GB Sata SSD 5MB luar jenama ini dan, dengan kelajuan tulis 28MB cakera keras baca/tulisan berurutan 2MB s dan 400.09MB /s, 4K baca dan tulis secara rawak mencapai 132.35MB/s dan 244.29MB/s Walaupun ia tidak setanding dengan cakera keras M2 SSD, ia sudah pasti lebih daripada cukup sebagai cakera permulaan sistem.

(Sumber: Lei Technology)

Bagi pasangan memori DDR3 dwi-saluran ini, AIDA64 digunakan untuk ujian cache memori / 208 kelajuan bacaan adalah 94 MB kelajuan tulis ialah 20894 MB/s Kelajuan ialah 23629 MB/s, kelajuan salin ialah 20901 MB/s, dan kependaman ialah 67.5ns, yang sesuai untuk komputer ini.

(Sumber foto: Lei Technology)

Permainan model besar sebenarnya boleh dijalankan

Memandangkan tujuan yang besar ditetapkan untuk ratusan dolar -konsol permainan model, jadi pengalaman sebenar pastinya yang paling kami beri perhatian.

Pertama cuba Koblodcpp, yang merupakan program permulaan llamacpp yang menyepadukan antara muka Koblod.AI Ia boleh menjalankan model besar tempatan dalam format GGUF yang kini popular di Internet. Ia juga boleh menyepadukan model besar suara dan lukisan besar model untuk dicapai Semasa berbual, suara dan kesan adegan yang sepadan dijana.

(Sumber: Lei Technology)

Malangnya, kapasiti model format GGUF besar yang dikongsi pada Huggingface pada umumnya melebihi 3GB, walaupun kapasiti yang dipilih hanya kira-kira 3GB. masih menyebabkan memori kad grafik melimpah dan menyebabkan CPU campur tangan dalam pengiraan, akhirnya membawa kepada pengurangan kecekapan operasi keseluruhan model besar. . kira-kira 50 saat untuk menjana, yang jauh berbeza daripada purata 10 saat untuk model awan besar untuk memberikan respons Pengalamannya memang sederhana.

Dalam kes ini, kami mungkin berpuas hati dengan perkara terbaik seterusnya dan menggunakan Intel AIGC Assistant untuk mengalami model besar tempatan Ini ialah demo yang menyepadukan pelbagai model bahasa besar tempatan dan dikhususkan untuk berjalan tanpa disambungkan ke rangkaian. Realisasikan dialog manusia-mesin yang bijak.

Apabila rangkaian komputer dimatikan, kecuali untuk penggunaan awal model besar, yang mengambil masa tertentu, soalan berikutnya pada dasarnya boleh dijawab dalam masa 5 saat sama ada menjawab soalan, menterjemah atau menulis , ia adalah sangat pantas Walaupun ralat logik masih akan berlaku apabila menangani beberapa masalah pengusik otak atau aritmetik, pengalaman keseluruhan dalam kes ini adalah lebih baik daripada sebelumnya.

(Sumber foto: Lei Technology)

Sudah tentu, fungsi yang lebih maju seperti kad aksara dan kata gesaan pastinya tidak tersedia.

Apa yang saya gunakan di sini ialah pelancar Huiyo yang disepadukan oleh bilibili UP, yang menyepadukan Stablediffsion WebUI, pelbagai muat turun pemalam SD dan penggunaan jarak jauh model yang sangat praktikal. satu peranti.

(Sumber Gambar: Teknologi Lei)

Memandangkan bahawa P106-90 hanya mempunyai had penyimpanan 3GB, saya memilih model MISTOONAnime Mix_v20 dengan kapasiti hanya 2GB selepas pemangkasan P106 -90 mengambil masa kira-kira tiga minit untuk menjana empat gambar 128*160, tujuh hingga lapan minit untuk menjana empat gambar 240*320, dan kira-kira enam minit untuk menjana satu gambar 512*512.

(Foto Sumber: Teknologi Lei) dari pengalaman sebenar, saya secara peribadi mengesyorkan bermula dari 128*160 gambar sambil mengurangkan kata-kata dan pemalam yang sesuai. kemudian tertakluk kepada peningkatan AI dan lukisan semula satu gambar, supaya pengalaman keseluruhan agak baik Jika tidak, jika gambar dijana dengan spesifikasi 512*512, kebarangkalian untuk membuang gambar itu secara amnya tidak tinggi.

(Sumber: Lei Technology, gambar dijana dengan SD)

Memandangkan model besar tempatan boleh digunakan, bagaimana dengan pengalaman permainan?

Memandangkan konfigurasi perkakasan sebenar, kami menguji pengalaman empat permainan pada resolusi FHD: "Far Cry 6", "Shadow of the Tomb Raider", "F1 2020" dan "Horizon: Zero Dawn" , marilah kami lihatlah persembahan masing-masing.

Dalam ujian prestasi "Far Cry 6", pada kualiti imej terendah 1920*1080, kadar bingkai purata komputer ini ialah 32fps Walaupun profil prestasi FSR dihidupkan, bingkai permainan terakhir kadar hanya boleh 40fps.

(Sumber: Lei Technology)

Melihat permainan perlumbaan sekali lagi, dalam "F1 2020", kami menghidupkan ujian sederhana 1920*1080 Australia track. Purata kadar bingkai akhir boleh mencapai 59fps, malah kad perlombongan ini yang telah digunakan berkali-kali boleh berjalan dengan lancar.

(Sumber foto: Lei Technology)

Sebagai permainan ujian standard, "Shadow of the Tomb Raider" sememangnya tidak terlepas ujian ini. Tanpa menghidupkan FSR dan lalai kepada kualiti imej terendah iaitu 1920*1080, purata kadar bingkai komputer yang menjalankan ujian penanda aras permainan ialah 50fps, iaitu yang paling hampir dengan pengalaman permainan 60fps yang stabil antara kumpulan permainan 3A ini. . 1280 *Pada kualiti imej yang paling rendah iaitu 720, ia hampir tidak boleh mencapai garis lulus 30fps, yang hanya boleh dikatakan tidak sesuai untuk permainan.

(Sumber foto: Lei Technology)

Secara amnya, disebabkan oleh sekatan lebar jalur yang teruk, prestasi sebenar P106-090 adalah tidak sebaik yang mempunyai skor GTX10 yang serupa . Ia lebih kuat sedikit daripada paparan teras Iris Xe 96EU, tetapi ia telah agak diregangkan untuk menghadapi permainan 3A dalam beberapa tahun kebelakangan ini. . .

Bolehkah tuan rumah komputer dengan bajet 300 yuan ini digunakan?

Walaupun spesifikasi CPU sudah lama dan prestasi kad perlombongan tidak stabil, hos komputer dengan bajet 300 yuan ini sememangnya boleh melengkapkan penggunaan model besar tempatan, dan tiada masalah dalam penjanaan teks dan lukisan AI pengalaman. Anda Ia juga boleh digunakan sebagai PC AI.

Walaupun anda menjalankan karya agung AAA seperti "Far Cry 6", mesin ini boleh menjamin operasi stabil 60 bingkai pada kualiti imej rendah FHD, jadi ia sepatutnya lebih daripada cukup untuk mengendalikan permainan dalam talian seperti "League of Legends" , dan ia boleh Gunakannya sebagai hos permainan dalam talian peringkat permulaan.

(Sumber foto: Lei Technology)

Jadi adakah saya berpuas hati dengan hos komputer ini?

Jawapannya adalah tidak Semasa penggunaan sebenar, kad perlombongan P106-90 telah mengalami kegagalan pemandu berkali-kali, mengakibatkan skrin putih pada komputer Anda perlu menggunakan DDDU untuk menyahpasang pemacu dan kemudian memasangnya semula. Jika ini hanya menyusahkan sedikit dalam ujian, maka pastinya sukar untuk diterima dalam penggunaan harian.

Perlu diperhatikan bahawa pada masa ini terdapat banyak mesin sampah asing di Xianyu dengan konfigurasi yang serupa dengan mesin yang saya pasang Harganya secara amnya sekitar 350-400 yuan, dan penonton sasaran jelas sekali... Untuk golongan muda orang yang berada di kolej atau di luar masyarakat, saya secara peribadi mencadangkan supaya anda tidak membeli produk ini.

Dalam analisis akhir, mengutip sampah adalah berisiko, jadi anda perlu berhati-hati sebelum masuk ke dalam kereta. Bagi pemain yang bosan bermain dengan komputer mewah, masih sangat menarik untuk bermain dengan pengutip sampah sekali-sekala, tetapi ini hanya untuk suka-suka, dan mereka tidak benar-benar bertujuan untuk digunakan sebagai mesin utama untuk masa yang lama. Lagipun, aksesori pemungut sampah rosak Dan tiada jaminan Jika anda kehilangan data penting kerana kegagalannya, ia akan berbaloi.

Walau bagaimanapun, dengan menggunakan bajet 300 yuan untuk melengkapkan percubaan menjalankan PC model besar tempatan, ia menunjukkan pada tahap tertentu bahawa prestasi perkakasan mungkin bukan faktor utama yang menyekat pembangunan AI PC. Sekurang-kurangnya dalam senario penggunaan pengguna biasa, bukannya meningkatkan kuasa pengkomputeran, perkara yang perlu dilakukan oleh pengeluar PC ialah membantu pengguna membina rangka kerja dan persekitaran model AI yang besar, dan membawa pengguna pengalaman yang lebih baik dari segi sistem dan perisian. Dalam erti kata lain, AI PC sepatutnya menjadi sesuatu yang pengguna boleh gunakan di hujung jari mereka, dan bukannya memasang PC DIY sendiri.

Atas ialah kandungan terperinci Komputer yang saya belanjakan 300 yuan untuk memasang berjaya dijalankan melalui model besar tempatan. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!