ChatGPT Domestik adalah sumber terbuka sekali lagi! Kesannya telah banyak dipertingkatkan dan juga boleh dijalankan pada telefon bimbit.

Baru-baru ini, pasukan Yuanyu Intelligence telah membuka satu lagi model besar siri ChatYuan: ChatYuan-large-v2, yang menyokong inferens pada satu kad grafik gred pengguna, PC dan juga telefon mudah alih.

Sebentar tadi, "Chinese ChatGPT" ChatYuan telah mengeluarkan versi baharu.

ChatYuan-large-v2 yang dikemas kini bukan sahaja menyokong dwibahasa Cina dan Inggeris, tetapi juga menyokong jumlah panjang input dan output sehingga 4k.

Selepas model PromptCLUE-base, PromptCLUE- v1-5, dan ChatYuan-large-v1 sebelumnya, Yuanyu Intelligence sekali lagi melancarkan hasil penyelidikan ke arah model besar.

Alamat projek sumber terbuka:

​https://github.com/clue-ai/ChatYuan​

Muka berpeluk:

​https://huggingface.co/ClueAI/ChatYuan-large-v2​

Modelskop:

​https://modelscope.cn/models/ClueAI/ChatYuan - large-v2/summary​

01 Apakah itu ChatYuan-large-v2?

ChatYuan-large-v2 ialah model bahasa dialog berfungsi besar yang menyokong dwibahasa Cina dan Inggeris ChatYuan-large-v2 menggunakan penyelesaian teknikal yang sama seperti versi v1, termasuk penalaan halus arahan, pembelajaran pengukuhan maklum balas manusia. , dan pemikiran Rantaian dan aspek lain telah dioptimumkan.

ChatYuan-large-v2 ialah model perwakilan dalam siri ChatYuan yang mencapai kesan berkualiti tinggi dengan reka bentuk ringan. Ia boleh mencapai kesan asas model 10B industri dengan hanya parameter 0.7B, dan sangat mengurangkan. kos inferens dan meningkatkan kecekapan penggunaan. Pengguna boleh melakukan inferens pada kad grafik gred pengguna, PC dan juga telefon mudah alih (INT4 memerlukan sekurang-kurangnya 400M).

Pada masa yang sama, untuk meningkatkan pengalaman pengguna dengan lebih baik, pasukan telah merangkumkan alatan Chatyuan-large-v2 telah dilaksanakan secara tempatan dan boleh dijalankan selepas memuat turun, versi h5 boleh digunakan setempat untuk interaksi halaman web.

02 Apakah peningkatan kepada v2?

Berdasarkan fungsi asal chatyuan-large-v1, model v2 telah dioptimumkan seperti berikut:

• Keupayaan asas yang dipertingkat: Soal Jawab kontekstual asal dan keupayaan penulisan kreatif Peningkatan yang ketara.
• Menambahkan keupayaan untuk menolak menjawab: untuk beberapa soalan berbahaya dan berbahaya, anda telah belajar untuk menolak menjawab.
• Fungsi penjanaan kod baharu: Penjanaan kod asas telah dioptimumkan pada tahap tertentu.
• Menambahkan fungsi penjanaan jadual baharu: mengoptimumkan kandungan dan format jadual yang dijana.
• Keupayaan operasi matematik yang dipertingkatkan: Operasi asas matematik seperti tambah dan tolak telah dioptimumkan.
• Kembangkan jumlah panjang input dan output: bilangan maksimum token panjang dilanjutkan kepada 4096.
• Keupayaan untuk mensimulasikan senario dipertingkatkan: anda boleh mensimulasikan perbualan berbilang orang atau senario tertentu dan melakukan penciptaan kandungan dan interaksi kontekstual dalam senario.
• Menambahkan keupayaan dialog dwibahasa Cina-Inggeris: menambahkan interaksi dwibahasa Cina-Inggeris, penciptaan bahasa Inggeris, terjemahan dan fungsi lain.

Keupayaan penolakan

Penaakulan pengiraan

Senario simulasi

Penjanaan jadual

Penjanaan kod

Penghadan 03 v2

Disebabkan oleh Chatyuan-large- v1 ialah model ringan yang besar, jadi masih terdapat beberapa batasan dan kekurangan Pembangun dinasihatkan untuk mengetahui perkara ini, termasuk:

• Untuk pelaksanaan asas fungsi asas dalam penaakulan, pengiraan, dan penjanaan kod, masih terdapat masalah latihan yang tidak mencukupi Dalam beberapa senario, ralat logik akan berlaku sebagai contoh, kod pada dasarnya boleh dilaksanakan dan mempunyai keupayaan untuk membuat anotasi, tetapi tidak boleh Untuk memastikan kesederhanaan, kelancaran dan ketepatan, keterlihatan perlu dioptimumkan.
• Jawapan pengetahuan am tidak cukup tepat, dan pengetahuan fakta masih tidak tepat.
• Pemprosesan maklumat kontekstual masih tidak mencukupi.

Kesimpulan

Secara umumnya, v2 telah bertambah baik berbanding model sumber terbuka v1 dari segi pemahaman konteks, penjanaan kandungan, penjanaan jadual kod, dsb., hanya melalui 0.7 Skala parameter B Ia boleh mencapai kesan asas dengan berpuluh bilion parameter dalam industri, mengurangkan kos penaakulan dengan ketara, dan meningkatkan kecekapan penggunaan.

Yuanyu Intelligent berkata bahawa pasukan itu akan berpegang teguh pada laluan sumber terbuka, dan akan terus membuka sumber terbuka yang lebih baik dan model besar am yang lebih besar pada masa hadapan, terus membina ekosistem pembangun sumber terbuka, dan mempromosikan terbuka sumber pembangunan model besar domestik Saya harap semua rakan akan mengkritik Pembetulan.

Jemputan untuk ujian produk dalaman

Selain model ChatYuan-large-v2 sumber terbuka, pasukan Yuanyu secara rasmi melancarkan ujian dalaman produk KnowX dilengkapi dengan barisan ChatYuan Versi terkini keupayaan model besar mempunyai prestasi cemerlang dalam pemahaman konteks, penjanaan kandungan, penjanaan kod, pengiraan penaakulan logik, dll. Untuk mencapai kebolehpercayaan, kestabilan dan pengoptimuman lanjut versi, ujian dalaman produk kini telah dilancarkan Jumlah tempat adalah terhad. Rakan-rakan yang berminat boleh memohon di pautan di bawah.

Saluran aplikasi beta dalaman:

​https://wj.qq.com/s2/11984341/e00b/​

Atas ialah kandungan terperinci ChatGPT Domestik adalah sumber terbuka sekali lagi! Kesannya telah banyak dipertingkatkan dan juga boleh dijalankan pada telefon bimbit.. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!