Menyokong dialog Cina! NVIDIA ChatRTX BARU Dikemas kini

Seawal Februari, NVIDIA melancarkan chatbot berasaskan LLM ChatwithRTX. Pada bulan Mei, chatbot telah dikemas kini, menambah model baharu dan fungsi baharu, pakej pembungkusan juga dikurangkan daripada 35G kepada 11G, dan perisian itu secara rasmi dinamakan semula sebagai ChatRTX.

Dalam artikel dan video sebelumnya tentang Chatwith RTX, kami menyebut bahawa ChatwithRTX tidak mempunyai balasan bahasa Cina terbina dalam. Jika anda ingin melaksanakan jawapan bahasa Cina, anda perlu memasang persekitaran anda sendiri, model bahasa besar, dsb. Tetapi langkah ini mempunyai ambang yang agak tinggi untuk pengguna, dan mereka perlu melalui banyak langkah rumit untuk mencapai soalan dan jawapan bahasa Cina.

Sebelum pengenalan, mari kita bincangkan secara ringkas tentang apa itu ChatRTX ChatRTX menggunakan teknologi RAG dan dipercepatkan oleh NVIDIATensorRT-LLM dan NVIDIARTX untuk membawa fungsi chatbot ke RTXWindowsPC dan stesen kerja. Oleh itu, prasyarat untuk menggunakan ChatRTX ialah anda mesti mempunyai kad grafik siri RTX30 atau RTX40 dengan memori video 8GB atau ke atas.

Ciri utama ChatRTX ialah ia berjalan secara tempatan Tidak seperti pelbagai chatbot AI yang dimuat naik ke awan, pengkomputeran tempatan lebih selamat dari segi storan data, dan berkat berkat NVIDIATensorRT-LLM, pemprosesannya juga. Ia lebih pantas dan mengelakkan situasi yang mengambil masa yang lama untuk memuatkan keputusan soalan input dan kemudian menahan jawapan.

Selain model Gemma yang asal, kemas kini ChatRTX ini turut mengembangkan model ChatGLM3 yang menyokong dwibahasa Cina dan Inggeris, jadi ia lebih mudah digunakan dan tidak perlu memasang persekitaran seperti versi sebelumnya, ini kemas kini juga memudahkan lebih ramai pengguna menggunakannya, dan dialog bahasa Cina juga lancar Selepas mengimport dokumen, anda boleh mendapatkan maklumat kandungan yang anda perlukan dalam folder dengan cepat dan membentangkannya kepada pengguna.

Selain model bahasa besar baharu, ChatRTX kali ini turut menambah fungsi mendapatkan semula perkataan gesaan imej Selepas mengimport folder yang mengandungi imej, ChatRTX boleh mengekstrak kata kunci imej melalui OpenAICLIP, supaya anda Masukkan. kata kunci gambar, seperti mendaki gunung, dan ChatRTX akan memberikan anda gambar tentang mendaki gunung dalam folder Ia boleh dikatakan sangat memudahkan pencarian gambar tempatan Walaupun anda terlupa, anda boleh mencarinya melalui kata kunci cari.

Selain itu, ChatRTX juga telah menambah fungsi pengecaman pertuturan, yang boleh mengecam pertuturan dalam masa 30 saat dan memasukkannya ke dalam kotak dialog, termasuk pengecaman bahasa Cina dan Inggeris sama ada untuk membebaskan tangan anda di tempat kerja atau untuk mengembangkan fungsi pada masa hadapan, pengecaman pertuturan adalah Ia bermanfaat kepada pengguna, tetapi masalah versi sebelumnya masih wujud, iaitu, ChatRTX tidak dapat menyambung ke konteks, iaitu, setiap kali soalan ditanya, ia akan mengosongkan ingatan , dan setiap soalan hanya boleh menjadi soalan "sekali".

Walau bagaimanapun, saya percaya bahawa ChatRTX akan terus dikemas kini pada masa hadapan dan menjadi sembang setempat dan robot cari semula fail dengan maklum balas yang pantas Walau bagaimanapun, premis semua ini ialah anda mesti mempunyai kad grafik NVIDIARTX 30 . Seperti kata pepatah, beli yang baharu Jangan beli yang lama, GALAXY RTX4070 SUPER Metal Master OC, kad grafik siri RTX40 SUPER yang baru dikeluarkan ini, adalah pilihan terbaik anda.

GALAXY RTX4070 SUPER Metal Master OC mengguna pakai seni bina NVIDIA Ada Lovelace, mempunyai prestasi hebat, dan kapasiti memori video 12GB, yang boleh memenuhi keperluan perkakasan LLM dengan mudah sama ada permainan atau AI, GALAXY RTX4070 SUPER Metal Master OC adalah saya cekap, jadi kawan-kawan yang suka dialu-alukan untuk pergi ke kedai rasmi GALAXY untuk memilih dan membeli~

Atas ialah kandungan terperinci Menyokong dialog Cina! NVIDIA ChatRTX BARU Dikemas kini. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!