Model besar Hunyuan Tencent telah diumumkan secara rasmi, dan kami memimpin dalam mencuba produktivitinya

Batch pertama pendaftaran model berskala besar domestik telah diluluskan minggu lepas dan perkhidmatan mula dibuka kepada seluruh masyarakat, menandakan model berskala besar telah memasuki peringkat baharu aplikasi berskala besar. Antara syarikat yang telah mengeluarkan aplikasi sebelum ini, beberapa syarikat gergasi teknologi nampaknya masih belum mengambil tindakan

Pada 7 September 2023, Tencent secara rasmi melancarkan model besar Hunyuan di Persidangan Ekologi Digital Tencent Global dan membuka Tencent Cloud kepada dunia luar

Sebagai model besar dengan lebih 100 bilion parameter, Hunyuan menggunakan korpus pra-latihan lebih daripada 2 trilion token Dengan beberapa keupayaan teknikal yang unik, ia telah memperoleh keupayaan penciptaan Cina yang kukuh, keupayaan penaakulan logik dalam konteks yang kompleks dan pelaksanaan tugas yang boleh dipercayai. keupayaan.

Naib Presiden Kumpulan Tencent Jiang Jie berkata: "Model besar Tencent Hunyuan dilatih dari awal bermula dari token pertama. Kami telah menguasai keseluruhan rantaian daripada algoritma model kepada rangka kerja pembelajaran mesin kepada infrastruktur AI. Teknologi yang dibangunkan sendiri di jalan raya . "

Buka model besar, semuanya adalah produktiviti

Tencent sentiasa menyatakan bahawa ia telah membuat rancangan ke arah model besar yang berkaitan, dan penyelidikan khas telah berkembang dengan teratur.

Apakah tahap model besar ini jika ia bukan "teknologi baharu"? Pada persidangan itu, Jiang Jie mendedahkan beberapa maklumat asas dengan bertanya terus kepada model Hunyuan. Jumlah parameternya telah mencecah ratusan bilion, dan data yang digunakan untuk latihan adalah pada Julai tahun ini. Selain itu, Tencent juga menyatakan bahawa pengetahuan tentang model besar akan dikemas kini setiap bulan

Kandungan yang dipaparkan di tempat kejadian termasuk applet model besar Tencent Hunyuan, pembantu AI dalam dokumen Tencent, dan fungsi persidangan Tencent AI assistant

Tapak ini adalah yang pertama berbuat demikian Selepas mendapat kelayakan ujian, saya mencubanya, pertama sekali, applet WeChat.

Apabila kami memasuki program mini, kami sangat terkejut apabila mendapati kandungan di dalamnya tidak kurang daripada aplikasi besar lain. Di sini, kita boleh mencari sedikit inspirasi dan melihat apakah fungsi yang boleh disediakan oleh Hunyuan

Daripada produktiviti, kehidupan, hiburan hinggalah kepada pembangunan pengaturcaraan, keupayaan terbukanya boleh dikatakan sangat menyeluruh, selaras dengan identiti 100-bilion -model berskala besar peringkat . Jadi bolehkah Hunyuan benar-benar menyelesaikan tugasan ini dengan berkesan?

Saya perlu menyediakan PPT Saya telah memutuskan topik tetapi tidak tahu di mana untuk bermula. Saya bertanyakan soalan kepada model Hunyuan, dan hanya mengambil masa beberapa saat untuk AI memberikan garis besar yang mengandungi tujuh bahagian, setiap bahagian juga mengandungi perkara utama pecahan

Masukkan artikel tentang arXiv pada bulan September. bahagian abstrak dan pengenalan kertas "RLAIF: Scaling Reinforcement Learning from Human Feedback with AI Feedback" yang diserahkan oleh Google ialah beberapa perenggan panjang Banyak model besar tidak menyokong begitu banyak kandungan input langsung meringkaskannya dan diterjemahkan ia ke dalam bahasa Cina.

Mungkin ini bermakna kecerdasan buatan boleh menggantikan peranan maklum balas pembelajaran pengukuhan manusia (RLHF) dalam latihan model berskala besar

Model besar yang telah mencapai peringkat praktikal boleh membantu kita menulis kod. Kini kami memberikan AI sekeping kod dan biarkan ia menerangkan kandungan yang tidak dapat difahami dan tidak mempunyai ulasan yang jelas:

Ia menerangkan secara terperinci maksud nombor dalam algoritma timbal balik punca kuasa dua (tetapi ia tidak faham komen dengan teliti). Mungkin tidak lama lagi kita tidak boleh melakukan pembangunan tanpa model besar.

Kemudian ada dokumen Tencent. Ramai orang telah menggunakan alat model besar seperti GPT-4 dalam aliran kerja mereka sendiri, dan model besar Hunyuan telah digunakan dalam fungsi pembantu pintar yang dilancarkan oleh Tencent Documents. Cipta dokumen pintar baharu pada PC dan masukkan "/" untuk merealisasikan penjanaan kandungan, terjemahan, penggilap dan operasi lain mengikut keperluan anda.

Kemudian masukkan arahan bahasa semula jadi, dan keupayaan penjanaan model besar boleh membantu anda meringkaskan teks panjang dalam dokumen Tencent:

Nampaknya sangat berguna semasa menulis kertas

Sudah tentu, jika Anda memberikan topik, ia boleh mencipta teks, dan kemudian anda memilih sebahagian daripada kandungan yang dihasilkan, dan AI boleh memperhalusi dan mengeditnya beberapa kali. Selepas anda selesai menulis, anda boleh menterjemahkannya dengan satu klik:

Selain itu, pengiraan data jadual dan penjanaan carta semuanya dilakukan dalam satu ayat.

Fungsi ini kini dalam peringkat ujian dalaman dan akan dibuka kepada pengguna apabila matang.

Dalam mesyuarat Tencent, aplikasi model besar Hunyuan dapat membantu anda tidak lagi terganggu semasa mesyuarat. Sebagai contoh, anda boleh bertanya kepada pembantu AI pada bila-bila masa apa yang baru dikatakan, atau tentang pertengkaran antara dua orang itu. AI boleh meringkaskan kandungan secara senyap-senyap ke dalam beberapa ayat pendek dan menyenaraikan satu, dua atau tiga dengan jelas

Sudah tentu, selepas mesyuarat, model besar Hunyuan juga boleh meringkaskan kandungan mesyuarat dengan lebih cepat dan menyeluruh Dan menandakan kepada -do item

telah merangkumi lebih daripada 50 perniagaan Tencent

Jiang Jie meringkaskan tiga ciri utama model Hunyuan: keupayaan penciptaan Cina yang kuat, keupayaan penaakulan logik dalam konteks yang kompleks dan keupayaan pelaksanaan tugas yang boleh dipercayai.

Pada masa ini, banyak model besar dalam industri masih mempunyai aplikasi yang terhad dalam adegan Masalah utama ialah mereka mempunyai kadar toleransi kesalahan yang tinggi dan hanya sesuai untuk adegan kasual dengan tugas yang mudah. Tencent telah menjalankan satu siri inovasi penyelidikan sendiri pada peringkat algoritma untuk meningkatkan kebolehpercayaan dan kematangan model. . membangunkan teknologi "pengesanan kebenaran", "Ilusi" model besar Hunyuan dikurangkan sebanyak 30-50% berbanding model besar sumber terbuka arus perdana.

"Pendekatan industri adalah untuk menyediakan peningkatan carian, graf pengetahuan dan "plug-in" lain untuk meningkatkan keupayaan peperiksaan buku terbuka model besar. Kaedah ini meningkatkan pengetahuan model, tetapi terdapat banyak batasan dalam aplikasi praktikal ," kata Jiang Jie. "Pada peringkat awal pembangunan model besar Hunyuan, kami mempertimbangkan kaedah yang tidak bergantung pada data luaran sama sekali, dan menjalankan banyak percubaan penyelidikan. Kaedah pra-latihan yang kami temui telah banyak menyelesaikan masalah halusinasi. "

Tencent juga menggunakan pembelajaran pengukuhan Kaedah ini membolehkan model belajar mengenal pasti masalah perangkap, dan melalui pengoptimuman pengekodan kedudukan, kesan dan prestasi model dalam memproses teks ultra-panjang dipertingkatkan. Dari segi logik, Tencent telah mencadangkan strategi rantaian pemikiran baharu, yang membolehkan model berskala besar menaakul dan membuat keputusan berdasarkan senario aplikasi sebenar seperti manusia

Model besar Hunyuan Tencent boleh memahami maksud konteks, mempunyai panjang-. keupayaan memori teks, dan boleh dengan lancar Mempunyai beberapa pusingan perbualan dalam bidang profesional. Selain itu, ia juga boleh mencipta kandungan seperti penciptaan sastera, ringkasan teks, dan main peranan untuk memahami sepenuhnya niat pengguna dan memberikan respons tepat pada masanya dengan cekap dan tepat. Hanya apabila teknologi tersebut dilaksanakan barulah produktiviti benar-benar dipertingkatkan.

Kandungan yang perlu ditulis semula ialah: tulis artikel 4000 perkataan GPT-4 tidak dapat memenuhi keperluan, tetapi model besar Hunyuan boleh melakukannya

Dalam "Latihan Pra-Skala Besar. Teknologi Model" Akademi Teknologi Maklumat dan Komunikasi China Dalam ujian pematuhan standard "Kaedah Penilaian untuk Aplikasi dan Aplikasi", model besar Hunyuan menilai sejumlah 66 item keupayaan, dan memperoleh skor tertinggi dalam penilaian komprehensif dalam dua bidang "pembangunan model" dan "keupayaan model". Pada set penilaian arus perdana MMLU, CEval dan AGI-eval, model besar Hunyuan mempunyai prestasi cemerlang, terutamanya dalam sains Cina, soalan peperiksaan kemasukan kolej dan matematik.

Kepentingan membina model besar terletak pada aplikasi industri. Difahamkan bahawa lebih daripada 50 perniagaan dan produk dalam Tencent telah mengakses dan menguji model Tencent Hunyuan, termasuk Tencent Cloud, Tencent Advertising, Tencent Games, Tencent Financial Technology, Tencent Conference, Tencent Documents, WeChat Souyisou, pelayar QQ, dsb., dan mencapai keputusan awal. Pengaturcara Tencent telah mula menggunakan alatan model yang besar untuk meningkatkan kecekapan pembangunan

Selain itu, Tencent juga telah membangunkan rangka kerja pembelajaran mesinnya sendiri Angel untuk menggandakan kelajuan latihan model dan meningkatkan kelajuan inferens berbanding rangka kerja arus perdana dalam industri. 1.3 kali.

Infrastruktur untuk membina model besar juga belum dirobohkan. Tencent sebelum ini telah menyatakan bahawa ia telah membina pusat pengkomputeran berskala besar pada awal tahun ini Baru-baru ini, model besar MiniMax dan Baichuan Intelligence telah menggunakan kuasa pengkomputeran Tencent.

Tencent juga bekerja keras untuk menggabungkan data industri dengan keupayaannya sendiri, menggunakan data khusus industri daripada pelanggan luar untuk menyelesaikan masalah dalam industri tertentu, dan menyepadukan dengan industri sebenar untuk terus mempromosikan faedah sosial, ekonomi dan nilai perniagaan yang besar. -model berskala

"Menurut data awam, 130 model besar telah dikeluarkan di China. Terdapat kedua-dua model umum dan model bidang profesional. Sebagai model umum, Hunyuan boleh menyokong kebanyakan perniagaan dalaman Tencent. Hari ini saya menunjukkan beberapa model yang berkait rapat. Perniagaan mempunyai bilangan pengguna yang besar, dan model besar telah digunakan secara mendalam di kawasan teras kami," kata Jiang Jie. "Model besar saya mula-mula berkhidmat untuk perusahaan itu sendiri, dan kedua ia dibuka kepada dunia luar melalui Tencent Cloud Apabila ia dibuka kepada pelanggan, Hunyuan Big Model akan berfungsi sebagai asas Tencent Cloud Model sebagai MaaS Perkhidmatan." Pelanggan boleh sama ada menghubungi terus Hunyuan API atau menggunakan Hunyuan sebagai model asas untuk membina aplikasi eksklusif untuk senario industri yang berbeza.

Dapat dilihat bahawa strategi Tencent dalam bidang model besar tertumpu kepada kestabilan: fokus pada meletakkan asas yang kukuh dan tidak tergesa-gesa mempamerkan produk separuh siap. Dan langkah ini menunjukkan kekuatan yang sangat baik.

Pembangunan model besar masih berterusan Seperti yang dikatakan Jiang Jie: "Tidak keterlaluan untuk mengatakan bahawa Tencent telah menerima sepenuhnya model besar. Keupayaan kami sentiasa berkembang, dan kami percaya potensi AIGC adalah. tanpa had. Kami sudah berada di jalan ini.”

Atas ialah kandungan terperinci Model besar Hunyuan Tencent telah diumumkan secara rasmi, dan kami memimpin dalam mencuba produktivitinya. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!