Tianyi Cloud memenangi kejuaraan dalam Cabaran Model Besar Sidang Kemuncak AI Antarabangsa

Pada 7 Jun, cabaran model besar pertama (CVPR 2023 Workshop on Foundation Model: 1st foundation model challenge) yang diadakan oleh persidangan kecerdasan buatan antarabangsa terkemuka CVPR 2023 telah berakhir Pertandingan ini menarik universiti dan penyelidik terkenal di seluruh dunia 1024 peserta dari syarikat terkenal. Selepas dua bulan persaingan sengit, pasukan Tianyi Cloud AI (nama pasukan CTRL) beraksi dengan baik dalam trek model besar pelbagai tugas dan memenangi kejuaraan.

(Sumber gambar: Rangkaian Foto)

Persidangan CVPR ialah persidangan akademik antarabangsa mengenai visi komputer dan pengecaman corak yang dihoskan oleh IEEE Ia merangkumi hasil penyelidikan dan perkembangan teknologi terkini dalam bidang ini. Ia adalah salah satu daripada tiga persidangan teratas mengenai visi komputer di dunia.

Proses penghasilan model visual tradisional biasanya menggunakan satu tugasan dan memulakan latihan dari awal, dan setiap tugasan tidak boleh belajar antara satu sama lain. Disebabkan oleh data tugas tunggal yang terhad, kesan sebenar model terlalu bergantung pada pengagihan data tugas, dan kesan generalisasi untuk senario yang berbeza biasanya lemah.

Dalam beberapa tahun kebelakangan ini, teknologi pra-latihan data besar telah berkembang pesat Dengan menggunakan sejumlah besar data untuk mempelajari pengetahuan am dan memindahkannya ke tugas hiliran, ia pada asasnya mencapai pembelajaran bersama antara tugas yang berbeza. Model pra-latihan berdasarkan data besar-besaran mempunyai kelengkapan pengetahuan yang baik dan masih boleh mencapai keputusan yang baik walaupun sedikit data digunakan untuk penalaan halus dalam tugas hiliran. Walau bagaimanapun, proses pengeluaran model berdasarkan pra-latihan + penalaan halus tugas hiliran memerlukan model latihan secara berasingan untuk setiap tugas, yang menggunakan banyak sumber dalam penyelidikan dan pembangunan. Sebaliknya, skim latihan berbilang tugas melatih model am yang berkuasa menggunakan data daripada berbilang tugas, yang boleh digunakan secara langsung untuk mengendalikan berbilang tugas, dengan itu meningkatkan produktiviti model dan keupayaan generalisasi dengan berkesan.

Dalam pertandingan ini, peserta perlu menggunakan model tunggal untuk melengkapkan latihan bersama tiga tugas perwakilan secara serentak: pengelasan, pengesanan dan pembahagian dalam adegan trafik. Pasukan AI Awan Tianyi bergantung pada pengalaman pembangunan algoritma yang kaya dalam reka bentuk model dan memilih model pra-latihan dengan hanya 60% daripada parameter tempat kedua, mencapai ketepatan yang lebih tinggi dengan parameter yang lebih sedikit.

Untuk menyelesaikan masalah penumpuan perlahan yang disebabkan oleh fungsi kehilangan dan kecerunan yang tidak konsisten setiap cawangan dalam latihan pelbagai tugas, pasukan AI Awan Tianyi menggunakan kaedah pengimbangan kerugian dan penyatuan skala kecerunan untuk mengimbangi fungsi kehilangan setiap cabang tugas dan membuat Kecerunan mempunyai skala yang konsisten, dengan itu meningkatkan kecekapan latihan dan kelajuan penumpuan model. Selain itu, pasukan AI Awan Tianyi juga menggunakan piramid ciri khusus tugas yang direka dengan teliti dan mekanisme perhatian untuk membolehkan setiap tugas cawangan menggunakan ciri dalam rangkaian tulang belakang yang lebih berkesan untuk tugasnya sendiri, meningkatkan lagi ketepatan dan prestasi keseluruhan model.

Melalui reka bentuk model dan strategi latihan di atas, pasukan Tianyi Cloud AI mencapai keputusan cemerlang dalam pertandingan, menunjukkan sepenuhnya pengumpulan mendalam dan keupayaan inovasi berterusannya dalam bidang imej, audio dan pelbagai mod. Pada masa hadapan, Tianyi Cloud akan terus berinovasi dan meneroka dalam bidang kecerdasan buatan yang luas, memberi manfaat kepada lebih ramai pengguna dengan teknologi yang lebih maju dan hasil yang cemerlang, dan menyediakan sokongan untuk pembangunan digital beribu-ribu industri.

Atas ialah kandungan terperinci Tianyi Cloud memenangi kejuaraan dalam Cabaran Model Besar Sidang Kemuncak AI Antarabangsa. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!