Meneroka trend inovasi model besar AI dalam bidang sistem pengendalian terminal, sub-forum perisikan asli OS bagi Persidangan Teknologi OpenHarmony telah diadakan

Pada 4 November, Persidangan Teknologi OpenHarmony kedua Yayasan Sumber Terbuka Atom telah berjaya diadakan di Beijing. Dalam sub-forum perisikan asli OS yang diadakan pada sebelah petang, Jin Xuefeng, ketua arkitek Huawei Shengsi MindSpore, berkhidmat sebagai pengeluar, dan Wang Lei, arkitek platform pembangunan aplikasi model besar Huawei, berkhidmat sebagai moderator dari Huawei , Chinasoft International Co., Ltd., Shenzhen Ruoxin Technology pemimpin dari dunia korporat seperti Technology Co., Ltd. dan pakar akademik serta cendekiawan dari Universiti Tsinghua, Universiti Shanghai Jiao Tong, dll. berkongsi bagaimana bidang masing-masing menggabungkan model besar AI -teknologi berkaitan dalam ekosistem OpenHarmony untuk berinovasi dan memecahkan masalah teknikal, dan bersama-sama membincangkan masa depan AI Trend pembangunan teknologi menggabungkan model besar dengan sistem pengendalian terminal menyumbang kepada pembinaan bersama ekosistem OpenHarmony yang makmur.

Jin Xuefeng ialah ketua arkitek Huawei MindSpore

Moderator: Wang Lei, Arkitek Platform Pembangunan Aplikasi Model Besar Huawei AI

Pertama sekali, Li Yuanchun, penolong penyelidik dari Universiti Tsinghua, memberikan laporan mengenai topik "Ejen Pintar Terminal Dipacu Model Besar", memperkenalkan reka bentuk dan pelaksanaan sistem ejen peribadi pintar yang dipacu model besar, dan berkongsi cara menggunakan mudah alih Analisis automatik aplikasi dan pembenaman pengetahuan model besar secara organik menggabungkan pengetahuan domain dalam aplikasi dengan pengetahuan akal fikiran model besar untuk mencapai automasi tugas yang lebih tepat dan cekap. Li Yuanchun menegaskan bahawa ejen peribadi pintar sentiasa menjadi salah satu teknologi utama yang diberi perhatian oleh penyelidik dan pembangun sistem terminal Walau bagaimanapun, disebabkan oleh keupayaan yang tidak mencukupi seperti pemahaman niat pengguna, perancangan tugas dan penggunaan alat, kecerdasan dan skalabiliti semasa. ejen peribadi pintar telah terhad. Masih terdapat kelemahan utama. Kemunculan model bahasa yang besar telah menyelesaikan masalah ini Li Yuanchun berkata: "Kemunculan model besar yang diwakili oleh model bahasa yang besar telah membawa peluang baharu kepada pembangunan bidang itu. Ia dijangka dapat meningkatkan pembangunan bidang tersebut melalui perkasa. pemahaman semantik dan keupayaan penaakulan akal sehat Meningkatkan keluasan dan kedalaman keupayaan sokongan ejen peribadi yang bijak.”

Li Yuanchun, penolong penyelidik di Universiti Tsinghua, akan berkongsi topik tersebut

Zhang Zhaosheng ialah pengurus besar Jabatan Pengurusan R&D Produk IoT Legion Pintar ChinaSoft International Co., Ltd., dan juga ahli Jawatankuasa Pemandu Teknikal kumpulan projek OpenHarmony. Berdasarkan pandangan mendalam beliau dalam bidang model besar dan kerjasama pinggir peranti, beliau membuat laporan bertajuk "Model Besar Visual dalam Aplikasi OpenHarmony's Device-Edge-Cloud". Beliau menegaskan bahawa dalam era kecerdasan, dengan penambahbaikan berterusan model besar dan teknologi kuasa pengkomputeran yang mendasari, ia telah menjadi trend yang tidak dapat dielakkan untuk menggunakan model besar di bahagian tepi dan terminal. Beliau sangat menegaskan nilai dan kepentingan OpenHarmony sebagai pangkalan digital, "Sebagai pangkalan teknikal dalam era Internet of Everything, OpenHarmony boleh digunakan secara meluas dalam pelbagai senario kuasa pengkomputeran, memenuhi keperluan perniagaan bagi pelbagai sambungan, realiti tinggi. -masa dan data heterogen besar-besaran Sudah tiba masanya untuk memanfaatkan kuasa pengkomputeran perkakasan ke bawah dan mendayakan aplikasi besar-besaran ke atas “Dalam pandangan Zhang Zhaosheng, menyepadukan keupayaan model besar hujung-hujung dan membina senario perniagaan kolaboratif akhir berdasarkan OpenHarmony boleh memberikan inovasi yang lebih kompetitif. untuk industri Penyelesaian untuk mempercepatkan pengembangan ekosistem

Zhang Zhaosheng, pengurus besar Jabatan Pengurusan R&D Produk IoT Legion Pintar ChinaSoft International Co., Ltd. dan ahli Jawatankuasa Pemandu Teknikal kumpulan projek OpenHarmony berkongsi tema

Arkitek Huawei Xiaoyi Zhou Jianhui memberikan laporan bertemakan "Penerokaan pembinaan ekologi model besar pintar asli sebelah terminal berdasarkan rangka kerja niat" berdasarkan pemikiran teknologi perkhidmatan pintar Huawei Xiaoyi dalam produk terminal. Laporan ini menyebut bahawa rangka kerja niat ialah sistem standard niat peringkat sistem yang membina paradigma niat global melalui persepsi sistem berbilang dimensi, model besar dan keupayaan lain untuk mencapai pemahaman tentang niat eksplisit dan berpotensi pengguna, serta mengenal pasti tepat pada masanya dan tepat. keperluan pengguna. Sampaikan kepada rakan kongsi ekologi, padankan perkhidmatan tepat pada masanya, dan berikan pengguna pengalaman pemandangan lanjutan berbilang modal dan diperibadikan.

Perkongsian tema Huawei Xiaoyi Architect Zhou Jianhui

Zheng Wenli, profesor bersekutu Jabatan Sains Komputer dan Kejuruteraan di Universiti Jiao Tong Shanghai, menumpukan pada kaedah pembelajaran mesin dan memberikan laporan tentang "Segmentasi Dinamik Rangkaian Neural Dalam dalam Inferens Kolaboratif Peranti-Tepi-Awan". Dalam persekitaran awan pinggir peranti, untuk memadankan perubahan dinamik beban rangkaian dan beban pelayan, Profesor Zheng Wenli mencadangkan algoritma pengoptimuman segmentasi DNN berdasarkan pembelajaran mesin dan melaksanakannya pada Shengsi MindSpore, supaya ia dapat melaksanakan pelbagai CNN biasa, RNN melaraskan pengedarannya secara automatik merentasi hujung, tepi/awan untuk mengekalkan kependaman inferens terendah. Pada masa yang sama, beliau juga menegaskan bahawa "keterbatasan sumber adalah cabaran utama yang dihadapi oleh pengkomputeran tepi. Hanya dengan cuba menerobos batasan sumber dapat memaksimumkan kelebihan kelebihan dan menjadikan kecerdasan benar-benar memasuki kehidupan semua orang."

Zheng Wenli, profesor madya Jabatan Sains Komputer dan Kejuruteraan, Universiti Jiao Tong Shanghai berkongsi topik

Hou Lu, seorang penyelidik di Makmal Bahtera Nuh Huawei, berkongsi laporan bertajuk "Pecutan Mampatan dan Penggunaan Model Bahasa Besar yang Cekap" di tempat kejadian. Laporan ini memperkenalkan memori, capaian memori dan cabaran pengkomputeran yang dihadapi oleh model bahasa besar dalam fasa inferens daripada aspek seperti reka bentuk seni bina, kos, daya tampung, kependaman, jujukan panjang, dsb., dan membincangkan model dan pemampatan kuantiti KVcache dan gabungan operator besar dan faedah yang dibawa oleh penaakulan spekulatif dalam penaakulan cekap model bahasa besar

Perkongsian tema penyelidik Makmal Bahtera Huawei Noah, Hou Lu

Zhou Peng, CTO Shenzhen Ruoxin Technology Co., Ltd., memberi ucapan mengenai "Ubiquitous Intelligence: Applications and Solutions of End-Side Brain-inspired Large Models" dan memperkenalkan kepada para peserta cara menghadapi model bahasa yang besar . Masalah overhed kuasa pengkomputeran, dan cara menambah baik seni bina Transformer menggunakan cara memproses maklumat seperti otak manusia. Dengan menggunakan rangkaian saraf generasi ketiga SNN untuk membina rangkaian saraf, data dalam rangkaian disimpan dan dihantar menggunakan urutan nadi, yang sangat mengurangkan overhed inferens tanpa menjejaskan kecerdasan rangkaian. Zhou Peng berkata: "Model besar yang dilatih menggunakan teknologi ini bukan sahaja mencapai penggunaan tenaga optimum, kelewatan dan keperluan kuasa pengkomputeran pada tahap parameter yang sama, tetapi juga berjaya mempunyai keupayaan untuk digunakan dan dijalankan secara tempatan pada peranti gred pengguna. " #🎜🎜 #

Shenzhen Ruoxin Technology Co., Ltd. CTO Zhou Peng perkongsian tema

Li Zheng, arkitek Huawei Shengsi MindSpore, berkongsi laporan "Pengerahan model besar sisi klien MindSpore membantu kecerdasan OS" berdasarkan penerokaan teknikal dan pengalaman praktikal rangka kerja MindSpore. Beliau menerangkan cara menyelesaikan penyebaran dan cabaran aplikasi model AI yang besar. Li Zheng menyebut: "Model besar AI Generatif mengubah kerja dan kehidupan orang ramai secara senyap-senyap. Gabungan model besar AI dan terminal pintar pasti akan membawa kepada pengalaman baharu. Walau bagaimanapun, disebabkan kekangan kuasa dan storan pengkomputeran peranti terminal, AI ​​Penggunaan sisi model besar menghadapi banyak cabaran." Dalam laporan itu, beliau memperkenalkan penerokaan MindSpore dan idea teknikal berkaitan dalam penggunaan sisi model besar dan pecutan inferens. Sebagai rangka kerja AI sumber terbuka yang menyepadukan latihan dan promosi yang canggih dan senario penuh, MindSpore terlibat secara mendalam dalam pengoptimuman prestasi senario perniagaan pintar HarmonyOSAI. Ia telah digunakan secara meluas dalam telefon bimbit Huawei, tablet, jam tangan, komputer riba, skrin pintar, kereta pintar dan produk terminal lain

Perkongsian tema Arkitek MindSpore Huawei Shengsi Li Zheng

Dalam sesi terakhir subforum perisikan asli OS, hos forum Wang Lei, arkitek platform pembangunan aplikasi model besar Huawei AI, Jin Xuefeng, ketua arkitek Huawei Shengsi MindSpore, penerbit, dan penceramah jemputan memberikan ucapan bertemakan "Data Besar Sebelah Peranti" Perbincangan meja bulat "Cabaran Termaju Teknologi dan Idea Penyelesaian untuk Model dan Aplikasi" meneroka dengan lebih mendalam konsep teknikal dan idea seni bina dan rangka kerja aplikasi AI, rangka kerja latihan model , seni bina model dan algoritma di bawah perisikan asli OS.

"Cabaran Sempadan Teknologi dan Idea Penyelesaian untuk Model dan Aplikasi Besar Sebelah Akhir" Perbincangan Meja Bulat

Setakat ini, sub-forum perisikan asli OS bagi Persidangan Teknologi OpenHarmony kedua telah mencapai kesimpulan yang berjaya. Perkongsian oleh pakar teknikal dan pemimpin industri menunjukkan potensi teknikal dan amalan aplikasi OpenHarmony dalam bidang perisikan asli Ia juga meramalkan bahawa penyepaduan mendalam model besar AI dan terminal operasi pasti akan membawa pengembangan keupayaan model besar dan pembangunan peralatan terminal Prospek "menang-menang". Memandangkan semakin ramai pakar teknikal dan elit industri dalam bidang perisikan asli menyertai komuniti OpenHarmony, ekosistem OpenHarmony pasti akan berkembang maju. Kami mengharapkan lebih ramai rakan kongsi menyertai pembinaan bersama teknologi dan ekologi OpenHarmony, dan bekerjasama untuk "membina ekologi dengan teknologi, dan memenangi masa depan dengan kecerdasan".

Atas ialah kandungan terperinci Meneroka trend inovasi model besar AI dalam bidang sistem pengendalian terminal, sub-forum perisikan asli OS bagi Persidangan Teknologi OpenHarmony telah diadakan. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!