cari
RumahPeranti teknologiAIKertas skor penuh CVPR 2024: Universiti Zhejiang mencadangkan kaedah baharu pembinaan semula dinamik monokular berkualiti tinggi berdasarkan Gaussian tiga dimensi boleh ubah bentuk

Adegan Dinamik Monokular merujuk kepada persekitaran dinamik yang diperhatikan dan dianalisis menggunakan kamera monokular, di mana objek boleh bergerak bebas di tempat kejadian. Pembinaan semula pemandangan dinamik monokular adalah penting dalam tugas seperti memahami perubahan dinamik dalam persekitaran, meramalkan trajektori gerakan objek dan menjana aset digital dinamik. Menggunakan teknologi penglihatan bermata, pembinaan semula tiga dimensi dan anggaran model adegan dinamik boleh dicapai, membantu kami lebih memahami dan menangani pelbagai situasi dalam persekitaran dinamik. Teknologi ini bukan sahaja boleh diaplikasikan dalam bidang penglihatan komputer, tetapi juga memainkan peranan penting dalam bidang seperti pemanduan autonomi, realiti tambahan, dan realiti maya. Melalui pembinaan semula pemandangan dinamik monokular, kami boleh menangkap pergerakan objek dalam persekitaran dengan lebih tepat

Dengan peningkatan pemaparan saraf yang diwakili oleh Neural Radiance Field (NeRF), semakin banyak kerja mula menggunakan tersembunyi Lakukan pembinaan semula 3D bagi adegan dinamik menggunakan perwakilan tersirat. Walaupun sesetengah karya perwakilan berdasarkan NeRF, seperti D-NeRF, Nerfies, K-planes, dsb., telah mencapai kualiti pemaparan yang memuaskan, mereka masih jauh daripada pemaparan foto-realistik sebenar.

Pasukan penyelidik dari Universiti Zhejiang dan ByteDance menegaskan bahawa teras masalah di atas ialah saluran paip NeRF berdasarkan pancaran sinar memetakan ruang pemerhatian ke ruang berkanun melalui ruang aliran ke belakang), ketepatan dan cabaran kejelasan timbul. Pemetaan songsang tidak sesuai untuk penumpuan struktur yang dipelajari, menyebabkan kaedah semasa hanya mencapai penunjuk pemaparan PSNR sebanyak 30+ tahap pada set data D-NeRF.

Untuk menyelesaikan cabaran ini, pasukan penyelidik mencadangkan proses pemodelan adegan dinamik monokular berdasarkan rasterisasi. Mereka menggabungkan medan ubah bentuk dengan Gaussians 3D buat kali pertama, mencipta kaedah baharu yang membolehkan pembinaan semula berkualiti tinggi dan pemaparan perspektif baharu. Kertas penyelidikan "Gaussians 3D Deformable for High-Fidelity Monocular Dynamic Scene Reconstruction" ini telah diterima oleh CVPR 2024, persidangan akademik antarabangsa teratas dalam bidang penglihatan komputer. Apa yang unik dalam karya ini ialah ia merupakan kajian pertama yang menggunakan medan ubah bentuk pada Gaussians 3D untuk melanjutkan kepada adegan dinamik monokular.

CVPR 2024满分论文:浙大提出基于可变形三维高斯的高质量单目动态重建新方法

  • Laman utama projek: https://ingra14m.github.io/Deformable-Gaussians/

  • Pautan kertas: https://arxiv.org/abs/2309.1310/2309.1310 //github.com/ingra14m/Deformable-3D-Gaussians

  • Hasil eksperimen menunjukkan bahawa medan boleh ubah bentuk boleh memetakan pemetaan hadapan Gaussian 3D secara berkesan dalam ruang kanonik ke ruang cerapan dengan tepat. Pada set data D-NeRF, peningkatan PSNR lebih daripada 10% telah dicapai. Di samping itu, dalam adegan sebenar, walaupun pose kamera tidak cukup tepat, butiran pemaparan boleh ditingkatkan. N Rajah 1 hasil eksperimen adegan sebenar hypernerf.

Kerja Berkaitan

CVPR 2024满分论文:浙大提出基于可变形三维高斯的高质量单目动态重建新方法

Pembinaan semula adegan dinamik sentiasa menjadi isu hangat dalam pembinaan semula 3D. Memandangkan pemaparan saraf yang diwakili oleh NeRF mencapai pemaparan berkualiti tinggi, satu siri kerja berdasarkan perwakilan tersirat telah muncul dalam bidang pembinaan semula dinamik. D-NeRF dan Nerfies memperkenalkan medan ubah bentuk berdasarkan saluran paip sinaran NeRF untuk mencapai pembinaan semula pemandangan dinamik yang mantap. TiNeuVox, K-Planes dan Hexplanes memperkenalkan struktur grid atas dasar ini, yang sangat mempercepatkan proses latihan model dan meningkatkan kelajuan rendering. Walau bagaimanapun, kaedah ini semuanya berdasarkan pemetaan songsang dan tidak boleh benar-benar mencapai penyahgandingan berkualiti tinggi ruang tolok dan medan ubah bentuk.

3D Gaussian Splash ialah saluran paip pemaparan awan titik berdasarkan rasterisasi. Saluran paip rasterisasi Gaussian yang boleh dibezakan dengan CUDA dan ketumpatan inovatif membolehkan Gaussian 3D bukan sahaja mencapai kualiti pemaparan SOTA, tetapi juga mencapai pemaparan masa nyata. Gaussian 3D Dinamik mula-mula memanjangkan Gaussian 3D statik ke medan dinamik. Walau bagaimanapun, keupayaannya untuk hanya mengendalikan adegan berbilang paparan sangat mengehadkan aplikasinya dalam situasi yang lebih umum, seperti adegan paparan tunggal seperti penangkapan telefon mudah alih. Idea Penyelidikan

Teras Deformable-GS ialah memanjangkan Gaussian 3D statik kepada adegan dinamik monokular. Setiap Gaussian 3D membawa pekali kedudukan, putaran, skala, kelegapan dan SH untuk pemaparan tahap imej. Menurut formula 3D Gaussian alpha-blend, tidak sukar untuk mencari bahawa kedudukan dari semasa ke semasa, serta putaran dan penskalaan yang mengawal bentuk Gaussian adalah parameter penentu yang menentukan Gaussian 3D dinamik. Walau bagaimanapun, tidak seperti kaedah pemaparan berasaskan awan titik tradisional, selepas Gaussian 3D dimulakan, parameter seperti kedudukan dan ketelusan akan dikemas kini secara berterusan dengan pengoptimuman. Ini menambah kesukaran kepada pembelajaran Gaussians dinamik.

Penyelidikan ini secara inovatif mencadangkan rangka kerja pemaparan pemandangan dinamik yang dioptimumkan bersama dengan medan ubah bentuk dan Gaussians 3D. Secara khusus, kajian ini menganggap Gaussians 3D yang dimulakan oleh COLMAP atau awan titik rawak sebagai ruang kanonik, dan kemudian menggunakan medan ubah bentuk untuk menggunakan maklumat koordinat Gaussians 3D dalam ruang kanonik sebagai input untuk meramalkan kedudukan dan bentuk setiap Gaussian 3D. dari semasa ke semasa. Menggunakan medan ubah bentuk, kajian ini boleh mengubah Gaussian 3D daripada ruang kanonik kepada ruang cerapan untuk rendering rasterisasi. Strategi ini tidak menjejaskan saluran paip rasterisasi boleh dibezakan bagi Gaussians 3D, dan kecerunan yang dikira olehnya boleh digunakan untuk mengemas kini parameter Gaussians 3D ruang kanonik.

Selain itu, pengenalan medan ubah bentuk memberi manfaat kepada ketumpatan Gaussian bahagian dengan julat gerakan yang lebih besar. Ini kerana kecerunan medan ubah bentuk di kawasan yang mempunyai amplitud pergerakan yang lebih besar akan menjadi lebih tinggi, sekali gus membimbing kawasan yang sepadan untuk dikawal dengan lebih halus semasa proses ketumpatan. Walaupun parameter nombor dan kedudukan ruang kanonik Gaussians 3D sentiasa dikemas kini pada peringkat awal, keputusan percubaan menunjukkan bahawa strategi pengoptimuman bersama ini akhirnya boleh mencapai hasil penumpuan yang mantap. Selepas kira-kira 20,000 lelaran, parameter kedudukan Gaussian 3D dalam ruang kanonik hampir tidak berubah lagi.

Pasukan penyelidik mendapati bahawa pose kamera dalam adegan sebenar selalunya tidak cukup tepat, dan adegan dinamik memburukkan lagi masalah ini. Ini tidak akan memberi kesan besar kepada struktur berdasarkan medan sinaran saraf, kerana medan sinaran saraf adalah berdasarkan perceptron berbilang lapisan (MLP) dan merupakan struktur yang sangat licin. Walau bagaimanapun, Gaussian 3D adalah berdasarkan struktur awan titik yang jelas, dan pose kamera yang sedikit tidak tepat adalah sukar untuk diperbetulkan dengan mantap melalui percikan Gaussian.

Bagi mengurangkan masalah ini, kajian ini secara inovatif memperkenalkan Latihan Smooth Annealing (AST). Mekanisme latihan ini direka untuk melicinkan pembelajaran Gaussians 3D pada peringkat awal dan meningkatkan perincian rendering di peringkat kemudian. Pengenalan mekanisme ini bukan sahaja meningkatkan kualiti pemaparan, tetapi juga meningkatkan kestabilan dan kelancaran tugas interpolasi temporal.

Rajah 2 menunjukkan saluran penyelidikan ini, sila lihat kertas asal untuk butiran. Rajah 2 Saluran paip kajian ini.

CVPR 2024满分论文:浙大提出基于可变形三维高斯的高质量单目动态重建新方法

Paparan HasilKajian ini mula-mula menjalankan eksperimen ke atas set data sintetik pada set data D-NeRF, yang digunakan secara meluas dalam bidang pembinaan semula dinamik. Tidak sukar untuk melihat daripada hasil visualisasi dalam Rajah 3 bahawa Deformable-GS mempunyai peningkatan yang besar dalam kualiti rendering berbanding kaedah sebelumnya. Rajah 3 Keputusan perbandingan eksperimen kualitatif kajian ini pada set data D-NeRF.

Kaedah yang dicadangkan dalam kajian ini bukan sahaja telah mencapai peningkatan yang ketara dalam kesan visual, tetapi juga mempunyai peningkatan yang sepadan dalam penunjuk kuantitatif rendering. Perlu diingat bahawa pasukan penyelidik mendapati ralat dalam adegan Lego set data D-NeRF, iaitu, terdapat sedikit perbezaan antara adegan dalam set latihan dan set ujian. Ini dicerminkan dalam sudut selak yang tidak konsisten pada penyodok model Lego. Ini juga merupakan sebab asas mengapa penunjuk kaedah sebelumnya tidak boleh diperbaiki dalam adegan Lego. Untuk membolehkan perbandingan bermakna, kajian menggunakan set pengesahan Lego sebagai garis asas untuk pengukuran metrik. Rajah 4 Perbandingan kuantitatif pada set data sintetik.

Seperti yang ditunjukkan dalam Rajah 4, kajian ini membandingkan kaedah SOTA pada resolusi penuh (800x800), termasuk D-NeRF CVPR 2020, TiNeuVox Sig Asia 2022 dan Tensor4D CVPR2023, K-planes. Kaedah yang dicadangkan dalam kajian ini telah mencapai penambahbaikan yang ketara dalam pelbagai penunjuk rendering (PSNR, SSIM, LPIPS) dan dalam pelbagai senario.

CVPR 2024满分论文:浙大提出基于可变形三维高斯的高质量单目动态重建新方法Kaedah yang dicadangkan dalam kajian ini bukan sahaja boleh digunakan untuk adegan sintetik, tetapi juga mencapai hasil SOTA dalam adegan sebenar di mana pose kamera tidak cukup tepat. Seperti yang ditunjukkan dalam Rajah 5, kajian ini membandingkan dengan kaedah SOTA pada dataset NeRF-DS. Keputusan eksperimen menunjukkan bahawa walaupun tanpa rawatan khas pada permukaan yang sangat reflektif, kaedah yang dicadangkan dalam kajian ini masih boleh mengatasi NeRF-DS, yang direka khas untuk adegan yang sangat reflektif, dan mencapai kesan pemaparan terbaik.

方法 Rajah 5 Perbandingan kaedah adegan sebenar.

CVPR 2024满分论文:浙大提出基于可变形三维高斯的高质量单目动态重建新方法

Walaupun pengenalan MLP meningkatkan overhed pemaparan, terima kasih kepada pelaksanaan CUDA 3D Gaussian yang sangat cekap dan struktur MLP padat kami, kami masih boleh mencapai pemaparan masa nyata. Pada 3090, purata FPS set data D-NeRF boleh mencapai 85 (400x400), 68 (800x800).

Selain itu, penyelidikan ini juga menggunakan saluran paip rasterisasi Gaussian yang boleh dibezakan dengan perambatan kedalaman ke hadapan dan belakang untuk kali pertama. Seperti yang ditunjukkan dalam Rajah 6, kedalaman ini juga membuktikan bahawa Deformable-GS juga boleh mendapatkan perwakilan geometri yang teguh. Penyebaran belakang yang mendalam boleh menggalakkan banyak tugas yang memerlukan pengawasan yang mendalam pada masa hadapan, seperti pemaparan songsang (Penyebaran Songsang), SLAM dan pemanduan autonomi. Rajah 6 Visualisasi kedalaman.

Mengenai pengarang

Pengarang pertama kertas kerja: Yang Ziyi, pelajar sarjana tahun kedua di Universiti Zhejiang. dan lain-lain. CVPR 2024满分论文:浙大提出基于可变形三维高斯的高质量单目动态重建新方法

Pengarang lain kertas kerja: Gao Xinyu, pelajar sarjana tahun ketiga di Universiti Zhejiang Arah penyelidikan utamanya ialah medan sinaran saraf dan gabungan pemandangan tersirat.

Zhang Yuqing: Pelajar ijazah sarjana tahun kedua di Universiti Zhejiang.

Pengarang kertas kerja yang sepadan ialah Profesor Jin Xiaogang dari Pusat Pengajian Sains dan Teknologi Komputer, Universiti Zhejiang.

E-mel: jin@cad.zju.edu.cn

Laman utama peribadi: http://www.cad.zju.edu.cn/home/jin/

Atas ialah kandungan terperinci Kertas skor penuh CVPR 2024: Universiti Zhejiang mencadangkan kaedah baharu pembinaan semula dinamik monokular berkualiti tinggi berdasarkan Gaussian tiga dimensi boleh ubah bentuk. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!

Kenyataan
Artikel ini dikembalikan pada:机器之心. Jika ada pelanggaran, sila hubungi admin@php.cn Padam
Jurang kemahiran AI memperlahankan rantaian bekalanJurang kemahiran AI memperlahankan rantaian bekalanApr 26, 2025 am 11:13 AM

Istilah "tenaga kerja siap sedia" sering digunakan, tetapi apakah maksudnya dalam industri rantaian bekalan? Menurut Abe Eshkenazi, Ketua Pegawai Eksekutif Persatuan Pengurusan Rantaian Bekalan (ASCM), ia menandakan profesional yang mampu mengkritik

Bagaimana satu syarikat secara senyap -senyap bekerja untuk mengubah AI selama -lamanyaBagaimana satu syarikat secara senyap -senyap bekerja untuk mengubah AI selama -lamanyaApr 26, 2025 am 11:12 AM

Revolusi AI yang terdesentralisasi secara senyap -senyap mendapat momentum. Jumaat ini di Austin, Texas, Sidang Kemuncak Endgame Bittensor menandakan momen penting, beralih ke desentralisasi AI (DEAI) dari teori kepada aplikasi praktikal. Tidak seperti iklan mewah

NVIDIA Melepaskan Microservices Nemo Untuk Menyebarkan Pembangunan Agen AINVIDIA Melepaskan Microservices Nemo Untuk Menyebarkan Pembangunan Agen AIApr 26, 2025 am 11:11 AM

Perusahaan AI menghadapi cabaran integrasi data Penggunaan perusahaan AI menghadapi cabaran utama: sistem bangunan yang dapat mengekalkan ketepatan dan kepraktisan dengan terus belajar data perniagaan. Microservices NEMO menyelesaikan masalah ini dengan mewujudkan apa yang NVIDIA menggambarkan sebagai "Flywheel Data", yang membolehkan sistem AI tetap relevan melalui pendedahan berterusan kepada maklumat perusahaan dan interaksi pengguna. Toolkit yang baru dilancarkan ini mengandungi lima microservices utama: Nemo Customizer mengendalikan penalaan model bahasa yang besar dengan latihan yang lebih tinggi. NEMO Evaluator menyediakan penilaian ringkas model AI untuk tanda aras tersuai. Nemo Guardrails Melaksanakan Kawalan Keselamatan untuk mengekalkan pematuhan dan kesesuaian

AI melukis gambar baru untuk masa depan seni dan reka bentukAI melukis gambar baru untuk masa depan seni dan reka bentukApr 26, 2025 am 11:10 AM

AI: Masa Depan Seni dan Reka Bentuk Kecerdasan Buatan (AI) mengubah bidang seni dan reka bentuk dengan cara yang belum pernah terjadi sebelumnya, dan impaknya tidak lagi terhad kepada amatur, tetapi lebih mempengaruhi profesional. Skim karya seni dan reka bentuk yang dihasilkan oleh AI dengan cepat menggantikan imej dan pereka bahan tradisional dalam banyak aktiviti reka bentuk transaksional seperti pengiklanan, generasi imej media sosial dan reka bentuk web. Walau bagaimanapun, artis dan pereka profesional juga mendapati nilai praktikal AI. Mereka menggunakan AI sebagai alat tambahan untuk meneroka kemungkinan estetik baru, menggabungkan gaya yang berbeza, dan membuat kesan visual baru. AI membantu artis dan pereka mengautomasikan tugas berulang, mencadangkan elemen reka bentuk yang berbeza dan memberikan input kreatif. AI menyokong pemindahan gaya, iaitu menggunakan gaya gambar

Bagaimana Zoom merevolusikan kerja dengan Agentic AI: Dari mesyuarat ke tonggakBagaimana Zoom merevolusikan kerja dengan Agentic AI: Dari mesyuarat ke tonggakApr 26, 2025 am 11:09 AM

Zoom, yang pada mulanya dikenali untuk platform persidangan video, memimpin revolusi tempat kerja dengan penggunaan inovatif AIS AI. Perbualan baru -baru ini dengan CTO Zoom, XD Huang, mendedahkan penglihatan yang bercita -cita tinggi syarikat itu. Menentukan Agentic AI Huang d

Ancaman eksistensi ke universitiAncaman eksistensi ke universitiApr 26, 2025 am 11:08 AM

Adakah AI akan merevolusikan pendidikan? Soalan ini mendorong refleksi serius di kalangan pendidik dan pihak berkepentingan. Penyepaduan AI ke dalam pendidikan memberikan peluang dan cabaran. Sebagai Matthew Lynch dari Nota Edvocate Tech, Universit

Prototaip: saintis Amerika mencari pekerjaan di luar negaraPrototaip: saintis Amerika mencari pekerjaan di luar negaraApr 26, 2025 am 11:07 AM

Pembangunan penyelidikan dan teknologi saintifik di Amerika Syarikat mungkin menghadapi cabaran, mungkin disebabkan oleh pemotongan anggaran. Menurut Alam, bilangan saintis Amerika yang memohon pekerjaan di luar negara meningkat sebanyak 32% dari Januari hingga Mac 2025 berbanding dengan tempoh yang sama pada tahun 2024. Pungutan sebelumnya menunjukkan bahawa 75% penyelidik yang ditinjau sedang mempertimbangkan untuk mencari pekerjaan di Eropah dan Kanada. Beratus-ratus geran NIH dan NSF telah ditamatkan dalam beberapa bulan yang lalu, dengan geran baru NIH turun kira-kira $ 2.3 bilion tahun ini, setitik hampir satu pertiga. Cadangan belanjawan yang bocor menunjukkan bahawa pentadbiran Trump sedang mempertimbangkan untuk memotong belanjawan secara mendadak untuk institusi saintifik, dengan kemungkinan pengurangan sehingga 50%. Kegawatan dalam bidang penyelidikan asas juga telah menjejaskan salah satu kelebihan utama Amerika Syarikat: menarik bakat luar negara. 35

Semua Mengenai Keluarga GPT 4.1 Terbuka AI - Analytics VidhyaSemua Mengenai Keluarga GPT 4.1 Terbuka AI - Analytics VidhyaApr 26, 2025 am 10:19 AM

OpenAI melancarkan siri GPT-4.1 yang kuat: keluarga tiga model bahasa lanjutan yang direka untuk aplikasi dunia nyata. Lompat penting ini menawarkan masa tindak balas yang lebih cepat, pemahaman yang lebih baik, dan kos yang dikurangkan secara drastik berbanding t

See all articles

Alat AI Hot

Undresser.AI Undress

Undresser.AI Undress

Apl berkuasa AI untuk mencipta foto bogel yang realistik

AI Clothes Remover

AI Clothes Remover

Alat AI dalam talian untuk mengeluarkan pakaian daripada foto.

Undress AI Tool

Undress AI Tool

Gambar buka pakaian secara percuma

Clothoff.io

Clothoff.io

Penyingkiran pakaian AI

Video Face Swap

Video Face Swap

Tukar muka dalam mana-mana video dengan mudah menggunakan alat tukar muka AI percuma kami!

Alat panas

MinGW - GNU Minimalis untuk Windows

MinGW - GNU Minimalis untuk Windows

Projek ini dalam proses untuk dipindahkan ke osdn.net/projects/mingw, anda boleh terus mengikuti kami di sana. MinGW: Port Windows asli bagi GNU Compiler Collection (GCC), perpustakaan import yang boleh diedarkan secara bebas dan fail pengepala untuk membina aplikasi Windows asli termasuk sambungan kepada masa jalan MSVC untuk menyokong fungsi C99. Semua perisian MinGW boleh dijalankan pada platform Windows 64-bit.

Hantar Studio 13.0.1

Hantar Studio 13.0.1

Persekitaran pembangunan bersepadu PHP yang berkuasa

EditPlus versi Cina retak

EditPlus versi Cina retak

Saiz kecil, penyerlahan sintaks, tidak menyokong fungsi gesaan kod

mPDF

mPDF

mPDF ialah perpustakaan PHP yang boleh menjana fail PDF daripada HTML yang dikodkan UTF-8. Pengarang asal, Ian Back, menulis mPDF untuk mengeluarkan fail PDF "dengan cepat" dari tapak webnya dan mengendalikan bahasa yang berbeza. Ia lebih perlahan dan menghasilkan fail yang lebih besar apabila menggunakan fon Unicode daripada skrip asal seperti HTML2FPDF, tetapi menyokong gaya CSS dsb. dan mempunyai banyak peningkatan. Menyokong hampir semua bahasa, termasuk RTL (Arab dan Ibrani) dan CJK (Cina, Jepun dan Korea). Menyokong elemen peringkat blok bersarang (seperti P, DIV),

Versi Mac WebStorm

Versi Mac WebStorm

Alat pembangunan JavaScript yang berguna