Dalam satu ayat, model 3D boleh menjana gaya penampilan yang realistik, sehingga butiran peringkat foto.

Mencipta kandungan 3D daripada input yang diberikan (cth., daripada gesaan teks, imej atau bentuk 3D) mempunyai aplikasi penting dalam penglihatan dan grafik komputer. Namun, masalah ini mencabar Pada hakikatnya, ia biasanya memerlukan artis profesional (Artis Teknikal) menghabiskan banyak masa dan kos untuk mencipta kandungan 3D. Pada masa yang sama, sumber dalam kebanyakan perpustakaan model 3D dalam talian biasanya adalah model 3D tanpa sebarang bahan Jika anda ingin menggunakannya pada enjin pemaparan semasa, anda memerlukan Artis Teknikal untuk mencipta bahan berkualiti tinggi, lampu dan peta biasa. untuk mereka. Oleh itu, adalah menjanjikan jika terdapat cara untuk mencapai penjanaan aset model 3D yang automatik, pelbagai dan realistik.

Oleh itu, pasukan penyelidik dari South China University of Technology, Hong Kong Polytechnic University, Cross-Dimensional Intelligence, Pengcheng Makmal dan institusi lain telah mencadangkan satu teks yang dipacu. Kaedah penggayaan Model 3D - TANGO, kaedah ini secara automatik boleh menjana bahan SVBRDF yang lebih realistik, peta dan lampu biasa untuk model dan teks 3D tertentu, serta mempunyai keteguhan yang lebih baik kepada model 3D berkualiti rendah. Kajian ini telah diterima ke dalam NeurIPS 2022.

Laman utama projek: https://cyw-3d.github.io/tango/

Kesan Model

Untuk input teks dan model 3D yang diberikan, TANGO boleh menghasilkan butiran fotorealistik yang lebih halus tanpa persilangan sendiri pada permukaan model 3D. Seperti yang ditunjukkan dalam Rajah 1 di bawah, TANGO bukan sahaja membentangkan kesan pantulan realistik pada bahan licin (seperti emas, perak, dsb.), tetapi juga boleh menganggarkan normal titik demi titik untuk bahan tidak sekata (seperti batu bata, dll.) Render kesan beralun.

Rajah 1. Hasil bergaya TANGO

TANGO boleh menjana The kunci kepada hasil pemaparan sebenar adalah untuk dapat memisahkan setiap komponen dengan tepat (SVBRDF, peta biasa, cahaya) dalam model teduhan dan mempelajarinya secara berasingan Akhir sekali, komponen pembahagian ini dikeluarkan melalui pemapar boleh beza Gaussian sfera dan dihantar ke CLIP dan input teks untuk mengira kerugian. Untuk menunjukkan rasional untuk menyahganding komponen, kajian memvisualisasikan setiap komponen. Rajah 2 (a) menunjukkan hasil gaya "sepasang kasut yang diperbuat daripada batu bata", (b) menunjukkan arah normal asal model 3D, (c) ialah arah normal yang diramalkan oleh TANGO untuk setiap titik pada model 3D , (d) (e) (f) masing-masing mewakili pantulan meresap, kekasaran dan pantulan spekular dalam SVBRDF, (g) ialah cahaya ambien yang dinyatakan oleh fungsi Gaussian sfera yang diramalkan oleh TANGO.

Rajah 2 Visualisasi komponen rendering yang dipisahkan

Pada masa yang sama , Penyelidikan juga boleh mengedit hasil keluaran oleh TANGO. Sebagai contoh, dalam Rajah 3, penyelidikan boleh menggunakan peta cahaya lain untuk menyalakan semula keputusan TANGO dalam Rajah 4, parameter kekasaran dan pemantulan spekular boleh diedit untuk mengubah tahap pantulan pada permukaan objek.

Rajah 3 Menyalakan semula hasil gaya TANGO

Rajah 4 Mengedit bahan objek

Selain itu, kerana TANGO menggunakan ramalan peta biasa untuk menambah butiran permukaan objek, ia juga sangat teguh kepada model tiga dimensi dengan bilangan bucu yang kecil. Seperti yang ditunjukkan dalam Rajah 5, model lampu asal dan model asing masing-masing mempunyai 41160 dan 68430 muka. Para penyelidik menurunkan sampel model asal dan memperoleh model dengan hanya 5000 muka. Dapat dilihat bahawa prestasi TANGO pada model asal dan model yang dikurangkan pada asasnya adalah serupa, manakala Text2Mesh mempunyai fenomena persilangan diri yang serius pada model berkualiti rendah.

Rajah 5 Ujian Kemantapan

Prinsip dan Kaedah

TANGO terutamanya memfokuskan pada penggayaan berpandukan teks bagi objek 3D. Kerja semasa yang paling relevan dalam bidang ini ialah Text2Mesh, yang menggunakan model CLIP yang telah dilatih sebagai panduan untuk meramalkan warna dan kedudukan mengimbangi bucu permukaan model 3D untuk mencapai penggayaan. Walau bagaimanapun, hanya meramalkan warna bucu permukaan selalunya menghasilkan kesan pemaparan yang tidak realistik, dan pengimbangan bucu yang tidak teratur boleh menyebabkan persimpangan diri yang teruk. Oleh itu, penyelidikan ini menggunakan saluran paip pemaparan berasaskan fizikal tradisional untuk menyahganding keseluruhan proses pemaparan ke dalam proses ramalan bahan SVBRDF, peta dan lampu biasa, dan masing-masing menyatakan elemen yang dipisahkan dengan fungsi Gaussian sfera. Kaedah penyahgandingan berasaskan fizik ini membolehkan TANGO menghasilkan kesan pemaparan realistik dengan betul dan mempunyai keteguhan yang baik.

Rajah 6 Carta alir TANGO

Rajah 6 menunjukkan carta alir aliran kerja TANGO. Memandangkan model dan teks 3D (seperti "kasut yang diperbuat daripada emas" dalam gambar), kajian mula-mula menskalakan model 3D kepada sfera unit, dan kemudian mengambil sampel kedudukan kamera berhampiran model 3D Pada kedudukan kamera ini sinar mencari titik persilangan x_p dengan model tiga dimensi dan arah normal titik persilangan n_p. Seterusnya, x_p dan n_p akan dihantar ke rangkaian SVBRDF dan rangkaian Normal untuk meramal parameter bahan dan Arah normal , pada masa yang sama, menggunakan berbilang fungsi Gaussian sfera untuk menyatakan pencahayaan di tempat kejadian. Untuk setiap lelaran latihan, kajian memaparkan imej menggunakan pemapar Gaussian sfera boleh dibezakan, kemudian mengekod imej ditambah menggunakan pengekod imej model CLIP, dan akhirnya model CLIP merambat semula kecerunan untuk mengemas kini semua parameter yang boleh dipelajari.

Ringkasan

Kertas kerja ini mencadangkan TANGO, kaedah baharu yang menjana gaya penampilan realistik untuk model 3D berdasarkan teks input dan teguh kepada model berkualiti rendah. Dengan menyahganding gaya penampilan daripada SVBRDF, perubahan geometri tempatan (normal arah mata) dan keadaan pencahayaan, serta mewakili serta menjadikannya sebagai fungsi Gaussian sfera, kita boleh menggunakan CLIP sebagai penyeliaan kehilangan dan belajar.

Berbanding dengan kaedah sedia ada, TANGO boleh menjadi sangat teguh walaupun untuk model 3D berkualiti rendah. Walau bagaimanapun, kaedah memberikan butiran geometri titik-demi-titik normal sambil mengelakkan persilangan sendiri juga akan mengurangkan sedikit darjah kelenturan dan kecembungan permukaan bahan yang boleh dinyatakan Kajian ini percaya bahawa TANGO dan Text2Mesh berdasarkan offset vertex adalah dilakukan mengikut hala tuju masing-masing. Ia merupakan percubaan awal yang baik dan akan memberi inspirasi kepada lebih banyak kajian susulan.

Atas ialah kandungan terperinci Dalam satu ayat, model 3D boleh menjana gaya penampilan yang realistik, sehingga butiran peringkat foto.. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!