Rumah > Artikel > pembangunan bahagian belakang > APP kapsyen imej kelompok pertama yang menyokong berbilang GPU sepenuhnya dan sangat maju dengan antara muka Gradio diterbitkan
Kapsyen kumpulan berbilang GPU dengan JoyCaption. JoyCaption menggunakan Meta-Llama-3.1–8B dan google/siglip-so400m-patch14–384 serta rangkaian neural kapsyen imej yang ditala halus.
Pautan : https://www.patreon.com/posts/110613301
Pautan untuk editor kapsyen kelompok : https://www.patreon.com/posts/108992085
Mengekodkan berbilang gpu dalam Python dan Torch serta bitsandbytes sememangnya satu cabaran.
APP kami menggunakan kapsyen imej JoyCaption model yang ditala halus.
APP kami menyokong pemuatan model 4bit bitsandbytes walaupun dalam mod berbilang GPU (9.5 GB VRAM)
Diuji pada 8x RTX A6000 (awan) dan RTX 3090 TI + RTX 3060 (PC saya)
1-klik untuk memasang pada Windows, RunPod dan Massed Compute
Kualiti kapsyen yang sangat baik, mengedarkan imej secara automatik ke dalam setiap GPU, banyak ciri. Anda boleh menyambung semula kapsyen dengan langkau pilihan imej kapsyen.
Untuk butiran penuh tangkapan skrin daftar keluar
Atas ialah kandungan terperinci APP kapsyen imej kelompok pertama yang menyokong berbilang GPU sepenuhnya dan sangat maju dengan antara muka Gradio diterbitkan. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!