Rumah  >  Artikel  >  pembangunan bahagian belakang  >  APP kapsyen imej kelompok pertama yang menyokong berbilang GPU sepenuhnya dan sangat maju dengan antara muka Gradio diterbitkan

APP kapsyen imej kelompok pertama yang menyokong berbilang GPU sepenuhnya dan sangat maju dengan antara muka Gradio diterbitkan

王林
王林asal
2024-08-27 06:00:32382semak imbas

Kapsyen kumpulan berbilang GPU dengan JoyCaption. JoyCaption menggunakan Meta-Llama-3.1–8B dan google/siglip-so400m-patch14–384 serta rangkaian neural kapsyen imej yang ditala halus.

Pautan : https://www.patreon.com/posts/110613301

Pautan untuk editor kapsyen kelompok : https://www.patreon.com/posts/108992085

Mengekodkan berbilang gpu dalam Python dan Torch serta bitsandbytes sememangnya satu cabaran.

APP kami menggunakan kapsyen imej JoyCaption model yang ditala halus.

APP kami menyokong pemuatan model 4bit bitsandbytes walaupun dalam mod berbilang GPU (9.5 GB VRAM)

Diuji pada 8x RTX A6000 (awan) dan RTX 3090 TI + RTX 3060 (PC saya)

1-klik untuk memasang pada Windows, RunPod dan Massed Compute

Kualiti kapsyen yang sangat baik, mengedarkan imej secara automatik ke dalam setiap GPU, banyak ciri. Anda boleh menyambung semula kapsyen dengan langkau pilihan imej kapsyen.

Untuk butiran penuh tangkapan skrin daftar keluar

First fully multi-GPU supporting and very advanced batch image captioner APP with Gradio interface published

First fully multi-GPU supporting and very advanced batch image captioner APP with Gradio interface published

First fully multi-GPU supporting and very advanced batch image captioner APP with Gradio interface published

First fully multi-GPU supporting and very advanced batch image captioner APP with Gradio interface published

First fully multi-GPU supporting and very advanced batch image captioner APP with Gradio interface published

First fully multi-GPU supporting and very advanced batch image captioner APP with Gradio interface published

First fully multi-GPU supporting and very advanced batch image captioner APP with Gradio interface published

First fully multi-GPU supporting and very advanced batch image captioner APP with Gradio interface published

First fully multi-GPU supporting and very advanced batch image captioner APP with Gradio interface published

First fully multi-GPU supporting and very advanced batch image captioner APP with Gradio interface published

First fully multi-GPU supporting and very advanced batch image captioner APP with Gradio interface published

First fully multi-GPU supporting and very advanced batch image captioner APP with Gradio interface published

First fully multi-GPU supporting and very advanced batch image captioner APP with Gradio interface published

First fully multi-GPU supporting and very advanced batch image captioner APP with Gradio interface published

First fully multi-GPU supporting and very advanced batch image captioner APP with Gradio interface published

Atas ialah kandungan terperinci APP kapsyen imej kelompok pertama yang menyokong berbilang GPU sepenuhnya dan sangat maju dengan antara muka Gradio diterbitkan. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!

Kenyataan:
Kandungan artikel ini disumbangkan secara sukarela oleh netizen, dan hak cipta adalah milik pengarang asal. Laman web ini tidak memikul tanggungjawab undang-undang yang sepadan. Jika anda menemui sebarang kandungan yang disyaki plagiarisme atau pelanggaran, sila hubungi admin@php.cn
Artikel sebelumnya:SeleniumArtikel seterusnya:Selenium