Heim  >  Artikel  >  Backend-Entwicklung  >  Erste vollständig Multi-GPU-unterstützende und sehr fortschrittliche Batch-Bilduntertitel-App mit Gradio-Schnittstelle veröffentlicht

Erste vollständig Multi-GPU-unterstützende und sehr fortschrittliche Batch-Bilduntertitel-App mit Gradio-Schnittstelle veröffentlicht

王林
王林Original
2024-08-27 06:00:32202Durchsuche

Multi-GPU-Batch-Beschriftung mit JoyCaption. JoyCaption verwendet Meta-Llama-3.1–8B und google/siglip-so400m-patch14–384 sowie ein fein abgestimmtes neuronales Netzwerk für Bildunterschriften.

Link: https://www.patreon.com/posts/110613301

Link zum Batch-Untertitel-Editor: https://www.patreon.com/posts/108992085

Das Codieren von Multi-GPU in Python und Torch und Bitsandbytes war wirklich eine Herausforderung.

Unsere APP verwendet das fein abgestimmte JoyCaption-Modell für Bildunterschriften.

Unsere APP unterstützt das Laden von Bitsandbytes 4-Bit-Modellen auch im Multi-GPU-Modus (9,5 GB VRAM)

Getestet auf 8x RTX A6000 (Cloud) und RTX 3090 TI + RTX 3060 (mein PC)

1-Klick zur Installation unter Windows, RunPod und Massed Compute

Hervorragende Untertitelqualität, automatische Verteilung der Bilder auf jede GPU, viele Funktionen. Sie können die Bildunterschrift mit der Option zum Überspringen von Bildunterschriften fortsetzen.

Ausführliche Informationen finden Sie in den Screenshots

First fully multi-GPU supporting and very advanced batch image captioner APP with Gradio interface published

First fully multi-GPU supporting and very advanced batch image captioner APP with Gradio interface published

First fully multi-GPU supporting and very advanced batch image captioner APP with Gradio interface published

First fully multi-GPU supporting and very advanced batch image captioner APP with Gradio interface published

First fully multi-GPU supporting and very advanced batch image captioner APP with Gradio interface published

First fully multi-GPU supporting and very advanced batch image captioner APP with Gradio interface published

First fully multi-GPU supporting and very advanced batch image captioner APP with Gradio interface published

First fully multi-GPU supporting and very advanced batch image captioner APP with Gradio interface published

First fully multi-GPU supporting and very advanced batch image captioner APP with Gradio interface published

First fully multi-GPU supporting and very advanced batch image captioner APP with Gradio interface published

First fully multi-GPU supporting and very advanced batch image captioner APP with Gradio interface published

First fully multi-GPU supporting and very advanced batch image captioner APP with Gradio interface published

First fully multi-GPU supporting and very advanced batch image captioner APP with Gradio interface published

First fully multi-GPU supporting and very advanced batch image captioner APP with Gradio interface published

First fully multi-GPU supporting and very advanced batch image captioner APP with Gradio interface published

Das obige ist der detaillierte Inhalt vonErste vollständig Multi-GPU-unterstützende und sehr fortschrittliche Batch-Bilduntertitel-App mit Gradio-Schnittstelle veröffentlicht. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!

Stellungnahme:
Der Inhalt dieses Artikels wird freiwillig von Internetnutzern beigesteuert und das Urheberrecht liegt beim ursprünglichen Autor. Diese Website übernimmt keine entsprechende rechtliche Verantwortung. Wenn Sie Inhalte finden, bei denen der Verdacht eines Plagiats oder einer Rechtsverletzung besteht, wenden Sie sich bitte an admin@php.cn
Vorheriger Artikel:SelenNächster Artikel:Selen