최초의 완전 다중 GPU 지원 및 Gradio 인터페이스가 출시된 고급 배치 이미지 캡션 작성자 앱
- 王林원래의
- 2024-08-27 06:00:32384검색
JoyCaption을 사용한 다중 GPU 일괄 캡션. JoyCaption은 Meta-Llama-3.1–8B 및 google/siglip-so400m-patch14–384와 미세 조정된 이미지 캡션 신경망을 사용합니다.
링크 : https://www.patreon.com/posts/110613301
일괄 캡션 편집기 링크: https://www.patreon.com/posts/108992085
Python과 Torch, Bitsandbytes에서 다중 GPU를 코딩하는 것은 정말 어려운 일이었습니다.
저희 앱은 JoyCaption 이미지 캡션을 미세 조정한 모델을 사용합니다.
저희 앱은 멀티 GPU 모드(9.5GB VRAM)에서도 bitandbytes 4비트 모델 로딩을 지원합니다
8x RTX A6000(클라우드) 및 RTX 3090 TI + RTX 3060(내 PC)에서 테스트했습니다
Windows, RunPod 및 Massed Compute에 클릭 한 번으로 설치
뛰어난 자막 품질, 각 GPU에 이미지 자동 배포, 다양한 기능. 캡션 이미지 건너뛰기 옵션을 사용하여 캡션을 재개할 수 있습니다.
자세한 내용은 결제 스크린샷을 참조하세요
위 내용은 최초의 완전 다중 GPU 지원 및 Gradio 인터페이스가 출시된 고급 배치 이미지 캡션 작성자 앱의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!