대규모 언어 모델에 포괄적인 시청각 기능을 추가하는 DAMO Academy는 소스 Video-LLaMA를 공개합니다.

비디오는 오늘날의 소셜 미디어와 인터넷 문화에서 점점 더 중요한 역할을 하고 있으며 Douyin, Kuaishou, Bilibili 등은 수억 명의 사용자에게 인기 있는 플랫폼이 되었습니다. 사용자는 자신의 삶의 순간, 창작물, 흥미로운 순간, 기타 콘텐츠를 동영상을 중심으로 공유하여 다른 사람들과 교류하고 소통합니다.

최근에는 대규모 언어 모델이 인상적인 기능을 보여주었습니다. 대형 모델에 "눈"과 "귀"를 장착하여 비디오를 이해하고 사용자와 상호 작용할 수 있습니까?

이 문제에서 출발하여 DAMO 아카데미 연구진은 종합적인 시청각 기능을 갖춘 대형 모델인 Video-LLaMA를 제안했습니다. Video-LLaMA는 비디오의 비디오 및 오디오 신호를 인식하고 이해할 수 있으며 오디오/비디오 설명, 쓰기, 질문 및 답변 등과 같은 오디오 및 비디오를 기반으로 일련의 복잡한 작업을 완료하기 위한 사용자 입력 지침을 이해할 수 있습니다. 현재 논문, 코드, 대화형 데모가 모두 열려 있습니다. 또한 연구팀은 중국 사용자들의 원활한 경험을 위해 Video-LLaMA 프로젝트 홈페이지에서 중국어 버전의 모델도 제공하고 있다.

• 논문 링크: https://arxiv.org/abs/2306.02858
• 코드 주소: https://github.com/DAMO-NLP-SG/Video- LLaMA

• 데모 주소:
• Modelscope: https://modelscope.cn/studios/damo/video-llama/summary
• 껴안는 얼굴: https: //huggingface.co/spaces/DAMO-NLP-SG/Video-LLaMA
• 샘플 입력 파일 주소:
• https://www.php.cn/link/0fbce6c74ff376d18cb352e7fdc62 7 3b

모델 설계

Video-LLaMA는 모듈식 설계 원칙을 채택하여 비디오의 시각 및 청각 모달 정보를 대규모 언어 모델의 입력 공간에 매핑하여 모달 간 지침을 따르는 능력을 달성합니다. 정적 이미지 이해에 초점을 맞춘 이전 대형 모델 연구(MiNIGPT4, LLaVA)와 달리 Video-LLaMA는 비디오 이해에서 두 가지 과제에 직면해 있습니다. 즉, 비전의 동적 장면 변화를 캡처하고 시청각 신호를 통합하는 것입니다.

비디오의 역동적인 장면 변화를 포착하기 위해 Video-LLaMA는 플러그형 시각적 언어 브랜치를 도입했습니다. 이 분기는 먼저 BLIP-2의 사전 훈련된 이미지 인코더를 사용하여 이미지의 각 프레임의 개별 특징을 얻은 다음 이를 해당 프레임 위치 임베딩과 결합합니다. 모든 이미지 특징은 Video Q-Former 및 Video Q로 전송됩니다. - 이전에는 프레임 수준 이미지 표현을 집계하고 고정 길이 합성 비디오 표현을 생성합니다. 마지막으로 선형 레이어를 사용하여 비디오 표현을 대규모 언어 모델의 임베딩 공간에 정렬합니다.

비디오의 사운드 신호에 관해서 Video-LLaMA는 처리를 위해 오디오 언어 분기를 사용합니다. 먼저, 여러 개의 2초짜리 오디오 클립이 원본 비디오에서 균일하게 샘플링되고 각 클립이 128차원 멜 스펙트로그램으로 변환됩니다. 그런 다음 강력한 ImageBind를 오디오 인코더로 사용하여 각 사운드 클립의 특징을 개별적으로 추출합니다. 학습 가능한 위치 임베딩을 추가한 후 Audio Q-Former는 세그먼트 기능을 전체적으로 집계하고 고정 길이 오디오 기능을 생성합니다. 시각적 언어 분기와 유사하게 선형 레이어는 최종적으로 오디오 표현을 대규모 언어 모델의 임베딩 공간에 정렬하는 데 사용됩니다.

교육 비용을 줄이기 위해 Video-LLaMA는 사전 교육된 이미지/오디오 인코더를 동결하고 시각적 및 오디오 분기에서 비디오/오디오 Q-Former, 위치 인코딩 레이어 및 선형 레이어( 그림 1)과 같습니다.

비전과 텍스트 간의 정렬 관계를 학습하기 위해 저자는 먼저 대규모 비디오-텍스트 데이터세트(WebVid-2M)와 이미지-텍스트 데이터세트(CC-595K)를 사용하여 비전 브랜치를 사전 훈련했습니다. 그 후, 저자는 MiniGPT-4, LLaVA의 이미지 명령 데이터 세트와 Video-Chat의 비디오 명령 데이터 세트를 사용하여 더 나은 교차 모달 명령 추적 기능을 달성하기 위해 미세 조정했습니다.

오디오-텍스트 정렬 관계 학습에 관해서는 대규모 고품질 오디오-텍스트 데이터가 부족하기 때문에 저자는 이 목표를 달성하기 위한 해결 전략을 채택했습니다. 첫째, 오디오 언어 분기에서 학습 가능한 매개변수의 목표는 오디오 인코더의 출력을 LLM의 임베딩 공간에 정렬하는 것으로 이해될 수 있습니다. 오디오 인코더 ImageBind에는 다양한 양식의 임베딩을 공통 공간에 정렬할 수 있는 매우 강력한 다중 모드 정렬 기능이 있습니다. 따라서 저자는 시각적 텍스트 데이터를 사용하여 오디오 언어 분기를 훈련하고 ImageBind의 공통 임베딩 공간을 LLM의 텍스트 임베딩 공간에 정렬함으로써 LLM 텍스트 임베딩 공간 정렬에 대한 오디오 양식을 달성합니다. 이러한 영리한 방식으로 Video-LLaMA는 오디오 데이터에 대해 교육을 받은 적이 없더라도 추론 중에 오디오를 이해하는 능력을 보여줄 수 있습니다.

시연 예시

저자는 Video-LLaMA 영상/오디오/이미지 기반 대화의 몇 가지 예를 보여줍니다.

(1) 다음 두 가지 예는 Video-LLaMA의 시청각 종합 인식 기능을 보여줍니다. 예의 대화는 오디오 비디오를 중심으로 진행됩니다. 예시 2에서는 화면에는 출연자만 나오지만, 소리는 관객의 환호와 박수일 뿐입니다. 모델이 시각적인 신호만 받을 수 있다면 관객의 긍정적인 반응을 유추할 수 없을 것입니다. 오디오에는 악기 소리가 없습니다. 하지만 사진에는 색소폰이 있습니다. 모델이 청각 신호만 수신할 수 있다면 연주자가 색소폰을 연주했다는 사실을 알 수 없습니다.

(2) Video-LLaMA는 또한 정적 이미지에 대한 강력한 지각 이해 기능을 갖추고 있으며 그림 설명, 질문 및 답변 등과 같은 작업을 완료할 수 있습니다.

(3) 놀랍게도 Video-LLaMA는 유명한 명소와 인물을 성공적으로 식별하고 상식적인 질문과 답변을 수행할 수 있습니다. 예를 들어 아래의 VIdeo-LLaMA는 성공적으로 백악관을 식별하고 백악관의 상황을 소개했습니다. 또 다른 예는 Long Ma와 Jon Snow(고전 영화 및 TV 시리즈 "왕좌의 게임"의 등장인물)의 정지 사진을 입력하는 것입니다. VIdeo-LLaMA는 그들을 성공적으로 식별할 수 있을 뿐만 아니라 지속적으로 지속되는 그들의 관계에 대해서도 알려줄 수 있습니다. 편집하고 엉망으로 만들었습니다.

(4) Video-llama는 캣콜의 움직임, 보트의 방향 등 동영상에서 역동적인 이벤트도 포착할 수 있습니다.

요약

현재 오디오 및 비디오 이해는 여전히 성숙한 솔루션이 없는 매우 복잡한 연구 문제이지만, 저자는 또한 몇 가지 한계를 언급했습니다.

(1) 제한된 지각 능력: Video-LLaMA의 시각 및 청각 능력은 아직 상대적으로 초보적이며 복잡한 시각 및 청각 정보를 식별하기가 여전히 어렵습니다. 그 이유 중 하나는 데이터 세트의 품질과 크기가 충분하지 않기 때문입니다. 이 연구 그룹은 모델의 지각 능력을 향상시키기 위해 고품질 오디오-비디오-텍스트 정렬 데이터 세트를 구축하기 위해 열심히 노력하고 있습니다.

(2) 긴 동영상 처리의 어려움: 긴 동영상(영화, TV 프로그램 등)에는 많은 양의 정보가 포함되어 있어 모델에 대한 높은 추론 능력과 컴퓨팅 리소스가 필요합니다.

(3) Video-LLaMA에는 언어 모델 고유의 환각 문제가 여전히 존재합니다.

일반적으로 Video-LLaMA는 포괄적인 시청각 기능을 갖춘 대형 모델로서 오디오 및 비디오 이해 분야에서 인상적인 결과를 얻었습니다. 연구자들이 계속 열심히 노력함에 따라 위의 과제는 하나씩 극복되어 오디오 및 비디오 이해 모델이 폭넓은 실용적인 가치를 갖게 될 것입니다.

위 내용은 대규모 언어 모델에 포괄적인 시청각 기능을 추가하는 DAMO Academy는 소스 Video-LLaMA를 공개합니다.의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!