중국과학원소프트웨어가 성능 면에서 ViT를 능가하는 새로운 CV 모델 ViG를 출시했다. 과연 미래에는 그래프 신경망의 대표자가 될 수 있을까?

​컴퓨터 비전의 네트워크 구조가 또 다른 혁신을 맞이하게 될까요?

컨벌루션 신경망부터 주의 메커니즘을 갖춘 시각적 변환기까지 신경망 모델은 입력 이미지를 그리드 또는 패치 시퀀스로 처리하지만 이 방법은 변화하거나 복잡한 개체를 캡처할 수 없습니다.

예를 들어, 사람들은 그림을 관찰할 때 자연스럽게 전체 그림을 여러 개체로 나누고 개체 간의 공간적 및 기타 위치 관계를 설정합니다. 즉, 전체 그림은 실제로 인간의 뇌에 대한 것입니다. 그려지고 개체는 그래프의 노드입니다.

최근 중국과학원 소프트웨어 연구소, 화웨이 노아의 방주 연구소, 북경대학교, 마카오대학교 연구진이 공동으로 새로운 모델 아키텍처 Vision GNN(ViG)을 제안했습니다. 이미지 기능의 그래프 수준은 비전 작업에 사용됩니다.

페이퍼 링크: https://arxiv.org/pdf/2206.00272.pdf

먼저 이미지를 그래프의 노드로 여러 패치로 나누고, 가장 가까운 이웃 패치를 연결하여 그래프를 구축해야 합니다. , ViG 모델을 사용하여 전체 그래프의 모든 노드 정보를 변환하고 교환합니다.

ViG는 두 개의 기본 모듈로 구성됩니다. Grapher 모듈은 그래프 컨볼루션을 사용하여 그래프 정보를 집계하고 업데이트하며 FFN 모듈은 두 개의 선형 레이어를 사용하여 노드 기능을 변환합니다.

이미지 인식 및 객체 감지 작업에 대한 실험에서도 ViG 아키텍처의 우수성이 입증되었습니다. 일반 비전 작업에 대한 GNN의 선구적인 연구는 향후 연구에 유용한 영감과 경험을 제공할 것입니다.

논문의 저자는 중국과학원 소프트웨어연구소 박사과정 지도교수이자 마카오대학교 명예교수인 Wu Enhua 교수입니다. 1970년, 1980년 영국 맨체스터대학교 컴퓨터공학과에서 박사학위를 취득했습니다. 주요 연구 분야는 가상 현실, 실사 그래픽 생성, 물리 기반 시뮬레이션 및 실시간 컴퓨팅, 물리 기반 모델링 및 렌더링, 이미지 및 비디오 처리 및 모델링, 비주얼 컴퓨팅 및 기계 연구를 포함한 컴퓨터 그래픽 및 가상 현실입니다.

Visual GNN

네트워크 구조는 종종 성능 향상에 가장 중요한 요소입니다. 데이터의 양과 품질이 보장되는 한 모델을 CNN에서 ViT로 변경하면 더 나은 성능의 모델을 얻을 수 있습니다.

그러나 네트워크마다 입력 이미지를 다르게 처리합니다. CNN은 이미지 창을 슬라이드하고 번역 불변성 및 로컬 기능을 도입합니다.

ViT 및 MLP(다층 퍼셉트론)는 이미지를 패치 시퀀스로 변환합니다. 예를 들어 224×224 이미지를 여러 개의 16×16 패치로 나누고 마지막으로 길이가 196인 입력 시퀀스를 형성합니다.

그래프 신경망은 더 유연합니다. 예를 들어 컴퓨터 비전에서 기본 작업은 이미지에서 개체를 식별하는 것입니다. 객체는 일반적으로 사각형이 아니며 불규칙한 모양을 가질 수 있기 때문에 ResNet 및 ViT와 같은 이전 네트워크에서 일반적으로 사용되는 그리드 또는 시퀀스 구조는 중복되고 유연하지 않아 처리할 수 없습니다.

물체는 여러 부분으로 구성되어 있다고 볼 수 있습니다. 예를 들어 사람은 크게 머리, 상체, 팔, 다리로 나눌 수 있습니다.

이러한 부분들이 관절로 연결되어 자연스럽게 그래픽 구조를 형성하게 된 것을 도식을 분석하여 최종적으로는 그 물체가 사람일 수도 있다는 것을 확인할 수 있었습니다.

그리고 그래프는 일반적인 데이터 구조이고, 그리드와 시퀀스는 그래프의 특수한 경우라고 볼 수 있습니다. 이미지를 그래프로 생각하는 것이 시각적 인식에 더 유연하고 효율적입니다.

그래프 구조를 사용하려면 입력 이미지를 여러 패치로 나누고 각 패치를 노드로 처리해야 합니다. 각 픽셀을 노드로 처리하면 그래프에 노드가 너무 많아집니다(>10K).

그래프를 구축한 후 먼저 그래프 GCN(Convolutional Neural Network)을 통해 인접 노드 간의 특징을 집계하고 이미지의 표현을 추출합니다.

GCN이 보다 다양한 특징을 얻을 수 있도록 저자는 다중 헤드 연산을 그래프 컨볼루션에 적용합니다. 집계된 특징은 서로 다른 가중치를 가진 헤드로 업데이트되고 최종적으로 이미지 표현에 계단식으로 적용됩니다.

이전 GCN은 일반적으로 그래프 데이터의 집계 특징을 추출하기 위해 여러 그래프 컨볼루셔널 레이어를 재사용했지만, Deep GCN의 과도한 스무딩 현상은 노드 특징의 고유성을 감소시켜 시각적 인식 성능을 저하시킵니다.

이 문제를 완화하기 위해 연구원들은 ViG 블록에 더 많은 특징 변환과 비선형 활성화 기능을 도입했습니다.

먼저 그래프 컨볼루션 전후에 선형 레이어를 적용하여 노드 기능을 동일한 도메인에 투영하고 기능 다양성을 높입니다. 레이어 붕괴를 방지하기 위해 그래프 컨볼루션 후에 비선형 활성화 함수를 삽입합니다.

특징 변환 능력을 더욱 향상시키고 오버 스무딩 현상을 완화하기 위해서는 각 노드에서 FFN(Feedforward Network)을 활용하는 것도 필요합니다. FFN 모듈은 두 개의 완전히 연결된 레이어가 있는 간단한 다층 퍼셉트론입니다.

Grapher 및 FFN 모듈에서는 각 완전 연결 레이어 또는 그래프 컨볼루션 레이어 이후에 배치 정규화가 수행됩니다. Grapher 모듈과 FFN 모듈의 스택은 ViG 블록을 구성하며, 이는 ViG 블록을 구성하는 기본 단위이기도 합니다. 대규모 네트워크.

원래 ResGCN과 비교하여 새롭게 제안된 ViG는 특징의 다양성을 유지할 수 있으며, 더 많은 레이어가 추가될수록 네트워크는 더 강력한 표현을 학습할 수도 있습니다.

컴퓨터 비전 네트워크 아키텍처에서 일반적으로 사용되는 Transformer 모델은 일반적으로 등방성 구조(예: ViT)를 갖는 반면 CNN은 피라미드 구조(예: ResNet)를 선호합니다.

다른 유형의 신경망과 비교하기 위해 연구원들은 ViG에 대해 등방성과 피라미드라는 두 가지 네트워크 아키텍처를 설정했습니다.

실험 비교 단계에서 연구원들은 이미지 분류 작업에서 1000개 카테고리, 120M 훈련 이미지 및 50K 검증 이미지가 포함된 ImageNet ILSVRC 2012 데이터 세트를 선택했습니다.

표적 탐지 작업에서는 118k 훈련 이미지와 5000개의 검증 세트 이미지를 포함하여 80개의 목표 범주로 구성된 COCO 2017 데이터 세트가 선택되었습니다.

등방성 ViG 아키텍처에서는 주요 계산 프로세스 중에 형상 크기를 변경하지 않고 유지할 수 있으므로 확장이 쉽고 하드웨어 가속에 적합합니다. 기존 등방성 CNN, Transformer, MLP와 비교해 보면 ViG가 다른 유형의 네트워크보다 성능이 더 우수하다는 것을 알 수 있습니다. 이 중 ViG-Ti는 DeiT-Ti 모델보다 1.7% 높은 73.9%의 Top-1 정확도를 달성했으며, 계산 비용은 비슷합니다.

피라미드 구조의 ViG에서는 네트워크가 깊어질수록 특징 맵의 공간적 크기가 점차 줄어들고, 이미지의 스케일 불변 특성을 사용하여 동시에 다중 규모 특징을 생성합니다.

대부분의 고성능 네트워크는 ResNet, Swin Transformer 및 CycleMLP와 같은 피라미드 구조를 사용합니다. Pyramid ViG를 이러한 대표적인 피라미드 네트워크와 비교한 결과, Pyramid ViG 시리즈는 CNN, MLP, Transformer를 포함한 최첨단 피라미드 네트워크를 능가하거나 경쟁할 수 있음을 알 수 있습니다.

결과는 그래프 신경망이 시각적 작업을 잘 수행할 수 있으며 컴퓨터 비전 시스템의 기본 구성 요소가 될 수 있음을 보여줍니다.

ViG 모델의 작업 흐름을 더 잘 이해하기 위해 연구원들은 ViG-S에 구축된 그래프 구조를 시각화했습니다. 서로 다른 두 깊이의 샘플 플롯(블록 1 및 12). 오각형은 중심 노드이고 같은 색상의 노드는 이웃 노드입니다. 모든 가장자리를 그리면 어수선해 보이기 때문에 두 개의 중앙 노드만 시각화됩니다.

ViG 모델은 콘텐츠 관련 노드를 1차 이웃으로 선택할 수 있음을 관찰할 수 있습니다. 얕은 수준에서는 색상 및 질감과 같은 낮은 수준 및 로컬 기능을 기반으로 이웃 노드가 선택되는 경우가 많습니다. 깊은 수준에서 중앙 노드의 이웃은 더 의미론적이며 동일한 범주에 속합니다. ViG 네트워크는 콘텐츠와 의미 표현을 통해 노드를 점진적으로 연결하여 개체를 더 잘 식별하는 데 도움을 줍니다.

위 내용은 중국과학원소프트웨어가 성능 면에서 ViT를 능가하는 새로운 CV 모델 ViG를 출시했다. 과연 미래에는 그래프 신경망의 대표자가 될 수 있을까?의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!