그래프 인식 대조 학습으로 다변량 시계열 분류 효과 개선

AAAI 2024에 실린 이 논문은 싱가포르 과학기술연구청(A*STAR)과 싱가포르 난양기술대학교가 공동으로 발표한 것으로, 다변량 시계열 분류를 개선하기 위해 그래프 인식 대조 학습을 사용하는 방법을 제안합니다. 실험 결과는 이 방법이 시계열 분류 성능을 향상시키는 데 놀라운 결과를 얻었음을 보여줍니다.

Pictures

논문 제목: Graph-Aware Contrasting for Multivariate Time-Series Classification

다운로드 주소: https://arxiv.org/pdf/2309.05202.pdf

오픈 소스 코드: https://github .com/Frank-Wang-oss/TS-GAC

1. 전체 소개

저자는 기존의 대조 학습 방법을 기반으로 TS-GAC(graph-aware Contrast)라는 방법을 제안했습니다. MTS 데이터의 다중 센서의 공간 일관성 문제를 해결합니다. TS-GAC는 그래프 향상과 그래프 비교라는 두 가지 주요 구성 요소로 구성됩니다. 그래프 향상은 노드 및 에지 향상을 통해 공간 일관성을 향상시켜 센서 안정성과 관련성을 유지합니다. 그래프 비교에는 시간 일관성을 유지하기 위해 다중 창 시간 비교가 도입되었습니다. 광범위한 실험적 검증을 통해 이 방법은 다양한 MTS 분류 작업에서 최적의 성능을 달성합니다. 연구 결과는 MTS 데이터의 대조 학습에서 공간적 일관성을 고려하는 것의 중요성을 강조하고 분류 성능을 크게 향상시키는 포괄적인 솔루션을 제공합니다. 이 연구는 대조 학습의 효과를 더욱 향상시키는 데 큰 의미가 있으며 MTS 데이터 처리를 위한 강력한 도구를 제공합니다.

Pictures

2. 모델 구조

이 글에서 제안하는 방법은 크게 이미지 향상과 이미지 비교 두 부분으로 구성됩니다.

MTS 데이터를 효과적으로 향상시키기 위해 약한 뷰와 강한 뷰를 생성하는 노드 및 에지 향상을 도입합니다. 노드 향상에는 그래프 노드를 완전히 향상시키기 위한 주파수 도메인 및 시간 도메인 향상이 포함됩니다. 먼저, 주파수 영역 강화를 적용하여 노드를 강화한 다음 강화된 샘플을 MTS 데이터의 동적 로컬 패턴에 따라 여러 창으로 분할합니다(그림 2 참조). 각 창에서는 노드 시간적 증대를 사용하고 1차원 컨볼루션 신경망을 통해 창에서 특징 추출을 수행합니다. 이후 각 창에 대한 그래프를 구성하고 가장자리 향상을 통해 그래프를 더욱 향상시킵니다. 마지막으로 그래프 처리 및 특징 학습을 위해 그래프 신경망 기반 인코더를 사용합니다.

Pictures

그래프 비교: 공간적 일관성을 달성하기 위해 노드 수준 비교 및 ​​그래프 수준 비교를 포함합니다. 노드 수준 비교는 서로 다른 보기에서 해당 센서를 더 가까이 당기고 서로 다른 보기에서 서로 다른 센서를 더 멀리 밀어서 노드 기능의 견고성을 보장합니다. 그래프 수준 비교는 다양한 보기에서 샘플을 비교하여 전역 기능의 견고성을 더욱 보장합니다.

아키텍처는 MTS 분류를 위한 구체적인 향상 및 대비 기술을 제공하여 대조 학습에서 공간적 일관성을 달성하는 것을 목표로 합니다. 먼저 노드 향상을 적용한 다음 노드 내의 시간적 향상을 활용하고 마지막으로 GNN에 의해 ​​처리된 에지 향상을 통해 이 방법은 각 샘플에 대해 서로 다른 공간적 및 시간적 속성을 가진 약하고 강한 뷰를 생성할 수 있습니다. 이 방법의 혁신은 시간적 일관성을 고려할 뿐만 아니라 그래프 구조를 통해 공간적 일관성을 향상시켜 MTS 데이터의 심층 분석 및 처리에 대한 새로운 관점을 제공한다는 것입니다.

3. 그래프 향상 모듈

MTS 데이터, 즉 여러 센서에 의해 수집되는 데이터의 특성을 고려하여 저자는 노드 및 에지 향상의 두 가지 주요 방법을 제안했습니다.

노드 향상: 주파수 영역 향상으로 구분됩니다. 및 시간 도메인 향상. 주파수 영역 강화는 각 센서의 신호를 주파수 영역으로 변환하고, 추출된 주파수 특징을 강화한 후, 강화된 주파수 특징을 다시 시간 영역으로 변환하여 강화된 신호를 얻습니다. 특히 이산 웨이블릿 변환은 고역 통과 필터와 저역 통과 필터를 통해 신호를 분해하여 신호 내의 거시 추세와 미시 추세를 나타내는 데 사용됩니다. 시간 영역 향상은 각 MTS 샘플을 여러 창으로 나누고 각 창에서 시간 영역 향상을 수행함으로써 MTS 데이터의 동적 특성을 고려합니다.

Edge Enhancement: 센서 간의 상관관계, 즉 구성된 그래프의 에지를 향상시키는 것을 목표로 합니다. 먼저 그래프 구축 과정을 통해 노드(센서)와 에지(센서 간 상관 관계)를 정의합니다. 그런 다음 Edge Enhancement 기법을 통해 센서 간의 상관관계를 효과적으로 향상시킵니다. 본 단계에서는 GNN의 특징 전파에 있어서 약한 상관관계보다 강한 상관관계가 더 중요하다는 점을 고려하여, edge Enhancement를 수행할 때 가장 강한 상관관계를 유지하여 위상 정보의 안정성을 보장하고 나머지 상관관계는 임의의 값으로 대체한다. ​에지 연결을 강화합니다.

이러한 강화 전략을 통해 저자는 약한 관점과 강한 관점을 생성하여 후속 대조 학습 과정에서 강력한 센서 특징과 센서 간 관계를 학습할 수 있도록 하는 것을 목표로 합니다. 이러한 향상 전략의 설계는 MTS 데이터의 다중 소스 및 동적 특성을 고려하고 다양한 각도의 데이터 보기를 제공하여 CL의 기능을 향상시켜 보다 강력하고 일반화된 표현을 학습할 수 있도록 합니다.

4. 그래프 비교 모듈

본 논문에서는 MTS 데이터의 공간적 일관성을 향상시키기 위해 노드 및 에지 향상과 그래프 비교 전략을 특별히 설계하는 그래프 인식 비교 방법을 제안합니다. 여기에는 주로 다중 창 시간 비교, 노드 수준 비교, 그래프 수준 비교의 세 가지 비교 수준이 포함됩니다.

다중 창 시간 대조(MWTC): 이 방법은 센서 수준에서 각 센서의 시간적 일관성을 보장하고 예측 코딩을 통해 MTS 데이터 내에서 시간적 의존성의 견고성을 유지합니다. MWTC는 한 뷰에서 과거 창 정보를 요약하고 이를 다른 뷰에서 미래 창과 비교하여 시간적 패턴의 견고성을 유지합니다.

노드 수준 대조(NC): NC는 각 MTS 샘플 내의 다양한 뷰에서 센서를 비교하여 강력한 센서 수준 기능을 학습합니다. 여기에는 두 보기에서 해당 센서 간의 유사성을 최대화하는 동시에 해당 보기에서 서로 다른 센서 간의 유사성을 최소화하는 것이 포함됩니다.

그래프 수준 대조(GC): GC는 각 훈련 배치 내의 샘플을 비교하여 강력한 전역 수준 기능 학습을 촉진합니다. 이 전략은 두 보기의 해당 샘플 간의 유사성을 최대화하는 동시에 해당 보기의 서로 다른 샘플 간의 유사성을 최소화하는 방식으로 작동합니다.

이러한 대조 학습 전략은 그래프 구조를 통해 MTS 데이터의 표현 학습을 향상시켜 분류 정확도를 향상시키기 위해 함께 작동합니다. 또한 이 기사에서는 각 센서의 시간적 일관성을 유지하기 위한 시간적 비교의 중요성과 센서 및 글로벌 수준에서 강력한 기능을 학습하는 데 있어 그래프 비교의 역할을 강조합니다. 노드 수준과 그래프 수준 비교를 결합함으로써 이 방법은 MTS 데이터의 복잡한 공간적 및 시간적 패턴을 효과적으로 학습하고 MTS 분류 성능을 크게 향상시킬 수 있습니다.

5. 실험 결과

실험 부분에서는 10개의 공개 다변량 시계열 데이터 세트에 대한 성능을 비교하고 이를 기존의 최신 방법과 비교합니다. 이러한 데이터세트에는 인간 활동 인식(HAR), ISRUC 수면 단계 분류, 손가락 움직임, 음성 아라비아 숫자 등과 같은 UEA 데이터세트의 하위 데이터세트가 포함됩니다. 공정한 비교를 위해 모든 방법에 동일한 인코더가 사용되었습니다. 실험 결과 TS-GAC는 8개 데이터 세트, 특히 HAR 및 ISRUC 데이터 세트에서 최고의 성능을 달성한 것으로 나타났으며, 다른 방법과 비교하여 정확도가 각각 1.44% 및 3.13% 증가했습니다.

Pictures

동시에 저자는 모델 특징도 시각화했으며 시각화 결과를 통해 TS-GAC는 더욱 식별 가능한 센서 수준 특징을 추출할 수 있었습니다. 동시에 다른 방법과 비교하여 TS-GAC는 다양한 시야각에서 데이터에 대해 보다 일관된 센서 수준 기능을 얻을 수 있습니다.

Pictures

저자는 또한 설계된 강화 및 대비 기술이 모델 성능에 미치는 영향을 평가하기 위해 절제 연구를 수행했습니다. 절제 연구에서는 노드 향상 제거, 가장자리 향상 제거, 그래프 수준 대비 제거, 노드 수준 대비 제거, 다중 창 시간 대비 제거 등 다양한 변형을 테스트했습니다. 결과는 그래프 향상 및 그래프 대비 기술이 MTS 데이터의 공간 일관성을 향상시키는 데 매우 효과적이며 전체 TS-GAC가 대비 손실을 줄이는 어떤 변형보다 더 나은 성능을 보여줍니다.

Picture

또한 저자는 하이퍼파라미터(예: λMWTC, λGC, λNC)의 영향과 유지된 모서리 수의 영향을 포함하여 모델의 민감도를 분석했습니다. 이러한 분석은 제안된 방법의 효율성과 견고성을 추가로 확인합니다.

전반적으로 실험 결과는 TS-GAC가 여러 MTS 분류 작업에서 최적의 성능을 달성할 수 있는 능력을 강조하며, MTS 데이터에 대한 모델의 공간적 일관성을 향상시키는 데 제안된 그래프 향상 및 그래프 비교 기술의 중요성을 보여줍니다. 유효성.

위 내용은 그래프 인식 대조 학습으로 다변량 시계열 분류 효과 개선의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!