圖感知對比學習提升多變量時間序列分類效果

这篇AAAI 2024中的论文由新加坡科技研究局（A*STAR）和新加坡南洋理工大学合作发表，提出了一种利用图感知对比学习来改善多变量时间序列分类的方法。实验结果显示，该方法在提升时间序列分类效果方面取得了显著的成果。

图片

论文标题：Graph-Aware Contrasting for Multivariate Time-Series Classification

下载地址：https://arxiv.org/pdf/2309.05202.pdf

开源代码：https://github.com/Frank-Wang-oss/TS-GAC

1、整体介绍

作者在针对现有对比学习方法的基础上，提出了一种名为图感知对比（TS-GAC）的方法，该方法旨在解决MTS数据中多传感器的空间一致性问题。TS-GAC包括两个主要组成部分：图增强和图对比。图增强通过节点和连边增强来提高空间一致性，以保持传感器的稳定性和相关性。而图对比则引入了多窗口时间对比来维持时间一致性。 通过广泛的实验验证，该方法在各种MTS分类任务上取得了最优性能。研究结果强调了在MTS数据的对比学习中考虑空间一致性的重要性，并提供了一个全面的解决方案，显著改善了分类性能。这一研究对于进一步提高对比学习的效果具有重要意义，并为处理MTS数据提供了有力的工具。

图片

2、模型结构

本文提出的方法主要包括图增强和图对比两个部分。

为了有效地增强MTS数据，我们引入了节点和连边的增强来生成弱视图和强视图。节点增强包括频域和时域增强，以充分增强图节点。首先，我们应用频域增强来增强节点，然后根据MTS数据中的动态局部模式，将增强后的样本分割成多个窗口（如图2所示）。在每个窗口中，我们使用节点时间增强，并通过一维卷积神经网络对窗口进行特征提取。随后，我们对每个窗口构建图，并通过连边增强进一步增强图。最后，我们使用基于图神经网络的编码器对图进行处理和特征学习。

图片

图对比：包括节点级对比和图级对比，以实现空间一致性。节点级对比通过在不同视图中将相应的传感器拉近、将不同视图中的不同传感器推远，确保节点特征的鲁棒性。图级对比则进一步确保全局特征的鲁棒性，通过对比不同视图中的样本来实现。

该架构的目标是在对比学习中实现空间一致性，针对MTS分类提供了特定的增强和对比技术。通过首先应用节点增强，然后利用节点内的时间增强，以及最终通过GNN处理的边缘增强，该方法能够为每个样本生成具有不同空间和时间特性的弱视图和强视图。这种方法的创新之处在于，它不仅考虑了时间一致性，还通过图结构增强了空间一致性，为MTS数据的深入分析和处理提供了新的视角。

3、图增强模块

针对MTS数据的特性，即作为由多个传感器收集的数据，作者提出了节点和连边增强两种主要方法：

节点增强：分为频域增强和时域增强。频域增强通过将每个传感器的信号转换到频域，并对提取的频率特征进行增强，然后将增强的频率特征转换回时间域以获得增强信号。具体采用了离散小波变换，通过高通和低通滤波器分解信号，以表示信号内的宏观趋势和微观趋势。时域增强则是考虑到MTS数据的动态特性，通过将每个MTS样本分割成多个窗口，并在每个窗口内进行时域增强。

连边增强：旨在增强传感器间的相关性，即构建的图中的边。首先通过图构建过程来定义节点（传感器）和边（传感器间的相关性）。然后，通过连边增强方法有效地增强传感器间的相关性。在这一步骤中，考虑到强相关性比弱相关性在GNN的特征传播中更为重要，因此在进行边缘增强时，保留了最强的s个相关性以保证拓扑信息的稳定，并将其余的相关性用随机值替换来增强连边。

透過這些增強策略，作者旨在產生弱視圖和強視圖，以便後續的對比學習過程能夠學習到穩健的感測器特徵和感測器間關係。這些增強策略的設計考慮了MTS資料的多源性和動態性，透過提供不同角度的資料視圖，增強了CL的能力，從而可以學習到更穩健和泛化的表示。

4、圖對比模組

文中提出了圖感知對比方法，該方法特別設計了節點和邊緣增強以及圖對比策略，以增強MTS資料的空間一致性。主要包括多視窗時間對比、節點級對比、圖級對比3個等級的對比方式。

多視窗時間比較（Multi-Window Temporal Contrasting, MWTC）：此方法在感測器層級上保證每個感測器的時間一致性，透過預測編碼來維持MTS資料內時間依賴性的穩健性。 MWTC透過總結一個視圖中的過去視窗訊息，與另一個視圖的未來視窗進行對比，以此來保持時間模式的穩健性。

節點層級對比（Node-level Contrasting, NC）：NC透過在每個MTS樣本內不同視圖中的感測器進行對比，學習穩健的感測器級特徵。這包括最大化兩個視圖中對應感測器之間的相似性，同時最小化那些視圖中不同感測器之間的相似性。

圖級對比（Graph-level Contrasting, GC）：GC透過在每個訓練批次內對樣本進行對比，促進穩健的全域層級特徵學習。這項策略透過最大化兩個視圖中對應樣本之間的相似性，同時最小化那些視圖中不同樣本之間的相似性來實現。

這些對比學習策略共同工作，旨在透過圖結構增強MTS資料的表示學習，進而提高分類準確性。文章也強調了時間對比對於保持每個感測器時間一致性的重要性，以及圖對比在學習感測器和全局級穩健特徵中的作用。透過結合節點級和圖級對比，此方法能夠有效學習MTS資料中的複雜空間和時間模式，實現對MTS分類效能的顯著提升。

5、實驗效果

在實驗部分，文中對比了在十個公開的多變量時間序列資料集上的效能表現，並與現有的最先進方法進行了比較。這些資料集包括人類活動識別（HAR）、ISRUC睡眠階段分類，以及UEA資料集中的子資料集，如手指運動、口語阿拉伯數字等。為了公平對比，所有方法都使用了相同的編碼器。實驗結果顯示，TS-GAC在其中八個資料集上取得了最佳效能，特別是在HAR和ISRUC資料集上，相較於其他方法，準確率分別提高了1.44%和3.13%。

圖片

同時，作者也對模型特徵進行了視覺化，視覺化結果實現了TS-GAC可以提取更有辨識度的感測器級特徵。同時，相對於其他方法，TS-GAC可以對不同視角的資料得到更一致的感測器級特徵。

圖片

作者也進行了消融研究，以評估設計的增強和對比技術對模型表現的影響。消融研究測試了不同變體，包括去除節點增強、去除邊緣增強、去除圖級對比、去除節點級對比、去除多視窗時間對比的變體。結果表明，圖增強和圖對比技術在提高MTS數據的空間一致性方面極為有效，完全的TS-GAC相較於任何一種減少對比損失的變體都表現出了更好的性能。

圖片

此外，作者也對模型的敏感性進行了分析，包括超參數（如λMWTC、λGC、λNC）的影響和保留邊緣數量的影響。這些分析進一步證實了所提出方法的有效性和健全性。

整體而言，實驗結果強調了TS-GAC在多個MTS分類任務上達到最優性能的能力，證明了提出的圖增強和圖對比技術在提高模型對MTS數據的空間一致性方面的重要性和有效性。

#

以上是圖感知對比學習提升多變量時間序列分類效果的詳細內容。更多資訊請關注PHP中文網其他相關文章！