>  기사  >  기술 주변기기  >  신뢰할 수 있는 GNN을 구축하는 방법은 무엇입니까? 최신 리뷰가 나왔습니다! 신뢰할 수 있는 그래프 신경망: 차원, 방법, 추세

신뢰할 수 있는 GNN을 구축하는 방법은 무엇입니까? 최신 리뷰가 나왔습니다! 신뢰할 수 있는 그래프 신경망: 차원, 방법, 추세

王林
王林앞으로
2023-04-08 17:31:111711검색

머리말

지난 몇 년 동안 신경망을 기반으로 한 인공지능 기술은 다양한 유형의 데이터에 대한 심층적인 마이닝을 통해 인간의 삶을 근본적으로 변화시켰으며 사회 발전 과정을 크게 촉진했습니다. . 그래프 신경망(GNN)은 인공지능 분야에서 가장 활발한 연구 방향 중 하나로 뛰어난 성능으로 개인화 추천 등 일상생활에 널리 활용되고 있다. 새로운 크라운 약물 연구 및 개발. 그래프 신경망 기술이 활발히 발전함에 따라 작업 성능을 단일 설계 목표로 하는 그래프 신경망 시스템은 여전히 ​​악의적인 공격에 취약한 등의 문제가 있다는 것을 알게 되었습니다. 따라서 사람들은 신뢰할 수 있는 그래프 신경망을 구축하려는 열망이 점점 더 커지고 있습니다.

최근에는 신뢰할 수 있는 인공지능 시스템을 구축하는 것이 전 세계 국가에서 일반적인 합의가 되었습니다[2][3]. 신뢰할 수 있는 그래프 신경망을 어떻게 종합적으로 구축할 것인가는 시급히 해결해야 할 주요 과제가 되었습니다. 이 기사는 Monash 팀(Shirui Pan, Xingliang Yuan, Bang Wu, He Zhang)이 Hanghang Tong(UIUC) 및 Jian Pei(SFU, Duke에 합류할 예정)와 함께 신뢰할 수 있는 그래프 신경망에 대한 최신 리뷰입니다(36페이지). 열 2개, 문서 299개).

연구 배경과 특성에서 시작하여 이 리뷰는 "신뢰할 수 있는 GNN"의 6가지 차원(강건성, 해석 가능성, 개인정보 보호, 공정성, 책임, 환경)에 초점을 맞춘 신뢰할 수 있는 그래프 신경망을 위한 개방형 프레임워크를 제안합니다. 웰빙)과 그 기술적 접근 방식. 동시에, 이 리뷰에서는 다양한 신뢰성 차원 간의 상호작용 관계를 탐색하고, 신뢰할 수 있는 그래프 신경망에 대한 향후 연구 방향을 제안하고, 신뢰할 수 있는 그래프 신경망 구축을 위한 상세하고 포괄적인 기술 로드맵을 그립니다.

신뢰할 수 있는 GNN을 구축하는 방법은 무엇입니까? 최신 리뷰가 나왔습니다! 신뢰할 수 있는 그래프 신경망: 차원, 방법, 추세

​리뷰 이름: 신뢰할 수 있는 그래프 신경망: 측면, 방법 및 추세

전체 텍스트 링크: https://arxiv.org/pdf/2205.07424.pdf

Github: https://github.com/ Radical3 -HeZhang/Awesome-Trustworthy-GNNs

1 소개

매우 강력한 표현 기능을 갖춘 데이터 유형인 그래프는 생물학, 화학, 물리학, 언어학 및 사회 과학과 같은 다양한 분야의 데이터를 설명하는 데 널리 사용되었습니다. 최근 몇 년 동안 그래프 신경망 기술의 활발한 발전은 다양한 그래프 컴퓨팅 작업의 성능에 혁명을 일으키고 실생활에서의 광범위한 적용을 촉진했습니다.

일상생활에서 그래프 신경망은 사용자와 사용자/서비스 콘텐츠 간의 상호작용 관계를 고려하여 정보 스트리밍 미디어, 온라인 쇼핑, 소셜 소프트웨어 등 소비자 애플리케이션에서 사용자에게 개인화된 검색 및 추천 서비스를 제공할 수 있습니다. 과학의 최전선에서 연구자들은 그래프 데이터를 사용하여 복잡한 시스템을 나타냄으로써 그래프 신경망을 사용하여 천체 운동 뒤에 숨겨진 패턴을 발견할 수 있습니다. 이를 가짜 뉴스 탐지와 코로나19 신약 개발에 적용함으로써 그래프 신경망은 우리 사회의 웰빙을 크게 향상시켰습니다.

연구원들이 여러 각도(예: 자기 지도 학습, 모델 깊이 향상 등)에서 그래프 신경망의 성능을 더욱 향상시키는 방법을 설계했지만 일부 핵심 영역의 작업 성능이 그래프 신경망 설계의 유일한 목표는 아닙니다. 네트워크. 예를 들어, 그래프 신경망을 기반으로 한 이상 탐지 시스템은 악의적인 공격에 강해야 하고, 그래프 신경망을 기반으로 한 신용 평가 시스템은 사용자의 연령, 성별 등의 요인으로 인해 대출 신청을 거부해서는 안 되며, 그래프를 기반으로 한 신약 개발 신청은 거부해서는 안 됩니다. 신경망 연구자에게는 결과에 대한 완전한 설명이 제공되어야 합니다.

위의 요구를 바탕으로 사람들은 그래프 신경망 기반 시스템의 신뢰성을 점점 더 열망하고 있습니다. 이러한 배경에서 본 리뷰는 "신뢰할 수 있는 GNN"의 최신 진행 상황을 요약하고, 관련 연구원 및 실무자를 위한 기술 로드맵을 제공하며, 신뢰할 수 있는 GNN의 향후 연구 개발을 위한 기반을 제공하는 것을 목표로 합니다.

이 리뷰의 주요 기여는 다음과 같습니다. 1) 신뢰할 수 있는 다양한 차원을 포함하는 개방형 프레임워크로 신뢰할 수 있는 그래프 신경망을 설명하고, 신뢰할 수 있는 연구에서 그래프 신경망 및 기타 일반적인 인공 지능 기술(예: CNN)의 사용을 제안합니다. 2) 다양한 신뢰할 수 있는 차원의 그래프 신경망에 대해 기존 방법에 대한 포괄적이고 포괄적인 요약이 제공됩니다. 3) 신뢰할 수 있는 그래프 신경망 시스템을 구축하는 데 있어 서로 다른 신뢰할 수 있는 차원 간의 관계가 중요하다는 점을 제안합니다. 4) 신뢰할 수 있는 그래프 신경망의 개념을 전체적으로 고려하여 잠재적인 향후 연구 방향을 제안합니다.

2 그래프 신경망과 신뢰성

독자의 이해를 돕기 위해 이 글에서는 먼저 다음과 같은 핵심 개념을 소개합니다.

그래프 데이터: 그래프 신뢰할 수 있는 GNN을 구축하는 방법은 무엇입니까? 최신 리뷰가 나왔습니다! 신뢰할 수 있는 그래프 신경망: 차원, 방법, 추세는 일반적으로 노드 세트 신뢰할 수 있는 GNN을 구축하는 방법은 무엇입니까? 최신 리뷰가 나왔습니다! 신뢰할 수 있는 그래프 신경망: 차원, 방법, 추세와 에지 세트 신뢰할 수 있는 GNN을 구축하는 방법은 무엇입니까? 최신 리뷰가 나왔습니다! 신뢰할 수 있는 그래프 신경망: 차원, 방법, 추세로 구성됩니다. 이 그래프의 노드 수는 신뢰할 수 있는 GNN을 구축하는 방법은 무엇입니까? 최신 리뷰가 나왔습니다! 신뢰할 수 있는 그래프 신경망: 차원, 방법, 추세이고 노드 사이의 간선 수는 신뢰할 수 있는 GNN을 구축하는 방법은 무엇입니까? 최신 리뷰가 나왔습니다! 신뢰할 수 있는 그래프 신경망: 차원, 방법, 추세입니다. 그래프 신뢰할 수 있는 GNN을 구축하는 방법은 무엇입니까? 최신 리뷰가 나왔습니다! 신뢰할 수 있는 그래프 신경망: 차원, 방법, 추세가 주어지면 해당 토폴로지는 인접 행렬 신뢰할 수 있는 GNN을 구축하는 방법은 무엇입니까? 최신 리뷰가 나왔습니다! 신뢰할 수 있는 그래프 신경망: 차원, 방법, 추세으로 표현될 수 있습니다. 여기서 신뢰할 수 있는 GNN을 구축하는 방법은 무엇입니까? 최신 리뷰가 나왔습니다! 신뢰할 수 있는 그래프 신경망: 차원, 방법, 추세는 노드 신뢰할 수 있는 GNN을 구축하는 방법은 무엇입니까? 최신 리뷰가 나왔습니다! 신뢰할 수 있는 그래프 신경망: 차원, 방법, 추세와 노드 신뢰할 수 있는 GNN을 구축하는 방법은 무엇입니까? 최신 리뷰가 나왔습니다! 신뢰할 수 있는 그래프 신경망: 차원, 방법, 추세 간의 연결 관계를 나타냅니다. 즉, 노드 신뢰할 수 있는 GNN을 구축하는 방법은 무엇입니까? 최신 리뷰가 나왔습니다! 신뢰할 수 있는 그래프 신경망: 차원, 방법, 추세신뢰할 수 있는 GNN을 구축하는 방법은 무엇입니까? 최신 리뷰가 나왔습니다! 신뢰할 수 있는 그래프 신경망: 차원, 방법, 추세가 서로 연결되어 있으면 신뢰할 수 있는 GNN을 구축하는 방법은 무엇입니까? 최신 리뷰가 나왔습니다! 신뢰할 수 있는 그래프 신경망: 차원, 방법, 추세, 그렇지 않으면 신뢰할 수 있는 GNN을 구축하는 방법은 무엇입니까? 최신 리뷰가 나왔습니다! 신뢰할 수 있는 그래프 신경망: 차원, 방법, 추세입니다. 그래프의 노드신뢰할 수 있는 GNN을 구축하는 방법은 무엇입니까? 최신 리뷰가 나왔습니다! 신뢰할 수 있는 그래프 신경망: 차원, 방법, 추세에 속성이 있는 경우 기능 매트릭스신뢰할 수 있는 GNN을 구축하는 방법은 무엇입니까? 최신 리뷰가 나왔습니다! 신뢰할 수 있는 그래프 신경망: 차원, 방법, 추세를 사용하여 이러한 속성 정보를 설명할 수 있습니다. 따라서 그래프 신뢰할 수 있는 GNN을 구축하는 방법은 무엇입니까? 최신 리뷰가 나왔습니다! 신뢰할 수 있는 그래프 신경망: 차원, 방법, 추세신뢰할 수 있는 GNN을 구축하는 방법은 무엇입니까? 최신 리뷰가 나왔습니다! 신뢰할 수 있는 그래프 신경망: 차원, 방법, 추세로 표시될 수도 있습니다.

GNN(그래프 신경망): 그래프 신경망은 그래프 데이터에 대한 컴퓨팅 작업(예: 노드 분류, 링크 예측, 그래프 분류)에 사용할 수 있는 일련의 신경망을 가리키는 일반적인 용어입니다. 그래프 신경망의 일반적인 작업 단계는 메시지 전달입니다. 메시지 전파 과정에서 그래프 신경망은 모든 이웃 노드의 정보를 집계하여 현재 노드의 표현을 업데이트합니다. 다른 작업(예: 비선형 여기)과의 결합을 기반으로 그래프 신경망은 여러 표현 업데이트 반복 후 해당 데이터 표현을 계산할 수 있습니다.

신뢰성: 신뢰성은 신뢰할 수 있는 시스템을 설명하는 데 사용됩니다. 이는 신뢰 개시자(신뢰자)와 신뢰 수신자(수탁자) 간의 신뢰 관계를 설명합니다. 신뢰할 수 있는 그래프 신경망의 맥락에서 신뢰 수신자(수탁자)는 그래프 신경망 시스템이고, 신뢰 개시자(신뢰자)는 사용자, 개발자, 규제 당국 또는 전체 사회일 수 있습니다.

신뢰할 수 있는 GNN은 신뢰성과 우수한 성능을 모두 고려하는 그래프 신경망으로 정의됩니다. 이러한 신뢰할 수 있는 차원에는 그래프 신경망의 견고성, 설명 가능성, 공정성, 책임 및 웰빙이 포함되지만 이에 국한되지는 않습니다. 원래 정의는 다음과 같습니다. “이 설문조사에서 우리는 신뢰할 수 있는 GNN을 견고성, 설명 가능성, 개인 정보 보호, 공정성, 책임, 웰빙 및 기타 신뢰 지향 특성을 포함하여 신뢰성의 핵심 측면을 맥락에서 통합하는 유능한 GNN으로 정의합니다. ”

신뢰할 수 있는 GNN을 구축하는 방법은 무엇입니까? 최신 리뷰가 나왔습니다! 신뢰할 수 있는 그래프 신경망: 차원, 방법, 추세

3 Review Framework

첫 번째 장에서 이 리뷰는 주로 연구 배경, 신뢰할 수 있는 그래프 신경망의 정의, 다양한 신뢰성 차원의 정의, 측정 및 연구 차이점, 기존 리뷰와의 관계 및 주요 기여를 소개합니다. 2장에서는 그래프 신경망의 기본 개념과 계산 작업을 소개합니다. 3장부터 8장에서는 견고성, 설명성, 개인 정보 보호, 공정성, 책임성, 환경 복지에서 각각 6가지 측면에서 일반적인 기술 방법을 소개 및 요약하고 향후 연구 방향을 논의합니다. 9장에서 이 검토는 방법 및 효과 수준 모두에서 위의 6가지 신뢰성 차원 간의 복잡한 관계를 요약합니다. 마지막으로 리뷰 10장에서는 신뢰할 수 있는 그래프 신경망을 전체적으로 고찰하고, 신뢰할 수 있는 그래프 신경망 시스템을 종합적으로 구축하기 위해 향후 연구와 산업화를 위한 5가지 방향을 제시한다.

4 견고성

견고함은 간섭에 직면했을 때 안정적인 예측 결과를 유지하는 그래프 신경망의 능력을 나타냅니다. 그래프 신경망의 예측 결과는 다양한 섭동(특히 그래프 신경망에 대한 다양한 공격)에 의해 영향을 받을 수 있습니다. 이로 인해 은행 금융 시스템의 사기 탐지, 자율 주행 시스템의 교통 예측 및 계획과 같은 개인 및 재산 안전과 관련된 시나리오에서 그래프 신경망을 적용하는 데 심각한 문제가 발생합니다. 따라서 견고성에 대한 연구는 신뢰할 수 있는 그래프 신경망에서 없어서는 안될 핵심 링크입니다.

이 리뷰는 그래프 신경망의 견고성에 대한 현재 관련 연구를 요약하고, 적대적 공격 및 방어의 분류와 몇 가지 일반적인 방법을 소개합니다. 그 중 적대적 공격의 분류는 아래 그림과 같이 공격 위협 모델(위협 모델) 분석에서 파생됩니다. 방어 분류는 기술의 특정 실행 단계(대상 단계)를 기반으로 합니다.

다양한 범주의 방법을 소개하면서 저자는 이러한 방법의 특성과 CNN과 같은 다른 일반적인 인공 기술에 사용되는 특성 간의 차이점을 논의합니다. 예를 들어, 특정 유형의 교란 작업 및 공격 목표에 대해 다양한 분류 및 이름 변형이 있습니다.

신뢰할 수 있는 GNN을 구축하는 방법은 무엇입니까? 최신 리뷰가 나왔습니다! 신뢰할 수 있는 그래프 신경망: 차원, 방법, 추세

또한 저자는 이러한 공격 및 방어 방법의 적용 가능성에 대해 논의하고 요약합니다. 예를 들어 저자는 다양한 유형의 방어 방법을 적용 단계, 모듈성, 배포 호환성이라는 세 가지 관점에서 비교 분석했습니다.

마지막으로, 이 검토에서는 현재 상태를 기반으로 표준화된 견고성 평가 개발과 기존 방어 방법의 확장성 향상이라는 두 가지 향후 연구 방향을 제안합니다.

5 설명 가능성(Explainability)

설명 가능성은 그래프 신경망의 예측 결과를 인간이 이해할 수 있도록 만드는 능력을 말합니다. 예측을 이해할 수 없다면 사람들은 그래프 신경망을 신뢰하지 않을 것입니다. 신뢰가 부족하면 공정성(예: 신용 위험 예측), 정보 보안(예: 칩 설계) 및 생명 안전(예: 자율 주행)과 관련된 시나리오에서의 적용이 더욱 제한됩니다. 따라서 신뢰할 수 있는 그래프 신경망 시스템은 예측에 대한 설명을 제공해야 합니다.

설명 형식 및 설명 방법 범주와 같은 기본 개념을 소개한 후, 본 리뷰에서는 그래프 신경망의 해석 가능성과 관련된 작업을 자체 설명(해석 가능한 GNN)과 사후 설명자라는 두 가지 범주로 나눕니다. 자기 설명(해석 가능한 GNN)에는 주로 기여도 추정, 해석 가능한 모듈 도입, 프로토타입 학습 내장 및 근거 생성 방법이 포함됩니다. 사후 설명에는 주로 기울기/특징 기반 방법, 섭동 기반 방법, 대리 방법 및 분해 방법, 생성 방법 및 기타 방법이 포함됩니다.

신뢰할 수 있는 GNN을 구축하는 방법은 무엇입니까? 최신 리뷰가 나왔습니다! 신뢰할 수 있는 그래프 신경망: 차원, 방법, 추세

이 리뷰에서는 일반적인 방법의 원리를 소개한 후 다음 표와 같이 이러한 방법을 포괄적으로 비교합니다.

신뢰할 수 있는 GNN을 구축하는 방법은 무엇입니까? 최신 리뷰가 나왔습니다! 신뢰할 수 있는 그래프 신경망: 차원, 방법, 추세

이 외에도 본 리뷰에서는 자기 설명과 사후 설명(해석 가능성 및 설명 가능성), 설명을 제공하는 데 필요한 배경 지식(백색/회색/블랙박스 지식), 설명을 얻기 위한 추론 원리(추론 근거), 기타 제한 사항을 다룹니다. (이 네 가지 측면은 현재 작업을 요약합니다. 마지막으로, 이 리뷰는 실제 응용 프로그램에 대한 엄격한 모델 독립적 방법과 평가 벤치마크를 설정하는 것이 그래프 신경망의 해석 가능성에 대한 향후 연구의 두 가지 방향임을 제안합니다.

6 개인 정보 보호

개인 정보 보호는 신뢰할 수 있는 그래프 신경망을 구축할 때 무시할 수 없는 신뢰할 수 있는 차원이기도 합니다. 신뢰할 수 있는 그래프 신경망 시스템을 구축하고 유지하는 과정에서 모델 자체나 그래프 데이터 등 민감하고 개인정보가 유출될 위험이 있습니다. 따라서 본 리뷰에서는 먼저 개인정보 유출과 관련된 현재의 연구를 요약하고, 다양한 개인정보 보호 방법을 소개한다.

개인정보 유출 문제에 대응하여 본 리뷰는 현재의 개인정보 공격 위협 모델에서 시작하여 먼저 잠재적인 위협의 목표와 능력을 소개한 후, 모델 추출 공격, 회원 추론 공격, 모델 역(모델)을 소개합니다. 반전 공격) 이 세 가지 일반적인 개인 정보 공격과 다른 시나리오의 잠재적인 개인 정보 유출 위험이 있습니다.

그런 다음 리뷰에서는 그래프 신경망 시나리오에서 연합 학습, 차등 개인 정보 보호, 취약한 훈련 및 보안 계산이라는 네 가지 개인 정보 보호 기술을 소개합니다. 또한 위의 기술을 분류하고 소개한 후 저자는 개인 정보 보호가 종료됨에 따라 발생하는 개인 정보 보호, 모델 정확도 및 구현 효율성 간의 구체적인 적용 시나리오와 균형에 대해서도 논의했습니다.

신뢰할 수 있는 GNN을 구축하는 방법은 무엇입니까? 최신 리뷰가 나왔습니다! 신뢰할 수 있는 그래프 신경망: 차원, 방법, 추세

이 장의 끝에서 저자는 현재 연구 상태를 고려할 때 경사 정보 유출의 숨겨진 위험과 개인 정보 보호 공격에 대한 방어에 대한 현재 연구는 더 많은 관심과 탐구가 부족하다고 생각합니다. 미래에는 필요합니다.

7 공정성

취약계층이나 개인의 핵심 이익을 보호함으로써 공정한 시스템이 국민의 신뢰를 얻을 수 있습니다. 공정한 그래프 신경망 시스템은 예측 결과가 특정 집단이나 개인에 대한 편견을 배제한다는 것을 의미합니다. 현재 그래프 신경망은 주로 데이터 기반 방식으로 그래프 컴퓨팅 작업을 완료합니다. 그러나 그래프 신경망의 메시지 전파 메커니즘은 데이터에 이미 존재하는 편향을 더욱 증폭시킬 수 있습니다. 이후 개인 선호도나 행동 편향 등의 요인으로 인해 사람들은 그래프 신경망 서비스와 상호 작용하는 동안 그래프 데이터의 편향이 더욱 심화될 것입니다.

신뢰할 수 있는 GNN을 구축하는 방법은 무엇입니까? 최신 리뷰가 나왔습니다! 신뢰할 수 있는 그래프 신경망: 차원, 방법, 추세

공정성 정의(그룹 공정성, 개인 공정성, 반사실적 공정성), 사용 단계(전처리, 전처리, 후처리) 등 기본 개념을 소개한 후 그래프는 현재 개념을 사용합니다. 신경망의 공정성에 대한 연구는 공정한 표현 학습 방법과 공정한 예측 향상 방법으로 구분됩니다. 이들 방법의 기본 원리를 소개한 후, 아래 표와 같이 이들 방법을 종합적으로 비교합니다.

신뢰할 수 있는 GNN을 구축하는 방법은 무엇입니까? 최신 리뷰가 나왔습니다! 신뢰할 수 있는 그래프 신경망: 차원, 방법, 추세

마지막으로 본 리뷰에서는 공정성의 정의와 평가(공정성 정의 및 평가), 업무 성과에 미치는 영향(업무 성과에 대한 영향), 불공정의 원인(불공정 드러남)을 미래 그래프로 설명하는 방안을 제안합니다. 뉴럴네트워크 주식연구에서 집중해야 할 연구방향.

8 책임성

점점 더 광범위한 애플리케이션 시나리오와 복잡한 시스템 구조가 등장함에 따라 개인, 기업 및 정부 기관은 신뢰할 수 있는 그래프 신경망에서 효과적인 책임성에 대한 더 많은 요구 사항을 제시했습니다. 최근 몇 년 동안 중국, 미국, 유럽의 기업과 정부 기관은 인공 지능에 대한 책임 프레임워크를 구축하는 방법에 대한 자체 계획과 지침을 제시했습니다. 위 내용을 바탕으로 이 검토에서는 그래프 신경망 책임 프레임워크에 대한 세 가지 요구 사항을 요약합니다.

(1) 합리적인 평가 및 인증 프로세스는 전체 그래프 신경망 시스템 개발 및 운영 주기와 함께 설계되어야 합니다.

(2) 개발 및 운영 프로세스의 감사 가능성이 보장되어야 합니다.

(3) 시스템 조치에서 사람의 개입(조정), 교정(교정) 등을 촉진하기 위해 충분한 조정 및 피드백 메커니즘이 확립되어야 합니다. 부적절한 행동을 처벌할 수도 있습니다.

그런 다음 이 리뷰에서는 신뢰할 수 있는 그래프 신경망 시스템에서 책임 프레임워크를 구축하는 데 현재 사용할 수 있는 두 가지 주요 작업 범주인 벤치마킹과 보안 평가를 소개합니다.

이 리뷰에서는 모델 설계(아키텍처 설계), 모델 학습(모델 학습), 모델 검증(모델 검증) 등 그래프 신경망의 다양한 개발 단계에 따른 벤치마킹 분석에 대한 연구를 소개합니다. 보안평가에서는 시스템 무결성 검증(무결성 검증)에 관한 관련 연구를 주로 소개하며, 다양한 검증 대상에 따라 데이터 무결성(데이터 무결성)과 프로그램 무결성(프로시저 무결성) 검증을 소개한다.

마지막으로, 본 리뷰에서는 신뢰할 수 있는 그래프 신경망의 책임성에 대한 세 가지 연구 방향을 제안합니다. 첫째, 다양한 성격의 더 많은 위반에 대한 위반 탐지를 제공합니다. 둘째, 전체 프로세스를 포괄하는 프로그램 무결성 테스트와 모든 구성 요소의 데이터 무결성 테스트를 제공합니다. 셋째, 시스템의 감사 가능성과 감사 가능성을 지속적으로 개선합니다.

9 환경 웰빙

신뢰할 수 있는 그래프 신경망은 배포되는 환경의 사회적 가치를 준수해야 합니다. 현재 지구 온난화는 인류 사회가 시급히 해결해야 할 주요 환경 문제입니다. 탄소 중립이라는 야심 찬 목표를 달성하려면 각계각층의 공동 노력이 필요합니다. 그래프 신경망 시스템이 환경에 미치는 영향을 줄이기 위해, 줄당 노드 수와 같은 관련 지표를 도입한 후, 본 리뷰에서는 그래프 신경망의 효율성을 향상시키는 다양한 방법을 요약합니다.

(1) 확장 가능한 그래프 신경망 및 효율적인 데이터 통신: 그래프 데이터의 폭발적인 증가로 인해 대규모 데이터 세트는 그래프 신경망의 효율적인 운영에 과제를 제기합니다. 이러한 과제를 해결하기 위해 현재 기술에는 주로 샘플링 방법, 확장 가능한 아키텍처, 산업 응용 프로그램, 효율적인 데이터 통신 등이 포함됩니다.

(2) 모델 압축 기술: 기술이 발전함에 따라 연구자들은 성능을 향상시키기 위해 더 깊고 복잡한 그래프 신경망 모델을 제안했습니다. 그러나 이러한 모델의 규모는 컴퓨팅 리소스가 제한된 엣지 컴퓨팅 장치에서의 배포를 제한합니다. 따라서 모델 압축 기술은 이러한 문제를 해결하는 효과적인 방법입니다. 관련 기술에는 지식 증류, 모델 가지치기, 매개변수 크기 감소, 모델 양자화 등이 포함됩니다.

(3) 개발 프레임워크 및 가속기: 그래프 데이터의 불규칙성, 모델의 희소 및 조밀 계산 교대, 모델 및 애플리케이션의 다양성 등으로 인해 그래프 신경망 시스템은 특별히 설계된 프레임워크 및 가속기를 사용해야 합니다. 효율성을 향상시키기 위해. 이러한 문제를 해결하기 위해 현재의 방법으로는 주로 소프트웨어 프레임워크(SW Frameworks), 하드웨어 가속기(HW Accelerators), 효율성 병목 현상 분석(효율성 병목 현상을 분석), 소프트웨어와 하드웨어 공동 설계(SW-HW 공동 설계), 등.

마지막으로, 이 리뷰에서는 효율적인 GNN 탐색과 GNN 가속기 연구가 그래프 신경망 환경의 웰빙을 촉진할 두 가지 미래 연구 방향임을 제안합니다.

10 서로 다른 신뢰성 측면 간의 관계

그래프 신경망의 신뢰성을 높이는 데 대한 현재 연구는 주로 위의 6가지 차원 중 하나에 초점을 맞추고 있습니다. 이 리뷰에서는 신뢰할 수 있는 그래프 신경망을 구축하는 것이 위의 사항을 무시할 수 없음을 제안합니다. 6가지 신뢰성 차원 사이의 관계를 설명하며 이는 다음 두 가지 관점으로 요약됩니다.

1) 신뢰성 그래프 신경망의 한 차원에서 나온 방법을 사용하여 다른 차원의 연구 문제를 해결하는 방법 신뢰할 수 있는 GNN은 다른 측면의 목표를 해결하도록 조정되었습니다.

2) 신뢰할 수 있는 GNN의 한 측면을 발전시키면 다른 측면을 촉진하거나 억제할 수 있는 이유(신뢰할 수 있는 GNN의 한 측면을 발전시키면 다른 측면을 촉진하거나 억제할 수 있는 이유)

신뢰할 수 있는 GNN을 구축하는 방법은 무엇입니까? 최신 리뷰가 나왔습니다! 신뢰할 수 있는 그래프 신경망: 차원, 방법, 추세

11 향후 연구 방향

이 리뷰에서는 잠재적인 연구 핫스팟을 목표로 신뢰할 수 있는 그래프 신경망을 전체적으로 다루고 현재 방법의 한계를 분석합니다. 현재의 연구 격차를 메우고 신뢰할 수 있는 그래프 신경망의 산업화를 촉진하기 위해 이 검토에서는 다음과 같은 5가지 연구 방향을 제안합니다:

A. 신뢰할 수 있는 설계 개념 수용(신뢰할 수 있는 GNN으로 전환)

신뢰할 수 있는 그래프 신경망 구축 네트워크에 필요 그래프 신경망을 설계할 때 작업 성능을 고려해야 할 뿐만 아니라 그래프 신경망의 설계 철학에 신뢰성이라는 개념을 도입해야 합니다. 일부 기존 작업은 해석 가능성과 설계 공정성을 모두 고려하여 그래프 신경망의 신뢰성을 크게 향상시켰습니다. 또한 특정 애플리케이션에서 서로 다른 신뢰도 차원(예: 자율 주행의 견고성 및 환경 복지) 간의 균형 및 균형과 같이 신뢰할 수 있는 그래프 신경망으로 전환하는 데 직면한 일련의 공개 문제를 해결하는 것도 A입니다. 도전적인 연구 방향.

B. 신뢰할 수 있는 GNN의 다른 측면 탐색

신뢰할 수 있는 그래프 신경망에는 실제로 이 리뷰에 소개된 6개 차원보다 더 많은 콘텐츠가 포함되어 있습니다. 예를 들어, 일반화는 신뢰할 수 있는 시스템의 중요한 차원으로 간주됩니다. 현재 일부 연구에서는 그래프 신경망의 추정과 이들이 사용하는 활성화 함수 사이의 관계를 탐구합니다. 이러한 연구는 신뢰성의 의미를 풍부하게 하고 신뢰할 수 있는 그래프 신경망의 구축을 촉진합니다. 또한, 검토에서는 신뢰할 수 있는 시스템과 관련된 설계 원칙(예: 국가 차세대 인공지능 거버넌스 전문위원회에서 발행한 "신세대 인공지능 거버넌스 원칙 - 책임 있는 인공지능 개발" 등)을 올바르게 처리하는 것도 신뢰할 수 있는 시스템에 중요하다고 제안했습니다. 그래프 신경망은 향후 개발에 있어 중요한 연구 내용입니다.

C. 다양한 관계 연구

이 리뷰는 신뢰할 수 있는 그래프 신경망의 다양한 차원 간의 복잡한 관계 중 일부만 다룹니다. 설명 가능성 및 공정성과 같은 다른 상호 관계를 탐색하는 것은 신뢰할 수 있는 그래프 신경망 시스템을 완전히 이해하고 구축하는 데 중요합니다. 더욱이 이러한 관계는 복잡할 뿐만 아니라 여러 수준으로 존재합니다. 예를 들어, 반사실적 공정성과 견고성은 개념적으로 유사합니다. 따라서 개념, 방법, 효율성 등 다양한 수준에서 신뢰할 수 있는 그래프 신경망의 다양한 차원 간의 상호 관계를 탐색하는 것도 유망한 연구 방향입니다.

D. 모델에 구애받지 않는 방법 설계

현재 그래프 신경망의 신뢰성을 향상시키는 많은 방법에는 특별히 설계된 그래프 신경망 아키텍처를 사용해야 합니다. 대상 네트워크 인프라에 액세스하거나 수정할 수 없는 경우(예: 클라우드 서비스 사용) 이러한 방법은 작동하지 않습니다. 이는 실제 시나리오에서 이러한 신뢰성 향상 방법의 유용성을 크게 감소시킵니다. 대조적으로, 모델에 구애받지 않는 방법은 플러그 앤 플레이 방식으로 그래프 신경망 시스템에 유연하게 적용될 수 있습니다. 또한 이러한 방법은 기능적 모듈 형태로 결합될 수도 있습니다. 따라서 모델에 구애받지 않는 접근 방식을 설계하면 실용성이 크게 향상되고 신뢰할 수 있는 그래프 신경망 구축이 쉬워집니다.

E. 신뢰할 수 있는 GNN을 위한 기술 생태계 구축

신뢰할 수 있는 그래프 신경망 개발은 기술 생태계의 지원과 분리될 수 없습니다. 여기의 기술 생태계에는 툴킷, 데이터 세트, 지표 및 파이프라인이 포함되지만 이에 국한되지는 않습니다. 그래프 데이터의 고유한 특성으로 인해 IBM의 AI360과 같은 일부 최신 툴킷(도구)은 그래프 신경망을 평가하는 데 직접 사용되지 않을 수 있습니다. 예를 들어, 노드 사이에 에지가 존재하면 노드에 대한 IID(독립 및 동일 분포) 가정이 깨지므로 그래프 신경망의 공정성을 연구할 때 노드 간의 상호의존성을 고려해야 합니다. 또한 애플리케이션 시나리오의 다양성으로 인해 신뢰할 수 있는 그래프 신경망을 구축하려면 다양한 작업 및 시나리오에 적합한 데이터 세트, 메트릭, 평가 표준 및 소프트웨어 플랫폼과 같은 기술 시설을 지원해야 합니다. 따라서, 해당 기술 생태계를 구축하는 것은 신뢰할 수 있는 그래프 신경망의 연구와 산업화에 있어서 중요한 단계입니다.

위 내용은 신뢰할 수 있는 GNN을 구축하는 방법은 무엇입니까? 최신 리뷰가 나왔습니다! 신뢰할 수 있는 그래프 신경망: 차원, 방법, 추세의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!

성명:
이 기사는 51cto.com에서 복제됩니다. 침해가 있는 경우 admin@php.cn으로 문의하시기 바랍니다. 삭제