화웨이의 대형 모델이 네이처 공식호에 등장! 검토자: 예측 모델의 미래를 새롭게 살펴보겠습니다.

기존 방법보다 10,000배 빠르며 24시간 세계 일기 예보를 완료하는 데 1.4초 밖에 걸리지 않습니다. 이는 Huawei Cloud의 Pangu Weather Model에서 제공됩니다.

오늘 Nature에 게재되었습니다. 이 논문은 중국 기술 기업을 단독 시그니처 유닛(즉, Huawei Cloud의 단독 저자)으로 하여 최근 몇 년간 발표된 최초의 공식 Nature 논문이라고 합니다.

Pictures

리뷰어들은 이 모델을 통해 일기예보 모델의 미래를 재검토할 수 있다고 칭찬했습니다.

그 의미는 원래의 전통적인 방법이 더 이상 향기롭지 않다는 것입니다.

사진

그럼 정확히 어떻게 개발됐나요? 어떤 주요 과제가 해결되었나요? 구체적인 결과와 적용은 무엇입니까?

이 기사를 따라 모든 내용을 살펴보세요.

기존 AI 일기예보 모델의 정확도가 부족한 문제 해결

1920년대부터, 특히 지난 30년 동안 컴퓨팅 파워의 급속한 발전과 함께 전통적인 수치 일기예보는 일일 일기예보, 극한재난 경보, 기후변화 등의 분야에서 큰 성공을 거두었습니다.

그러나 컴퓨팅 파워의 성장이 둔화되고 물리적 모델이 점차 복잡해짐에 따라 이 방법의 병목 현상이 점점 더 두드러지게 됩니다.

그래서 연구자들은 미래 날씨를 예측하기 위해 딥러닝 방법을 사용하는 등 새로운 날씨 예측 패러다임을 탐구하기 시작했습니다.

Huawei Cloud R&D 팀은 2년 전에 이 분야에 대한 연구를 시작했습니다.

중장기 예측 등 수치적 방법이 가장 널리 사용되는 분야에서는 기존 AI 예측 방법의 정확도가 수치적 예측 방법에 비해 여전히 현저히 낮고, 데이터 부족 등의 문제로 인해 제한된다는 사실을 발견했습니다. 해석 가능성과 부정확한 기상 예측.

AI 일기예보 모델의 정확도가 부족한 데는 크게 두 가지 이유가 있습니다:

첫째, 기존 AI 일기예보 모델은 2D 신경망을 기반으로 하기 때문에 잘 처리할 수 없습니다. 3D 기상 데이터

둘째, AI 방법에는 수학적, 물리적 메커니즘 제약이 부족하여 반복 과정에서 반복 오류가 계속 누적됩니다.

여기서 Huawei Cloud 연구원들은 복잡하고 고르지 않은 3D 기상 데이터를 처리하여 대규모 Pangu 기상 모델을 생성하기 위해

3D Earth-Specific Transformer(3DEST)를 제안했습니다.

주요 아이디어는 시각적 변환기의 3D 변형을 사용하여 복잡하고 균일하지 않은 기상 요소를 처리하고

계층적 시간 집계 전략을 사용하여 서로 다른 예측 간격으로 4개 모델을 학습( 각각 1시간 간격, 3시간 간격, 6시간 간격, 24시간 간격) 특정 시간의 기상 조건을 예측하기 위해 반복 횟수를 최소화함으로써 반복 오류를 줄이고 재귀적 훈련으로 인한 훈련 자원 소모를 방지합니다. 각 모델을 훈련하기 위해 연구원들은 1979년부터 2021년까지의 기상 데이터를 사용하고, 시간 단위로 샘플링하고, 100개 epoch 동안 훈련했습니다.

각 모델은 16일 동안 192개의 V100 그래픽 카드에서 교육을 받아야 합니다. 사실, 100개의 신기원이 지난 후에도 이러한 모델은 여전히 ​​완전히 수렴되지 않았습니다.

즉, 컴퓨팅 리소스가 충분하면 AI 예측의 정확도가 더욱 향상될 수 있습니다.

최종 추론에서 Pangu 기상 모델은 V100 그래픽 카드에서 1.4초만 실행하면 수평을 포함한 지리 전위, 습도, 풍속, 온도, 해수면 기압 등을 포함한 24시간 전 세계 일기 예보를 완료할 수 있습니다. 공간 분해능 비율은 0.25°×0.25°에 도달하고 시간 분해능은 1시간으로 수직 높이 13개 층을 커버하며 세밀한 기상 특성을 정확하게 예측할 수 있습니다.

기존 수치 예측 방법보다 정확도가 뛰어난 최초의 AI 방법으로 계산 속도는 기존 수치 예측 방법보다 10,000배 이상 빠릅니다.

여러 하류 시나리오에 직접 적용 가능

올해 5월 태풍 '마와'의 방향이 큰 관심을 받았습니다.

중앙기상청은 화웨이 클라우드 판구(Huawei Cloud Pangu) 대형 모델이 '마바(Mava)'의 경로를 잘 예측해 5일 전에 대만섬 동쪽 해역에서의 전환 경로를 예측했다고 밝혔습니다.

사진제19차 세계 기상 회의에서 유럽 기상청도 Huawei Cloud Pangu 기상 모델이 정확성 측면에서 부인할 수 없는 정확성을 가지고 있다고 지적했습니다. 순수 데이터 기반 AI 일기 예보 모델은 이에 필적하는 예측 능력을 보여주었습니다. 유럽 ​​중거리 기상예보 센터의 운영 수치 모델에 적용됩니다.

유럽 중거리 기상예보 센터 소장인 Florence Habie는 Huawei Cloud Pangu 기상 모델과 유럽 중거리 기상예보 센터 간의 실시간 운영 검사 비교를 자세히 시연했습니다.

AI가 극한 날씨를 포착하는 능력을 알아보기 위해 올해 2월 핀란드에서 -29°C의 한파가 관찰된 사례를 연구한 결과 판구는 이 사건의 심각성을 일찍 인식한 것으로 나타났습니다.

Pictures

Florence Habiye는 또한 AI 예측 방법이 더 이상 대규모 슈퍼컴퓨팅 자원을 필요로 하지 않으며 글로벌 예측 역량을 향상시킬 수 있는 기회를 제공하기 때문에 자원을 덜 소비하고 개발 도상국에 중요한 기회를 제공한다고 강조했습니다. 흔치 않은 기회.

화웨이 클라우드가 AI 일기예보 분야를 '획기적'으로 선택한 것은 한편으로는 일기예보, 특히 폭우, 태풍, 가뭄, 한파 등 극한 기후에 대한 정확한 예측과 관련이 있습니다. 반면에, 일기예보는 매우 복잡합니다. AI는 방대한 데이터에서 새로운 대기 변화 패턴을 찾아낼 수 있으며 정확도와 속도가 크게 향상될 수 있습니다.

세계기상기구(WMO)에서 발표할 WMO 2024-2027 전략 계획은 인공지능의 요소를 흡수하여 기상 과학 기술 발전을 촉진하는 데 중요한 힘이 된 것으로 이해됩니다.

WMO는 또한 현재 방송 및 수치 일기 예보 분야에서 AI 시범 적용을 적극적으로 홍보하고, 인공 지능 제품 응용을 위한 국제 비교 플랫폼을 만들고, AI 기상 응용 표준 및 지침을 제정하고, 인공 지능 데이터 세트 공유를 촉진하고, 기타 관련 작업을 수행하고, 기상 분야에서 AI의 적용 가능성을 탐색하고 활용하여 국가 조기 경보 이니셔티브를 효과적으로 지원합니다.

미래를 향한 세 가지 열쇠

마지막으로 화웨이 클라우드 판구 기상 모델 팀은 AI 기상 예측의 미래를 어떻게 바라보고 있나요?

답은 세 가지 열쇠입니다:

First, Big Data. 거대한 기상 데이터는 AI 모델의 초석입니다. 현재 대규모 Pangu 기상 모델은 ERA5 재분석 데이터의 일부만 사용합니다. 미래 AI 모델은 더 방대하고 정제된 글로벌 관측 데이터를 기반으로 할 것입니다.

둘째, 큰 컴퓨팅 성능. 기상 데이터의 초고해상도는 AI 모델 훈련에 큰 과제를 안겨줍니다. Pangu 기상 모델의 현재 입력 해상도는 일반적으로 사용되는 해상도인 224×224×3에 비해 1440×720×14×5입니다. 컴퓨팅 비전 작업은 약 500배 증가합니다. 해상도가 더욱 증가하고 모델이 성장함에 따라 필요한 컴퓨팅 리소스도 급격히 증가합니다.

드디어 빅모델입니다. 복잡한 기상법칙, 초고해상도, 엄청난 양의 데이터로 인해 AI 일기예보는 계산 비용이 매우 높은 AI 모델을 사용해야 합니다. 동시에 선도적인 AI 일기예보 모델을 지속적으로 반복하려면 안정적인 클라우드 환경, 작업 제품군 및 해당 운영 및 유지 관리도 필수적입니다.

논문 주소: https://www.nature.com/articles/s41586-023-06185-3

위 내용은 화웨이의 대형 모델이 네이처 공식호에 등장! 검토자: 예측 모델의 미래를 새롭게 살펴보겠습니다.의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!