차세대 기술: 엣지 인텔리전스를 통해 실시간 데이터 처리 및 지능적인 의사결정이 가능합니다.

Labs Introduction

Edge Intelligence는 인공지능(AI)과 엣지 컴퓨팅을 결합한 신흥 기술입니다. 기존 인공 지능 애플리케이션은 일반적으로 데이터 처리 및 의사 결정을 위해 클라우드 컴퓨팅 센터에 의존하지만 이 접근 방식은 대기 시간 및 네트워크 대역폭에 문제가 있습니다.

Part 01, 엣지 인텔리전스란 무엇입니까

엣지 인텔리전스는 인공지능(AI) 알고리즘과 모델을 통합한 것을 의미하는 신흥 기술 개념입니다. 데이터 소스와 가까운 네트워크 노드에 배포된 IoT 장치에 대한 시간 데이터 처리 및 분석. 지난 몇 년 동안 AI의 급속한 발전으로 인해 수많은 혁신적인 애플리케이션과 솔루션이 탄생했습니다. 그러나 AI 모델의 규모와 복잡성이 계속 증가함에 따라 기존 클라우드 컴퓨팅 아키텍처는 높은 대기 시간, 네트워크 정체, 데이터 개인정보 보호 문제 등 일련의 문제에 직면해 있습니다. 이러한 과제를 극복하기 위해 엣지 컴퓨팅과 인공지능의 결합이 등장해 엣지 인텔리전스라는 개념이 형성됐다. 엣지 인텔리전스는 AI 모델의 훈련 및 추론을 스마트폰, 센서, 라우터, 감시 카메라 등과 같이 사용자에게 더 가까운 엣지 장치로 이동할 뿐만 아니라 이러한 에지 장치에서 실시간 데이터 처리를 수행하고, 데이터에 신속하게 응답 및 분석하고, 로컬로 결정을 내리면 처리를 위해 모든 데이터를 클라우드로 보내는 데 따른 지연 및 보안 위험을 방지하고 AI 애플리케이션에 많은 새로운 기능을 제공할 수 있습니다. .

엣지 인텔리전스의 범위 및 등급과 관련하여 기존 연구에서는 엣지 인텔리전스가 최종 장치, 엣지 노드 및 클라우드 데이터 센터 계층에서 사용 가능한 데이터 및 리소스를 사용하여 심층 신경망의 전반적인 교육 및 개발을 최적화하는 것이라고 믿습니다. 모델(DNN) 추론 성능. 이는 엣지 인텔리전스가 반드시 엣지에서 훈련되거나 추론될 필요는 없지만 데이터 오프로딩을 통해 클라우드, 엣지, 터미널의 협업 작업을 실현할 수 있음을 의미합니다. 데이터 오프로딩의 수와 경로 길이에 따라 엣지 인텔리전스는 6가지 레벨로 나뉩니다

컴퓨팅 지연 시간과 에너지 소비가 증가하는 대가로 엣지 인텔리전스 레벨이 높아질수록 데이터 오프로딩 횟수도 늘어납니다. 경로 길이가 줄어들어 데이터 오프로딩의 전송 지연이 줄어들고, 데이터 프라이버시가 향상되며, 네트워크 대역폭 비용이 절감됩니다.

파트 02, Edge 지능형 모델 훈련

에지 분산 심층 신경망 훈련 아키텍처는 중앙 집중식, 분산형, 하이브리드(클라우드-에지 협업)

의 세 가지 모드로 나눌 수 있습니다. ➪ 중앙화: DNN 모델은 클라우드 데이터 센터에서 훈련됩니다. 훈련에 사용되는 데이터는 분산된 단말 장치(휴대폰, 자동차, 감시 카메라 등)에서 생성되고 수집됩니다. 데이터 센터는 이 데이터를 DNN 교육에 사용합니다. 중앙 집중식 아키텍처 기반 시스템은 시스템에서 채택한 특정 추론 방법에 따라 에지 인텔리전스에서 레벨 1, 레벨 2 또는 레벨 3으로 식별될 수 있습니다.

➪ 분산: 각 컴퓨팅 노드는 로컬 데이터를 사용하여 로컬에서 자체 DNN 모델을 학습하고 개인 정보를 로컬에 저장합니다. 로컬 교육 업데이트를 공유하여 글로벌 DNN 모델을 확보하세요. 이 모드에서는 5단계 엣지 인텔리전스에 해당하는 클라우드 데이터 센터의 개입 없이 글로벌 DNN 모델을 학습할 수 있습니다.

➪ 하이브리드(클라우드-에지-장치 협업): 중앙 집중식 및 분산형을 결합한 에지 서버는 분산 업데이트를 통해 DNN 모델을 교육하거나 클라우드 데이터 센터를 사용하여 교육을 중앙 집중화할 수 있습니다. 엣지 인텔리전스의 레벨 4, 레벨 5에 해당합니다.

현재 엣지 인텔리전스 모델 교육 방법은 주로 교육 손실, 수렴, 개인 정보 보호, 통신 비용, 지연 및 에너지 효율성이라는 6가지 핵심 성과 지표를 통해 평가됩니다.

엣지 지능 모델 훈련에서 지원되는 기술은 다음과 같습니다.

Part 03, 엣지 지능 모델 추론

고품질 엣지 인텔리전스 서비스 구축과 심층적인 분산 구현 학습 모델 학습에는 에지에서 모델 추론을 효율적으로 구현하는 것도 필요합니다. 에지 인텔리전스의 추론 모델은 에지 기반, 장치 기반, 에지 장치 및 에지 클라우드의 네 가지 모드로 구분됩니다.

➪ 엣지 기반 추론 모델: 기기가 엣지 모드에 있고 입력 데이터를 수신한 다음 이를 엣지 서버로 보냅니다. 엣지 서버는 DNN 모델 추론을 완료하고 예측 결과를 장치에 반환합니다. 추론 성능은 장치와 에지 서버 간의 네트워크 대역폭에 따라 달라집니다.

➪ 기기 기반 추론 모델: 기기가 기기 모드에 있습니다. 모바일 기기는 에지 서버에서 DNN 모델을 획득하고 추론 프로세스 중에 로컬로 모델 추론을 완료합니다. 엣지 서버와 연결되므로 모바일 장치에는 CPU, GPU, RAM과 같은 리소스가 필요합니다.

➪ 엣지 장치 기반 추론 모델: 기기는 먼저 네트워크 대역폭, 장치 리소스 등의 요소를 기반으로 DNN 모델을 여러 모델로 나눕니다. , 에지 서버 로드 부분은 특정 레이어에 DNN 모델을 실행하고 중간 데이터를 에지 서버로 보냅니다. 엣지 서버는 나머지 레이어를 실행하고 예측 결과를 장치로 보냅니다.

➪ 엣지 클라우드 기반 추론 모델: 기기는 엣지 클라우드 모드에 있으며 기기는 클라우드 엣지를 통해 공동으로 입력 데이터를 수집하고 DNN 모델을 실행하는 역할을 담당합니다.

에지 인텔리전스 모델 추론의 성능은 주로 지연 시간, 정확성, 에너지 효율성, 개인 정보 보호, 통신 비용 및 메모리 사용량이라는 6가지 지표를 통해 평가됩니다.

에지 지능 모델 훈련이 지원하는 기술은 다음과 같습니다.

Part 04, 엣지 지능 연구 방향

신기술 분야로서 엣지 지능은 전망이 넓습니다. 연구 방향 및 개발 가능성을 바탕으로 엣지 인텔리전스의 기술적 특성과 활용 시나리오를 바탕으로 향후 다음과 같은 측면에서 연구가 진행될 수 있습니다.

• 프로그래밍 및 소프트웨어 플랫폼. 인공 지능을 기반으로 하는 컴퓨팅 집약적인 모바일 및 IoT 애플리케이션이 점점 더 많이 등장함에 따라 EIaaS(Edge Intelligence As a Service)는 강력한 엣지 인공 지능을 통해 널리 퍼진 패러다임이 될 기능적인 EI 플랫폼이 개발 및 배포될 것입니다.
• Edge 지능 알고리즘 및 모델 설계. 엣지 장치에서 효율적인 지능형 알고리즘과 모델을 개발하여 보다 지능적인 데이터 처리 및 의사 결정 기능을 달성하세요. 머신 러닝, 딥 러닝, 강화 학습 및 기타 알고리즘의 최적화 및 배포를 에지 장치에 포함합니다.
• 보안 및 개인 정보 보호 문제. 데이터 전송의 암호화 및 인증, 엣지 장치의 보안 보호, 사용자 개인정보 보호 등 엣지 인텔리전스 환경에서 데이터 보안과 개인정보 보호를 보장합니다.
• 컴퓨팅 인식 네트워크 기술. 인공 지능을 기반으로 한 컴퓨팅 집약적 애플리케이션은 분산형 엣지 컴퓨팅 환경에서 실행되는 경우가 많습니다. 따라서 고급 네트워크 솔루션은 여러 에지 노드 간에 계산 결과와 데이터를 효과적으로 공유하기 위해 계산을 인식해야 합니다. 네트워크 토폴로지, 데이터 전송 프로토콜, 통신 보안 등을 포함하여 효율적이고 안정적인 엣지 지능형 네트워크 아키텍처를 구축합니다. 동시에 엣지 컴퓨팅 리소스를 사용하여 고속, 저지연 통신 서비스를 제공합니다.
• 애플리케이션 시나리오 및 시스템 설계. 지능형 교통, 지능형 제조, 스마트 도시, 헬스케어 등 다양한 분야에 엣지 인텔리전스 기술을 적용하고 적응 가능하고 효율적이며 신뢰할 수 있는 엣지 인텔리전스 시스템의 설계를 탐구하여 실질적인 문제를 해결하고 산업 발전을 촉진합니다.
• 엣지 컴퓨팅 및 데이터 처리. 에지 장치의 컴퓨팅 성능과 저장 용량을 최대한 활용하여 실시간 데이터 처리 및 분석을 달성하세요. 동시에 리소스가 제한된 엣지 장치에서 컴퓨팅 및 스토리지 리소스의 관리 및 예약을 최적화하고 컴퓨팅 효율성과 리소스 활용도를 향상하여 시스템 효율성과 성능을 향상시킵니다.
• 에지 인텔리전스의 적응형 학습 및 최적화. 엣지 인텔리전스 시스템이 환경과 요구 사항의 변화에 ​​따라 자율적으로 학습하고 최적화할 수 있도록 지원하여 보다 지능적인 서비스와 의사결정을 제공합니다.
• 에지 인텔리전스와 기타 관련 분야의 결합. 에지 인텔리전스와 사물 인터넷, 5G 통신, 클라우드 컴퓨팅 및 기타 기술을 결합하여 보다 포괄적이고 효율적인 지능형 솔루션을 달성합니다.

위 내용은 차세대 기술: 엣지 인텔리전스를 통해 실시간 데이터 처리 및 지능적인 의사결정이 가능합니다.의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!