AI 인프라와 관련하여 엣지 또는 클라우드를 선택해야 합니까?

​요즘 엣지컴퓨팅이 화두입니다. 최근 몇 년간 가장 흥미로운 기술 변화로 평가받고 있으며, 그 변화의 힘에 대해 많은 이야기가 있습니다!

AI/ML 알고리즘이 점점 더 강력해지고 "지능"을 재정의하고 더 저렴하고 강력한 "엣지" 장치가 출시되면서 과대광고는 거의 현실이 되었습니다. 하지만 엣지 컴퓨팅의 역사를 생각해보면 최근의 관심이 우리를 믿게 만드는 것보다 훨씬 이전의 일입니다.

사실 컴퓨팅과 인텔리전스는 원래 대부분의 애플리케이션에 고대역폭 네트워크 연결이 거의 존재하지 않았던 엣지에서 시작되었습니다. 1990년대 후반에도 공장이나 현장에 원격으로 배포된 중요한 측정 장비에는 들어오는 센서 데이터를 처리하기 위한 전용 컴퓨팅 성능이 있는 경우가 많았습니다. 그러나 이러한 장치의 알고리즘은 주로 신호 ​​처리 또는 데이터 변환과 같은 "지능" 측면에서 초보적인 수준에 불과합니다.

클라우드 기반 컴퓨팅은 네트워크 기능이 향상되고 연결성이 향상되면서 2000년대 후반부터 주목을 받기 시작했습니다. 동시에, 강력한 인공 지능 알고리즘은 대량의 정형 및 비정형 데이터에서 의미 있는 정보를 찾아내는 수단으로 주목을 받고 있습니다. 단 10년 만에 클라우드 AI는 AI 애플리케이션을 위한 최고의 선택이 되었습니다.

그러나 클라우드로의 전환은 데이터 업로드 및 다운로드 비용, 네트워크 안정성 및 데이터 보안 등 여러 문제를 야기합니다. 동시에 저렴하면서도 강력한 엣지 장치가 등장하면서 엣지 컴퓨팅의 처리 성능과 비용 또는 설치 공간 사이의 균형이 줄어들고 있습니다. 이제 우리는 스마트 애플리케이션 구축을 위한 실행 가능하고 매력적인 옵션으로 "에지 컴퓨팅"을 다시 고려하고 있는 것 같습니다.

엣지 AI와 클라우드 AI 중 어느 것이 더 나은지에 대한 논쟁이 격화되면서 두 프레임워크에 익숙한 사람이라면 누구나 "상황에 따라 다릅니다!"라고 반응할 가능성이 높습니다. 그 이유는 엣지와 클라우드 인프라가 경쟁하는 것이 아니라 보완적인 프레임워크이기 때문입니다.

둘 모두 지난 몇 년 동안 특히 AI 개발 및 배포의 기반으로서 엄청난 개발과 개선을 경험했습니다. 모든 기술 선택과 마찬가지로 선택은 실제로 목표, 가치 동인, 경제성, 전력 소비, 크기 및 연결에 대한 제약 등 특정 애플리케이션에 따라 결정됩니다. 따라서 올바른 인프라를 설정하기 전에 클라우드와 엣지 AI의 장단점을 이해하는 것이 중요합니다.

유연성, 확장성, 배포 용이성을 원할 때 클라우드 기반 AI는 매력적인 옵션입니다. 오늘날 대부분의 클라우드 서비스 제공업체는 AI 모델의 교육 및 배포를 위한 강력한 프레임워크를 제공하고 사전 약정이나 투자가 거의 없는 종량제 패키지를 제공합니다. 클라우드는 사실상 무제한의 컴퓨팅 및 스토리지 옵션을 제공하므로 특히 대규모 AI 모델에 적합합니다.

그러나 센서 또는 이미지 데이터의 지속적인 평가가 필요한 실시간 애플리케이션의 경우 데이터를 앞뒤로 전송해야 하고 막대한 비용이 발생하므로 이는 다루기 힘든 옵션이 될 수 있습니다. 또한 이러한 데이터 전송으로 인해 클라우드는 폐쇄 루프 제어 또는 즉각적인 조치가 필요한 지연 시간이 짧은 애플리케이션에 거의 적합하지 않습니다.

에지 AI는 자동 경보 또는 폐쇄 루프 제어를 위한 실시간 데이터 분석을 위한 합리적인 선택입니다. 엣지 인프라에는 엣지 하드웨어에 대한 사전 투자가 필요하지만 운영 비용은 클라우드에 비해 훨씬 낮습니다.

현재 NPU(신경 처리 장치), TPU(텐서 처리 장치), 전용 AI 가속기 시스템을 갖춘 SOC(시스템 온 칩) 및 SoM(온 모듈)을 포함하여 다양한 엣지 AI 하드웨어 옵션을 사용할 수 있습니다. . 인공지능을 위한 저비용, 저전력 하드웨어는 활발한 연구 분야이며 더 나은 옵션을 제공할 수 있는 잠재력을 가지고 있습니다. 반면, AI 기반 소비자 애플리케이션은 상당히 다양한 범위의 엣지 장치(휴대폰, 태블릿, PC 등)를 처리해야 하므로 엣지 배포가 잠재적으로 어려운 상황이 됩니다.

따라서 엣지 인프라는 신속한 프로토타입 제작이나 확장이 쉽지 않을 수 있습니다. AI 모델의 분산 교육인 연합 학습 개념을 통해 엣지에서의 교육과 배포가 가능하지만, 클라우드는 충분한 컴퓨팅 성능이 필요한 대규모 모델 교육을 위한 논리적인 선택으로 남아 있습니다.

그러나 해결책이 둘 중 하나일 필요는 없습니다. 애플리케이션이 더 많은 마이크로서비스 기반 아키텍처로 전환함에 따라 고유한 특정 배포 프레임워크를 사용하여 더 작은 기능이나 마이크로서비스로 분할될 수 있습니다. 따라서 클라우드와 엣지 중 하나를 선택하는 대신 특정 애플리케이션에 두 가지를 모두 최적으로 사용하는 데 중점을 둘 수 있습니다.

예를 들어 애플리케이션은 클라우드에서 빠른 프로토타입으로 시작될 수 있습니다. 발전함에 따라 짧은 대기 시간과 실시간 의사 결정이 필요한 기능은 엣지로 이동할 수 있고, 확장성과 유연성이 필요한 기능은 클라우드에 남아 있을 수 있습니다. 모델 훈련 또는 재훈련은 클라우드에서 중앙 집중식으로 관리할 수 있으며, 엣지에서의 일부 연합 학습은 로컬에서 정확도를 향상시킬 수 있습니다. 마찬가지로 민감한 데이터는 엣지에서 처리할 수 있고 보다 일반적인 데이터는 클라우드로 이동할 수 있습니다.

조직, 개발자, 실무자는 클라우드와 엣지를 별개의 대안이 아니라 다양한 인프라 옵션이 있는 엣지에서 클라우드까지의 연속체로 생각하는 것이 좋습니다. 여기에는 운영 엣지, 네트워크 엣지, 모바일 엔드포인트 등 다양한 유형의 엣지와 프라이빗 클라우드, 퍼블릭 클라우드, 클라우드렛, 포그 컴퓨팅 등 네트워크의 다양한 분산 처리 유형이 포함됩니다.

복잡성은 어려울 수 있지만 올바른 기술 조합을 찾는 것은 조직에 비용과 위험을 최소화하면서 AI의 가치를 극대화할 수 있는 독특한 기회를 제공하기 시작합니다.

위 내용은 AI 인프라와 관련하여 엣지 또는 클라우드를 선택해야 합니까?의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!