인텔 울트라 노트북 NPU 기능 경험: AI 추세는 막을 수 없습니다
- WBOY앞으로
- 2023-12-20 09:17:131708검색
향후 작업 목표는 더빙, 채팅, 그림 그리는 데 도움을 줄 수 있는 AI 도우미를 배포하는 것일 수도 있습니다. 그러나 AI 애플리케이션(예: AI 컷아웃, AI 배경 교체 등)을 사용할 때마다 노트북의 "병목 현상" 문제에 쉽게 직면하는 것 같습니다. 노트북이 멈추기 시작할 뿐만 아니라 소음이 발생하고 심지어 배터리까지 소모됩니다. 수명이 크게 단축됩니다
이에 인텔은 올해 중반 AI PC 계획을 발표하고 연말에 Meteor Lake 아키텍처 Core Ultra 프로세서를 빠르게 출시했는데, 이는 역사상 최대 규모의 프로세서 업그레이드로 평가됩니다. 구체적인 기능은 다음과 같습니다:
1. 인텔은 4가지 프로세스 기술을 채택하여 성능과 에너지 효율성을 20% 이상 향상시켰습니다
AI 컴퓨팅 유닛 NPU를 탑재한 새로운 3레벨 코어 구조
통합 그래픽 성능이 두 배로 향상
그 중에서 가장 눈길을 끄는 것은 새로 추가된 “NPU”(신경망 프로세서)입니다
사용자의 AI 응용 경험을 향상시키기 위해 존재하는 프로세서의 AI 도우미와 비교할 수 있습니다
인텔은 기자간담회에서 지속적인 인공지능과 인공지능 부하 공유에 적합한 울트라 프로세서의 NPU를 소개했습니다
NPU를 탑재한 인공지능 컴퓨터는 다음과 같은 측면에서 사용자 경험을 향상시킬 것으로 예상됩니다.
1. 더욱 빨라진 음성 인식 및 음성 어시스턴트 응답 속도
2. 더욱 부드러워진 얼굴 인식 및 잠금 해제
3. 이미지 인식 및 처리 효율성 향상
4. 더욱 지능적인 배경 미화 및 영상 효과 제공
대규모 AI 모델도 원활하게 실행될 수 있습니다
최근에 우리는 Meteor Lake 아키텍처를 갖춘 Core Ultra 155H 프로세서가 탑재된 얇고 가벼운 ASUS Lingyao 142024 노트북을 받았습니다. 즉시 AI 성능 및 애플리케이션 테스트를 진행했습니다
추론 성능 벤치마크 테스트를 위해 UL Procyon AI Inference Benchmark를 사용한 결과, Meteor Lake의 AI 추론 기능 중 최고 성능은 Arc iGPU(코어 그래픽 카드), NPU, 최악의 성능은 CPU인 것으로 나타났습니다. 이 벤치마크는 MobileNetV3, InceptionV4, YOLOV3, DeepLabV3, Real-ESRGAN 및 ResNet50
과 같은 다양한 신경망 모델을 다룹니다.전체 머신의 전력 소비를 테스트한 결과, NPU의 AI 컴퓨팅 성능은 CPU와 GPU보다 훨씬 높은 것으로 나타났습니다(인텔에서는 전체 에너지 소비 비율이 NPU는 최대 8배까지 늘릴 수 있습니다)
이는 NPU가 노트북과 같이 에너지 효율이 매우 높은 모바일 장치에 매우 적합하다는 것을 보여줍니다. 이는 지속적인 저연산 인공 지능 애플리케이션을 처리하여 전체 기계 전력 소비를 줄이고 배터리 수명을 향상시키는 데 사용될 수 있습니다.
노트북에 신경 처리 장치(NPU)가 장착되면 다음과 같은 두 가지 분명한 느낌이 들 수 있습니다.
1. AI 계산을 수행할 수 있는 프로그램을 사용하면 배터리 수명이 쉽게 "붕괴"되지 않습니다. - NPU의 AI 계산 에너지 효율 비율이 더 높습니다.
2. AI 작업을 지원하는 AI 애플리케이션의 유창성이 향상되었습니다. NPU는 CPU 및 GPU의 컴퓨팅 부담을 줄이고 성능을 최대한 발휘할 수 있습니다
그러나 제품 테스트 단계에서의 기밀유지가 필요하여 본 제품의 실제 적용 테스트를 성공적으로 마치지 못했습니다. 현재 시장에 나와 있는 대부분의 애플리케이션(Team, Cutting, SD, LLM 등 포함)은 아직 NPU 하드웨어 가속을 지원하지 않으며 여전히 주로 CPU 및 GPU 계산에 의존합니다
NPU 프로세서의 인기로 인해 대부분의 AI 애플리케이션이 빠르게 적응되어 전체 기계의 에너지 효율성이 더욱 향상될 것으로 예상할 수 있습니다. 하지만 현재로서는 "미래는 예상할 수 있다"라고만 말할 수 있고, 실제 적응 결과가 어떻게 될지는 아직 확실하지 않습니다
NPU는 원칙적으로 범용 CPU나 GPU보다 낮은 정밀도의 계산을 병렬로 효율적으로 완료하는 데 더 적합합니다. 또한 NPU는 저장 공간, 대용량 데이터 처리량, 낮은 응답 대기 시간 측면에서 고대역폭, 고용량이라는 특징을 가지고 있습니다. 따라서 NPU는 AI 애플리케이션의 효율성을 향상시키는 데 긍정적인 역할을 합니다
NPU는 초효율 AI 컴퓨팅 전문가와 같습니다. 노트북의 수명을 연장할 수 있을 뿐만 아니라 가상 배경, 실시간 뷰티 등 다양하고 멋진 AI 애플리케이션을 원활하게 실행할 수 있습니다. 이것이 개인용 컴퓨터 장비에서 NPU가 수행하는 가장 중요한 역할입니다
NPU 컴퓨팅 장치가 장착된 PC 장치는 이론적으로 더 강력한 인공 지능 컴퓨팅 기능을 보유하고 복잡한 인공 지능 모델을 효율적으로 처리할 수 있으며 빠른 계산 및 피드백을 달성할 수 있습니다
울트라 컨퍼런스에서 인텔은 울트라 프로세서가 이미 200억 개의 매개변수를 갖춘 대규모 AI 모델을 실행할 수 있는 능력을 갖추고 있다고 밝혔으며, 로컬 대형 언어 모델, 빈센트 그래프 등 AI 애플리케이션을 직접 시연했습니다
현재 로컬 AI가 생성한 결과의 정확성과 복잡성은 클라우드 기반 생성 AI 애플리케이션의 더 많은 매개변수와 비교할 수 없습니다
미래에는 점점 더 많은 AI 애플리케이션이 NPU를 지원함에 따라 노트북의 배터리 수명과 성능이 크게 향상될 것이라고 믿습니다(이런 AI 컴퓨팅 애플리케이션을 자주 사용한다면)
NPU 단위 컴퓨팅 성능이 향상되고 PC 장치 저장 용량이 향상됨에 따라 향후 개인용 컴퓨터에서 수천억 개의 매개변수를 갖춘 강력한 로컬 AI 대형 모델을 구현하는 것이 가능해질 것입니다. 이미지 작성 또는 생성을 위해 AI 기능을 클라우드에 추가합니다. 이건 달성 불가능한 목표가 아닙니다
궁극적으로 우리는 공식 웹사이트에서 NPU 가속 애플리케이션 구현에 지속적으로 관심을 기울일 것이며, AI 성능 및 전력 소비 성능 측면에서 Core Ultra 프로세서 제품에 대한 자세한 평가를 추가로 평가할 것입니다. 앞으로도 PConline의 최신 콘텐츠에 많은 관심 부탁드립니다
위 내용은 인텔 울트라 노트북 NPU 기능 경험: AI 추세는 막을 수 없습니다의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!