Tensorflow Lite vs Pytorch Mobile

최근의 기술 개발 및 기계 학습 세계에서는 더 이상 마이크로 클라우드가 아니라 모바일 장치에 제한되어 있습니다. 아시다시피, Tensorflow Lite와 Pytorch Mobile은 전화 및 태블릿에 직접 모델을 배포하는 데 가장 상업적으로 이용 가능한 두 가지 도구 중 하나입니다. Tensorflow Lite와 Pytorch Mobile은 모두 모바일에서 작동하도록 개발되었지만 장단점이 뚜렷합니다. 이 기사에서는 Tensorflow Lite가 무엇인지, Pytorch Mobile이 무엇인지, 응용 프로그램 및 차이점을 알아야합니다.

학습 결과

• 장치 머신 러닝 개요와 클라우드 기반 시스템이 아닌 유익한 이유.
• 모바일 애플리케이션 배포에 사용되는 Tensorflow Lite 및 Pytorch Mobile에 대해 알아보십시오.
• Tensorflow Lite 및 Pytorch Mobile을 사용하여 배포를 위해 숙련 된 모델을 변환하는 방법.
• Tensorflow Lite 및 Pytorch Mobile의 성능, 사용 편의성 및 플랫폼 호환성을 비교하십시오.
• Tensorflow Lite 및 Pytorch Mobile을 사용하여 기기 기계 학습의 실제 사례를 구현하십시오.

이 기사는 Data Science Blogathon 의 일부로 출판되었습니다 .

목차

• 기기 기계 학습이란 무엇입니까?
• Tensorflow Lite 탐색
• Pytorch 모바일 구현
• 성능 비교 : Tensorflow Lite vs Pytorch Mobile
• 사용 편의성 및 개발자 경험
• 지원되는 플랫폼 및 장치 호환성
• 모델 변환 : 훈련에서 배포로
• Tensorflow Lite 및 Pytorch Mobile의 사용 사례
• Tensorflow Lite 구현
• Pytorch 모바일 구현
• 결론
• 자주 묻는 질문

기기 기계 학습이란 무엇입니까?

스마트 폰, 태블릿 또는 장치 머신 러닝을 사용하는 다른 장치를 포함한 모바일 장치에서 AI를 수행 할 수 있습니다. 우리는 구름의 서비스에 의존 할 필요가 없습니다. 이들은 빠른 응답, 민감한 정보의 보안이며, 다양한 응용 프로그램에서 매우 중요한 인터넷 연결 유무에 관계없이 응용 프로그램이 실행될 수 있습니다. 실시간, 기계 번역 및 증강 현실의 이미지 인식.

Tensorflow Lite 탐색

Tensorflow Lite는 기능이 제한된 장치에서 종종 사용되는 Tensorflow 버전입니다. 그것은 작동하며 Android 및 iPhone과 같은 다른 운영 체제와 호환됩니다. 주로 대기 시간 및 고성능 실행을 제공하는 데 중점을 둡니다. Tensorflow Lite의 경우 모델에 양자화를 적용하는 데 도움이되는 모델 최적화기가 있습니다. 이를 통해 모바일 배포의 모델을 더 빠르고 작게 만들어 효율성을 높이기 위해이 관행에서 필수적입니다.

Tensorflow Lite의 특징

다음은 Tensorflow Lite의 가장 중요한 기능입니다.

• 작은 이진 크기 : 텐서 플로 라이트 바이너리는 크기가 매우 작을 수 있습니다. 300KB만큼 작을 수 있습니다.
• 하드웨어 가속 : TFLITE는 Android의 NNAPI 및 iOS의 Coreml과 같은 대의원을 통해 GPU 및 기타 하드웨어 가속기를 지원합니다.
• 모델 양자화 : TFLITE는 너무 많은 정확도를 희생하지 않고 성능을 최적화하고 모델 크기를 줄이기 위해 다양한 양자화 방법을 제공합니다.

Pytorch 모바일 구현

Pytorch Mobile은 Pytorch의 모바일 확장입니다. 일반적으로 연구 및 생산의 유연성으로 유명합니다. Pytorch Mobile을 사용하면 데스크톱 환경에서 숙련 된 모델을 쉽게 가져 와서 많은 수정없이 모바일 장치에 배포 할 수 있습니다. 동적 계산 그래프를 지원하고 디버깅을보다 쉽게 ​​만들어 개발자의 사용 편의성에 더 중점을 둡니다.

Pytorch Mobile의 기능

다음은 Pytorch Mobile의 몇 가지 중요한 기능입니다.

• 사전 구축 된 모델 : Pytorch Mobile은 모바일 장치에서 실행되도록 변환 할 수있는 광범위한 미리 훈련 된 모델을 제공합니다.
• 동적 그래프 : 개발 중 유연성을 허용하는 Pytorch의 동적 계산 그래프 중 하나입니다.
• 사용자 정의 운영자 : Pytorch Mobile을 사용하면 고급 사용 사례에 유용 할 수있는 사용자 정의 운영자를 만들 수 있습니다.

성능 비교 : Tensorflow Lite vs Pytorch Mobile

성능에 대해 논의 할 때 두 프레임 워크는 모바일 장치에 최적화되지만 Tensorflow Lite의 실행 속도와 리소스 효율성이 높습니다.

• 실행 속도 : 텐서 플로 라이트는 일반적으로 양자화 및 대의원 기반 가속도와 같은 공격적인 최적화로 인해 더 빠릅니다. 예를 들어 NNAPI 및 GPU.
• 바이너리 크기 : 텐서 플로우 라이트의 발자국은 더 작은 발자국을 가지고 있으며, 이진 크기는 최소한의 빌드를 위해 300KB의 이진 크기가 낮습니다. Pytorch 모바일 바이너리는 더 큰 경향이 있으며 가벼운 배치를 위해 더 미세 조정이 필요합니다.

사용 편의성 및 개발자 경험

Pytorch Mobile은 일반적으로 유연성과 디버깅의 용이성으로 인해 개발자가 선호합니다. 동적 계산 그래프 때문입니다. 이를 통해 런타임에서 모델을 수정하는 데 도움이되며, 이는 프로토 타이핑에 적합합니다. 반면에 Tensorflow Lite는 배치 전에 모델을 정적 형식으로 변환해야하므로 복잡성을 추가 할 수 있지만 모바일에 대한 최적화 된 모델을 초래할 수 있습니다.

• 모델 변환 : Pytorch Mobile을 사용하면 Pytorch 모델의 직접 내보내기가 가능하며 Tensorflow Lite는 Tflite 변환기를 사용하여 텐서 플로우 모델을 변환해야합니다.
• 디버깅 : Pytorch의 동적 그래프를 사용하면 실행중인 모델을 디버깅하기가 더 쉬워 문제를 빠르게 발견하는 데 좋습니다. Tensorflow Lite의 정적 그래프를 사용하면 TensorFlow가 우리를 도울 수있는 모델 분석기와 같은 도구를 제공하지만 디버깅은 약간 어려울 수 있습니다.

지원되는 플랫폼 및 장치 호환성

Android 및 iOS의 두 가지 주요 모바일 플랫폼에서 Tensorflow Lite 및 Pytorch Mobile을 모두 사용할 수 있습니다.

텐서 플로우 라이트

어떤 하드웨어를 지원할 것인지 선택할 때 Tflite는 더 유연합니다. 대의원 시스템으로 인해 CPU 및 GPU뿐만 아니라 디지털 신호 프로세서 (DSP) 및 기본 CPU보다 높은 성능으로 간주되는 다른 칩도 지원합니다.

Pytorch 모바일

Pytorch Mobile은 IOS 용 금속 및 Android 용 Vulkan과 같은 CPU 및 GPU도 지원하지만 그 이상의 하드웨어 가속 옵션이 적습니다. 이는 특히 전문 프로세서가있는 장치의 경우 더 넓은 하드웨어 호환성이 필요할 때 TFLITE가 우위를 가질 수 있음을 의미합니다.

모델 변환 : 훈련에서 배포로

Tensorflow Lite와 Pytorch Mobile의 주요 차이점은 모델이 교육 단계에서 모바일 장치에 배치되는 방법입니다.

텐서 플로우 라이트

모바일에 Tensorflow 모델을 배포하려면 TFLITE 변환기를 사용하여 변환해야합니다. 이 프로세스는 모바일 대상의 모델을 빠르고 효율적으로 만드는 양자화와 같은 최적화 될 수 있습니다.

Pytorch 모바일

Pytorch Mobile의 경우 Torchscript를 사용하여 모델을 저장할 수 있습니다. 프로세스는 매우 간단하고 쉽지만 TFLITE가 제공하는 동일한 수준의 고급 최적화 옵션을 제공하지 않습니다.

Tensorflow Lite 및 Pytorch Mobile의 사용 사례

Tensorflow Lite 및 Pytorch Mobile의 실제 응용 프로그램을 탐색하여 이러한 프레임 워크가 다양한 산업 전반에 걸쳐 지능형 솔루션을 전력으로 전시합니다.

텐서 플로우 라이트

TFLITE는 실시간 이미지 분류 또는 객체 감지와 같은 빠른 응답이 필요한 다양한 응용 프로그램을위한 더 나은 플랫폼입니다. GPU 또는 신경 처리 장치와 같은 특수 하드웨어가있는 장치에서 작업하는 경우. TFLITE의 하드웨어 가속 기능은 모델을보다 빠르고 효율적으로 실행하는 데 도움이됩니다.

Pytorch 모바일

Pytorch Mobile은 연구 또는 프로토 타입 앱과 같이 여전히 진화하는 프로젝트에 적합합니다. 유연성을 통해 실험과 반복을 쉽게 만들 수 있으므로 개발자가 빠른 변경을 할 수 있습니다. Pytorch Mobile은 최소한의 수정으로 새로운 모델을 자주 실험하고 배포해야 할 때 이상적입니다.

Tensorflow Lite 구현

미리 훈련 된 모델 (Mobilenetv2)을 사용하여 Tensorflow Lite로 변환합니다.

모델을로드하고 저장합니다

우리가하는 첫 번째 일은 Tensorflow를 가져 와서 미리 훈련 된 Mobilenetv2 모델을로드하는 것입니다. 이 모델에서 볼 수 있듯이 ImageNet 데이터 세트에서 사전 훈련을 활용할 준비가되었습니다. model.export ( 'mobilenet_model')는 Tensorflow의 SavedModel 형식으로 모델을 씁니다. 이것은 모바일 장치와 함께 사용되는 TFLITE (Tensorflow Lite 모델)로 변환하는 데 필요한 형식입니다.

 # 1 단계 : 환경 설정 및 미리 훈련 된 Mobilenetv2 모델을로드합니다.
텐서 플로우를 tf로 가져옵니다

# 사전에 사전가 된 mobilenetv2 모델을로드하십시오
model = tf.keras.applications.mobilenetv2 (weights = 'imagenet', input_shape = (224, 224, 3))

# tflite 변환을위한 저장 모델로 모델을 저장
model.export ( 'mobilenet_model')

모델을 Tensorflow Lite로 변환하십시오

모델은 tfliteconverter를 사용하여 저장된 모델 (mobilenet_model 디렉토리)에서로드됩니다. 변환기는 모델을보다 가벼운 .tflite 형식으로 변환합니다. 마지막으로, Tflite 모델은 나중에 모바일 또는 에지 응용 프로그램에서 사용하기 위해 Mobilenet_v2.tflite로 저장됩니다.

 # 2 단계 : 모델을 Tensorflow Lite로 변환합니다
converter = tf.lite.tfliteconverter.from_saved_model ( 'mobilenet_model')
tflite_model = converter.convert ()

# 변환 된 모델을 tflite 파일로 저장합니다
f : open ( 'mobilenet_v2.tflite', 'wb')으로 f :
    F.Write (tflite_model)

추론을 위해 tflite 모델을로드합니다

이제 수치 작업 (Numpy) 및 이미지 조작 (PLI.Image)에 필요한 라이브러리를 가져옵니다. TFLITE 모델은 tf.lite를 사용하여로드됩니다. INTHRETERAND 메모리는 입력/출력 텐서에 할당됩니다. 모양 및 데이터 유형과 같은 입력/출력 텐서에 대한 세부 정보를 검색하여 입력 이미지를 전제하고 출력을 검색 할 때 유용합니다.

 Numpy를 NP로 가져옵니다
PIL 가져 오기 이미지에서

# tflite 모델을로드하고 텐서를 할당하십시오
통역사 = tf.lite.interpreter (model_path = 'mobilenet_v2.tflite')
Interpreter.allocate_tensors ()

# 입력 및 출력 텐서를 얻습니다
input_details = intercreter.get_input_details ()
output_details = colorfer.get_output_details ()

전처리 입력, 실행 실행 및 해독 출력

이미지 (cat.jpg)를로드하고, 필요한 (224, 224) 픽셀로 크기를 조정하고 Mobilenetv2의 사전 처리 방법을 사용하여 전처리합니다. 전처리 된 이미지는 inrichpreter.set_tensor ()를 사용하여 입력 텐서를 설정하여 TFLITE 모델로 공급되며 Interpreter.Invoke ()를 사용하여 추론을 실행합니다. 추론 후, 우리는 모델의 예측을 검색하고 decode_predictions ()를 사용하여 사람이 읽을 수있는 클래스 이름과 확률로 해독합니다. 마지막으로 예측을 인쇄합니다.

 # 입력 이미지를로드하고 전처리합니다
image = image.open ( 'cat.jpg'). resize ((224, 224)) # 이미지 경로로 교체
input_data = np.expand_dims (np.array (image), axis = 0)
input_data = tf.keras.applications.mobilenet_v2.preprocess_input (input_data)

# 입력 텐서를 설정하고 모델을 실행하십시오
Interpreter.set_tensor (input_details [0] [ 'index'], input_data)
Interpreter.invoke ()

# 출력 및 디코딩 예측을 받으십시오
output_data = interpreter.get_tensor (output_details [0] [ 'index'])
예측 = tf.keras.applications.mobilenet_v2.decode_predictions (output_data)
인쇄 (예측)

아래 고양이 이미지를 사용하십시오.

산출:

[( 'N02123045', 'Tabby', 0.85), ( 'N02124075', 'Egyptian_cat', 0.07), ( 'N02123159', 'tiger_cat', 0.05)]

이것은 모델이 이미지가 음란 고양이라고 확신한다는 것을 의미합니다.

Pytorch 모바일 구현

이제 우리는 Pytorch Mobile을 구현할 것입니다. Resnet18과 같은 간단한 미리 훈련 된 모델을 사용하고 Torchscript로 변환하며 추론을 실행합니다.

환경 설정 및 RESNET18 모델로드

 # 1 단계 : 환경을 설정합니다
토치 수입
TorchVision.Models를 모델로 가져옵니다

# 사전에 사전 RESNET18 모델을로드하십시오
model = model.resnet18 (사전 Resnet = true)

# 모델을 평가 모드로 설정하십시오
model.eval ()

모델을 토치 스크립트로 변환합니다

여기서 우리는 크기의 임의의 텐서 인 example_input을 정의합니다 [1, 3, 224, 224]. 이것은 3 개의 컬러 채널 (RGB)과 224 × 224 픽셀로 1 개의 이미지 배치를 시뮬레이션합니다. 모델의 작업을 추적하는 데 사용됩니다. Torch.jit.trace ()는 Pytorch 모델을 Torchscript 모듈로 변환하는 메소드입니다. Torchscript를 사용하면 C 또는 모바일 장치와 같은 Python 외부에서 모델을 직렬화하고 실행할 수 있습니다. 변환 된 TorchScript 모델은 "RESNET18_Script.pt"로 저장되어 나중에로드 및 사용할 수 있습니다.

 # 2 단계 : 토치 스크립트로 변환합니다
example_input = torch.randn (1, 3, 224, 224) # 예제 추적을위한 입력 예제
traced_script_module = torch.jit.trace (model, example_input)

# TorchScript 모델을 저장하십시오
traced_script_module.save ( "resnet18_scripted.pt")

스크립트 모델을로드하고 예측하십시오

Torch.jit.load ()를 사용하여 이전에 저장된 Torchscript 모델을 "Resnet18_Script.pt"파일에서로드합니다. 우리는 새로운 랜덤 텐서 input_data를 생성하여 크기 [1, 3, 224, 224]의 이미지 입력을 다시 시뮬레이션합니다. 그런 다음 Loaded_Model (input_data)을 사용 하여이 입력에서 모델을 실행합니다. 이것은 각 클래스의 원시 점수 (로이트)를 포함하는 출력을 반환합니다. 예상 클래스를 얻기 위해 Torch.max (Output, 1)를 사용하여 클래스의 색인을 가장 높은 점수로 제공합니다. 예측 된 클래스를 예측 된 클래스를 인쇄합니다 .item ().

 # 3 단계 : 스크립트 모델을로드하고 실행합니다
loaded_model = torch.jit.load ( "resnet18_scripted.pt")

# 입력 데이터 시뮬레이션 (임의의 이미지 텐서)
input_data = torch.randn (1, 3, 224, 224)

# 모델을 실행하고 예측을 받으십시오
output = loaded_model (input_data)
_, 예측 = 토치 .max (출력, 1)
print (f'predicted class : {predited.item ()} ')

산출:

예측 수업 : 107

따라서이 모델은 입력 데이터가 클래스 인덱스 107에 속한다고 예측합니다.

결론

Tensorflow Lite는 모바일 장치에 더 집중하는 반면 Pytorch Mobile은 모바일 및 에지 장치에서 AI의 다양한 응용 분야에 최적화 된보다 일반적인 CPU/GPU 배치 솔루션을 제공합니다. Tensorflow Lite와 비교할 때 Pytorch Mobile은 더 큰 휴대 성을 제공하면서도 Tensorflow Lite보다 가볍고 Google과 밀접하게 통합됩니다. 결합하여 개발자는 개발자의 핸드 헬드 장치에서 높은 기능성을 갖춘 실시간 인공 지능 응용 프로그램을 구현할 수 있습니다. 이러한 프레임 워크는 사용자에게 로컬 컴퓨터에서 정교한 모델을 실행할 수있는 기능을 제공하며, 그렇게함으로써 손가락 끝을 통해 모바일 애플리케이션이 세계와 어떻게 참여하는지에 대한 규칙을 다시 작성하고 있습니다.

주요 테이크 아웃

• Tensorflow Lite 및 Pytorch Mobile은 개발자가 Edge Devices에 AI 모델을 효율적으로 배포 할 수 있도록 권한을 부여합니다.
• 두 프레임 워크 모두 크로스 플랫폼 호환성을 지원하여 모바일 AI 응용 프로그램의 범위를 향상시킵니다.
• Tensorflow Lite는 성능 최적화로 유명하며 Pytorch Mobile은 유연성이 뛰어납니다.
• 통합 및 개발자 친화적 인 도구는 모두 다양한 AI 사용 사례에 적합합니다.
• 실제 응용 프로그램은 의료, 소매 및 엔터테인먼트와 같은 산업에 걸쳐 다목적 성을 보여줍니다.

자주 묻는 질문

Q1. Tensorflow Lite와 Pytorch Mobile의 차이점은 무엇입니까?

A. Tensorflow Lite는 모바일 장치에서 고성능이 필요한 곳에 사용되며 Pytorch Mobile은 Pytorch의 기존 생태계와의 유연성과 통합이 필요한 곳에 사용됩니다.

Q2. Tensorflow Lite 및 Pytorch 모바일이 Android 및 iOS 모두에서 작동 할 수 있습니까?

A. 예, Android 및 iOS에서 Tensorflow Lite 및 Pytorch 모바일 작업.

Q3. Pytorch Mobile의 사용량을 작성하십시오.

A. Pytorch Mobile은 이미지, 얼굴 및 비디오 분류, 실시간 개체 감지, 음성 텍스트 변환 등과 같은 작업을 수행하는 응용 프로그램에 유용합니다.

Q4. Tensorflow Lite Mobile의 사용량을 작성하십시오.

A. Tensorflow Lite Mobile은 로봇 공학, IoT 장치, AR (Augmented Reality), 가상 현실 (VR), 자연어 처리 (NLP) 등과 같은 응용 프로그램에 유용합니다.

이 기사에 표시된 미디어는 분석 Vidhya가 소유하지 않으며 저자의 재량에 따라 사용됩니다.

위 내용은 Tensorflow Lite vs Pytorch Mobile의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!