Tensorflow Lite vs Pytorch Mobile

テクノロジー開発と機械学習の最近の世界では、マイクロクラウドではなくモバイルデバイスに限定されています。私たちが知っているように、Tensorflow LiteとPytorch Mobileは、モデルを携帯電話とタブレットに直接展開するための最も市販の2つのツールです。 Tensorflow LiteとPytorch Mobileはどちらも、モバイルで動作するように開発されていますが、長所と短所には際立っています。この記事では、Tensorflow Liteとは何か、Pytorch Mobileとは何か、そのアプリケーションと両方の違いを知る必要があります。

学習成果

• デバイスの機械学習の概要と、クラウドベースのシステムではなく有益な理由。
• モバイルアプリケーションの展開に使用されるTensorflow LiteとPytorch Mobileについて学びます。
• Tensorflow LiteとPytorch Mobileを使用して、展開用のトレーニングモデルを変換する方法。
• Tensorflow LiteとPytorch Mobileのパフォーマンス、使いやすさ、プラットフォームの互換性を比較します。
• Tensorflow LiteとPytorch Mobileを使用して、現実世界の機械学習の例を実装します。

この記事は、データサイエンスブログソンの一部として公開されました。

目次

• デバイスの機械学習とは何ですか？
• Tensorflow Liteの探索
• Pytorchモバイル実装
• パフォーマンスの比較：Tensorflow Lite vs Pytorch Mobile
• 使いやすさと開発者の経験
• サポートされているプラ​​ットフォームとデバイスの互換性
• モデル変換：トレーニングから展開まで
• Tensorflow LiteおよびPytorch Mobileのユースケース
• Tensorflow Liteの実装
• Pytorchモバイル実装
• 結論
• よくある質問

デバイスの機械学習とは何ですか？

スマートフォン、タブレット、またはデバイスの機械学習を使用したその他のデバイスなど、モバイルデバイスでAIを実行できます。雲のサービスに頼る必要はありません。これらは、高速応答、機密情報のセキュリティ、およびアプリケーションであり、多様なアプリケーションで非常に重要なインターネット接続の有無にかかわらず実行できます。リアルタイム、機械翻訳、拡張現実の画像認識。

Tensorflow Liteの探索

Tensorflow Liteは、制限された機能を備えたデバイスでよく使用されるTensorflowバージョンです。それは機能し、AndroidやiPhoneなどの他のオペレーティングシステムと互換性があります。主に、遅延と高性能の実行を提供することに焦点を当てています。 Tensorflow Liteについては、モデルに量子化などの特定の方法を適用するのに役立つモデルオプティマイザーがあります。これにより、モバイル展開のモデルがより迅速かつ小さくなり、このプラクティスでは効率を向上させるために不可欠です。

Tensorflow Liteの特徴

以下は、Tensorflow Liteの最も重要な機能です。

• 少量のバイナリサイズ： Tensorflow Liteバイナリは非常に小さなサイズです。 300kbという小さい場合があります。
• ハードウェアアクセラレーション： Tfliteは、AndroidのNNAPIやiOSのCoremlなどの代表者を介してGPUおよびその他のハードウェアアクセラレータをサポートします。
• モデルの量子化： Tfliteは、あまり精度を犠牲にすることなく、パフォーマンスを最適化し、モデルサイズを削減するための多くの異なる量子化方法を提供します。

Pytorchモバイル実装

Pytorch Mobileは、Pytorchのモバイルエクステンションです。一般に、研究と生産における柔軟性で知られています。 Pytorch Mobileを使用すると、デスクトップ環境から訓練されたモデルを簡単に取得し、それをモバイルデバイスに展開することができます。動的な計算グラフをサポートし、デバッグを容易にすることにより、開発者の使いやすさに重点を置いています。

Pytorch Mobileの機能

以下は、Pytorch Mobileのいくつかの重要な機能です。

• 事前に構築されたモデル： Pytorch Mobileは、モバイルデバイスで実行するように変換できる、事前に訓練されたさまざまなモデルを提供します。
• 動的グラフ：開発中に柔軟性を可能にするPytorchの動的計算グラフの1つです。
• カスタムオペレーター： Pytorch Mobileを使用すると、カスタムオペレーターを作成できます。これは、高度なユースケースに役立ちます。

パフォーマンスの比較：Tensorflow Lite vs Pytorch Mobile

パフォーマンスについて議論すると、両方のフレームワークがモバイルデバイス用に最適化されていますが、Tensorflow Liteは実行速度とリソース効率が高くなります。

• 実行速度： Tensorflow Liteは、量子化や代表団に基づく加速など、積極的な最適化のために一般的に高速です。たとえば、nnapi、およびgpu。
• バイナリサイズ： Tensorflow Liteのフットプリントは小さく、最小限のビルドでは300kbという低いバイナリサイズがあります。 Pytorchモバイルバイナリは大きくなる傾向があり、軽量の展開にはより微調整が必​​要です。

使いやすさと開発者の経験

Pytorchモバイルは、デバッグの柔軟性と容易さのために、一般に開発者が好んでいます。動的な計算グラフが原因です。これにより、実行時にモデルを変更するのに役立ちます。これは、プロトタイプに最適です。一方、Tensorflow Liteでは、展開前にモデルを静的形式に変換する必要があります。これにより、複雑さが増す可能性がありますが、モバイルにより最適化されたモデルになります。

• モデル変換： Pytorch MobileはPytorchモデルの直接エクスポートを可能にしますが、Tensorflow LiteではTfliteコンバーターを使用してTensorflowモデルを変換する必要があります。
• デバッグ： Pytorchの動的グラフにより、モデルが実行中にデバッグが簡単になります。これは、問題をすばやく発見するのに最適です。 Tensorflow Liteの静的グラフを使用すると、Tensorflowは私たちに役立つモデルアナライザーなどのツールを提供しますが、デバッグは少し難しい場合があります。

サポートされているプラ​​ットフォームとデバイスの互換性

Tensorflow LiteとPytorch Mobileの両方を2つの主要なモバイルプラットフォーム、AndroidとiOSで使用できます。

Tensorflow Lite

どのハードウェアをサポートするかを選択することになると、Tfliteはより柔軟です。デリゲートシステムにより、CPUとGPUだけでなく、基本的なCPUよりも高いパフォーマーと見なされるデジタル信号プロセッサ（DSP）やその他のチップもサポートします。

Pytorch Mobile

Pytorch Mobileは、iOS用の金属やAndroid用VulkanなどのCPUやGPUもサポートしていますが、それ以上のハードウェアアクセラレーションのオプションは少ないです。これは、特に専門のプロセッサを持つデバイスの場合、より広いハードウェアの互換性が必要な場合、Tfliteがエッジを持つ可能性があることを意味します。

モデル変換：トレーニングから展開まで

Tensorflow LiteとPytorch Mobileの主な違いは、モデルがトレーニングフェーズからモバイルデバイスに展開される方法です。

Tensorflow Lite

モバイルにTensorflowモデルを展開する場合は、Tfliteコンバーターを使用して変換する必要があります。このプロセスは、モバイルターゲットにモデルを迅速かつ効率的にする量子化など、最適化できます。

Pytorch Mobile

Pytorch Mobileの場合、Torchscriptを使用してモデルを保存できます。このプロセスは非常にシンプルで簡単ですが、TFLITEが提供するのと同じレベルの高度な最適化オプションは提供されません。

Tensorflow LiteおよびPytorch Mobileのユースケース

Tensorflow LiteとPytorch Mobileの実際のアプリケーションを探索し、これらのフレームワークが多様な業界でインテリジェントなソリューションをどのように動作させるかを紹介します。

Tensorflow Lite

Tfliteは、リアルタイムの画像分類やオブ​​ジェクトの検出などの迅速な応答が必要なさまざまなアプリケーションに適したプラットフォームです。 GPUやニューラル処理ユニットなどの特殊なハードウェアを備えたデバイスに取り組んでいる場合。 Tfliteのハードウェアアクセラレーション機能は、モデルがより速く、より効率的に実行されるのに役立ちます。

Pytorch Mobile

Pytorch Mobileは、調査やプロトタイプアプリなど、まだ進化しているプロジェクトに最適です。その柔軟性により、実験と反復が容易になり、開発者が迅速な変更を加えることができます。 Pytorch Mobileは、最小限の変更で新しいモデルを頻繁に実験および展開する必要がある場合に理想的です。

Tensorflow Liteの実装

事前に訓練されたモデル（MobileNETV2）を使用し、Tensorflow Liteに変換します。

モデルの読み込みと保存

私たちが最初に行うことは、Tensorflowをインポートし、事前に訓練されたMobileNETV2モデルをロードすることです。このモデルで見られたように、Imagenetデータセットでの事前トレーニングに利用する準備ができています。 Model.Export（ 'Mobilenet_Model'）は、TensorflowのSavedModelの形式でモデルを書き込みます。これは、モバイルデバイスで使用されるTensorflow Liteモデル（Tflite）に変換するために必要な形式です。

 ＃ステップ1：環境をセットアップして、事前に訓練されたMobileNETV2モデルをロードする
tfとしてtensorflowをインポートします

＃前処理されたMobileNETV2モデルをロードします
モデル= tf.keras.applications.mobilenetv2（weights = 'imagenet'、input_shape =（224、224、3））

＃モデルをtflite変換のためのSavedModelとして保存します
model.export（ 'mobilenet_model'）

モデルをTensorflow Liteに変換します

モデルは、TfliteConverterを使用して保存されたモデル（MobileNet_Modelディレクトリ）からロードされます。コンバーターは、モデルをより軽量の.tflite形式に変換します。最後に、Tfliteモデルは、モバイルまたはエッジアプリケーションで後で使用するためにMobileNet_v2.tfliteとして保存されます。

 ＃ステップ2：モデルをTensorflow Liteに変換します
converter = tf.lite.tfliteconverter.from_saved_model（ 'mobilenet_model'）
tflite_model = converter.convert（）

＃変換されたモデルをtfliteファイルに保存します
fite open（ 'mobilenet_v2.tflite'、 'wb'）as f：
    f.write（tflite_model）

推論のためにTfliteモデルをロードします

ここで、数値操作（numpy）と画像操作（pil.image）に必要なライブラリをインポートします。 Tfliteモデルは、tf.lite.interpreterandメモリを使用してロードされます。形状やデータ型など、入出力テンソルの詳細を取得します。これは、入力画像を前処理して出力を取得するときに役立ちます。

 npとしてnumpyをインポートします
PILインポート画像から

＃TFLITEモデルをロードし、テンソルを割り当てます
interpreter = tf.lite.interpreter（model_path = 'mobilenet_v2.tflite'）
interpleter.allocate_tensors（）

＃入力テンソルと出力テンソルを取得します
input_details = interpreter.get_input_details（）
output_details = interpreter.get_output_details（）

プリプロシング入力、実行の実行、およびデコード出力

画像（cat.jpg）をロードし、必要な（224、224）ピクセルにサイズを変更し、MobileNetv2の前処理方法を使用してプリプロアクセスします。事前に処理された画像は、interpreter.set_tensor（）を使用して入力テンソルを設定することによりTfliteモデルに供給され、interpreter.invoke（）を使用して推論を実行します。推論後、モデルの予測を取得し、decode_predictions（）を使用して人間の読み取り可能なクラス名と確率にそれらをデコードします。最後に、予測を印刷します。

 ＃入力画像をロードして前処理します
image = image.open（ 'cat.jpg'）。resize（（224、224））＃画像パスに置き換えます
input_data = np.expand_dims（np.Array（image）、axis = 0）
input_data = tf.keras.applications.mobilenet_v2.preprocess_input（input_data）

＃入力テンソルを設定し、モデルを実行します
interpreter.set_tensor（input_details [0] ['index']、input_data）
interpreter.invoke（）

＃出力を取得し、予測をデコードします
output_data = interpreter.get_tensor（output_details [0] ['index']）
予測= tf.keras.applications.mobilenet_v2.decode_predictions（output_data）
印刷（予測）

以下の猫の画像を使用してください。

出力：

[（ 'n02123045'、 'tabby'、0.85）、（ 'n02124075'、 'egyptian_cat'、0.07）、（ 'n02123159'、 'tiger_cat'、0.05）]]]]]

これは、モデルが画像がタビー猫であると確信していることを意味します。

Pytorchモバイル実装

これで、Pytorch Mobileを実装します。 ResNet18などの単純な事前訓練モデルを使用し、Torchscriptに変換し、推論を実行します

環境のセットアップとResNet18モデルのロード

＃ステップ1：環境をセットアップします
トーチをインポートします
モデルとしてtorchvision.modelsをインポートします

＃前処理されたResNet18モデルをロードします
model = models.resnet18（pretrained = true）

＃モデルを評価モードに設定します
model.eval（）

モデルをTorchscriptに変換します

ここでは、サイズのランダムなテンソルであるexample_inputを定義します[1、3、224、224]。これにより、3つのカラーチャネル（RGB）と224×224ピクセルを備えた1つの画像のバッチをシミュレートします。モデルの操作を追跡するために使用されます。 torch.jit.trace（）は、pytorchモデルをTorchscriptモジュールに変換する方法です。 Torchscriptを使用すると、Cやモバイルデバイスなど、Pythonの外でモデルをシリアル化および実行できます。変換されたTorchscriptモデルは「ResNet18_Scripted.pt」として保存され、後でロードして使用できるようにします。

 ＃ステップ2：Torchscriptに変換します
example_input = torch.randn（1、3、224、224）＃トレースの例の例
traced_script_module = torch.jit.trace（model、emple_input）

＃TorchScriptモデルを保存します
traced_script_module.save（ "resnet18_scripted.pt"）

スクリプトモデルをロードして、予測を行います

torch.jit.load（）を使用して、以前に保存したtorchscriptモデルをファイル「Resnet18_scripted.pt」からロードします。新しいランダムテンソルinput_dataを作成し、サイズ[1、3、224、224]の画像入力を再度シミュレートします。その後、モデルはloaded_model（input_data）を使用してこの入力で実行されます。これにより、各クラスの生のスコア（ロジット）が含まれる出力が返されます。予測されたクラスを取得するには、Torch.max（出力、1）を使用して、クラスのインデックスに最高のスコアを与えます。 Predicted.item（）を使用して、予測クラスを印刷します。

 ＃ステップ3：スクリプトモデルをロードして実行します
loaded_model = torch.jit.load（ "resnet18_scripted.pt"）

＃入力データをシミュレートする（ランダム画像テンソル）
input_data = torch.randn（1、3、224、224）

＃モデルを実行して、予測を取得します
output = loaded_model（input_data）
_、予測= torch.max（output、1）
print（f'predicted class：{predicted.item（）} '）

出力：

予測クラス：107

したがって、モデルは、入力データがクラスインデックス107に属すると予測しています。

結論

Tensorflow Liteはモバイルデバイスにより重点を置いていますが、Pytorch Mobileはより一般的なCPU/GPU展開ソリューションを提供します。 Tensorflow Liteと比較して、Pytorch Mobileはより大きな携帯性を提供しながら、Tensorflow Liteよりも軽く、Googleと密接に統合されています。組み合わせて、開発者は、開発者のハンドヘルドデバイスに高い機能性を備えたリアルタイム人工知能アプリケーションを実装できるようにします。これらのフレームワークは、ローカルマシンで洗練されたモデルを実行する機能によりユーザーに力を与え、そうすることにより、指先を通じてモバイルアプリケーションが世界とどのように関与するかについてのルールを書き直しています。

キーテイクアウト

• Tensorflow LiteとPytorch Mobile Empover Developersは、AIモデルをEdgeデバイスに効率的に展開できるようにします。
• どちらのフレームワークも、クロスプラットフォームの互換性をサポートし、モバイルAIアプリケーションのリーチを強化します。
• Tensorflow Liteはパフォーマンスの最適化で知られていますが、Pytorch Mobileは柔軟性に優れています。
• 統合の容易さと開発者に優しいツールにより、両方のフレームワークが幅広いAIユースケースに適しています。
• 現実世界のアプリケーションは、ヘルスケア、小売、エンターテイメントなどの業界に広がり、汎用性を紹介します。

よくある質問

Q1。 Tensorflow LiteとPytorch Mobileの違いは何ですか？

A. Tensorflowライトは、モバイルデバイスで高性能が必要な場合に使用されますが、Pytorch Mobileが使用され、Pytorchの既存のエコシステムとの柔軟性と統合の容易さが必要です。

Q2。 Tensorflow LiteとPytorchモバイルは、AndroidとiOSの両方で動作できますか？

A.はい、Tensorflow LiteとAndroidとiOSでのPytorchモバイルワークの両方。

Q3。 Pytorch Mobileの使用法を書いてください。

A. Pytorch Mobileは、画像、フェイシャル、ビデオ分類、リアルタイムオブジェクトの検出、スピーチツーテキスト変換などのタスクを実行するアプリケーションに役立ちます。

Q4。 Tensorflow Lite Mobileの使用法を書いてください。

A. Tensorflow Lite Mobileは、ロボット工学、IoTデバイス、拡張現実（AR）、バーチャルリアリティ（VR）、自然言語処理（NLP）などのアプリケーションに役立ちます。

この記事に示されているメディアは、Analytics Vidhyaが所有しておらず、著者の裁量で使用されています。

以上がTensorflow Lite vs Pytorch Mobileの詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。