Vous ne savez pas comment déployer des modèles d'apprentissage automatique ? 15 images vous emmènent dans le framework de déploiement TensorFlow !

Ouverture

Il y a quelques jours, je discutais avec un ami, Xiao Li, engagé dans le développement depuis 3 ans, et j'ai appris que son entreprise entreprenait un projet lié à l'apprentissage automatique. Récemment, il a reçu pour tâche de déployer le modèle d'apprentissage automatique formé. Cela inquiète Xiao Li. Il est impliqué dans le développement de l'apprentissage automatique depuis près de six mois. Il s'occupe principalement de la collecte de données, du nettoyage des données, de la création d'environnements, de la formation de modèles et de l'évaluation de modèles. .

J'ai donc mené des recherches scientifiques populaires sur le déploiement de modèles d'apprentissage automatique en me basant sur ma propre expérience. Comme le montre la figure 1, dans la programmation traditionnelle, nous transmettons des règles et des données au programme pour obtenir les réponses souhaitées. Mais pour l'apprentissage automatique, nous formons les règles à travers les réponses et les données. Cette règle est le modèle de l'apprentissage automatique.

Figure 1 La différence entre la programmation traditionnelle et l'apprentissage automatique

Le déploiement du modèle d'apprentissage automatique consiste à déployer cette règle (modèle) sur le terminal où l'apprentissage automatique doit être appliqué. Comme le montre la figure 2, le modèle entraîné par machine learning peut être compris comme une fonction, API ou SDK, et est déployé sur le terminal correspondant (la partie grise sur la figure). Après le déploiement, le terminal disposera des capacités données par le modèle. A ce moment, en saisissant de nouvelles données, les résultats prédits pourront être obtenus selon les règles (modèle).

Figure 2 Principe de déploiement du modèle d'apprentissage automatique

Cadre de déploiement d'apprentissage automatique TensorFlow

Xiao Li a dit qu'il avait compris après avoir écouté mon introduction et m'a expliqué la situation complète de déploiement de leur projet avec un grand intérêt S'il vous plaît dis-moi, je veux demander mon avis. Comme le montre la figure 3, ils souhaitent déployer un modèle de reconnaissance d'image côté IOS, Android, Raspberry Pi, navigateur Web et serveur.

Figure 3 Scénario de déploiement du modèle

Du scénario d'application de déploiement, il présente les caractéristiques d'être léger et multiplateforme. Le même modèle d'apprentissage automatique doit être déployé sur plusieurs plates-formes différentes, et chaque plate-forme dispose de capacités de stockage et de calcul différentes. Dans le même temps, la disponibilité, les performances, la sécurité et l'évolutivité du fonctionnement du modèle doivent être prises en compte, et une grande plate-forme relativement stable doit être utilisée. Je lui ai donc recommandé le framework de déploiement de machine learning de TensorFlow. Comme le montre la figure 4, le cadre de déploiement de TensorFlow fournit la prise en charge des composants pour différentes plates-formes. Parmi eux, Android, IOS et Raspberry Pi correspondent à TensorFlow Lite, qui est un framework de déploiement de modèles spécialement utilisé pour les terminaux mobiles. Le côté navigateur peut utiliser TensorFlow.js et le côté serveur peut utiliser TensorFlow Serving.

Figure 4 Cadre de déploiement du modèle d'apprentissage automatique TensorFlow

Fonctionnement réel de TensorFlow Lite

Xiao Li voulait en savoir plus sur le processus de déploiement spécifique. J'avais un projet en main qui utilisait le cadre de déploiement de TensorFlow. , alors montrez-lui le processus. Ce projet consiste à déployer le modèle « reconnaissance de chat et de chien » sur les téléphones Android. IOS, Android, Raspberry Pi et les navigateurs étant tous clients, leurs ressources informatiques ne peuvent être comparées à celles du serveur. En particulier, les applications mobiles présentent les caractéristiques de légèreté, de faible latence, de haute efficacité, de protection de la vie privée, d'économie d'énergie, etc., c'est pourquoi TensorFlow a spécialement conçu leur déploiement et utilise TensorFlow Lite pour les déployer.

Utiliser TensorFlow Lite pour déployer un modèle nécessite trois étapes :

1. Utilisez TensorFlow pour entraîner le modèle.
2. Convertir au format TensorFlow Lite.
3. Utilisez l'interpréteur TensorFlow Lite pour charger et exécuter.

Dans la première étape, nous avons terminé la formation du modèle. La deuxième étape consiste à convertir le modèle généré en un format de modèle que TensorFlow Lite peut reconnaître et utiliser. Comme mentionné ci-dessus, lorsque le modèle est utilisé sur le terminal mobile, divers problèmes doivent être pris en compte, c'est pourquoi un format de fichier spécial doit être généré pour le terminal mobile. La troisième étape consiste à charger le fichier TensorFlow Lite converti dans l'interpréteur mobile et à l'exécuter.

Étant donné que nous nous concentrons sur le déploiement du modèle, la première étape de formation du modèle est temporairement ignorée, ce qui signifie que vous avez déjà entraîné le modèle. Pour la deuxième étape de conversion du modèle, veuillez vous référer à la figure 5. Le modèle TensorFlow sera converti en un fichier de modèle avec le suffixe « .tflite » via Converter, puis publié sur différentes plates-formes et traité via l'interpréteur sur chaque plate-forme. Expliquez et chargez.

Figure 5 Architecture de conversion de modèle TensorFlow Lite

Sauvegarde et conversion de modèle

L'architecture de TensorFlow Lite est présentée ci-dessus. Ici, vous devez enregistrer le modèle en tant que modèle TensorFlow et le convertir. Comme le montre la figure 6, nous appelons la méthode saving_model.save dans TensorFlow pour enregistrer le modèle (modèle entraîné) dans le répertoire spécifié.

Figure 6 Enregistrement du modèle TensorFlow

Après avoir enregistré le modèle, il est temps de convertir le modèle. Comme le montre la figure 7, appelez la méthode from_saved_model dans le package TFLiteConverter dans TensorFlow Lite pour générer le. converter (convertisseur de modèle), puis appelez la méthode convert dans le convertisseur pour convertir le modèle et enregistrer le fichier converti dans le répertoire spécifié.

Figure 7 Convertir au format de modèle tflite

Charger le modèle d'application

Étant donné que cet exemple concerne le déploiement de modèles du système Android, la dépendance de TensorFlow Lite doit être introduite dans Android. Comme le montre la figure 8, introduisez la dépendance de TensorFlow Lite et définissez noCompress sur "tflite" dans aaptOptions, ce qui signifie que les fichiers avec "tflite" ne seront pas compressés. Si la compression est définie, le système Android peut ne pas reconnaître les fichiers tflite.

Figure 8 Dépendances de TensorFlow Lite introduites dans le projet

Après avoir configuré les dépendances, copiez le fichier tflite converti dans le fichier d'actifs, comme indiqué dans la figure 9. Ce fichier sera chargé ultérieurement. qui effectuent l’apprentissage automatique.

Figure 9 Ajout du fichier tflite

Après avoir ajouté le fichier tflite, nous allons créer un classificateur Classifier pour classer les images "chat et chien". Comme le montre la figure 10, l'interpréteur est initialisé dans init dans Classifer, la méthode loadModuleFlie est appelée pour charger le fichier tflite et l'étiquette de classification (labelList) est spécifiée ici "cat dog".

Figure 10 Initialisation de l'interprète

Après avoir créé le classificateur, le modèle de classification du chat et du chien est utilisé pour identifier l'image. Autrement dit, dans la classe Classifier, comme le montre la figure 10, le paramètre d'entrée de la méthode convertBitmapToByteBuffer est bitmap. Il s'agit de l'image du chat et du chien que nous saisissons. Elle sera convertie dans cette méthode. dans la boucle for, convertissez les canaux vert et bleu, placez le résultat de la conversion dans un byteBuffer et renvoyez-le. La méthode recoginzeImage appelle convertBitmapToByteBuffer et utilise la méthode run de l'interpréteur pour effectuer un travail de reconnaissance d'image, c'est-à-dire utiliser un modèle d'apprentissage automatique pour identifier des images de chats et de chiens.

Figure 11 Reconnaître des images

Le processus de transformation graphique ci-dessus est trop abstrait, nous allons le rendre concret comme le montre la figure 12. L'image que nous saisissons est l'image 395*500 dans le coin supérieur gauche de l'image, qui convertira l'image dans imageView sous forme bitmap. Étant donné que notre entrée de modèle nécessite un format 224*224, une conversion est requise. Ensuite, les pixels sont placés dans un tableau ByteBuffer 224*224 et enregistrés, et enfin les pixels RVB (rouge, vert et bleu) sont normalisés (divisés par 255) en tant que paramètres d'entrée du modèle.

Figure 12 Le processus de conversion de l'image d'entrée

À ce stade, le chargement et l'application du modèle d'apprentissage automatique sont terminés. Bien entendu, les fichiers d'entrée et la mise en page sont également indispensables. Comme le montre la figure 13, nous stockons les images qui doivent être prédites (images de chat et de chien) dans le dossier dessinable. Créez ensuite le fichier Activity_image_classifier.xml sous la mise en page pour créer et stocker ImageView.

Figure 13 Fichiers d'image d'entrée et fichiers de mise en page

Enfin, créez une ImageClassifierActivity pour afficher des images et répondre aux événements qui identifient les images. Comme le montre la figure 14, liez l'événement onclick de chaque image dans la méthode initViews, puis appelez la méthode recoginzie Image dans la méthode onclick pour identifier l'image.

Figure 14 Effectuer une reconnaissance d'image en un clic

Jetons un coup d'œil à l'effet. Comme le montre la figure 15, lorsque l'on clique sur l'image correspondante, une invite « chien » s'affiche, indiquant le résultat de la prédiction.

Figure 15 Effet de démonstration

Revoir l'ensemble du processus n'est pas compliqué. Je résume le modèle de déploiement TensorFlow Lite en les étapes suivantes :

1. Enregistrez le modèle d'apprentissage automatique.
2. Convertissez le modèle au format tflite.
3. Chargez le modèle au format tflite.
4. Utilisez l'interpréteur pour charger le modèle.
5. Résultats de prédiction des paramètres d'entrée.

Les étudiants qui souhaitent approfondir leurs compétences en matière de déploiement de modèles TensorFlow peuvent suivre les cours officiels de TensorFlow, créer un compte sur le MOOC de l'université chinoise et apprendre gratuitement : ​​https://www.php cn. /link/1f5f6ad95cc908a20bb7e30ee28a5958​​

Il existe également des explications de déploiement en ligne et des questions-réponses fournies par des experts en développement de Google, qui sont très bonnes. Je recommande aux étudiants qui souhaitent avoir une compréhension préliminaire des fonctions de déploiement de TensorFlow d'y prêter attention. ​​https://www.php.cn/link/e046ede63264b10130007afca077877f​​

Fin

Après avoir écouté mon explication du déploiement du modèle d'apprentissage automatique et compris le processus de déploiement de TensorFlow, Xiao Li était encore plus impatient d'essayer le déploiement pratique. Je pense que le processus de déploiement utilisant TensorFlow est logiquement clair, la méthode est simple et facile à mettre en œuvre, et il est facile pour les développeurs ayant 3 à 5 ans d'expérience de démarrer. De plus, TensorFlow propose officiellement le « Cours pratique d'introduction à TensorFlow », qui convient aux novices n'ayant aucune base en apprentissage automatique : ​​https://www.php.cn/link/bf2fe6582ed9ead9161a3d6f6b1d6858​​

Introduction à l'auteur

Cui Hao, rédacteur en chef de la communauté 51CTO, architecte senior, a 20 ans d'expérience en architecture. Il a déjà été expert technique chez HP, a participé à plusieurs projets d'apprentissage automatique et a écrit et traduit plus de 20 articles techniques populaires sur l'apprentissage automatique, le PNL, etc. Auteur de "Principes et pratique de l'architecture distribuée".

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!