Maison  >  Article  >  Périphériques technologiques  >  Jouez avec les grands modèles ! Déploiement en un clic avec Replicate

Jouez avec les grands modèles ! Déploiement en un clic avec Replicate

WBOY
WBOYavant
2024-04-08 16:07:07953parcourir

Jouez avec les grands modèles ! Déploiement en un clic avec Replicate

Replicate est une plate-forme d'apprentissage automatique basée sur le cloud. Elle permet aux utilisateurs d'exécuter directement des modèles d'apprentissage automatique à l'aide d'API cloud, éliminant ainsi le besoin de comprendre des architectures complexes de modèles d'apprentissage automatique.

en Python ou Jupyter Notebook, permettant aux utilisateurs d'exécuter des modèles et de déployer et d'optimiser des modèles dans le cloud. Vous pouvez l'utiliser pour exécuter des modèles open source publiés par d'autres, ou vous pouvez empaqueter et publier vos propres modèles. Avec Replicate, vous pouvez générer des images, exécuter et optimiser des modèles open source et déployer des modèles personnalisés avec une seule ligne de code. En appelant l'API de Replicate dans le code Python, vous pouvez exécuter le modèle sur Replicate et obtenir les résultats de prédiction du modèle.

Comment fonctionnent les prédictions de modèle

Chaque fois que vous exécutez un modèle, vous créez une prédiction de modèle. La prédiction de modèle est le processus d'utilisation d'un modèle établi pour prédire de nouvelles données. Dans la prédiction de modèle, nous utilisons un modèle déjà entraîné pour prédire le résultat de données inconnues. Ce processus peut être complété en saisissant de nouvelles données dans le modèle et en obtenant le résultat du modèle.

Certains modèles fonctionnent très rapidement et peuvent renvoyer des résultats en quelques millisecondes. D'autres modèles prennent plus de temps à s'exécuter, notamment les modèles génératifs, tels que les modèles qui génèrent des images basées sur des invites textuelles.

Pour vérifier l'état des prédictions, vous devez interroger l'API et interroger en fonction de ces modèles de longue durée. Les prédictions de modèles peuvent avoir différents états.

  • Début : les prévisions démarrent. Si cet état persiste pendant plus de quelques secondes, c'est généralement parce qu'un nouveau thread est démarré pour exécuter la prédiction.
  • Traitement : la méthode Predict() du modèle est en cours d'exécution.
  • Succès : La prédiction a été réalisée avec succès.
  • Échec : la prédiction a rencontré une erreur lors du traitement.
  • annulé : l'utilisateur a annulé la prédiction.

Après vous être connecté, vous pouvez afficher une liste de prédictions sur le tableau de bord avec un résumé de l'état, de la durée d'exécution, etc. :

Jouez avec les grands modèles ! Déploiement en un clic avec Replicate

Comment exécuter le modèle dans le navigateur

Vous pouvez utiliser l'API cloud ou le navigateur Web pour exécuter le modèle sur Replicate. La page Web peut afficher directement toutes les entrées et générer un formulaire, et vous pouvez exécuter le modèle directement depuis le navigateur, comme indiqué ci-dessous :

Jouez avec les grands modèles ! Déploiement en un clic avec Replicate

Comment utiliser l'API pour exécuter le modèle

Le La page Web est idéale pour comprendre le modèle, mais lorsque vous êtes prêt à déployer votre modèle dans un chatbot, un site Web ou une application mobile, l'API entre en jeu.

L'API HTTP de Replicate peut être utilisée avec n'importe quel langage de programmation, et il existe également des bibliothèques clientes pour Python, JavaScript et d'autres langages pour rendre l'utilisation de l'API plus pratique.

Utilisez le client Python pour créer des prédictions de modèle avec seulement quelques lignes de code. Installez d'abord la bibliothèque Python :

pip install replicate

Authentifiez-vous en définissant le jeton dans la variable d'environnement :

export REPLICATE_API_TOKEN=<paste-your-token-here></paste-your-token-here>

Vous pouvez ensuite exécuter n'importe quel modèle open source sur Replicate via le code Python. L'exemple suivant exécute Stability-ai/stable-diffusion :

import replicateoutput = replicate.run("stability-ai/sdxl:39ed52f2a78e934b3ba6e2a89f5b1c712de7dfea535525255b1aa35c5565e08b",input={"prompt": "An astronaut riding a rainbow unicorn, cinematic, dramatic"})# ['https://replicate.delivery/pbxt/VJyWBjIYgqqCCBEhpkCqdevTgAJbl4fg62aO4o9A0x85CgNSA/out-0.png']


Jouez avec les grands modèles ! Déploiement en un clic avec Replicate


Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!

Déclaration:
Cet article est reproduit dans:. en cas de violation, veuillez contacter admin@php.cn Supprimer