recherche
Maisondéveloppement back-endTutoriel PythonConfigurer Celery Worker avec Supervisord sur Elastic Beanstalk via .ebextensions

Setup Celery Worker with Supervisord on elastic beanstalk via .ebextensions

Introduction : l'épine dorsale des applications évolutives

Construire une application robuste et évolutive signifie souvent gérer des tâches qui nécessitent plus qu'un seul serveur ou thread ne peut gérer efficacement. Qu'il s'agisse de traiter des images, d'envoyer des e-mails ou d'effectuer des calculs gourmands en données, transférer ces tâches vers une file d'attente de tâches est une bonne pratique. Pour Text2Infographic, mon générateur d'infographies alimenté par l'IA, le défi était clair : je devais gérer efficacement de nombreuses soumissions de travaux simultanées tout en conservant une expérience utilisateur fluide. Cela m'a amené à adopter Celery, une puissante file d'attente de tâches distribuées, et Supervisord, un système de gestion de processus, le tout déployé de manière transparente sur AWS Elastic Beanstalk en utilisant la puissance de .ebextensions.

Voici un guide étape par étape expliquant comment configurer un travailleur Celery avec Supervisord sur Elastic Beanstalk. Mais d’abord, décomposons les composants clés de cette configuration et pourquoi ils sont essentiels.

Qu’est-ce que le céleri ?

À la base, Celery est un système de file d'attente de tâches distribué qui vous permet de décharger des tâches fastidieuses vers des processus ou des serveurs séparés. Il est largement utilisé dans les applications Python pour exécuter des tâches en arrière-plan de manière asynchrone ou planifiée. Pour Text2Infographic, Celery était la solution parfaite pour gérer le processus informatique intensif de génération d'infographies personnalisées à partir des entrées de l'utilisateur.

Quelques avantages de l'utilisation du céleri :

Exécution asynchrone : les tâches peuvent s'exécuter en arrière-plan sans bloquer l'application principale.
Évolutivité : ajoutez facilement plus de travailleurs pour gérer une charge accrue.
Extensibilité : s'intègre à divers courtiers de messages comme RabbitMQ ou Redis.

Qu’est-ce que Superviseur ?

Gérer manuellement des processus tels que les travailleurs de Celery peut devenir compliqué, en particulier lorsque vous avez besoin qu'ils redémarrent automatiquement après un crash ou pendant des déploiements. Supervisord est un système de contrôle de processus léger qui résout ce problème en gardant un œil sur vos processus et en garantissant qu'ils restent opérationnels.

Avec Supervisord, vous pouvez :

Redémarrez automatiquement les travailleurs Celery s'ils échouent.
Simplifiez la gestion des processus avec un seul fichier de configuration.
Enregistrez l'activité du processus pour un meilleur débogage et une meilleure surveillance.

Qu'est-ce qu'AWS Elastic Beanstalk ?

AWS Elastic Beanstalk est un service entièrement géré qui automatise le déploiement, la mise à l'échelle et la gestion des applications. Il élimine une grande partie de la complexité de la gestion de l'infrastructure, permettant aux développeurs de se concentrer sur l'écriture du code plutôt que sur la configuration des serveurs. Elastic Beanstalk prend en charge divers environnements, des simples serveurs Web aux configurations plus complexes telles que les travailleurs Celery.

Pour Text2Infographic, l'évolutivité et la simplicité d'Elastic Beanstalk ont ​​été inestimables. À mesure que la demande des utilisateurs fluctue, la possibilité de faire évoluer les instances de travail de manière dynamique garantit que les tâches sont traitées efficacement, même pendant les heures de pointe.

Que sont les .ebextensions ?

.ebextensions est une fonctionnalité d'Elastic Beanstalk qui vous permet de personnaliser votre environnement lors du déploiement. Avec les fichiers de configuration .ebextensions, vous pouvez :

Installez les logiciels et les dépendances nécessaires.
Configurez des services tels que les travailleurs Supervisord et Celery.
Ajoutez des variables d'environnement et gérez les autorisations.
Cela permet d'intégrer de manière transparente Celery et Supervisord dans votre déploiement Elastic Beanstalk sans intervention manuelle à chaque déploiement.

Pourquoi Céleri pour Text2Infographic ?

Text2Infographic est conçu pour aider les spécialistes du marketing et les créateurs de contenu à transformer les articles de blog en infographies époustouflantes. Chaque demande de génération d'infographie nécessite des calculs intensifs, impliquant une recherche thématique basée sur l'IA, une optimisation de la conception et une recherche de graphiques vectoriels. Pour maintenir une expérience utilisateur transparente, ces tâches doivent être confiées à un travailleur en arrière-plan capable de gérer plusieurs demandes simultanément. La gestion des tâches asynchrones et l’évolutivité de Celery en ont fait le choix évident.

Pourquoi Superviseur ?

Bien qu'Elastic Beanstalk puisse gérer les serveurs Web de manière native, il ne prend pas en charge les processus en arrière-plan tels que les travailleurs Celery. Entrez Superviseur. Il agit en tant que superviseur du processus de travail Celery, garantissant qu'il s'exécute en continu et redémarre automatiquement en cas d'échec. Cette fiabilité est cruciale pour traiter les demandes de génération d'infographies sans interruption.

Le décor étant planté, plongeons-nous dans les détails techniques de la configuration de Celery, Supervisord et eb_extensions sur Elastic Beanstalk afin de créer une file d'attente de tâches évolutive et efficace pour votre application.

Étape par étape : configuration de Celery avec Supervisord sur Elastic Beanstalk

Dans cette section, nous passerons en revue les fichiers .ebextensions requis pour configurer Celery avec Supervisord sur Elastic Beanstalk. Chaque étape est expliquée en détail, avec des conseils pour vous aider à éviter les pièges courants.

1. Installation de Supervisord
Fichier : 01_install_supervisord.config

Ce fichier installe Supervisord et configure un utilisateur non root pour exécuter les processus en toute sécurité.

commands:
  01_install_pip:
    command: "yum install -y python3-pip"
    ignoreErrors: true
  02_install_supervisor:
    command: "/usr/bin/pip3 install supervisor"
  03_create_nonroot_user:
    command: "useradd -r -M -s /sbin/nologin nonrootuser || true"
    ignoreErrors: true

Explication :

Installer pip : Garantit que le gestionnaire de packages de Python est disponible.
Installer Supervisor : Utilise pip pour installer Supervisord, un gestionnaire de processus léger et puissant.
Créer un utilisateur non root : Ajoute un utilisateur restreint (utilisateur non root) sans shell de connexion ni répertoire personnel. L'exécution de processus en tant qu'utilisateur non root est une bonne pratique de sécurité.

? Astuce : Utilisez toujours ignoreErrors: true lorsque les commandes peuvent échouer lors de déploiements répétés. Cela garantit que votre déploiement n’échouera pas si l’utilisateur ou le package existe déjà.

2. Nettoyer les processus obsolètes
Fichier : 02_cleanup_existing_supervisord.config

Ce fichier gère le nettoyage des anciennes instances Supervisord et des fichiers de socket qui pourraient persister entre les déploiements.

commands:
  kill_existing_supervisord:
    command: "pkill supervisord || true"
    ignoreErrors: true
  remove_stale_socket:
    command: "rm -f /tmp/supervisor.sock"
    ignoreErrors: true

Explication :

Tuer le Supervisord existant : Garantit qu'aucun processus Supervisord parasite n'est en cours d'exécution. Le || true part garantit que cette commande ne générera pas d'erreurs si aucun processus n'est trouvé.
Supprimer le socket obsolète : Supprime tous les anciens fichiers de socket Supervisord, ce qui pourrait empêcher le démarrage de Supervisord.

? Conseil : Le nettoyage des sockets et des processus est essentiel dans des environnements comme Elastic Beanstalk, où les déploiements peuvent parfois laisser derrière eux des vestiges de configurations précédentes.

3. Configuration du céleri avec Supervisord
Fichier : 03_celery_configuration.config

Ce fichier crée le fichier de configuration Supervisord et démarre le processus de travail Celery.

files:
  "/etc/supervisord.conf":
    mode: "000644"
    owner: root
    group: root
    content: |
      [unix_http_server]
      file=/tmp/supervisor.sock
      chmod=0770
      chown=root:nonrootuser

      [supervisord]
      logfile=/var/log/supervisord.log
      logfile_maxbytes=50MB
      logfile_backups=10
      loglevel=info
      pidfile=/tmp/supervisord.pid
      nodaemon=false
      minfds=1024
      minprocs=200
      user=root

      [rpcinterface:supervisor]
      supervisor.rpcinterface_factory = supervisor.rpcinterface:make_main_rpcinterface

      [supervisorctl]
      serverurl=unix:///tmp/supervisor.sock

      [program:celery]
      command=celery -A application.celery worker --loglevel=INFO
      directory=/var/app/current
      autostart=true
      autorestart=true
      startsecs=10
      stopwaitsecs=600
      stdout_logfile=/var/log/celery_worker.log
      stderr_logfile=/var/log/celery_worker.err.log
      environment=PATH="/var/app/venv/staging-LQM1lest/bin:$PATH"
      user=nonrootuser

Explication :

Socket Unix pour le contrôle : La section unix_http_server crée un socket sécurisé pour interagir avec Supervisord.
Journalisation : Les journaux sont stockés dans /var/log/supervisord.log, avec une politique de rotation pour empêcher l'utilisation du disque de devenir incontrôlable.
Bloc programme céleri :
Commande : Exécute le travailleur Celery avec la configuration de l'application.
Démarrage et redémarrage automatique : Garantit que Celery démarre automatiquement lors du déploiement et redémarre en cas d'échec.
Journaux : Enregistre la sortie de Celery dans /var/log/celery_worker.log et /var/log/celery_worker.err.log.
Environnement : Garantit que l'environnement virtuel Python correct est utilisé.

? Conseil : Utilisez directory=/var/app/current pour pointer Supervisord vers le répertoire de déploiement de l'application, qui est mis à jour à chaque déploiement Elastic Beanstalk.

4. Démarrage de Supervisord
Fichier : 03_celery_configuration.config (suite)

container_commands:
  01_start_supervisor:
    command: "supervisord -c /etc/supervisord.conf"

Explication :

Commandes de conteneur : Celles-ci s'exécutent après le déploiement de votre application mais avant que l'environnement ne soit marqué comme prêt. Démarrer Supervisord ici garantit que votre travailleur Celery est en cours d'exécution lorsque l'application sera mise en ligne.

? Conseil : Elastic Beanstalk traite les commandes du conteneur par ordre alphabétique, alors préfixez vos commandes avec des chiffres comme 01_ pour contrôler l'ordre d'exécution.

Astuces amusantes avec eb_extensions

Débogage simplifié : Si quelque chose ne fonctionne pas, ajoutez une commande de conteneur temporaire pour imprimer les variables d'environnement ou répertorier le contenu du répertoire :

commands:
  01_install_pip:
    command: "yum install -y python3-pip"
    ignoreErrors: true
  02_install_supervisor:
    command: "/usr/bin/pip3 install supervisor"
  03_create_nonroot_user:
    command: "useradd -r -M -s /sbin/nologin nonrootuser || true"
    ignoreErrors: true

Vérifiez les journaux dans /var/log/eb-activity.log.

Réutiliser les configurations communes : Stockez les extraits de configuration partagés dans un fichier YAML distinct, puis incluez-les dans plusieurs fichiers .ebextensions à l'aide de la directive include (non officiellement prise en charge).

Cette configuration garantit que vos collaborateurs Celery sont gérés efficacement avec Supervisord, évoluant parallèlement à votre application Elastic Beanstalk. Que vous gériez la génération d'infographies ou toute autre tâche en arrière-plan, cette approche offre fiabilité, évolutivité et tranquillité d'esprit.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!

Déclaration
Le contenu de cet article est volontairement contribué par les internautes et les droits d'auteur appartiennent à l'auteur original. Ce site n'assume aucune responsabilité légale correspondante. Si vous trouvez un contenu suspecté de plagiat ou de contrefaçon, veuillez contacter admin@php.cn
Comment utiliser Python pour trouver la distribution ZIPF d'un fichier texteComment utiliser Python pour trouver la distribution ZIPF d'un fichier texteMar 05, 2025 am 09:58 AM

Ce tutoriel montre comment utiliser Python pour traiter le concept statistique de la loi de Zipf et démontre l'efficacité de la lecture et du tri de Python de gros fichiers texte lors du traitement de la loi. Vous vous demandez peut-être ce que signifie le terme distribution ZIPF. Pour comprendre ce terme, nous devons d'abord définir la loi de Zipf. Ne vous inquiétez pas, je vais essayer de simplifier les instructions. La loi de Zipf La loi de Zipf signifie simplement: dans un grand corpus en langage naturel, les mots les plus fréquents apparaissent environ deux fois plus fréquemment que les deuxième mots fréquents, trois fois comme les troisième mots fréquents, quatre fois comme quatrième mots fréquents, etc. Regardons un exemple. Si vous regardez le corpus brun en anglais américain, vous remarquerez que le mot le plus fréquent est "th

Comment utiliser la belle soupe pour analyser HTML?Comment utiliser la belle soupe pour analyser HTML?Mar 10, 2025 pm 06:54 PM

Cet article explique comment utiliser la belle soupe, une bibliothèque Python, pour analyser HTML. Il détaille des méthodes courantes comme find (), find_all (), select () et get_text () pour l'extraction des données, la gestion de diverses structures et erreurs HTML et alternatives (Sel

Filtrage d'image en pythonFiltrage d'image en pythonMar 03, 2025 am 09:44 AM

Traiter avec des images bruyantes est un problème courant, en particulier avec des photos de téléphones portables ou de caméras basse résolution. Ce tutoriel explore les techniques de filtrage d'images dans Python à l'aide d'OpenCV pour résoudre ce problème. Filtrage d'image: un outil puissant Filtre d'image

Comment travailler avec des documents PDF à l'aide de PythonComment travailler avec des documents PDF à l'aide de PythonMar 02, 2025 am 09:54 AM

Les fichiers PDF sont populaires pour leur compatibilité multiplateforme, avec du contenu et de la mise en page cohérents sur les systèmes d'exploitation, les appareils de lecture et les logiciels. Cependant, contrairement aux fichiers de texte brut de traitement Python, les fichiers PDF sont des fichiers binaires avec des structures plus complexes et contiennent des éléments tels que des polices, des couleurs et des images. Heureusement, il n'est pas difficile de traiter les fichiers PDF avec les modules externes de Python. Cet article utilisera le module PYPDF2 pour montrer comment ouvrir un fichier PDF, imprimer une page et extraire du texte. Pour la création et l'édition des fichiers PDF, veuillez vous référer à un autre tutoriel de moi. Préparation Le noyau réside dans l'utilisation du module externe PYPDF2. Tout d'abord, l'installez en utilisant PIP: pip is p

Comment se cacher en utilisant Redis dans les applications DjangoComment se cacher en utilisant Redis dans les applications DjangoMar 02, 2025 am 10:10 AM

Ce tutoriel montre comment tirer parti de la mise en cache Redis pour augmenter les performances des applications Python, en particulier dans un cadre Django. Nous couvrirons l'installation redis, la configuration de Django et les comparaisons de performances pour mettre en évidence le bien

Comment effectuer l'apprentissage en profondeur avec TensorFlow ou Pytorch?Comment effectuer l'apprentissage en profondeur avec TensorFlow ou Pytorch?Mar 10, 2025 pm 06:52 PM

Cet article compare TensorFlow et Pytorch pour l'apprentissage en profondeur. Il détaille les étapes impliquées: préparation des données, construction de modèles, formation, évaluation et déploiement. Différences clés entre les cadres, en particulier en ce qui concerne le raisin informatique

Comment implémenter votre propre structure de données dans PythonComment implémenter votre propre structure de données dans PythonMar 03, 2025 am 09:28 AM

Ce didacticiel montre la création d'une structure de données de pipeline personnalisée dans Python 3, en tirant parti des classes et de la surcharge de l'opérateur pour une fonctionnalité améliorée. La flexibilité du pipeline réside dans sa capacité à appliquer une série de fonctions à un ensemble de données, GE

Introduction à la programmation parallèle et simultanée dans PythonIntroduction à la programmation parallèle et simultanée dans PythonMar 03, 2025 am 10:32 AM

Python, un favori pour la science et le traitement des données, propose un écosystème riche pour l'informatique haute performance. Cependant, la programmation parallèle dans Python présente des défis uniques. Ce tutoriel explore ces défis, en se concentrant sur l'interprète mondial

See all articles

Outils d'IA chauds

Undresser.AI Undress

Undresser.AI Undress

Application basée sur l'IA pour créer des photos de nu réalistes

AI Clothes Remover

AI Clothes Remover

Outil d'IA en ligne pour supprimer les vêtements des photos.

Undress AI Tool

Undress AI Tool

Images de déshabillage gratuites

Clothoff.io

Clothoff.io

Dissolvant de vêtements AI

AI Hentai Generator

AI Hentai Generator

Générez AI Hentai gratuitement.

Article chaud

R.E.P.O. Crystals d'énergie expliqués et ce qu'ils font (cristal jaune)
2 Il y a quelques semainesBy尊渡假赌尊渡假赌尊渡假赌
Repo: Comment relancer ses coéquipiers
4 Il y a quelques semainesBy尊渡假赌尊渡假赌尊渡假赌
Hello Kitty Island Adventure: Comment obtenir des graines géantes
4 Il y a quelques semainesBy尊渡假赌尊渡假赌尊渡假赌

Outils chauds

SublimeText3 version Mac

SublimeText3 version Mac

Logiciel d'édition de code au niveau de Dieu (SublimeText3)

DVWA

DVWA

Damn Vulnerable Web App (DVWA) est une application Web PHP/MySQL très vulnérable. Ses principaux objectifs sont d'aider les professionnels de la sécurité à tester leurs compétences et leurs outils dans un environnement juridique, d'aider les développeurs Web à mieux comprendre le processus de sécurisation des applications Web et d'aider les enseignants/étudiants à enseigner/apprendre dans un environnement de classe. Application Web sécurité. L'objectif de DVWA est de mettre en pratique certaines des vulnérabilités Web les plus courantes via une interface simple et directe, avec différents degrés de difficulté. Veuillez noter que ce logiciel

Listes Sec

Listes Sec

SecLists est le compagnon ultime du testeur de sécurité. Il s'agit d'une collection de différents types de listes fréquemment utilisées lors des évaluations de sécurité, le tout en un seul endroit. SecLists contribue à rendre les tests de sécurité plus efficaces et productifs en fournissant facilement toutes les listes dont un testeur de sécurité pourrait avoir besoin. Les types de listes incluent les noms d'utilisateur, les mots de passe, les URL, les charges utiles floues, les modèles de données sensibles, les shells Web, etc. Le testeur peut simplement extraire ce référentiel sur une nouvelle machine de test et il aura accès à tous les types de listes dont il a besoin.

Télécharger la version Mac de l'éditeur Atom

Télécharger la version Mac de l'éditeur Atom

L'éditeur open source le plus populaire

ZendStudio 13.5.1 Mac

ZendStudio 13.5.1 Mac

Puissant environnement de développement intégré PHP