Faites évoluer un chatbot Streamlit avec état avec AWS ECS et EFS

Cet article détaille le déploiement d'une application Streamlit évolutive et avec état sur AWS, répondant aux défis courants rencontrés lors du passage d'un développement local à un environnement cloud de production. L'objectif est de surmonter les limites de la gestion de l'état en mémoire par défaut de Streamlit, qui entraîne une perte de données lors de l'actualisation des pages ou du redémarrage du serveur, en particulier en cas de charge importante.

Défis d'évolutivité de Streamlit : Streamlit excelle dans le développement rapide d'applications Web, mais sa gestion inhérente de l'état en mémoire est inadéquate pour les déploiements multi-utilisateurs basés sur le cloud. Augmenter simplement les ressources des VM est une solution à courte vue qui ne résout pas le problème principal de la persistance des données.

Architecture proposée (AWS) : La solution présentée utilise une architecture robuste pour gérer l'évolutivité et l'état :

• Application Load Balancer (ALB) : répartit uniformément le trafic entrant sur plusieurs instances.
• Elastic Container Service (ECS) sur Fargate : Gère les conteneurs Docker, permettant une mise à l'échelle sans effort sans surcharge de gestion du serveur. Tirer parti de l'architecture arm64 et de l'allocation optimisée des ressources (0,25 vCPU/0,5 Go de RAM) pour une meilleure rentabilité.
• Elastic File System (EFS) : Fournit un système de fichiers évolutif et persistant, monté sur plusieurs nœuds ECS. Cela garantit la redondance et la persistance des données dans les zones de disponibilité (AZ), résolvant ainsi le problème principal d'état.
• CloudFront (facultatif) : Améliore les performances et ajoute la sécurité HTTPS via la fonctionnalité CDN.

Pourquoi pas AWS Lambda ? : Lambda, bien qu'attrayant pour l'informatique sans serveur, est incompatible avec Streamlit en raison de la dépendance de Streamlit à l'égard des cadres binaires Websocket, que la passerelle API de Lambda ne prend pas en charge.

EFS par rapport aux autres options : Un tableau comparatif met en évidence les avantages d'EFS par rapport aux alternatives telles que RDS, DynamoDB, ElasticCache et S3, en soulignant sa facilité de configuration, son évolutivité et sa rentabilité pour ce domaine spécifique. cas d'utilisation.

Aborder les coûts de l'équilibreur de charge : L'article reconnaît le coût inhérent d'ALB mais fait valoir que ses avantages (distribution du trafic, prise en charge HTTP/2, intégration AWS) l'emportent sur les dépenses, en particulier compte tenu de l'amélioration de la fiabilité et des performances. pour une application de production.

Approche de la solution : La clé de cette solution consiste à utiliser une combinaison de stockage local côté navigateur (via streamlit-local-storage) pour les clés de session et EFS pour les données de session persistantes. Cela minimise l'état en mémoire tout en garantissant la persistance des données sur les nœuds ECS et les événements de mise à l'échelle. La simplicité de cette approche est soulignée : le code de base de l'application reste largement inchangé entre le développement local et le déploiement dans le cloud.

Modèle de projet et pseudocode : Un exemple de projet de chatbot LLM (https://www.php.cn/link/f3a3cc4e1b8b4b0438505c0a38efad9f) est fourni, ainsi qu'un pseudocode illustrant comment les données de session est géré en utilisant pickle pour la sérialisation et EFS pour stockage. Le code montre la récupération et l'enregistrement des données de session sur la base d'un identifiant de session unique, garantissant ainsi la cohérence même lorsque différentes tâches ECS gèrent la même session.

Étapes de déploiement : L'article fournit un guide concis pour déployer l'application : cloner le référentiel, déployer la pile CloudFormation, créer et déployer l'image Docker, accéder au chatbot et (implicitement) activer l'auto- mise à l'échelle pour une évolutivité optimale.

Conclusion : Cette approche offre une solution pratique et efficace pour déployer des applications Streamlit évolutives et avec état sur AWS, permettant aux développeurs de se concentrer sur la logique des applications plutôt que sur la gestion complexe de l'infrastructure. La solution privilégie la simplicité et la rentabilité tout en garantissant la persistance et la haute disponibilité des données.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!