Accélérant l’innovation GenAI d’entreprise de bout en bout, les microservices NVIDIA NIM sont devenus un point fort pour les éditeurs de logiciels !

La société de développement de logiciels Cloudera a récemment annoncé un partenariat stratégique avec NVIDIA pour accélérer le déploiement d'applications d'IA générative. La collaboration impliquera l'intégration des microservices d'IA de NVIDIA dans la plateforme de données Cloudera (CDP) et est conçue pour aider les entreprises à créer et à mettre à l'échelle plus rapidement des modèles de langage étendus (LLM) personnalisés en fonction de leurs données. Cette initiative fournira aux entreprises des outils et des technologies plus puissants pour mieux utiliser leurs ressources de données et accélérer le processus de développement et de déploiement d'applications d'IA. Cette collaboration apportera davantage d'opportunités aux entreprises, les aidant à prendre des décisions plus efficaces basées sur les données et à stimuler le développement commercial. La coopération entre Cloudera et NVIDIA offrira aux entreprises plus de choix et de flexibilité, et devrait promouvoir l'application généralisée de la technologie de l'IA dans divers secteurs.

Dans cette collaboration, Cloudera prévoit d'exploiter pleinement la technologie NVIDIA AI Enterprise, y compris les microservices NVIDIA Inference Manager (NIM), pour découvrir des informations à partir de plus de 25 exaoctets de données dans les CDP. Ces précieuses informations d'entreprise seront importées dans la plateforme d'apprentissage automatique de Cloudera, un service de flux de travail d'IA de bout en bout fourni par l'entreprise, conçu pour piloter un nouveau cycle d'innovation en matière d'IA générative.

Priyank Patel, vice-président des produits IA/ML chez Cloudera, a noté que les données d'entreprise combinées à une plate-forme full-stack optimisée pour les grands modèles de langage sont essentielles pour faire passer les applications d'IA générative d'une organisation du stade pilote à la production. Cloudera intègre actuellement les microservices NVIDIA NIM et CUDA-X pour piloter sa plateforme d'apprentissage automatique et aider les clients à transformer le potentiel de l'IA en réalité commerciale.

Cette collaboration met en évidence la force de Cloudera et NVIDIA en matière d'innovation technologique et démontre également la demande croissante du marché pour les applications d'IA générative. En intégrant les ressources et les avantages techniques des deux parties, nous promouvrons conjointement l'application pratique de l'IA dans les entreprises et fournirons aux entreprises des solutions plus efficaces et plus intelligentes.

De plus, en exploitant les données massives de CDP et en les combinant avec les puissantes capacités de la plateforme d'apprentissage automatique Cloudera, les entreprises peuvent approfondir la valeur des données et prendre des décisions plus précises et des opérations commerciales plus efficaces. Cette coopération apportera un avenir plus intelligent et automatisé aux entreprises et favorisera le développement et le progrès de l'ensemble du secteur.

1. Connecter les modèles et les données

En connectant les modèles et les données, l'IA d'entreprise est confrontée à un défi clé : comment connecter le modèle sous-jacent aux données commerciales pertinentes pour générer une sortie précise et contextuelle. Les microservices NIM et NeMo Retriever de NVIDIA visent à combler cette lacune en permettant aux développeurs de connecter des LLM (Large Language Models) avec des données d'entreprise structurées et non structurées allant des documents texte aux images et visualisations.

Plus précisément, Cloudera Machine Learning fournira des capacités intégrées de service de modèles NIM pour améliorer les performances d'inférence et permettre la tolérance aux pannes, une faible latence et une mise à l'échelle automatique dans les environnements hybrides et multi-cloud. L'ajout de NeMo Retriever simplifiera le développement d'applications de génération augmentée de récupération (RAG), qui améliorent la précision de l'IA générative en récupérant des données pertinentes en temps réel.

Parmi eux, NVIDIA NeMo Retriever est un tout nouveau service de la série de frameworks et d'outils NVIDIA NeMo. NeMo est une famille de frameworks et d'outils permettant de créer, de personnaliser et de déployer des modèles d'IA génératifs. En tant que microservice de récupération sémantique, NeMo Retriever utilise des algorithmes optimisés par NVIDIA pour aider les applications d'IA générative à fournir des réponses plus précises. Les développeurs utilisant ce microservice peuvent connecter leurs applications d'IA aux données d'entreprise situées dans divers cloud et centres de données. Cette connexion améliore non seulement la précision des applications d'IA, mais permet également aux développeurs de traiter et d'utiliser les données de l'entreprise de manière plus flexible.

En résumé, les microservices tels que NIM et NeMo Retriever de NVIDIA offrent aux entreprises un moyen efficace d'intégrer étroitement les modèles d'IA aux données commerciales pour générer des résultats plus précis et plus utiles. Cela fournit aux entreprises des outils puissants pour promouvoir davantage l’application et le développement de l’IA dans divers domaines.

2. Des données au déploiement de l'IA générative, ce qui réduit considérablement les délais

La coopération entre NVIDIA et Cloudera ouvre une nouvelle porte aux entreprises, les amenant à utiliser plus efficacement les données massives pour créer des assistants collaboratifs personnalisés et améliorer la productivité. outils. Justin Boitano, vice-président des produits d'entreprise chez NVIDIA, a déclaré : « L'intégration des microservices NVIDIA NIM avec la plate-forme de données Cloudera offre aux développeurs un moyen plus flexible et plus simple de déployer de grands modèles de langage, favorisant ainsi la transformation des activités de l'entreprise. »

En simplifiant le passage des données au déploiement de l'IA générative, Cloudera et NVIDIA visent à accélérer l'adoption par les entreprises d'applications transformatrices telles que les assistants de codage, les chatbots, les outils de synthèse de documents et les outils de recherche sémantique. Cette collaboration s'appuie sur les efforts antérieurs des deux sociétés pour tirer parti de l'accélération GPU en intégrant NVIDIA RAPIDS dans CDP.

Patel a souligné les avantages commerciaux de la collaboration élargie, déclarant : « En plus de fournir aux clients de puissantes capacités et performances d'IA générative, les résultats de cette intégration permettront aux entreprises de prendre des décisions plus précises et plus rapides tout en permettant aux entreprises de prendre des décisions plus précises et plus rapides. réduire les inexactitudes, les illusions et les erreurs dans les prévisions : ce sont des facteurs essentiels pour naviguer dans l'environnement de données actuel.

Cloudera se tiendra à San Jose, en Californie, du 18 au 21 mars. NVIDIA GTC présentera ses nouvelles capacités d'IA générative. Alors que les grandes entreprises explorent le potentiel des modèles fondamentaux pour transformer leurs opérations, Cloudera et NVIDIA estiment que leur collaboration positionnera les clients à l'avant-garde de l'ère émergente de l'IA d'entreprise.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!