J'exécute un chatbot GPT personnalisé sous Windows : voici pourquoi et comment le faire

Il y a de nombreux avantages à exécuter un chatbot GPT/AI sur votre propre ordinateur plutôt que d'y accéder sur Internet. Nous vous montrerons pourquoi vous pourriez le vouloir et le moyen le plus simple de le configurer sous Windows.

Pourquoi voudriez-vous votre propre chatbot IA local ?

Bien que les chatbots IA en ligne comme ChatGPT soient dominants, avec accès à d'énormes quantités de données de formation et d'informations à jour, il existe plusieurs raisons pour lesquelles vous souhaiterez peut-être exécuter votre propre chatbot local sur votre ordinateur Windows.

L'exécution locale de vos propres outils d'IA est gratuite et sans les restrictions des outils en ligne : il n'y a pas de censure et vous pouvez charger n'importe quel modèle d'apprentissage automatique, adapter leurs réponses et leur comportement, et fournir n'importe quelle invite, le tout sans restriction (et en toute intimité). C'est également un bon moyen de comprendre comment les outils d'IA modernes de grands modèles de langage (LLM) fonctionnent sous le capot, surtout si vous cherchez à vous lancer dans l'industrie de l'IA ou de la technologie.

Vous pouvez trouver des modèles pour à peu près tout, des interactions entre personnages fictifs à la programmation, en passant par les connaissances générales et bien d'autres cas d'utilisation que les modèles en ligne plus généraux peuvent ne pas couvrir.

Comment héberger votre propre chatbot GPT local sur Windows

Ce didacticiel utilisera text-Generation-web-ui-docker, une interface open source pour les grands modèles de langage, qui simplifie l'installation et l'utilisation des LLM.

text-Generation-web-ui-docker regroupe le projet Text-Generation-Web-UI utilisant Docker, ce qui supprime le besoin d'installer et de gérer toutes les dépendances complexes dont les outils d'IA locaux ont généralement besoin en stockant tout dans un conteneur séparé de votre système. La seule chose dont vous avez besoin pour exécuter votre chatbot local est un PC Windows prenant en charge Docker exécuté à l'aide du sous-système Windows pour Linux (WSL). Il vous faudra également un GPU assez récent, idéalement de chez NVIDIA, pour une compatibilité maximale.

Étape 1 : Installez Docker et l'application Windows Terminal

Les conteneurs Docker sont similaires aux machines virtuelles dans le sens où ils contiennent un système en cours d'exécution complet, mais ils sont beaucoup plus légers et parfaits pour distribuer des applications et toutes leurs exigences en un seul , ensemble facile à installer. Pour exécuter Text-Generation-Web-UI-Docker dans Docker, téléchargez et installez Docker sur votre système Windows.

Docker peut fonctionner sous Windows de deux manières : en mode WSL ou Hyper-V. WSL est recommandé pour la plupart des utilisateurs, vous devrez donc peut-être l'activer avant d'installer Docker.

Il est également recommandé d'installer l'application Windows Terminal, car elle fournit une interface pratique pour WSL, PowerShell et la ligne de commande Windows.

Étape 2 : Téléchargez le référentiel GitHub de l'interface utilisateur Web de génération de texte

Pour télécharger text-Generation-web-ui-docker, visitez sa page GitHub. Vous pouvez télécharger un fichier « .zip » contenant tous les fichiers dont vous avez besoin en cliquant sur le bouton vert « Code » puis en cliquant sur « Télécharger Zip » dans le menu déroulant.

La capture d'écran ci-dessous vous montre où trouver ceci sur la page GitHub.

Brad Morton / How-To Geek

Extrayez le fichier ZIP téléchargé dans son propre dossier, puis ouvrez le dossier contenant les fichiers décompressés. Ne vous inquiétez pas trop du contenu de ce dossier : ce sont toutes les pièces mobiles de votre chatbot IA, mais Docker se chargera de tout configurer pour vous.

Étape 3 : Lancer l'interface utilisateur Web de génération de texte

Avant de lancer text-Generation-web-ui-docker, vous devez vous assurer qu'il est configuré pour le matériel de votre PC. Modifiez le fichier docker-compose.yml pour spécifier la variante qui correspond à votre matériel : default-nvidia ou default-cpu (si vous n'avez pas de GPU compatible).

Brad Morton / How-To Geek

Ensuite, toujours dans le dossier contenant les fichiers téléchargés et extraits, faites un clic droit sur un espace vide et cliquez sur "Ouvrir dans Terminal" pour ouvrir le répertoire dans une nouvelle fenêtre PowerShell.

Brad Morton / How-To Geek

Assurez-vous que Docker Desktop est en cours d'exécution avant de taper la commande Docker suivante dans la fenêtre Terminal :

docker compose up -d

Cette commande fera ce qui suit :

• Exécute Docker Compose, le programme qui gère les applications Docker
• Démarrez le conteneur à l'aide de la commande up
• Exécute le conteneur en arrière-plan (appelé mode détaché, qui est spécifié par le -d) Brad Morton / How-To Geek

  Si vous n'avez jamais exécuté cette commande auparavant et que l'application doit être téléchargée (extraite), vous devrez peut-être aller préparer une tasse de thé, car cela peut prendre un certain temps. Une fois l'exécution de la commande terminée avec succès, vous verrez que le conteneur Docker de génération de texte-web-ui-docker a été créé et démarré.

  Brad Morton / How-To Geek

  Le conteneur en cours d'exécution apparaîtra également dans Docker Desktop, où vous pourrez l'arrêter, le démarrer et le gérer.

  Brad Morton / How-To Geek

  Étape 4 : Installer le modèle GPT-2 depuis OpenAI

  Une fois que text-generation-web-ui-docker est opérationnel dans Docker, vous pouvez y accéder en tapant l'adresse http : //localhost:7860 dans la barre d'adresse de votre navigateur. Localhost est l'adresse que votre ordinateur utilise pour accéder aux services qu'il exécute lui-même, chacun d'entre eux se voyant attribuer un numéro de port unique (dans ce cas, 7860). Vous pouvez voir quels ports un conteneur Docker en cours d'exécution a rendus disponibles sur localhost en l'ouvrant dans le bureau Docker.

  Il s'agit d'une version plus ancienne de GPT que celle que vous obtenez lorsque vous utilisez ChatGPT sur Internet. Par conséquent, il ne sera pas aussi intelligent ou intuitif que ce à quoi on pourrait s'attendre, mais il est personnalisable et privé.

  Accédez à l'onglet Modèle dans l'interface Web et entrez openai-community/gpt2 dans la case "Télécharger le modèle ou LoRA", puis cliquez sur le bouton Télécharger. Ceci pourrait prendre quelques minutes.

  Brad Morton / How-To Geek

  Cliquez sur l'icône Actualiser en haut à gauche, puis sélectionnez le openai-community/gpt2 nouvellement téléchargé dans le menu déroulant Modèle adjacent. Enfin, cliquez sur le bouton « Charger » et attendez quelques minutes jusqu'à ce que vous voyiez un message de réussite.

  Brad Morton / How-To Geek

  Ce modèle fonctionne immédiatement et ne nécessite aucune inscription. À mesure que vous vous lancez dans l'IA et que vous souhaitez expérimenter différents modèles et outils d'IA, vous pouvez en trouver plus sur HuggingFace.

  Étape 5 : Commencez à utiliser votre chatbot IA GPT personnalisé

  Cela ne ressemble pas tout à fait aux chatbots IA que vous avez l'habitude d'utiliser en ligne, qui sont déjà configurés pour un usage général et couvrent de nombreuses situations. Vous devrez indiquer au modèle comment se comporter avant d'interagir avec lui, sinon sa sortie sera un peu... déséquilibrée.

  Brad Morton / How-To Geek

  Hoo boy, même s'il a la bonne réponse, ce chatbot IA a besoin d'un peu de réglage.

  Il y a beaucoup de choses que vous pouvez modifier, et cela peut être un peu maladroit au niveau d'abord, mais avec de la pratique et de l'expérience, vous pouvez créer un chatbot spécifique à votre propre utilisation et qui conserve vos données à 100 % sur votre propre ordinateur, ce qui est idéal pour les affaires et d'autres cas d'utilisation confidentiels. Pour savoir comment configurer et former votre chatbot GPT local, consultez la documentation de génération de texte-web-ui et la documentation OpenAI GP2 sur HuggingFace.

  Si vous souhaitez générer des images à l'aide de l'IA depuis votre PC Windows, vous pouvez utiliser Fooocus pour obtenir des résultats plus faciles et plus immédiats.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!