Intégration de modèles d'IA sans effort : créer et évaluer des modèles d'IA (Spring Boot et Hugging Face)

La révolution de l'IA est là, et avec elle une liste toujours croissante de modèles puissants capables de générer du texte, de créer des visuels et de résoudre des problèmes complexes. Mais soyons réalistes : avec autant d’options, déterminer quel modèle convient le mieux à votre projet peut s’avérer une tâche ardue. Et s'il existait un moyen de tester rapidement ces modèles, de voir leurs résultats en action et de décider lequel intégrer dans votre système de production ?

Accédez à l'API d'inférence de Hugging Face : votre raccourci pour explorer et exploiter des modèles d'IA de pointe. Il élimine les tracas liés à la configuration, à l'hébergement ou à la formation des modèles en offrant une solution plug-and-play. Que vous réfléchissiez à une nouvelle fonctionnalité ou évaluiez les capacités d'un modèle, Hugging Face rend l'intégration de l'IA plus simple que jamais.

Dans ce blog, je vais vous guider dans la création d'une application backend légère à l'aide de Spring Boot qui vous permet de tester et d'évaluer des modèles d'IA sans effort. Voici ce à quoi vous pouvez vous attendre :

---

? Ce que vous apprendrez

• Accéder aux modèles IA : découvrez comment utiliser l'API d'inférence de Hugging Face pour explorer et tester des modèles.
• Créer un backend : créez une application Spring Boot pour interagir avec ces modèles.
• Modèles de test : configurez et testez les points de terminaison pour la génération de texte et d'images à l'aide d'exemples d'invites.

À la fin, vous disposerez d’un outil pratique pour tester différents modèles d’IA et prendre des décisions éclairées quant à leur adéquation aux besoins de votre projet. Si vous êtes prêt à combler le fossé entre la curiosité et la mise en œuvre, commençons !

---

?️ Pourquoi l'API d'inférence de visage Hugging ?

Voici pourquoi Hugging Face change la donne pour l’intégration de l’IA :

• Facilité d'utilisation : pas besoin de former ou de déployer des modèles : il suffit d'appeler l'API.
• Variété : accédez à plus de 150 000 modèles pour des tâches telles que la génération de texte, la création d'images, etc.
• Évolutivité : parfait pour le prototypage et l'utilisation en production.

---

? Ce que vous construirez

Nous allons créer QuickAI, une application Spring Boot qui :

1. Génère du texte : créez du contenu créatif basé sur une invite.
2. Génère des images : transformez les descriptions textuelles en visuels.
3. Fournit une documentation sur l'API : utilisez Swagger pour tester et interagir avec l'API.

---

? Commencer

Étape 1 : Inscrivez-vous à Hugging Face

Rendez-vous sur huggingface.co et créez un compte si vous n'en avez pas déjà un.

Étape 2 : Obtenez votre clé API

Accédez aux paramètres de votre compte et générez une clé API. Cette clé permettra à votre application Spring Boot d'interagir avec l'API d'inférence de Hugging Face.

Étape 3 : Explorer les modèles

Consultez le Hub de modèles Hugging Face pour trouver des modèles adaptés à vos besoins. Pour ce tutoriel, nous utiliserons :

• Un modèle de génération de texte (par exemple, HuggingFaceH4/zephyr-7b-beta).
• Un modèle de génération d'images (par exemple, stabilitéai/stable-diffusion-xl-base-1.0).

---

?️ Configuration du projet Spring Boot

Étape 1 : Créer un nouveau projet Spring Boot

Utilisez Spring Initializr pour configurer votre projet avec les dépendances suivantes :

• Spring WebFlux : pour les appels API réactifs et non bloquants.
• Lombok : Pour réduire le code passe-partout.
• Swagger : pour la documentation de l'API.

Étape 2 : Ajouter une configuration de visage câlin

Ajoutez votre clé API Hugging Face et vos URL de modèle au fichier application.properties :

huggingface.text.api.url=https://api-inference.huggingface.co/models/your-text-model
huggingface.api.key=your-api-key-here
huggingface.image.api.url=https://api-inference.huggingface.co/models/your-image-model

? Quelle est la prochaine étape ?

Plongeons dans le code et construisons les services de génération de texte et d'images. Restez à l'écoute !

1. Service de génération de texte :

@Service
public class LLMService {
    private final WebClient webClient;
    private static final Logger logger = LoggerFactory.getLogger(LLMService.class);

    // Constructor to initialize WebClient with Hugging Face API URL and API key
    public LLMService(@Value("${huggingface.text.api.url}") String apiUrl,
                      @Value("${huggingface.api.key}") String apiKey) {
        this.webClient = WebClient.builder()
                .baseUrl(apiUrl) // Set the base URL for the API
                .defaultHeader("Authorization", "Bearer " + apiKey) // Add API key to the header
                .build();
    }

    // Method to generate text using Hugging Face's Inference API
    public Mono<String> generateText(String prompt) {
        // Validate the input prompt
        if (prompt == null || prompt.trim().isEmpty()) {
            return Mono.error(new IllegalArgumentException("Prompt must not be null or empty"));
        }

        // Create the request body with the prompt
        Map<String, String> body = Collections.singletonMap("inputs", prompt);

        // Make a POST request to the Hugging Face API
        return webClient.post()
                .bodyValue(body) 
                .retrieve() 
                .bodyToMono(String.class) 
                .doOnSuccess(response -> logger.info("Response received: {}", response)) // Log successful responses
                .doOnError(error -> logger.error("Error during API call", error)) // Log errors
                .retryWhen(Retry.backoff(3, Duration.ofMillis(500))) // Retry on failure with exponential backoff
                .timeout(Duration.ofSeconds(5)) // Set a timeout for the API call
                .onErrorResume(error -> Mono.just("Fallback response due to error: " + error.getMessage())); // Provide a fallback response on error
    }
}

2. Service de génération d'images :

@Service
public class ImageGenerationService {

    private static final Logger logger = LoggerFactory.getLogger(ImageGenerationService.class);
    private final WebClient webClient;

    public ImageGenerationService(@Value("${huggingface.image.api.url}") String apiUrl,
                                  @Value("${huggingface.api.key}") String apiKey) {
        this.webClient = WebClient.builder()
                .baseUrl(apiUrl)
                .defaultHeader("Authorization", "Bearer " + apiKey)
                .build();
    }

    public Mono<byte[]> generateImage(String prompt) {
        if (prompt == null || prompt.trim().isEmpty()) {
            return Mono.error(new IllegalArgumentException("Prompt must not be null or empty"));
        }

        Map<String, String> body = Collections.singletonMap("inputs", prompt);

        return webClient.post()
                .bodyValue(body)
                .retrieve()
                .bodyToMono(byte[].class) / Convert the response to a Mono<byte[]> (image bytes)
                .timeout(Duration.ofSeconds(10)) // Timeout after 10 seconds
                .retryWhen(Retry.backoff(3, Duration.ofMillis(500))) // Retry logic
                .doOnSuccess(response -> logger.info("Image generated successfully for prompt: {}", prompt))
                .doOnError(error -> logger.error("Error generating image for prompt: {}", prompt, error))
                .onErrorResume(WebClientResponseException.class, ex -> {
                    logger.error("HTTP error during image generation: {}", ex.getMessage(), ex);
                    return Mono.error(new RuntimeException("Error generating image: " + ex.getMessage()));
                })
                .onErrorResume(TimeoutException.class, ex -> {
                    logger.error("Timeout while generating image for prompt: {}", prompt);
                    return Mono.error(new RuntimeException("Request timed out"));
                });
    }
}

Exemples d'invites et leurs résultats : ?

1. Point de terminaison basé sur du texte :

2. Point de terminaison basé sur une image :

? Explorez le projet

Prêt à plonger ? Consultez le référentiel QuickAI GitHub pour voir le code complet et suivez-le. Si vous le trouvez utile, donnez-lui un ⭐.

Bonus ?

Envie d'aller plus loin dans ce projet ?

• J'ai configuré l'interface utilisateur Swagger pour la documentation de l'API qui vous aidera à créer une application frontale.
• Créez une application frontend simple en utilisant votre framework frontend préféré (comme React, Angular ou tout simplement HTML/CSS/Vanilla JS).

? Félicitations, vous êtes arrivé jusqu'ici.

Vous savez maintenant comment utiliser Hugging Face ? :

1. Pour utiliser rapidement des modèles d'IA dans vos applications.
2. Générer du texte : créez du contenu créatif à partir d'invites.
3. Générer des images : transformez les descriptions textuelles en visuels.

? Connectons-nous !

Vous souhaitez collaborer ou avoir des suggestions, retrouvez-moi sur LinkedIn, Portfolio examine également mes autres projets ici GitHub.

Vous avez une question ou une suggestion, n'hésitez pas à commenter ci-dessous, je me ferai un plaisir d'y répondre.

Bon codage ! ?

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!