Maison  >  Article  >  Périphériques technologiques  >  Un nouveau paradigme de programmation, quand Spring Boot rencontre OpenAI

Un nouveau paradigme de programmation, quand Spring Boot rencontre OpenAI

WBOY
WBOYavant
2024-02-01 21:18:02890parcourir

En 2023, la technologie de l'IA est devenue un sujet brûlant et a eu un impact énorme sur diverses industries, notamment dans le domaine de la programmation. Les gens sont de plus en plus conscients de l’importance de la technologie de l’IA, et la communauté Spring ne fait pas exception.

Avec l'avancée continue de la technologie GenAI (Intelligence Artificielle Générale), il est devenu crucial et urgent de simplifier la création d'applications dotées de fonctions d'IA. Dans ce contexte, « Spring AI » a émergé, visant à simplifier le processus de développement d'applications fonctionnelles d'IA, en le rendant simple et intuitif et en évitant une complexité inutile. Grâce à « Spring AI », les développeurs peuvent plus facilement créer des applications dotées de fonctions d'IA, ce qui les rend plus faciles à utiliser et à exploiter. Cela contribue non seulement à améliorer l’efficacité du développement, mais accélère également la vulgarisation et l’application de la technologie de l’IA. En bref, « Spring AI » apporte de nouvelles possibilités au développement d'applications d'IA, en fournissant aux développeurs des outils et des frameworks plus simples et plus intuitifs.

Cet article présentera brièvement le framework Spring AI et quelques conseils d'ingénierie pour utiliser le framework. Les développeurs peuvent utiliser ces conseils pour mieux structurer les informations d'invite et utiliser pleinement les capacités de Spring AI.

1 Introduction à Spring AI

编程新范式,当Spring Boot遇上OpenAISpring AI créé et écrit par M K Pavan Kumar

Spring AI est un projet conçu pour simplifier le développement d'applications d'IA, inspiré des projets Python LangChain et LlamaIndex. Cependant, Spring AI n’est pas une simple copie. Son idée principale est d'ouvrir les applications d'IA générative aux utilisateurs de divers langages de programmation, et pas seulement aux passionnés du langage Python. Cela signifie que les développeurs peuvent créer des applications d'IA en utilisant un langage qu'ils connaissent bien sans avoir à apprendre le langage Python. Avec Spring AI, les développeurs peuvent exploiter plus facilement la puissance de l’IA pour résoudre divers problèmes, quel que soit le langage de programmation qu’ils utilisent. Cela facilitera le développement d’applications d’IA plus larges et offrira aux développeurs plus de flexibilité et de choix.

L'objectif principal de Spring AI est de fournir les éléments de base pour créer des applications basées sur l'IA. Ces éléments de base sont très flexibles et les composants peuvent être facilement échangés sans pratiquement aucune modification du code. Un exemple est que Spring AI introduit un composant appelé interface ChatClient, qui est compatible avec les technologies OpenAI et Azure OpenAI. Cela permet aux développeurs de basculer entre différents fournisseurs de services d'IA sans modifier le code, ce qui rend le développement et l'intégration plus pratiques.

À la base, Spring AI fournit des éléments de base fiables pour le développement d'applications basées sur l'intelligence artificielle. L'élasticité de ces modules permet un échange fluide des composants sans nécessiter de modifications importantes du codage. Un exemple est l'introduction par Spring AI de l'interface ChatClient, qui est compatible avec OpenAI et Azure OpenAI, permettant aux développeurs de communiquer facilement avec les deux plates-formes. Cette compatibilité permet aux développeurs de choisir la plateforme appropriée en fonction des besoins réels sans avoir à réécrire le code. Avec Spring AI, les développeurs peuvent créer plus efficacement des applications basées sur l'IA.

Spring AI va au-delà des éléments de base et se concentre sur la fourniture de solutions plus avancées. Par exemple, il peut prendre en charge des scénarios typiques tels que « questions et réponses sur ses propres documents » ou « chat interactif utilisant des documents ». À mesure que les besoins en applications augmentent, Spring AI prévoit de travailler en étroite collaboration avec d'autres composants de l'écosystème Spring, tels que Spring Integration, Spring Batch et Spring Data, pour répondre à des besoins commerciaux plus complexes.

2 Créez un projet Spring Boot et écrivez un exemple de contrôleur OpenAI

Générez d'abord un projet Spring Boot dans l'EDI et conservez le contenu suivant dans le fichier application.properties :

spring.ai.openai.api-key=<YOUR\_OPENAI\_API\_KEY>

Écrivez un contrôleur nommé OpenAIController.java ci-dessous :

package com.vas.springai.controller;import org.springframework.ai.client.AiClient;import org.springframework.web.bind.annotation.RequestMapping;import org.springframework.web.bind.annotation.RestController;@RestController@RequestMapping("/api/v1")public class OpenAIController {private final AiClient aiClient;public OpenAIController(AiClient aiClient) {this.aiClient = aiClient;}}

3 Utilisez la classe Prompt pour construire des informations d'invite

La classe d'invite est un détenteur structuré d'une séquence d'objets de message, et chaque message représente une partie de l'invite. Ces messages ont des rôles et des objectifs différents dans l'invite, et leur contenu varie. Comprend les questions des utilisateurs, les réponses générées par l'IA, les détails contextuels pertinents, et bien plus encore. Cette configuration facilite les interactions homme-machine complexes et sophistiquées puisque l'invite se compose de plusieurs messages avec des fonctions spécifiques.

@GetMapping("/completion")public String completion(@RequestParam(value = "message") String message){return this.aiClient.generate(message);}

Cependant, la méthode generate d'aiClient n'accepte pas seulement le texte brut comme paramètre, elle peut également accepter les objets de la classe Prompt comme paramètres, comme indiqué ci-dessous. Désormais, cette méthode renvoie une instance de type AiResponse, pas un simple texte.

@GetMapping("/completion")public AiResponse completion(@RequestParam(value = "message") String message){ PromptTemplate promptTemplate = new PromptTemplate("translate the given english sentence sentence into french {query}"); Prompt prompt = promptTemplate.create(Map.of("query", message)); return this.aiClient.generate(prompt);}

De plus, la classe Prompt fournit également un constructeur surchargé qui peut accepter une séquence d'instances de type Message avec différents rôles et intentions comme paramètres. Cela permet de mieux organiser et gérer les informations rapides et de faciliter leur traitement et leur utilisation ultérieurs. Vous trouverez ci-dessous un exemple de code qui montre comment utiliser ce constructeur surchargé pour tout fusionner.

package com.vas.springai.controller;import org.springframework.ai.client.AiClient;import org.springframework.ai.client.Generation;import org.springframework.ai.prompt.Prompt;import org.springframework.ai.prompt.PromptTemplate;import org.springframework.ai.prompt.SystemPromptTemplate;import org.springframework.ai.prompt.messages.Message;import org.springframework.web.bind.annotation.GetMapping;import org.springframework.web.bind.annotation.RequestMapping;import org.springframework.web.bind.annotation.RequestParam;import org.springframework.web.bind.annotation.RestController;import java.util.List;import java.util.Map;@RestController@RequestMapping("/api/v1")public class OpenAIController {private final AiClient aiClient;public OpenAIController(AiClient aiClient) {this.aiClient = aiClient;}@GetMapping("/completion")public List<Generation> completion(@RequestParam(value = "message") String message) {String systemPrompt = """You are a helpful AI assistant that helps people translate given text from english to french.Your name is TranslateProYou should reply to the user's request with your name and also in the style of a professional.""";SystemPromptTemplate systemPromptTemplate = new SystemPromptTemplate(systemPrompt);Message systemMessage = systemPromptTemplate.createMessage();PromptTemplate promptTemplate = new PromptTemplate("translate the given english sentence sentence into french {query}");Message userMessage = promptTemplate.createMessage(Map.of("query", message));Prompt prompt = new Prompt(List.of(systemMessage, userMessage));return this.aiClient.generate(prompt).getGenerations();}}

4 Applications de test

Les applications peuvent être testées à l'aide de tous les outils ouverts disponibles sur le marché, tels que postman, insomnia, Httpie et bien d'autres.

编程新范式,当Spring Boot遇上OpenAI Photos

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!

Déclaration:
Cet article est reproduit dans:. en cas de violation, veuillez contacter admin@php.cn Supprimer