Maison >développement back-end >Tutoriel Python >Routeur sémantique – Piloter les LLM

Routeur sémantique – Piloter les LLM

PHPz
PHPzoriginal
2024-07-17 09:41:49888parcourir

Semantic Router - Steer LLMs

Je voulais partager un projet sur lequel je travaille appelé SemRoute, et j'aimerais avoir vos commentaires. SemRoute est un routeur sémantique qui utilise des intégrations vectorielles pour acheminer les requêtes en fonction de leur signification sémantique. Il est conçu pour être flexible et facile à utiliser, sans avoir besoin de classificateurs de formation ni d'utilisation de grands modèles de langage.

Voici un bref aperçu :

  • Prend en charge plusieurs modèles d'intégration (OpenAI, MistralAI)
  • Prend en charge les modèles d'intégration personnalisés
  • Offre un seuillage dynamique et statique
  • Permet différentes méthodes de notation (moyenne individuelle, centroïde)

Vous pouvez le consulter sur GitHub : https://github.com/HansalShah007/semroute. J'apprécierais vraiment tous les commentaires ou suggestions de cette communauté sur la façon de l'améliorer ou les cas d'utilisation pour lesquels vous pensez qu'elle pourrait être adaptée.
Merci !

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!

Déclaration:
Le contenu de cet article est volontairement contribué par les internautes et les droits d'auteur appartiennent à l'auteur original. Ce site n'assume aucune responsabilité légale correspondante. Si vous trouvez un contenu suspecté de plagiat ou de contrefaçon, veuillez contacter admin@php.cn
Article précédent:Boucles Python 1Article suivant:Boucles Python 1