Rumah  >  Artikel  >  pembangunan bahagian belakang  >  Penghala Semantik - Pandu LLM

Penghala Semantik - Pandu LLM

PHPz
PHPzasal
2024-07-17 09:41:49862semak imbas

Semantic Router - Steer LLMs

Saya ingin berkongsi projek yang telah saya usahakan dipanggil SemRoute, dan saya ingin mendapatkan maklum balas anda. SemRoute ialah penghala semantik yang menggunakan benam vektor untuk menghalakan pertanyaan berdasarkan makna semantiknya. Ia direka bentuk agar fleksibel dan mudah digunakan, tanpa memerlukan pengelas latihan atau menggunakan model bahasa yang besar.

Berikut ialah gambaran ringkas:

  • Menyokong berbilang model benam (OpenAI, MistralAI)
  • Sokong model benam tersuai
  • Menawarkan ambang dinamik dan statik
  • Membenarkan kaedah pemarkahan yang berbeza (purata individu, centroid)

Anda boleh menyemaknya di GitHub: https://github.com/HansalShah007/semroute. Saya amat menghargai sebarang maklum balas atau cadangan daripada komuniti ini tentang cara untuk memperbaikinya atau menggunakan kes yang anda fikir ia mungkin sesuai.
Terima kasih!

Atas ialah kandungan terperinci Penghala Semantik - Pandu LLM. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!

Kenyataan:
Kandungan artikel ini disumbangkan secara sukarela oleh netizen, dan hak cipta adalah milik pengarang asal. Laman web ini tidak memikul tanggungjawab undang-undang yang sepadan. Jika anda menemui sebarang kandungan yang disyaki plagiarisme atau pelanggaran, sila hubungi admin@php.cn
Artikel sebelumnya:Gelung Python 1Artikel seterusnya:Gelung Python 1