So bereitstellen Sie einfach eine lokale generative Suchmaschine mit Verifai bereit

Dieser Artikel beschreibt eine bedeutende Aktualisierung des Verifai-Projekts, eine Open-Source-Generative Suchmaschine. Zuvor auf biomedizinische Daten (verifai biomed, zugänglich unter https://www.php.cn/link/ae8e20f2c7Accb995afbe0f507856c17 ) bietet Verifai nun eine Kernfunktionalität an (Verifai -Core). Engine aus lokalen Dateien. Dies ermöglicht Einzelpersonen, Organisationen und Unternehmen, benutzerdefinierte Suchlösungen zu erstellen.

Schlüsselmerkmale und Architektur:

Die Architektur von

Verifai Core umfasst drei Hauptkomponenten:

1. Indexierung: verwendet OpenSearch für die lexikalische Indexierung und das QDRant für die semantische Indexierung (unter Verwendung von Umarmungs -Face -Einbettungsmodellen). Dieser doppelte Ansatz gewährleistet eine umfassende Darstellung der Dokumente. Das Indexierungsskript unterstützt verschiedene Dateitypen (PDF, Wort, PowerPoint, Text, Markdown).

2. retrieval-aus-generierte Generation (RAG): kombiniert Ergebnisse aus der lexikalischen Suche von OpenSearch und der semantischen Suche von QDrant (unter Verwendung von DOT-Produktähnlichkeit). Die zusammengeführten Ergebnisse informieren eine Aufforderung für das ausgewählte Großsprachmodell (LLM). Die Standard-LLM ist eine lokal bereitgestellte, fein abgestimmte Version von Mistral, aber Benutzer können andere angeben (OpenAI-API, Azure API usw. über VllM, Ollama oder Nvidia Nims).

3. Überprüfungsmotor: Eine entscheidende Komponente, die die generierte Antwort gegen die Quelldokumente überprüft und Halluzinationen minimieren.

Setup und Installation:

1. klonen Sie das Repository: git clone https://github.com/nikolamilosevic86/verifAI.git

2. Erstellen Sie eine Python -Umgebung: python -m venv verifai; source verifai/bin/activate

3. Abhängigkeiten installieren: pip install -r verifAI/backend/requirements.txt

4. Konfigurieren Sie Verifai: Konfigurieren Sie die .env -Datei (basierend auf .env.local.example) Datenbank -Anmeldeinformationen (Postgresql), OpenSearch, QDrant, LLM -Details (Pfad, API -Schlüssel, Bereitstellungsname), Einbettungsmodell und Indexnamen.

5. Datenspeicher installieren: python install_datastores.py (erfordert Docker).

6. Indexdateien: python index_files.py <path-to-directory-with-files></path-to-directory-with-files> (z. B. python index_files.py test_data).

7. Führen Sie das Backend aus: python main.py

8. Führen Sie den Frontend aus: Navigieren Sie zu client-gui/verifai-ui, run npm install, dann npm start.

Beitrag und zukünftige Entwicklung:

Verifai ist ein Open-Source-Projekt, das Beiträge begrüßt. Das Projekt wurde ursprünglich vom Internet Search Project (Europäische Union) der nächsten Generation finanziert und in Zusammenarbeit mit dem Institute for Artificial Intelligence Research und Entwicklung von Serbien und Bayer A.G. weiterentwickelt, wobei der Schwerpunkt auf der Erweiterung seiner Fähigkeiten und der Benutzerfreundlichkeit liegt. Beiträge werden über Pull -Anfragen, Fehlerberichte und Feature -Anfragen gefördert. Besuchen Sie

https://www.php.cn/link/d16c19f1f2ab8361fda1f625ce3ff26a Für weitere Informationen.

Das obige ist der detaillierte Inhalt vonSo bereitstellen Sie einfach eine lokale generative Suchmaschine mit Verifai bereit. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!