Erstellen von KI-basierten Zusammenfassungen in einer Django-Website

Das Zusammenfassen langer Texte kann mühsam sein, insbesondere auf Plattformen wie PyBazaar, wo prägnante Zusammenfassungen die Benutzererfahrung verbessern. In diesem Beitrag erzähle ich, wie ich Simplemind und Gemini verwendet habe, um diesen Prozess in meinem Django-basierten Projekt zu automatisieren.

Hintergrundinformationen

Kürzlich habe ich PyBazaar.com gestartet, eine Website für Python-Entwickler, auf der sie ihre Fähigkeiten zeigen, Stellenangebote finden und Entwicklungsressourcen veröffentlichen und finden können. Sein Zweck besteht darin, einen zentralen Ort zu schaffen, an dem Python-Entwickler ihre Dienste, Produkte oder Projekte vermarkten können.

PyBazaar zeigt ausführliche Beschreibungen von Karrieremöglichkeiten und Ressourcen in den Detailansichten und kurze Zusammenfassungen in den Listenansichten. Zusammenfassungen helfen Benutzern, den Inhalt von Ressourcen und Karrieremöglichkeiten schnell zu erfassen, ohne jede Detailansicht öffnen zu müssen, und verbessern so das allgemeine Surferlebnis auf PyBazaar. Um die Bearbeitung reibungsloser zu gestalten, habe ich eine automatische Zusammenfassung auf Basis von KI eingeführt.

Wählen Sie Simplemind für die Kommunikation mit LLMs

Kenneth Reitz, der Autor des berühmten Pakets requests, hat kürzlich seine neueste Kreation – Simplemind – veröffentlicht, die die Entwicklererfahrung mit den APIs großer Sprachmodelle (LLMs) verbessert. Ich dachte, es wäre eine gute Gelegenheit, zu versuchen, sein Paket in PyBazaar zu integrieren.

Während ich Google Gemini für die kostenlose Stufe ausgewählt habe, bedeutet die Unterstützung von Simplemind für Anbieter wie OpenAI oder Claude, dass Entwickler bei Bedarf für erweiterte Funktionen oder präzisere Ergebnisse skalieren können.

API-Schlüssel einrichten

Zuerst musste ich mir einen API-Schlüssel bei Google AI Studio besorgen.

Django-Integration

Dann habe ich Simplemind:
installiert

(venv)$ pip install 'simplemind[full]'

Während ich jedoch darauf wartete, dass eine der Abhängigkeiten (grpcio) auf meinem Mac kompiliert wurde, hatte ich Zeit für einen Energy-Drink und genug Zeit, durch die Hälfte meines Social-Media-Feeds zu scrollen.

Simplemind erwartet, dass die LLM-API-Schlüssel in den Umgebungsvariablen definiert werden. In meinen Django-Projekten speichere ich die Geheimnisse in JSON-Dateien, die Git ignoriert, und lese diese Werte mit einer von mir geschriebenen Dienstprogrammfunktion get_secret().

Also habe ich diese Zeilen in den Django-Einstellungen hinzugefügt:

import os
os.environ["GEMINI_API_KEY"] = get_secret("GEMINI_API_KEY")
DEFAULT_LLM_PROVIDER = "gemini"

Ich habe eine unkomplizierte Ansicht erstellt, die gepostete HTML-Inhalte aufnimmt, LLM auffordert, diese zusammenzufassen, und die Zusammenfassung an den Benutzer zurückgibt:

import json
import simplemind
from django.contrib.auth.decorators import login_required
from django.conf import settings
from django.http import JsonResponse
from django.utils.html import strip_tags


@login_required
def summarize(request):
    summary = ""
    try:
        if (
            request.method == "POST"
            and (data := json.loads(request.body))
            and (content := data.get("content"))
            and (text := strip_tags(content).strip())
        ):
            summary = simplemind.generate_text(
                prompt=f"Condense the following information in 2 sentences:\n\n{text}",
                llm_provider=settings.DEFAULT_LLM_PROVIDER,
            ).strip()
    except json.JSONDecodeError:
        pass
    data = {"summary": summary}
    return JsonResponse(data)

Wie Sie sehen, ist Simplemind genauso elegant wie die Anfragen-App. Ich könnte problemlos zu OpenAI oder Claude wechseln, wenn ich erweiterte Ergebnisse oder intelligentere Abfragen benötige.

Ich habe „strip_tags()“ verwendet, um die Tokenanzahl zu reduzieren, und „strip()“, um führende und nachfolgende Leerzeichen zu entfernen.

Um die Leistung der Ansicht zu verbessern, könnte ich auch ASGI oder eine Hintergrundaufgabe verwenden, aber das sollte man berücksichtigen, wenn es mehr Benutzer bei PyBazaar gibt.

Die Zusammenfassungsschaltfläche hatte ihre eigene Vorlage, die ich in mein Django Crispy Forms-Layout mit layout.HTML("""{% include "summarizer/includes/summarize_button.html" %}"""):
eingebunden habe

(venv)$ pip install 'simplemind[full]'

Wenn ein Benutzer auf die Schaltfläche „Durch KI zusammenfassen“ klickt, deaktiviert das Javascript die Schaltfläche vorübergehend, ändert seinen Text in „Zusammenfassen …“, liest den HTML-Wert aus dem QuillJS-Feld und veröffentlicht ihn als {"content ": "..."} zur Zusammenfassungsansicht. Nachdem die Zusammenfassung als {"summary": "..."} empfangen wurde, füllt das Javascript den Zusammenfassungstextbereich aus und macht die Schaltfläche wieder anklickbar.

Abschluss

Simplemind erleichtert die Arbeit mit LLMs durch intelligente Standardeinstellungen, sodass Entwickler keine komplizierten Einstellungen wie Temperatur oder max_tokens anpassen müssen.

Gemini LLM kann kostenlos genutzt werden, und das scheint für einfache Funktionen wie diese bei einer moderaten Anzahl aktiver Benutzer ausreichend zu sein.

Ich habe diese Zusammenfassungsfunktion bei PyBazaar in nur einem halben Tag implementiert und konnte diese Integration problemlos anpassen, um Meta-Beschreibungen, E-Mail-Entwürfe oder personalisierte Empfehlungen zu generieren.

Wenn Sie ein Python-Entwickler sind, der Ihre Fähigkeiten unter Beweis stellen, Ressourcen teilen oder Möglichkeiten finden möchte, besuchen Sie noch heute PyBazaar.com!

---

Titelfoto von Caio

Das obige ist der detaillierte Inhalt vonErstellen von KI-basierten Zusammenfassungen in einer Django-Website. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!