KI-Formularvalidierung

Hat KI einen Platz in der Formularvalidierung? Ich bin davon überzeugt und in diesem Beitrag zeige ich Ihnen, wo es angewendet werden kann, warum es Sinn macht und wie man es aufbaut.

Hintergrund

Dea ist mein neues Startup, das Bauherren dabei hilft, ihre nächste große Produktidee zu verfolgen, zu planen und umzusetzen. Ein wichtiger Schritt auf der Plattform ist die Möglichkeit, Ideen zu erfassen. Dafür haben wir ein schnelles, aber strukturiertes Formular, das das Was, Wer und Ergebnis des Produkts erfasst.

Jede Eingabe verfügt über eine Standardvalidierung, die von Zod und Superforms unterstützt wird. Wir möchten jedoch sicherstellen, dass der ursprüngliche Entwurf kohärent, rechtmäßig und sicher ist. Hier kann uns KI helfen.

Durchführung

Wir haben eine einfache Validierungsfunktion mit dem AI SDK von Vercel erstellt.

async function isValidIdea(draft: string) {
    const { object } = await generateObject({
        model: openai('gpt-4o-mini'),
        system: `You are responsible for checking if an idea is coherent, legal and safe.
            Please reject any ideas that contain spam or harmful content. 
            If you are unsure then allow the idea.`,
        prompt: draft,
        temperature: 0,
        schema: z.object({
            isValid: z.boolean()
        })
    });

    return object.isValid;
}

Mithilfe von genericObject können wir eine typsichere und strukturierte Ausgabe vom LLM erhalten. Lassen Sie uns die drei Teile der Eingabeaufforderung aufschlüsseln:

• Sie sind dafür verantwortlich, zu prüfen, ob eine Idee kohärent, legal und sicher ist. - Der Überblick über die Rolle des Models.
• Bitte lehnen Sie alle Ideen ab, die Spam oder schädliche Inhalte enthalten. - Die Anweisung, die Idee entweder zu genehmigen oder abzulehnen.
• Wenn Sie sich nicht sicher sind, lassen Sie die Idee zu. – Eine Bedingung für die Genehmigung, wenn das Modell unsicher ist. Ohne dies wüsste es nicht, was es tun soll, wenn es unsicher ist.

Dann rufen wir innerhalb unserer Formularaktion diese Funktion innerhalb eines Try/Catch-Blocks auf, da Netzwerkanfragen aus einer Reihe von Gründen fehlschlagen können. In unserem Fall lassen wir die Validierung trotzdem bestehen, wenn OpenAI fehlschlägt.

const form = await superValidate(request, zod(ideaSchemaV1));

if (!form.valid) {
    return fail(400, { form, error: null });
}

const draft = ideaToDraft(form.data);

try {
    const isValid = await isValidIdea(draft);

    if (!isValid) {
        return fail(400, { form, error: 'Please check your answers' });
    }
} catch (e) {
    console.error(e);
    // don't prevent submission if the ai validation fails
}

Wann sollte ich KI verwenden?

Wenn Sie Ihre Eingaben sicher ohne KI validieren können, sollten Sie natürlich keine KI verwenden. Sich auf ein LLM zu verlassen, ist anfällig für Unsicherheit und führt zu Latenz.

Es gibt jedoch gültige Anwendungsfälle, wenn die Eingabe unstrukturiert ist oder Sie eine tiefergehende Analyse der Eingaben benötigen. Eine gute Faustregel ist, KI auszuprobieren, wenn Sie sonst einen menschlichen/manuellen Genehmigungsschritt hätten.

Best Practices

Verwenden Sie ein schnelles Modell, 4o-mini anstelle von o1, um eine schnelle Reaktion und die beste UX für den Endbenutzer zu gewährleisten. Geben Sie dem Benutzer in diesem Sinne auch einen Hinweis darauf, dass das Formular validiert wird.

Wenn dies nicht zu 100 % erforderlich ist, ist es unserer Meinung nach besser, eine nicht blockierende KI-Validierung zu verwenden. In unserem Beispiel lassen wir die Validierung bestehen, wenn der LLM-Aufruf fehlschlägt. Sie können den Benutzer auch dazu anhalten, seine Antworten zu überprüfen, ihm aber dennoch erlauben, zu bestätigen, dass sie richtig sind und fortfahren möchten.

Abschließend sollten Sie dies nicht für Dinge verwenden, in denen LLMs bekanntermaßen schlecht sind, wie zum Beispiel die Einheitenumrechnung. Dies könnte mit Funktionsaufrufen möglich sein, aber achten Sie auf die Latenz.

Abschluss

Ich hoffe, dies hat Ihnen einige Ideen gegeben, wie Sie die KI-Validierung auf Ihre eigenen Formulare und Datenerfassung anwenden können. Wenn Sie bereits etwas Ähnliches tun, würden wir gerne hören, was Sie daraus gelernt haben.

Das obige ist der detaillierte Inhalt vonKI-Formularvalidierung. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!