OpenAI evaluiert die Möglichkeiten der Inhaltsmoderation, um die Effizienz zu steigern und menschliche Eingriffe zu reduzieren

Das Startup für künstliche Intelligenz OpenAI gab bekannt, dass es die Inhaltsmoderationsfunktion von GPT-4 testet, sodass jeder mit OpenAI-API-Zugriff diese Funktion nutzen kann, um sein eigenes, durch künstliche Intelligenz unterstütztes Moderationssystem zu erstellen

Diese Seite Von Auf der offiziellen OpenAI-Website haben wir erfahren, dass GPT-4 verwendet werden kann, um geeignete Inhaltsrichtlinien zu entwickeln und schneller Labels hinzuzufügen oder Kommentare zu Beiträgen abzugeben. Das Unternehmen hat die Technologie getestet und auch Kunden zum Experimentieren eingeladen. Mit diesem System wird der Prozess der Entwicklung und Ausarbeitung einer Content-Strategie von Monaten auf Stunden verkürzt.

OpenAI sagt, dass diese Funktion einen positiveren Ausblick für die Zukunft digitaler Plattformen bietet und den psychologischen Druck auf eine große Anzahl menschlicher Moderatoren verringert, indem sie dazu beiträgt, den Online-Verkehr gemäß plattformspezifischen Richtlinien zu regulieren

▲ KI-Moderation ( LLM) und Junior-Rezensenten (Pool B) sind gleichermaßen effizient

Die OpenAI-Rezension hat im Vergleich zur herkömmlichen Rezension die folgenden Vorteile:

• Bezeichnungen sind konsistenter. Inhaltsrichtlinien entwickeln sich ständig weiter und sind oft sehr detailliert. Die Leute interpretieren die Richtlinie möglicherweise unterschiedlich, oder einige Moderatoren brauchen möglicherweise länger, um neue Richtlinienänderungen zu verarbeiten, was zu inkonsistenten Bezeichnungen führt. Im Gegensatz dazu reagiert LLM sensibel auf subtile Unterschiede in der Formulierung und kann sich sofort an Richtlinienaktualisierungen anpassen, um Benutzern ein konsistentes Inhaltserlebnis zu bieten.
• Schnellere Feedbackschleife. Der Zyklus der Richtlinienaktualisierungen – die Entwicklung neuer Richtlinien, deren Kennzeichnung und das Einholen von menschlichem Feedback – ist oft ein langer, langwieriger Prozess. GPT-4 kann diesen Prozess auf wenige Stunden verkürzen und so eine schnellere Reaktion auf neue Gefahren ermöglichen.
• Psychische Belastung reduzieren. Kontinuierlicher Kontakt mit schädlichen oder anstößigen Inhalten kann bei Moderatoren zu emotionaler Erschöpfung und psychischem Stress führen. Die Automatisierung solcher Aufgaben kommt dem Wohlbefinden der Beteiligten zugute.

Das obige ist der detaillierte Inhalt vonOpenAI evaluiert die Möglichkeiten der Inhaltsmoderation, um die Effizienz zu steigern und menschliche Eingriffe zu reduzieren. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!