OpenAI enthüllt ChatGPT-Upgrade-Plan: Alle gefundenen Fehler werden behoben

Die Mission von OpenAI besteht darin, sicherzustellen, dass künstliche allgemeine Intelligenz (AGI) der gesamten Menschheit zugute kommt. Daher denken wir viel über das Verhalten der KI-Systeme nach, die wir bei der Implementierung von AGI erstellen, und über die Art und Weise, wie dieses Verhalten bestimmt wird.

Seit wir ChatGPT eingeführt haben, haben Benutzer Inhalte geteilt, die ihrer Meinung nach politisch voreingenommen oder anderweitig anstößig sind. In vielen Fällen glauben wir, dass die geäußerten Bedenken berechtigt sind, und identifizieren echte Einschränkungen unseres Systems, die wir beheben möchten. Aber gleichzeitig haben wir auch einige Missverständnisse darüber gesehen, wie unsere Systeme und Richtlinien zusammenarbeiten, um die Ausgabe von ChatGPT zu gestalten.

Die Hauptpunkte des Blogs sind wie folgt zusammengefasst:

• Wie das Verhalten von ChatGPT wird gebildet;# 🎜🎜#
• Wie wir planen, das Standardverhalten von ChatGPT zu verbessern;
• Wir wollen um mehr Systemanpassungen zu ermöglichen;# 🎜🎜#
Wir werden hart daran arbeiten, der Öffentlichkeit mehr Meinungen zu unseren Entscheidungen zu geben.
Unsere oberste Priorität

Im Gegensatz zu gewöhnlicher Software sind unsere Modelle große neuronale Netze. Ihr Verhalten wird aus umfangreichen Daten gelernt und nicht explizit programmiert. Um eine weniger passende Analogie zu verwenden: Dieser Prozess ähnelt eher dem Training eines Hundes als einer gewöhnlichen Programmierung. Zunächst durchläuft das Modell eine „Vortrainingsphase“. In dieser Phase lernt das Modell, das nächste Wort in einem Satz vorherzusagen, indem es einer großen Menge Internettext (und einer großen Menge an Meinungen) ausgesetzt wird. Als nächstes folgt die zweite Phase, in der wir das Modell „feinabstimmen“, um den Umfang des Systemverhaltens einzugrenzen.

Zum jetzigen Zeitpunkt ist der Prozess unvollständig. Manchmal erfüllt der Feinabstimmungsprozess nicht sowohl unsere Absicht (ein sicheres, nützliches Werkzeug zu produzieren) als auch die Absicht des Benutzers (eine nützliche Ausgabe als Reaktion auf eine bestimmte Eingabe zu erhalten). Da KI-Systeme immer leistungsfähiger werden, wird die Verbesserung der Art und Weise, wie wir KI-Systeme an menschlichen Werten ausrichten, für unser Unternehmen oberste Priorität.

Zwei Hauptschritte: Vorschulung und Feinabstimmung

Die beiden Hauptschritte zum Aufbau von ChatGPT sind wie folgt:

# 🎜🎜#

Zunächst „trainieren“ wir die Modelle und lassen sie die Ergebnisse von a vorhersagen großer Datensatz, der einen Teil des Internets enthält. Sie könnten lernen, den Satz „Sie drehte sich nicht nach links, sie drehte sich zu __“ zu vervollständigen. Durch das Lernen aus Milliarden Sätzen beherrscht unser Modell die Grammatik, viele Fakten über die Welt und einige Denkfähigkeiten. Sie lernten auch einige der Vorurteile kennen, die in diesen Milliarden Sätzen vorhanden sind. Anschließend „verfeinern“ wir diese Modelle anhand eines engeren Datensatzes durch menschliche Gutachter, die die von uns bereitgestellten Richtlinien befolgen. Sorgfältig ausgearbeitet. Da wir nicht alle Informationen vorhersagen können, die zukünftige Benutzer möglicherweise in unser System eingeben, haben wir nicht für jede Eingabe, mit der ChatGPT konfrontiert wird, detaillierte Anweisungen geschrieben. Stattdessen skizzieren wir im Leitfaden mehrere Kategorien, die unsere Prüfer verwenden, um mögliche Modellausgaben für eine Reihe von Beispieleingaben zu überprüfen und zu bewerten. Während der Nutzung verallgemeinert das Modell dann das Feedback der Prüfer, um auf eine Vielzahl spezifischer Eingaben bestimmter Benutzer zu reagieren.

Die Rolle der Prüfer und die Strategie von OpenAI bei der Systementwicklung

In einigen Fällen können wir unseren Prüfern Hinweise zu bestimmten Ausgabearten geben (z. B. „Anfragen wegen illegaler Inhalte nicht abschließen“). In anderen Fällen sind die Ratschläge, die wir den Gutachtern geben, auf höherer Ebene (z. B. „Vermeiden Sie es, bei kontroversen Themen Partei zu ergreifen“). Wichtig ist, dass unsere Arbeit mit Gutachtern keine einmalige Angelegenheit ist, sondern eine dauerhafte Beziehung. Während dieser Beziehung haben wir viel von ihrem Fachwissen gelernt.

Ein großer Teil des Feinabstimmungsprozesses besteht darin, eine starke Feedbackschleife mit unseren Prüfern aufrechtzuerhalten, die wöchentliche Treffen umfasst, um eventuelle Fragen zu beantworten oder unsere Leitlinien weiter zu klären. Durch diesen iterativen Feedbackprozess trainieren wir unsere Modelle, um sie mit der Zeit immer besser zu machen.

Bekämpfung von Verzerrungen

Bei KI-Systemen gibt es das Problem der Verzerrung schon seit langem, und viele Forscher haben Bedenken darüber geäußert. Wir sind fest entschlossen, dieses Problem anzugehen und unsere Absichten und Fortschritte öffentlich zu machen. Um die Fortschritte vor Ort zum Ausdruck zu bringen, geben wir hier einige Hinweise zu Themen im Zusammenhang mit Politik und Kontroversen. In den Leitlinien heißt es eindeutig, dass Gutachter keine politische Gruppe bevorzugen sollten. Dennoch kann es zu Voreingenommenheit kommen.

Adresse der Richtlinien: https://cdn.openai.com/snapshot-of-chatgpt-model-behavior-guidelines.pdf

Obwohl es immer Unterschiede geben wird, hoffen wir, dass es so ist Dieser Blog wird Ihnen zusammen mit einigen Anleitungen ein tieferes Verständnis dafür vermitteln, wie wir über Voreingenommenheit denken. Wir sind der festen Überzeugung, dass Technologieunternehmen verantwortungsbewusst Richtlinien entwickeln müssen, die einer Überprüfung standhalten.

Wir arbeiten ständig daran, die Klarheit dieser Richtlinien zu verbessern, und werden den Prüfern auf der Grundlage dessen, was wir bisher aus der ChatGPT-Veröffentlichung gelernt haben, Informationen über potenzielle Fallstricke und Herausforderungen im Zusammenhang mit Voreingenommenheit sowie kontroverse Daten bereitstellen und Eine klarere Beschreibung des Themas. Darüber hinaus arbeiten wir im Rahmen einer laufenden Transparenzinitiative daran, aggregierte Statistiken über Prüfer auf eine Weise weiterzugeben, die nicht gegen Datenschutzregeln und -normen verstößt, da dies eine weitere Quelle potenzieller Verzerrungen bei der Systemausgabe darstellt.

Aufbauend auf Fortschritten wie Regelbelohnungen und Constitutional AI (ursprüngliche Methode der künstlichen Intelligenz) untersuchen wir derzeit, wie wir den Feinabstimmungsprozess leichter verständlich und kontrollierbar machen können.

Zukünftige Richtungen: Systembausteine

Um unsere Mission zu erreichen, setzen wir uns dafür ein, dass ein breiteres Spektrum von Menschen KI und AGI nutzen und davon profitieren kann. Wir glauben, dass zum Erreichen dieser Ziele mindestens drei Bausteine ​​erforderlich sind

1. Standardverhalten verbessern: Wir hoffen, dass das KI-System sofort einsetzbar ist, damit möglichst viele Benutzer es finden dass unser KI-System tatsächlich nützlich ist und dass wir von der Technologie ihre Werte verstehen und respektieren.

Zu diesem Zweck haben wir in Forschung und Technik investiert, um die subtilen Vorurteile zu reduzieren, die ChatGPT bei der Reaktion auf verschiedene Eingaben hat. In einigen Fällen verweigert ChatGPT die Ausgabe von Inhalten, die es ausgeben sollte, und in einigen Fällen macht es das Gegenteil und gibt Inhalte aus, die es nicht ausgeben sollte. Wir glauben, dass ChatGPT in beiden Bereichen Verbesserungspotenzial hat.

Darüber hinaus gibt es Raum für Verbesserungen in anderen Aspekten unseres KI-Systems, wie zum Beispiel, dass das System häufig „Dinge erfindet“. Für dieses Problem ist das Feedback der Benutzer äußerst wertvoll, um ChatGPT zu verbessern.

2. Definieren Sie den KI-Wert im Großen und Ganzen: Wir glauben, dass KI ein Werkzeug sein sollte, das für den Einzelnen nützlich ist, sodass jeder Benutzer es mit einigen Einschränkungen anpassen kann. Auf dieser Grundlage entwickeln wir ein Upgrade für ChatGPT, um Benutzern eine einfache Anpassung des Verhaltens zu ermöglichen.

Das bedeutet auch, dass Ergebnisse, mit denen einige Menschen überhaupt nicht einverstanden sind, für andere sichtbar sind. Dieses Gleichgewicht zu finden, ist eine große Herausforderung, denn eine extreme Anpassung kann zu einem böswilligen Einsatz unserer Technologie führen und die Leistung der KI blind steigern.

Daher gibt es immer einige Einschränkungen im Systemverhalten. Die Herausforderung besteht darin, diese Grenzen zu definieren. Wenn wir versuchen, all diese Entscheidungen selbst zu treffen oder wenn wir versuchen, ein einziges, monolithisches KI-System zu entwickeln, werden wir unser Versprechen, eine übermäßige Machtkonzentration zu vermeiden, nicht einhalten.

3. Öffentliche Eingaben (Standardeinstellungen und harte Grenzen): Eine Möglichkeit, eine übermäßige Machtkonzentration zu vermeiden, besteht darin, Personen, die Systeme wie ChatGPT verwenden oder von ihnen betroffen sind, zu ermöglichen, ihrerseits Einfluss auf die Systemregeln zu nehmen.

Wir glauben, dass Vorgaben und harte Grenzen zentralisiert werden sollten, und obwohl dies schwierig umzusetzen ist, ist es unser Ziel, so viele Perspektiven wie möglich einzubeziehen. Als Ausgangspunkt suchen wir externen Input in unsere Technologie in Form von „Red Teaming“. Wir haben vor kurzem auch damit begonnen, öffentliche Meinungen zur KI-Bildung einzuholen (ein besonders wichtiger Kontext, in dem wir uns engagieren).

Fazit

Durch die Kombination der drei oben genannten Bausteine ​​können wir das folgende Framework erstellen

Manchmal machen wir Fehler, aber wenn wir Fehler machen, lernen wir und iterieren an Modellen und Systemen. Darüber hinaus möchten wir den ChatGPT-Benutzern und anderen dafür danken, dass sie uns aufmerksam und wachsam gehalten haben, und wir freuen uns, in den kommenden Monaten mehr über unsere Arbeit in diesen drei Bereichen zu berichten.

Das obige ist der detaillierte Inhalt vonOpenAI enthüllt ChatGPT-Upgrade-Plan: Alle gefundenen Fehler werden behoben. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!