Der CEO von OpenAI reagierte auf die „Schweigevereinbarung“, der Streit entstehe immer noch über Kapitalanteile, Ultraman: „Das ist meine Schuld.“

Seit dem Rücktritt von Ilya und Jan, dem Leiter von Super Alignment, ist OpenAI immer noch untröstlich und immer mehr Menschen sind zurückgetreten, was auch zu mehr Konflikten geführt hat.

Gestern stand ein striktes „Schweigeabkommen“ im Mittelpunkt der Kontroverse.

Die ehemalige OpenAI-Mitarbeiterin Kelsey Piper brachte die Nachricht, dass die Anweisungen für das Onboarding-Dokument eines jeden Mitarbeiters Folgendes umfassen: „Innerhalb von sechzig Tagen nach Ausscheiden aus dem Unternehmen müssen Sie ein Trennungsdokument mit einer „allgemeinen Verzichtserklärung“ unterzeichnen. Wenn Sie dies nicht innerhalb von 60 Tagen tun Tage werden Ihre Eigenkapitalvorteile storniert. Und wenn die Leute keine Trennungsvereinbarung unterzeichnen (oder einer Nichtverunglimpfungsvereinbarung zustimmen), werden wir es nicht tun. Das unverfallbare Eigenkapital ist das unverfallbare Eigenkapital (Periode).

In Bezug darauf, wie OpenAI mit Eigenkapital umgeht, lauten Sam Altmans weitere Antworten wie folgt:

Nur 15 Minuten später stellte der Whistleblower erneut eine Frage und fragte dreist: Jetzt, wo Sie es bereits wissen, dann wird er es tun die bisherigen Arbeitnehmerbeschränkungsvereinbarungen aufgehoben werden? „Weil die meisten Menschen eine klare Lösung wollen, nicht nur eine Entschuldigung.“ Sam - - Ich denke, das gehört zum Job eines CEO. Manchmal muss man sich nicht nur entschuldigen, sondern die Leute werden auch kritisch sein und Klarstellung wollen und Beweise dafür sehen, dass sich die Richtlinie geändert hat Letztes Jahr wurde berichtet, dass die häufigste Kombination der OpenAI-Mitarbeitervergütung ein festes Grundgehalt von 300.000 US-Dollar und ein jährlicher PPU-Zuschuss (Profit Participation Unit) von etwa 500.000 US-Dollar ist. Dies ist eine Form der Eigenkapitalvergütung. Allerdings wird erwartet, dass die meisten OpenAI-Mitarbeiter während der vierjährigen Laufzeit des PPU-Zuschusses eine aktienbasierte Vergütung in Höhe von mindestens 2 Millionen US-Dollar erhalten.

Wenn die Nachricht wahr ist, dürften die meisten ehemaligen Mitarbeiter, die „gekündigt“ wurden, „bis zum Schluss durchhalten“ wollen.

Neben diesem Aufruhr gibt es gleichzeitig auch eine Kontroverse: darüber, wie OpenAI mit Sicherheit und zukünftigen Risiken umgehen wird.

Mehreren Medienberichten zufolge wurde das Super Alignment-Team von OpenAI nach dem kürzlichen Abgang der beiden Co-Leiter des Super Alignment-Teams, Ilya Sutskever und Jan Leike, aufgelöst. Jan Leike veröffentlichte am Freitag auch eine Reihe von Beiträgen, in denen er OpenAI und seine Führung dafür kritisierte, dass sie „Sicherheit“ zugunsten von „Hochglanzprodukten“ ignorierten.

Heute hat OpenAI-Mitbegründer Greg Brockman eine lange Antwort auf dieses Problem geschrieben.

In diesem mit „Sam und Greg“ signierten Artikel wies Brockman darauf hin: OpenAI hat Maßnahmen ergriffen, um die sichere Entwicklung und den Einsatz von KI-Technologie zu gewährleisten.

Wir sind äußerst dankbar für alles, was Jan für OpenAI getan hat, und wir wissen, dass er weiterhin extern zur Mission von OpenAI beitragen wird. Angesichts der durch seinen Abgang aufgeworfenen Fragen möchten wir erläutern, wie wir über unsere Gesamtstrategie denken.

Erstens haben wir das Bewusstsein für die Risiken und Chancen von AGI geschärft, damit die Welt besser darauf vorbereitet sein kann. Wir haben wiederholt die erstaunlichen Möglichkeiten der Skalierung von Deep Learning aufgezeigt und seine Auswirkungen analysiert. Wir haben eine internationale Governance von AGI gefordert, bevor solche Forderungen populär wurden, und haben dazu beigetragen, die Wissenschaft zur Bewertung der katastrophalen Risiken von KI-Systemen voranzutreiben.

Zweitens haben wir die notwendigen Grundlagen für den sicheren Einsatz immer leistungsfähigerer Systeme gelegt. Der erstmalige Einsatz einer neuen Technologie ist nicht einfach. Unser Team hat beispielsweise viel Arbeit geleistet, um GPT-4 auf sichere Weise auf die Welt zu bringen, und seitdem haben wir das Modellverhalten und die Missbrauchsüberwachung basierend auf den Erkenntnissen aus der Bereitstellung weiter verbessert.

Drittens wird die Zukunft schwieriger sein als die Vergangenheit. Wir müssen unsere Sicherheitsbemühungen kontinuierlich verbessern, um den Risiken jedes neuen Modells zu begegnen. Letztes Jahr haben wir das Preparedness Framework eingeführt, um unsere Arbeit zu systematisieren.

Jetzt ist ein guter Zeitpunkt, darüber zu sprechen, wie wir die Zukunft sehen.

Da Models immer mächtiger werden, gehen wir davon aus, dass sie beginnen werden, sich tiefer in die Welt zu integrieren. Benutzer werden zunehmend mit Systemen interagieren, die aus vielen multimodalen Modellen und Tools bestehen, die in ihrem Namen Maßnahmen ergreifen können, anstatt mit einem einzelnen Modell zu sprechen, das nur Texteingabe und -ausgabe benötigt.

Wir glauben, dass diese Systeme für die Menschen von großem Nutzen und hilfreich sein werden und dass es möglich ist, sie sicher bereitzustellen, aber dafür ist viel Vorarbeit erforderlich. Dazu gehören sorgfältige Überlegungen darüber, worauf sie während der Schulung eingehen, Lösungen für schwierige Probleme wie skalierbare Aufsicht und andere neue Arten von Sicherheitsbemühungen. Während wir uns in diese Richtung bewegen, sind wir noch nicht sicher, wann wir die Sicherheitsstandards für die Veröffentlichung erreichen werden, und wenn sich die Veröffentlichung dadurch verzögert, ist das in Ordnung.

Wir wissen, dass wir uns nicht alle möglichen Zukunftsszenarien vorstellen können. Deshalb brauchen wir eine sehr enge Feedbackschleife, strenge Tests, sorgfältige Abwägung jedes Schritts, erstklassige Sicherheit und eine harmonische Integration von Sicherheit und Funktionalität. Wir werden weiterhin Sicherheitsforschung auf verschiedenen Zeitskalen durchführen. Wir werden auch weiterhin mit Regierungen und vielen Interessengruppen in Sicherheitsfragen zusammenarbeiten.

Es gibt keinen bewährten Leitfaden auf dem Weg zur künstlichen Intelligenz. Wir glauben, dass empirisches Verständnis dabei helfen kann, den Weg in die Zukunft zu weisen. Wir glauben daran, große Wachstumsaussichten zu erzielen und gleichzeitig ernsthafte Risiken zu mindern. Wir nehmen unsere Rolle dabei sehr ernst und wägen das Feedback zu unseren Maßnahmen sorgfältig ab.

– Sam und Greg

Aber der Effekt scheint unbefriedigend zu sein und wird sogar lächerlich gemacht:

Gary Marcus, ein aktiver Wissenschaftler auf dem Gebiet der KI, sagte auch: Transparenz spricht lauter als Beredsamkeit.

Es scheint, dass Greg Brockman nicht die Absicht hat, eine spezifischere Antwort auf Richtlinien oder Verpflichtungen zu geben.

Nach dem Weggang von Jan Leike und Ilya Sutskever wurde ein weiterer OpenAI-Mitbegründer, John Schulman, mit der Leitung der Arbeit des Super Alignment-Teams beauftragt. Es gibt lediglich keine eigene Abteilung mehr, sondern eine locker verwandte Mannschaft. Gruppen von Forschern, die in verschiedenen Teilen des Unternehmens verankert sind. OpenAI beschreibt dies als „tiefere Integration (von Teams)“.

Was ist die Wahrheit hinter der Kontroverse? Vielleicht wusste Ilya Sutskever es am besten, aber er entschied sich, das Spiel würdevoll zu verlassen und wird in Zukunft möglicherweise nicht mehr darüber sprechen. Schließlich habe er bereits „ein sehr persönlich bedeutsames Projekt“ vor sich.

Das obige ist der detaillierte Inhalt vonDer CEO von OpenAI reagierte auf die „Schweigevereinbarung“, der Streit entstehe immer noch über Kapitalanteile, Ultraman: „Das ist meine Schuld.“. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!