William Saunders, ein ehemaliger OpenAI-Mitarbeiter, beschreibt das Unternehmen als „Titanic' und sich selbst als „Eisberg'.

William Saunders, ein ehemaliger OpenAI-Mitarbeiter und Mitglied des „Superalignment-Teams“ des Unternehmens, gab kürzlich bekannt, dass er das Unternehmen verlassen hat, weil er das Gefühl hatte, es befinde sich auf Kollisionskurs mit einer Tragödie, ähnlich wie das unglückselige R.M.S. Titanic im Jahr 1912.

Ein ehemaliger OpenAI-Mitarbeiter hat das Unternehmen mit dem unglückseligen R.M.S. verglichen. Titanic im Jahr 1912 und sagte, er sei gegangen, weil er das Gefühl hatte, dass die K.I. Das Unternehmen befand sich auf Kollisionskurs mit einer Tragödie.

William Saunders, ein Mitglied des „Superalignment-Teams“ von OpenAI, verließ das Unternehmen im Jahr 2022.

Wie Business Insider entdeckte, gab Saunders seinen Kommentar während einer Episode des Podcasts des Technologiejournalisten Alex Kantrowitz ab .

Saunders erzählte Kantrowitz, dass er sich während seiner drei Jahre bei OpenAI manchmal gefragt habe, ob sich das Unternehmen auf einem Weg befinde, der „eher dem Apollo-Programm oder eher der Titanic“ ähnelte.

Seine Argumentation scheint vorsichtig zu sein Aufgrund wissenschaftlicher Anstrengungen war das Apollo-Weltraumprogramm trotz seiner Rückschläge ein Erfolg, während die Titanic trotz ihrer Erfolge ein Misserfolg war. Sichern Sie sich jetzt Ihren 65 %-Rabatt!

OpenAI als TitanicSaunders beschreibt das allgemeine Ethos des Unternehmens als eines, das der Produktentwicklung eine höhere Priorität einräumt als der Umsetzung angemessener Sicherheitsvorkehrungen.

Er malt das Bild eines Büros, in dem Mitarbeiter, die Sicherheitsbedenken äußern, bestraft werden und die Führung auf Gewinn ausgerichtet ist.

„Im Laufe der Zeit“, sagte Saunders, „hatte man wirklich das Gefühl, dass die Entscheidungen der Führung eher wie die White Star Line beim Bau der Titanic waren.“

Der EisbergSaunders ist nicht der erste, der mit dieser Vorgehensweise nicht einverstanden ist OpenAI macht angeblich Geschäfte. Elon Musk, einer der entfremdeten Mitbegründer des Unternehmens, verklagte das Unternehmen kürzlich wegen der Behauptung, es sei zu weit von seiner ursprünglichen Mission abgewichen. Dies trotz der Tatsache, dass Musk seit Jahren nicht mehr an OpenAI beteiligt ist und derzeit seinen eigenen direkten Konkurrenten xAI betreibt. Die Klage wurde daraufhin zurückgezogen.

Das konkurrierende KI-Unternehmen Anthropic wurde 2021 von ehemaligen OpenAI-Mitarbeitern und Mitbegründern gegründet, weil sie befürchteten, dass OpenAI nicht ausreichend auf Vertrauen und Sicherheit ausgerichtet sei.

Auf der anderen Seite sagte jedoch Ilya Sutskever, Ein weiterer inzwischen entfremdeter Mitbegründer und ehemaliger Chefwissenschaftler verließ das Unternehmen im Mai 2024, um sein eigenes Unternehmen zu gründen, und schrieb damals, er sei „zuversichtlich“, dass das OpenAI-Team seine Ziele sicher erreichen könne.

Da so viele Mitarbeiter das Schiff verlassen und die Titanic-Analogie von mindestens einem in Umlauf gebracht wird, stellt sich die Frage: Wer oder was ist der Eisberg?

Wenn die Passagiere in der Analogie wir sind – die gesamte Menschheit – dann stellt der Eisberg die existenzielle Bedrohung dar, die ChatGPT und ähnliche Systeme für eine unvorbereitete Gesellschaft darstellen. Wenn die KI intelligenter und leistungsfähiger wird als wir und wir nicht über genügend „Rettungsboote“ verfügen, um alle vor ihrem potenziellen Schaden zu schützen, könnte uns eine Tragödie bevorstehen.

Aber wenn die Passagiere Aktionäre und Stakeholder sind, die darauf warten, dass OpenAI eine KI schafft, die so intelligent ist wie Menschen, und das nie passiert, dann repräsentiert der Eisberg vielleicht das Platzen der generativen KI-Blase.

Verwandt: Big Tech steht vor einer finanziellen Abrechnung, wenn es nicht bald KI auf menschlicher Ebene gibt

Das obige ist der detaillierte Inhalt vonWilliam Saunders, ein ehemaliger OpenAI-Mitarbeiter, beschreibt das Unternehmen als „Titanic' und sich selbst als „Eisberg'.. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!