US-Medien: Musk und andere fordern zu Recht eine Aussetzung des KI-Trainings und müssen aus Sicherheitsgründen langsamer fahren

Laut Nachrichten vom 30. März haben Tesla-CEO Elon Musk und Apple-Gründer Steve Wozniak sowie mehr als 1.000 andere kürzlich einen offenen Vertrag unterzeichnet Brief, in dem ein Moratorium für die Ausbildung leistungsfähigerer KI-Systeme als GPT-4 gefordert wird. BI, ein amerikanisches Mainstream-Online-Medium, ist der Ansicht, dass die KI-Entwicklung zum Wohle der gesamten Gesellschaft verlangsamt werden muss.

In dem offenen Brief forderten Wozniak, Musk und andere, dass mit zunehmender Leistungsfähigkeit der KI-Technologie Sicherheitsleitplanken errichtet und die Ausbildung fortschrittlicherer KI-Modelle ausgesetzt werden. Sie glauben, dass leistungsstarke KI-Modelle wie GPT-4 von OpenAI „nur dann entwickelt werden sollten, wenn wir sicher sind, dass ihre Auswirkungen positiv sind und die Risiken kontrollierbar sind.“

Natürlich ist dies nicht das erste Mal, dass Menschen Sicherheitsleitplanken für KI fordern. Da die KI jedoch immer komplexer und fortschrittlicher wird, werden die Rufe zur Vorsicht immer lauter.

James Grimmelmann, Professor für Digital- und Informationsrecht an der Cornell University, sagte: „Die Entwicklung neuer KI-Modelle zu verlangsamen ist eine sehr gute Idee, denn wenn sich herausstellt, dass KI gut für uns ist.“ „Es schadet nicht, ein paar Monate oder Jahre zu warten, wir werden es trotzdem schaffen. Und wenn es schlimm ist, verschaffen wir uns zusätzliche Zeit, um herauszufinden, wie wir am besten damit umgehen können.“ #🎜 🎜#

Der Aufstieg von ChatGPT verdeutlicht die potenziellen Gefahren von zu schnellem Vorgehen

Als der Chatbot ChatGPT von OpenAI letzten November in die öffentliche Beta ging, sorgte er für großes Aufsehen. Verständlicherweise begannen die Leute, die Fähigkeiten von ChatGPT zu fördern, und seine destruktive Wirkung auf die Gesellschaft wurde schnell deutlich. ChatGPT begann, medizinische Fachprüfungen zu absolvieren, gab Anweisungen zum Bau von Bomben und schuf sich sogar ein Alter Ego.

Je mehr wir KI verwenden, insbesondere sogenannte generative künstliche Intelligenz (AIGC)-Tools wie ChatGPT oder das Text-zu-Bild-Konvertierungstool Stable Diffusion, desto mehr erkennen wir die Mängel, die sie mit sich bringt. Das Potenzial der Voreingenommenheit und wie machtlos wir Menschen darin sind, seine Macht zu nutzen.

BI-Redakteur Hasan Chowdhury schrieb, dass KI das Potenzial habe, „zu einem Turbolader zu werden, der die Verbreitung unserer Fehler beschleunigt“. Wie soziale Medien erschließt es das Beste und Schlechteste der Menschheit. Aber im Gegensatz zu sozialen Medien wird KI stärker in das Leben der Menschen integriert.

ChatGPT und andere ähnliche KI-Produkte neigen bereits dazu, Informationen zu verzerren und Fehler zu machen, worüber Wozniak öffentlich gesprochen hat. Es ist anfällig für sogenannte „Halluzinationen“ (unwahre Informationen), und sogar Sam Altman, CEO von OpenAI, gab zu, dass die Modelle des Unternehmens rassistische, sexistische und voreingenommene Antworten hervorbringen können. Stable Diffusion ist auch auf Urheberrechtsprobleme gestoßen und wird beschuldigt, Inspiration von der Arbeit digitaler Künstler gestohlen zu haben.

Da KI in alltäglichere Technologien integriert wird, können wir in größerem Maßstab mehr Fehlinformationen in die Welt bringen. Selbst Aufgaben, die für eine KI harmlos erscheinen, wie beispielsweise die Unterstützung bei der Urlaubsplanung, führen möglicherweise nicht zu völlig vertrauenswürdigen Ergebnissen.

Es ist schwierig, KI-Technologie verantwortungsvoll zu entwickeln, wenn der freie Markt eine schnelle Entwicklung erfordert.

Um es klar auszudrücken: KI ist eine unglaublich transformative Technologie, insbesondere AIGC wie ChatGPT. Es ist grundsätzlich nichts Falsches daran, Maschinen zu entwickeln, die den Großteil der mühsamen Arbeit erledigen, die die Menschen hassen.

Während die Technologie zu einer existenziellen Krise in der Belegschaft geführt hat, wird sie auch als ausgleichendes Instrument in der Technologiebranche gefeiert. Es gibt auch keine Beweise dafür, dass ChatGPT sich darauf vorbereitet, in den kommenden Jahren einen Bot-Aufstand anzuführen.

Viele KI-Unternehmen beschäftigen Ethiker, um diese Technologie verantwortungsvoll zu entwickeln. Aber wenn die überstürzte Entwicklung eines Produkts die sozialen Auswirkungen überwiegt, werden Teams, die sich auf die sichere Entwicklung von KI konzentrieren, ihre Arbeit nicht in Ruhe erledigen können.

Geschwindigkeit scheint ein Faktor zu sein, der in diesem KI-Wahnsinn nicht ignoriert werden darf. OpenAI glaubt, dass das Unternehmen, wenn es schnell genug agiert, die Konkurrenz abwehren und zum Marktführer im AIGC-Bereich werden kann. Das veranlasste Microsoft, Google und nahezu jedes andere Unternehmen, diesem Beispiel zu folgen.

Die Veröffentlichung leistungsstarker KI-Modelle für die Öffentlichkeit, bevor sie bereit sind, verbessert die Technologie nicht. Die besten Anwendungsfälle für KI müssen noch gefunden werden, da Entwickler den Lärm, der durch die von ihnen entwickelte Technologie entsteht, durchdringen müssen und die Benutzer durch den Lärm abgelenkt werden.

Nicht jeder will langsamer werden

Der offene Brief von Musk und anderen wurde auch von anderen kritisiert, die glauben, dass er den Kern verfehlt.

Emily M. Bender, Professorin an der University of Washington, sagte auf Twitter, dass Musk und andere Technologieführer im Hype-Zyklus sich nur darauf konzentrieren, wie mächtig KI ist, und nicht auf den tatsächlichen Schaden, den sie anrichten kann.

Gerry Melman, Professor für Digital- und Informationsrecht an der Cornell University, fügte hinzu, dass Technologieführer, die den offenen Brief unterzeichnet hatten, „zu spät kamen“ und eine Büchse der Pandora öffneten, die sie in Schwierigkeiten bringen könnte. Er sagte: „Nachdem sie diesen Brief unterzeichnet haben, können sie nicht umkehren und die gleiche Politik anderen Technologien wie selbstfahrenden Autos auferlegen.“ Eine Pause in der Entwicklung oder die Einführung weiterer Vorschriften kann sein oder auch nicht Ergebnisse erzielen. Doch nun scheint sich das Gespräch gewendet zu haben. KI gibt es schon seit Jahrzehnten, vielleicht können wir noch ein paar Jahre warten.

Das obige ist der detaillierte Inhalt vonUS-Medien: Musk und andere fordern zu Recht eine Aussetzung des KI-Trainings und müssen aus Sicherheitsgründen langsamer fahren. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!