Natur｜GPT-4 wurde in die Luft gesprengt und Wissenschaftler sind besorgt!

Das Aufkommen von GPT-4 ist sowohl aufregend als auch frustrierend.

Obwohl GPT-4 über erstaunliche Kreativität und Denkfähigkeiten verfügt, haben Wissenschaftler Bedenken hinsichtlich der Sicherheit dieser Technologie geäußert.

Da OpenAI gegen seine ursprüngliche Absicht verstieß und GPT-4 nicht als Open Source veröffentlichte oder die Trainingsmethoden und Daten des Modells veröffentlichte, gibt es keine Möglichkeit, seine tatsächlichen Arbeitsbedingungen zu kennen.

Die wissenschaftliche Gemeinschaft ist darüber sehr verärgert.

Sasha Luccioni, eine auf Umweltforschung spezialisierte Wissenschaftlerin bei HuggingFace, einer Open-Source-KI-Community, sagte: „OpenAI kann sich auf der Grundlage ihrer Forschung weiterentwickeln, aber für die gesamte Community sind alle diese Closed-Source-Modelle wissenschaftlich ähnlich.“ eine Sackgasse.“ ".

OpenAI bezahlt das rote Team dafür, die Plattform zu testen und zu versuchen, sie dazu zu bringen, schlechte Dinge zu tun. Andrew White hatte also in den letzten 6 Monaten die Gelegenheit, mit GPT-4 in Kontakt zu kommen.

Er fragte GPT-4, welche chemischen Reaktionsschritte zur Herstellung einer Verbindung erforderlich sind, und bat es, die Reaktionsausbeute vorherzusagen und einen Katalysator auszuwählen.

„Im Vergleich zu früheren Iterationen schien GPT-4 nicht anders zu sein, und ich dachte, es sei nichts. Aber dann war es wirklich überraschend, es sah so realistisch aus, dass es hier ein Atom heraufbeschwören würde, einen Schritt überspringend.“ Aber als er mit den Tests fortfuhr und GPT-4 Zugriff auf das Papier gewährte, änderten sich die Dinge dramatisch.

„Plötzlich wurde uns klar, dass diese Modelle vielleicht nicht so toll waren. Aber als man anfing, sie mit Tools wie Backtracking-Syntheseplanern oder Rechnern zu verbinden, entstanden plötzlich neue Möglichkeiten.“ Als diese Fähigkeiten aufkamen, begannen die Menschen sich Sorgen zu machen. Könnte GPT-4 beispielsweise die Herstellung gefährlicher Chemikalien ermöglichen?

Andrew White zeigt, dass mit dem Test-Input von Red Teamern wie White, den OpenAI-Ingenieure in ihre Modelle zurückführen, GPT-4 daran gehindert werden kann, gefährliche, illegale oder destruktive Inhalte zu erstellen.

Falsche Fakten

Die Verbreitung falscher Informationen ist ein weiteres Problem.

Luccioni sagte, dass Modelle wie GPT-4 das Problem der Halluzinationen nicht lösen konnten, was bedeutet, dass sie immer noch Unsinn reden können.

„Auf diese Art von Modell kann man sich nicht verlassen, weil es zu viele Halluzinationen gibt, und obwohl OpenAI sagt, dass es die Sicherheit in GPT-4 verbessert hat, ist dies in der neuesten Version immer noch ein Problem.“

Da kein Zugriff auf Daten für das Training besteht, sind die Sicherheitszusicherungen von OpenAI nach Ansicht von Luccioni unzureichend.

„Sie kennen die Daten nicht. Sie können sie also nicht verbessern. Es ist völlig unmöglich, mit einem solchen Modell Wissenschaft zu betreiben.“

Was die Art und Weise betrifft, wie GPT-4 trainiert wird, ist dies ein Rätsel Auch die Wissenschaftlerin Claudi Bockting beschäftigt: „Es ist für Menschen sehr schwierig, für Dinge verantwortlich zu sein, die man nicht überwachen kann.“ Da hinter GPT-4 kein Zugriff auf den Code möglich ist, wäre es unmöglich zu erkennen, woher Voreingenommenheit kommen könnte, und sie zu beheben.

Ethische Diskussion

Wissenschaftler hatten schon immer Vorbehalte gegenüber GPT.

Beim Start von ChatGPT hatten Wissenschaftler bereits Einwände dagegen erhoben, dass GPT in der Autorenspalte erscheint.

Verlage glauben auch, dass künstliche Intelligenz wie ChatGPT nicht den Standards von Forschungsautoren entspricht, da sie nicht für den Inhalt und die Integrität wissenschaftlicher Arbeiten verantwortlich sein können. Der Beitrag der KI zum Verfassen der Arbeit lässt sich jedoch über die Autorenliste hinaus erkennen.

Darüber hinaus gibt es Bedenken, dass diese Systeme der künstlichen Intelligenz zunehmend in den Händen großer Technologieunternehmen liegen. Diese Technologien sollten von Wissenschaftlern getestet und validiert werden.

Wir müssen dringend eine Reihe von Richtlinien entwickeln, die den Einsatz und die Entwicklung von künstlicher Intelligenz und Tools wie GPT-4 regeln.

White sagte, dass GPT-4 und seine zukünftigen Versionen trotz dieser Bedenken die Wissenschaft aufrütteln werden: „Ich denke, es wird eine große Veränderung der Infrastruktur in der Wissenschaft sein, genau wie das Internet eine große Veränderung war. Wir beginnen damit.“ „Erkennen Sie, dass wir Papiere, Datenprogramme, Bibliotheken, Computerarbeit und sogar Roboterexperimente verbinden können. Es wird Wissenschaftler nicht ersetzen, aber es kann bei einigen Aufgaben helfen.“ Aber es scheint, dass alles rund um die Technologie der künstlichen Intelligenz. Die Gesetzgebung hat sich schwer getan mit den Entwicklungen Schritt halten.

Am 11. April wird die Universität Amsterdam einen Einladungsgipfel einberufen, um diese Themen mit Vertretern von Organisationen wie dem UNESCO-Ausschuss für Ethik in der Wissenschaft, der Organisation für wirtschaftliche Zusammenarbeit und Entwicklung und dem Weltwirtschaftsforum zu diskutieren.

Zu den wichtigsten Themen gehören das Beharren auf der manuellen Überprüfung der LLM-Ergebnisse; die Festlegung von Regeln zur gegenseitigen Rechenschaftspflicht innerhalb der wissenschaftlichen Gemeinschaft, die auf Transparenz, Integrität und Fairness abzielen; die Investition in zuverlässige und transparente große Sprachmodelle im Besitz unabhängiger gemeinnütziger Organisationen; von KI, muss jedoch Kompromisse zwischen den Vorteilen der KI und dem Verlust der Autonomie eingehen. Laden Sie die wissenschaftliche Gemeinschaft ein, GPT mit relevanten Parteien (von Verlagen bis zu Ethikern) und mehr zu diskutieren.

Das obige ist der detaillierte Inhalt vonNatur｜GPT-4 wurde in die Luft gesprengt und Wissenschaftler sind besorgt!. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!