GPT-4 wurde aufgrund von Beschwerden zum Verbot aufgefordert: OpenAI erfülle keinen der von der FTC herausgegebenen Standards für künstliche Intelligenz

Vor ein paar Tagen unterzeichneten Musk, Yoshua Bengio und andere gemeinsam einen offenen Brief, in dem sie alle KI-Labore aufforderten, das Training von KI-Modellen, die leistungsfähiger als GPT-4 sind, sofort einzustellen. Nun möchte jemand das bereits veröffentlichte GPT-4 stoppen.

Die Person, die GPT-4 dieses Mal gestoppt hat, war die gemeinnützige Organisation Center for Artificial Intelligence and Digital Policy (CAIDP). CAIDP forderte die US-amerikanische Federal Trade Commission (FTC) auf, OpenAI zu untersuchen und dem Unternehmen die weitere Veröffentlichung von GPT-4 zu verbieten.

Dateiadresse: https://cdn.arstechnica.net/wp-content/uploads/2023/03/CAIDP-FTC-Complaint-OpenAI-GPT-033023.pdf

CAIDP Der Grund für die Einreichung dieses Antrags bei der FTC besteht darin, dass sie der Ansicht sind, dass „das von OpenAI veröffentlichte Verbraucherprodukt GPT-4 voreingenommen und irreführend ist und ein Risiko für die Privatsphäre und die öffentliche Sicherheit darstellt. Die Ergebnisse des Modells können nicht nachgewiesen oder reproduziert werden.“ und es gibt keine Garantie vor dem Einsatz. „Führen Sie eine unabhängige Bewertung durch.“

CAIDP fordert eine unabhängige Aufsicht und Bewertung aller kommerziellen KI-Produkte in den Vereinigten Staaten und stellt sicher, dass die notwendigen „Schutzmaßnahmen“ zum Schutz von Verbrauchern, Unternehmen und dem kommerziellen Markt vorhanden sind.

Zuvor hatte die FTC einen Standard für künstliche Intelligenz angekündigt, der „die Rechenschaftspflicht fördert, aber erfordert, dass der Einsatz künstlicher Intelligenz transparent, erklärbar, fair und empirisch vernünftig ist“, CAIDP sagte: „Der GPT-4 von OpenAI erfüllt keinen dieser Standards.“ dieser Anforderungen.“

Seit der Veröffentlichung von GPT-4 sind erst zwei Wochen vergangen und die Menschen sind bereits tief gespalten über diese Art von leistungsstarkem KI-Modell. Einerseits glauben diejenigen, die leistungsstarke Modelle wie GPT-4 stoppen wollen, dass diese Modelle größere Risiken für die Informationssicherheit und sogar die menschliche Gesellschaft darstellen werden, andererseits glauben einige, dass dies eine gute Zeit für künstliche Intelligenz ist Der beschleunigte technologische Fortschritt sollte gefördert werden.

Interessanterweise hat OpenAI-CEO Sam Altman einen neuen Tweet gepostet: „Behalten Sie Ruhe im Auge des Sturms.“ Dies könnte seine Reaktion auf eine Reihe jüngster Aufrufe sein, „Modellforschung wie GPT-4 auszusetzen.“

In Bezug auf Risiken erklärte OpenAI zum Zeitpunkt seiner Veröffentlichung, dass es externe Experten gebeten habe, die potenziellen Risiken von GPT-4 einzuschätzen. CAIDP machte jedoch in seiner Einreichung bei der FTC klar, welche Handlungen gegen GPT-4 verstoßen.

CAIDP glaubt, dass GPT-4 die Geschäftsfairness ernsthaft beeinträchtigt hat, und sagt: „Die kommerzielle Veröffentlichung von GPT-4 verstößt gegen Abschnitt 5 des FTC Act, die FTC-Standards für Unternehmen zur Nutzung und Werbung von Produkten der künstlichen Intelligenz und.“ Künstliche Intelligenz Neue Normen für Governance und mehr.“

Darüber hinaus hat OpenAI keine technischen Details von GPT-4 bekannt gegeben. Dies ist einer der Gründe, warum CAIDP bei der FTC einen Antrag gestellt hat.

CAIDP sagte: „OpenAI hat keine Details zur Architektur, Modellgröße, Hardware, Rechenressourcen, Trainingstechniken, Datensatzkonstruktion oder Trainingsmethoden offengelegt, während es in der Forschungsgemeinschaft üblich ist, die Trainingsdaten und das Training aufzuzeichnen.“ der Technologie großer Sprachmodelle, aber OpenAI hat sich entschieden, diese Dinge für GPT-4 nicht zu tun. Insbesondere sind generative KI-Modelle keine gewöhnlichen Verbraucherprodukte, da sie während der Verwendung einige abnormale Verhaltensweisen zeigen können, die durch ihre Veröffentlichung verursacht werden können Unternehmen. Bisher nicht entdeckt.

Zum Beispiel hat OpenAI im Artikel „GPT-4 System Card“ deutlich gemacht, dass GPT-4 bestimmte Vorurteile und Weltanschauungen, einschließlich Stereotypen und abfälliger Assoziationen gegenüber bestimmten Randgruppen, verstärken und reproduzieren kann. CAIDP zitierte auch einen Blogbeitrag des Unternehmens OpenAI, in dem es hieß, dass ein ähnlich großes Modell, ChatGPT, manchmal auf schädliche Anweisungen reagierte oder voreingenommenes Verhalten an den Tag legte.

In der bei der FTC eingereichten Beschwerde erklärte CAIDP, dass „OpenAI GPT-4 für die kommerzielle Nutzung freigegeben hat, obwohl es die Risiken vollständig verstanden hat.“ In der Beschwerde wird außerdem behauptet, dass „die GPT-4-Systemkarte keine Details zu den Sicherheitsüberprüfungen enthält, die OpenAI während ihrer Tests durchgeführt hat, und auch keine Einzelheiten zu den Schritten, die OpenAI zum Schutz von Kindern unternimmt, was auch Fragen zur Verwendung von GPT-4 aufwirft.“ „

CAIDP wies auch auf Bedenken hin, die von der europäischen Verbraucherorganisation BEUC geäußert wurden: „Wenn ChatGPT für die Bewertung von Verbraucherkrediten oder Versicherungen verwendet wird, ist es dann möglich, dass es zu unfairen und voreingenommenen Ergebnissen führt?“ Der Tweet erscheint auch als Referenz in der Beschwerdeeinreichung von CAIDP.

Darüber hinaus kann ChatGPT im Hinblick auf die Netzwerksicherheit zum Phishing, zum Erstellen gefälschter Texte oder zum Generieren von Schadcode verwendet werden. Im Hinblick auf den Datenschutz sagte CAIDP, dass es in diesem Monat Berichte gab, dass OpenAI privaten Chats für andere Benutzer zeigte.

In einem anderen Fall beschrieb ein KI-Forscher, wie ChatGPT das Konto einer Person übernehmen, den Chat-Verlauf einsehen und auf deren Rechnungsinformationen zugreifen konnte, ohne dass die Person es merkte. OpenAI hat die Schwachstelle jedoch behoben.

CAIDP sagte außerdem, dass die Fähigkeit von GPT-4, Textantworten aus Bildeingaben bereitzustellen, enorme Auswirkungen auf die Privatsphäre und persönliche Autonomie hat, da Benutzer persönliche Bilder mit detaillierten persönlichen Daten verknüpfen können. Es versteht sich, dass OpenAI die Bild-zu-Text-Funktion eingestellt hat, es ist jedoch schwierig zu sagen, wie die tatsächliche Situation ist.

CAIDP ist der Ansicht, dass die FTC OpenAI den weiteren kommerziellen Einsatz von GPT verbieten, eine unabhängige Bewertung von GPT-Produkten vor dem Einsatz und während des gesamten GPT-KI-Lebenszyklus fordern, von OpenAI die Einhaltung der FTC-KI-Standards verlangen und ein öffentlich zugängliches GPT einrichten sollte - Der Vorfallmeldemechanismus von 4 ähnelt dem Mechanismus der FTC zur Meldung von Verbraucherbetrug.

CAIDP fordert die FTC außerdem nachdrücklich auf, weitere Standardspezifikationen zu veröffentlichen, die als „Grundstandards für Produkte im Marktbereich der generativen künstlichen Intelligenz“ verwendet werden sollen.

Akademische KI-Community, eine Debatte

Tausende Menschen haben vor zwei Tagen eine Petition unterzeichnet, um die Entwicklung des Nachfolge-KI-Modells von GPT-4 auszusetzen. Heute hat CAIDP die FTC gebeten, das Verbot von OpenAI zur Veröffentlichung eines neuen Werbespots zu untersuchen Version von GPT-4. Innerhalb von nur ein oder zwei Tagen sind verschiedene Diskussionen explodiert, und KI-Chefs und verschiedene Experten sind gekommen, um öffentlich zu antworten. Es gibt diejenigen, die dagegen sind, und diejenigen, die es unterstützen.

In Bezug auf die Aussetzung der Entwicklung von GPT-4-Nachfolge-KI-Großmodellen sprechen Turing-Preisträger Yoshua Bengio, Tesla-CEO (OpenAI-Mitbegründer) Elon Musk, emeritierter Professor der New York University Gary Marcus und Professor Stuart von der UC Berkeley Russell und andere sind alle dafür und haben einen offenen Brief unterzeichnet, um riesige KI-Experimente auszusetzen. Bemerkenswerterweise unterzeichnete auch Marc Rotenberg, Präsident und Gründer von CAIDP, den offenen Brief. Yann LeCun, der ChatGPT kritisiert hat, öffentlich erklärte, dass er es nicht unterzeichnen würde. Ich bin mit dem Inhalt dieses offenen Briefes nicht einverstanden.

Thomas G. Dietterich, emeritierter Professor an der Oregon State University, sagte auf Twitter: „Ich habe auch nicht unterschrieben. Der Brief ist voller schrecklicher Rhetorik und ineffektiver oder nicht vorhandener Richtlinien. Einige wichtige.“ technische und wir arbeiten hart daran, politische Probleme zu lösen.“ LeCun erklärte öffentlich: „Ich stimme zu.“

Enda Ng veröffentlichte auch einen Artikel, in dem er sich öffentlich gegen die Tausenden von Menschen wandte, die die Petition unterzeichnet hatten, und sagte: „GPT-4 hat viele neue Anwendungen in den Bereichen Bildung, Gesundheitsfürsorge, Ernährung usw. und wird vielen Menschen helfen. Es sei denn, die Regierung.“ Wenn die Regierung eingreift, wird eine Aussetzung eingeführt und alle Teams werden gesperrt. Darüber hinaus ist es unrealistisch, die Regierung aufzufordern, neue Technologien auszusetzen, die sie nicht versteht Eine schlechte Politik.“

Tian Yuandong unterstützte sie später auch. Ngs Standpunkt „erklärte, dass er kein Moratorium unterzeichnen würde, und sagte, dass es keine Möglichkeit mehr gebe, damit aufzuhören.“ oder diesen Trend umkehren. Das ist die unvermeidliche Entwicklung. Wir sollten LLM aus einem anderen Blickwinkel betrachten, uns daran anpassen und seine Kraft nutzen, die Hitze spüren Forscher bei Google Brain), der gerade seinen Abschied von Google Brain bekannt gegeben hat, sagte: „Wenn Sie Leuten, die LLM zufällig im Internet diskutieren, 6 Monate lang verbieten, werde ich unterschreiben.“

Das obige ist der detaillierte Inhalt vonGPT-4 wurde aufgrund von Beschwerden zum Verbot aufgefordert: OpenAI erfülle keinen der von der FTC herausgegebenen Standards für künstliche Intelligenz. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!