Was genau ist Superintelligenz?

Die Entwicklung der Superintelligenz ist ein Thema endloser Debatten unter Wissenschaftlern. Superintelligenz entwickelte sich aus dem traditionelleren Konzept der künstlichen allgemeinen Intelligenz (AGI). Im Laufe des nächsten Jahrzehnts hat diese leistungsstarke Technologie das Potenzial, sich zu entwickeln und sowohl wichtige globale Probleme zu lösen als auch möglicherweise den Verlust oder das Verschwinden von Menschenrechten herbeizuführen.

Die Strategie von OpenAI (American Artificial Intelligence Research Company) umfasst die Schaffung einer automatisierten Abstimmung von Forschern mit menschlichen Fähigkeiten und die Nutzung enormer Rechenressourcen, um Superintelligenz iterativ zu trainieren und auszurichten. Der als Super-Intelligence-Alignment bezeichnete Prozess erfordert Innovation, umfassende Validierung und kontroverse Stresstests der KI-Alignment-Technologie.

Um dieser Herausforderung zu begegnen, investiert OpenAI erhebliche Ressourcen und Forschung und ermutigt herausragende Forscher und Ingenieure aktiv zur Zusammenarbeit. Es bleibt jedoch abzuwarten, ob der Terminologiewechsel von der künstlichen allgemeinen Intelligenz zur Superintelligenz tiefgreifende Auswirkungen auf die laufende Debatte über die Risiken und Vorteile der künstlichen Intelligenz haben wird.

Das Potenzial der Superintelligenz wird durch OpenAI hervorgehoben, das als eine der einflussreichsten Technologien aller Zeiten gilt und die Fähigkeit besitzt, große globale Probleme zu lösen. Dennoch erkennt es die enormen Risiken an, die mit der Superintelligenz verbunden sind und zum Machtverlust oder sogar zur Ausrottung der Menschheit führen können.

OpenAI glaubt, dass Superintelligenz zwar weit außerhalb der Reichweite scheint, aber innerhalb des nächsten Jahrzehnts möglich ist. Um die Herausforderung zu bewältigen, Superintelligenz mit menschlichen Absichten in Einklang zu bringen, müssen neue Governance-Institutionen eingerichtet werden, um diese Risiken zu bewältigen. Bemerkenswert ist, dass der von OpenAI verwendete Begriff nicht die traditionelle künstliche allgemeine Intelligenz (AGI) ist. Ihre Gründe sind wie folgt:

Wir konzentrieren uns mehr auf Superintelligenz als auf allgemeine künstliche Intelligenz, um höhere Leistungsniveaus hervorzuheben. Wir haben große Unsicherheit darüber, wie schnell sich diese Technologie in den nächsten Jahren entwickeln wird, daher entscheiden wir uns für ein schwierigeres Ziel, um ein leistungsfähigeres System zu kalibrieren.

Die aktuelle KI-Ausrichtungstechnologie kann potenzielle superintelligente KI nicht vollständig kontrollieren, obwohl es einige Methoden wie Verstärkungslernen gibt, um Verbesserungen basierend auf menschlichem Feedback zu erzielen. Menschen sind nicht in der Lage, Systeme, die viel intelligenter sind als wir, zuverlässig zu überwachen, und die vorhandene Technologie kann nicht in den Bereich der Superintelligenz skalieren. OpenAI betont die Notwendigkeit wissenschaftlicher und technologischer Durchbrüche, um diese Herausforderungen zu meistern.

Der Ansatz von OpenAI zielt darauf ab, einen Forscher für die automatische Ausrichtung zu entwickeln, dessen Fähigkeiten in etwa dem menschlichen Niveau ähneln. Riesige Rechenressourcen werden genutzt, um ihre Bemühungen zu skalieren und die Superintelligenz iterativ zu verfeinern. Zu den wichtigsten Schritten dieser Arbeit gehören die Entwicklung skalierbarer Trainingsmethoden, die Validierung der generierten Modelle und Stresstests der Alignment-Pipeline. Dem Titel der OpenAI-Ankündigung zufolge heißt das Konzept „Superintelligent Alignment“.

Um die Schwierigkeit der menschlichen Bewertung herausfordernder Aufgaben zu überwinden, kann eine skalierbare Supervision zur Lösung mit Hilfe von Systemen der künstlichen Intelligenz eingesetzt werden. Für die Überprüfung der Konsistenz ist es von entscheidender Bedeutung, dass die Aufsicht auf unbeaufsichtigte Aufgaben angewendet wird und problematisches Verhalten und interne Strukturen erkennt. Das Training nicht ausgerichteter Modelle ist auch eine kontradiktorische Testmethode, die dabei hilft, die Wirksamkeit von Ausrichtungstechniken zu validieren.

OpenAI geht davon aus, dass sich sein Forschungsschwerpunkt ändern wird, wenn mehr über dieses Problem gelernt wird, und plant, seine Roadmap in Zukunft zu teilen. Sie bildeten ein Team aus Spitzenforschern und Ingenieuren für maschinelles Lernen, das sich auf die Lösung des Problems der Ausrichtung der Superintelligenz konzentrierte. In den nächsten vier Jahren wird OpenAI 20 % seiner gesamten Rechenleistung für diese Arbeit aufwenden.

Obwohl der Erfolg nicht garantiert ist, bleibt OpenAI optimistisch, dass dieses Problem durch gezielte und konzertierte Anstrengungen gelöst werden kann. Ihr Ziel ist es, Beweise und Argumente zu liefern, um die Community für maschinelles Lernen und Sicherheit davon zu überzeugen, dass das Problem gelöst wurde, und sie arbeiten aktiv mit Experten aus verschiedenen Disziplinen zusammen, um umfassendere menschliche und soziale Probleme zu berücksichtigen.

OpenAI heißt herausragende Forscher und Ingenieure willkommen, sich ihren Bemühungen anzuschließen, auch solche, die in der Vergangenheit nicht an Ausrichtungsbemühungen beteiligt waren. Sie betrachten die superintelligente Ausrichtung als eines der wichtigsten ungelösten technischen Probleme und halten es für ein lösbares Problem des maschinellen Lernens mit dem Potenzial für bedeutende Beiträge.

Es scheint, dass die hitzige Debatte über künstliche Intelligenz, allgemeine künstliche Intelligenz und komplexe miteinander verbundene Probleme im Zusammenhang mit Praktikabilität und menschlicher Zerstörung neue Spaltungen schafft. Heutzutage hat sich der Wortschatz etwas verändert, aber es ist nicht klar, ob es sich dabei um Wissenschaft oder Semantik handelt.

Das obige ist der detaillierte Inhalt vonWas genau ist Superintelligenz?. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!