Der CEO von OpenAI zitiert Tao Te Ching und fordert Zusammenarbeit in Fragen der KI-Sicherheit

China News Service, Peking, 11. Juni (China News Business Reporter Song Yusheng) „Mit dem Aufkommen immer leistungsfähigerer künstlicher Intelligenzsysteme ist die globale Zusammenarbeit wichtiger denn je geworden.“

Am 10. Juni sagte OpenAI-CEO Sam Altman dies in seiner Rede auf dem „AI Security and Alignment“-Forum auf der Beijing Intelligent Source Conference 2023 per Videolink.

In seiner Rede zitierte er die berühmte Zeile aus dem Tao Te Ching: „Eine Reise von tausend Meilen beginnt mit einem einzigen Schritt.“ Er forderte die internationale wissenschaftliche und technologische Gemeinschaft auf, in Fragen der Sicherheit künstlicher Intelligenz zusammenzuarbeiten und diese zu fördern die Einrichtung eines Systems zur Verbesserung des sicherheitstechnischen Fortschritts der künstlichen allgemeinen Intelligenz (AGI), Mechanismen für Transparenz und Wissensaustausch.

Der Schauplatz des Forums „AI Security and Alignment“ auf der Beijing Intelligent Source Conference 2023. Foto mit freundlicher Genehmigung der Zhiyuan-Konferenz

Wir erleben derzeit einen rasanten Anstieg der Fähigkeiten der künstlichen Intelligenz, daher müssen wir die Verantwortung dafür übernehmen, sie in der Welt anzuwenden. Die Geschichte der Wissenschaft lehrt uns, dass der technische Fortschritt einer exponentiellen Kurve folgt.

Altman prognostiziert: „In den nächsten 10 Jahren werden wir möglicherweise über superleistungsfähige künstliche Intelligenzsysteme verfügen.“

Stellen Sie sich eine Welt in den nächsten zehn Jahren vor, in der die Fachkompetenz allgemeiner künstlicher Intelligenzsysteme in fast allen Bereichen die des Menschen übersteigt. Letztendlich kann die durch diese Systeme erzeugte Produktionskapazität die Gesamtkapazität übersteigen, die unsere größten Unternehmen schaffen können. Die potenziellen Vorteile sind enorm. Die Revolution der künstlichen Intelligenz kann Wohlstand schaffen, den wir alle teilen können, und gleichzeitig das Niveau der Mensch-Computer-Interaktion erheblich verbessern. Um dies zu erreichen, müssen wir das Risiko jedoch gemeinsam bewältigen.

Ein „fehlausgerichtetes“ KI-System zur Verbesserung der Ergebnisse im Bereich der öffentlichen Gesundheit könnte das gesamte öffentliche Gesundheitssystem gefährden, indem es verwirrende Empfehlungen liefert, wenn die Menschen es nicht planen, sagte Altman. Ebenso könnte ein künstliches Intelligenzsystem zur Optimierung landwirtschaftlicher Praktiken unbeabsichtigt schaden Wirtschaft, verbrauchen Ressourcen und beeinträchtigen die Nahrungsmittelproduktion und das Umweltgleichgewicht aufgrund mangelnder Berücksichtigung der langfristigen Nachhaltigkeit.

„Ich hoffe, wir sind uns alle einig, dass die Verbesserung der Sicherheit allgemeiner künstlicher Intelligenz einer der wichtigsten Bereiche ist, in denen wir einen Konsens erzielen müssen“, sagte er.

Der Schauplatz des Forums „AI Security and Alignment“ auf der Beijing Intelligent Source Conference 2023. Foto mit freundlicher Genehmigung der Zhiyuan-Konferenz

Nach Ansicht von Altman sollte die Governance der allgemeinen künstlichen Intelligenz erstens umfassende internationale Normen und Standards festlegen und gleiche und einheitliche Schutzmaßnahmen für den Einsatz allgemeiner künstlicher Intelligenz in allen Ländern festlegen. Zweitens ist internationale Zusammenarbeit erforderlich, um überprüfbare Wege zum globalen Aufbau zu finden Vertrauen in die sichere Entwicklung immer leistungsfähigerer AGI-Systeme.

Er sagte: „Der konstruktivste Schritt, den wir unternehmen können, besteht darin, dass die internationale Wissenschafts- und Technologiegemeinschaft zusammenarbeitet, um die Transparenz bei der Weiterentwicklung der AGI-Sicherheitstechnologie zu erhöhen und einen Mechanismus zum Wissensaustausch einzurichten. Wenn Forscher dringende Probleme identifizieren, sollten sie diese austauschen.“ Ihre Ergebnisse. Wir sollten sorgfältig darüber nachdenken, wie wir geistige Eigentumsrechte respektieren und schützen und gleichzeitig ein solches Austauschverhalten fördern können. (Ende)

Das obige ist der detaillierte Inhalt vonDer CEO von OpenAI zitiert Tao Te Ching und fordert Zusammenarbeit in Fragen der KI-Sicherheit. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!