Ehemaliger Google-CEO: KI ist wie Atomwaffen. Große Länder müssen eine „KI-Abschreckung“ aufbauen, um gegenseitige Zerstörung sicherzustellen.

​Der frühere Google-Chef Eric Schmidt verglich in einem Interview künstliche Intelligenz mit Atomwaffen und forderte einen ähnlichen, gegenseitig zugesicherten Zerstörungsabschreckungsmechanismus, um zu verhindern, dass die mächtigsten Länder der Welt sich gegenseitig aufgrund von KI zerstören.

Mutually Assured Destruction (kurz M.A.D.-Mechanismus, auch bekannt als das Prinzip der gegenseitigen Zerstörung) ist eine Idee der „alle zerstörten“ Natur. Wenn eine der beiden gegnerischen Parteien es vollständig ausnutzt, werden beide Parteien zerstört, was als „Gleichgewicht des Terrors“ bezeichnet wird.

Schmidt verglich KI mit Atomwaffen und sagte, dass China und die Vereinigten Staaten in Zukunft möglicherweise einen Vertrag schließen könnten, der dem Verbot von „Atomtests“ ähnelt, um zu verhindern, dass KI die Welt zerstört.

Schmidt: Ich war damals sehr jung und naiv

Am 22. Juli sprach Schmidt auf der Sitzung des Aspen Security Forums zu nationaler Sicherheit und künstlicher Intelligenz über die Entwicklung der künstlichen Intelligenz.

Auf eine Frage zu ethischen Werten in der Technologie erklärte Schmidt, dass er selbst in den frühen Tagen von Google naiv gegenüber der Macht der Informationen gewesen sei.

Anschließend forderte er, dass sich die Technologie besser an der Moral und Ethik derjenigen orientiert, denen sie dient, und zog einen bizarren Vergleich zwischen künstlicher Intelligenz und Atomwaffen.

Schmidt geht davon aus, dass China und die Vereinigten Staaten in naher Zukunft einige Verträge zum Thema künstliche Intelligenz unterzeichnen müssen.

Schmidt sagte: „In den 1950er und 1960er Jahren gab es eine ‚zu erwartende‘ Regel für Atomtests, und Atomtests wurden schließlich verboten.“

Schmidt glaubt: „Dies ist ein Beispiel für ein Gleichgewicht.“ Vertrauen oder Mangel an Vertrauen, es gilt die Regel „Keine Überraschungen“. Er ist sehr besorgt, dass zwischen den beiden KI-Mächten USA und China aufgrund einiger Missverständnisse und Missverständnisse etwas entstehen könnte, was zu gefährlichen Ereignissen führen würde.

Schmidt sagte, dass derzeit niemand auf diesem Gebiet forscht, aber künstliche Intelligenz so mächtig sei.

Eric Schmidt war von 2001 bis 2011 CEO von Google, von 2011 bis 2015 Executive Chairman von Google und von 2015 bis 2017 Executive Chairman von Alphabet, von 2017 bis 2020 war er als technischer Berater für Alphabet tätig.

Im Jahr 2008, als er Vorsitzender von Google war, setzte sich Schmidt für Barack Obama ein und war später zusammen mit Eric Lander (Council of Advisors on Science and Technology) Mitglied des Wissenschafts- und Technologiebeirats von Präsident Obama.

Von 2019 bis 2021 war Schmidt gemeinsam mit Robert O. Work Vorsitzender der Nationalen Sicherheitskommission für KI.

Ist KI wirklich so gefährlich?

Künstliche Intelligenz und maschinelles Lernen sind eine beeindruckende, aber oft missverstandene Technologie. Meistens ist es nicht so intelligent, wie die Leute denken.

Es kann Kunstwerke auf Meisterwerksniveau produzieren, Menschen in „StarCraft 2“ schlagen und auch einfache Telefonanrufe für Benutzer tätigen. Der Versuch, es komplexere Aufgaben wie autonomes Fahren erledigen zu lassen, hat jedoch keine großen Fortschritte gemacht . reibungslos.

Schmidt geht davon aus, dass in naher Zukunft sowohl China als auch die Vereinigten Staaten über Sicherheitsfragen besorgt sein werden, was beide Seiten dazu zwingen wird, eine Art Abschreckungsabkommen über künstliche Intelligenz zu schließen.

Er sprach über die 1950er und 1960er Jahre, als Länder mithilfe der Diplomatie eine Reihe von Kontrollen der tödlichsten Waffen der Welt organisierten. Aber es würde Jahrzehnte nuklearer Explosionen dauern, bis die Welt den Punkt erreicht hätte, an dem der Vertrag über das Verbot von Nuklearversuchen sowie SALT II und andere wegweisende Gesetze in Kraft traten, wie etwa die nuklearen Explosionen in Hiroshima und Nagasaki.

Die Vereinigten Staaten zerstörten am Ende des Zweiten Weltkriegs zwei japanische Städte mit Atomwaffen, töteten Tausende von Menschen und bewiesen der Welt den ewigen Schrecken von Atomwaffen.

Anschließend entwickelten auch die Sowjetunion und China erfolgreich Atomwaffen, und dann wurde Mutually Assured Destruction (MAD) geboren, eine Abschreckungstheorie, die ein „Gleichgewicht der Gefahren“ aufrechterhält, um sicherzustellen, dass, wenn ein Land eine Atomwaffe abfeuert, andere Länder werden es wahrscheinlich auch starten.

Bisher hat die Menschheit darauf verzichtet, die zerstörerischsten Waffen auf dem Planeten einzusetzen, weil dies die Zivilisation auf der ganzen Welt zerstören könnte.

Hat künstliche Intelligenz derzeit eine solche Macht?

Es scheint, dass künstliche Intelligenz nicht so zerstörerisch ist wie Atomwaffen, aber viele Machthaber haben Angst vor dieser neuen Technologie. Menschen schlagen sogar vor, die Kontrolle über Atomwaffen der künstlichen Intelligenz zu übertragen ist mächtiger als Menschen. Besser geeignet als Schiedsrichter für den Einsatz von Atomwaffen.

Vielleicht liegt das Problem mit KI also nicht darin, dass sie die potenziell weltzerstörende Kraft von Atomwaffen besitzt, sondern dass KI nur so gut ist wie ihre Designer und sie die Werte ihrer Schöpfer widerspiegeln.

Künstliche Intelligenz hat das klassische „Müll rein, Müll raus“-Problem. Rassistische Algorithmen bringen rassistische Roboter hervor, und künstliche Intelligenz wird auch Vorurteile hervorrufen.

DeepMind-CEO Demis Hassabis versteht das besser als Schmidt.

DeepMind hat eine KI trainiert, die in der Lage ist, Starcraft II-Spieler zu besiegen. In einem Interview im Juli im Lex Fridman Podcast fragte Fridman Hassabis, wie man eine so mächtige Technologie wie KI kontrollieren könne und wie Hassabis selbst es vermeiden könne, durch solche Macht korrumpiert zu werden.

Hassabis‘ Antwort: „KI ist eine zu große Idee“, sagte er, „Was zählt, ist, wer (künstliche Intelligenz) geschaffen hat, aus welcher Kultur sie kommt, welche Werte sie haben und dass sie KI sind. Der Erbauer des Systems.“ . Das KI-System wird von selbst lernen ... aber die Kultur und Werte des Systemschöpfers bleiben im System.“

Künstliche Intelligenz ist ein Spiegelbild ihres Schöpfers, 1,2 Millionen Tonnen. Eine Superexplosion Eine Stadt kann nicht dem Erdboden gleichgemacht werden, es sei denn, Menschen lehren sie, dies zu tun.

Das obige ist der detaillierte Inhalt vonEhemaliger Google-CEO: KI ist wie Atomwaffen. Große Länder müssen eine „KI-Abschreckung“ aufbauen, um gegenseitige Zerstörung sicherzustellen.. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!