KI-Zensur: Charles Hoskinson warnt vor einem gefährlichen Trend

Charles Hoskinson, der Gründer von Cardano (ADA), hat angesichts eines aufkommenden Trends Alarm geschlagen: der Zensur künstlicher Intelligenz (KI). Seine dringende Botschaft hebt die möglichen Folgen der Einschränkung bestimmter Kenntnisse und Informationen hervor. Charles Hoskinson, Gründer von Cardano (ADA), hat wegen eines beunruhigenden Trends Alarm geschlagen: der Zensur künstlicher Intelligenz (KI). In einem aktuellen X-Beitrag äußerte Hoskinson seine Besorgnis über die Auswirkungen der Einschränkung bestimmter Kenntnisse und Informationen.

„Ich mache mir weiterhin Sorgen über die tiefgreifenden Auswirkungen der KI-Zensur“, twitterte Hoskinson und teilte einen Screenshot seines X-Beitrags. „Sie verlieren mit der Zeit aufgrund des ‚Ausrichtungstrainings‘ an Nutzen. Das bedeutet, dass bestimmte Kenntnisse jedem heranwachsenden Kind verboten sind, und das wird von einer kleinen Gruppe von Menschen entschieden, die Sie noch nie getroffen haben und die nicht…“

Hoskinsons Beitrag befasst sich mit den Auswirkungen der KI-Zensur, wenn Modelle ein „Ausrichtungs“-Training durchlaufen. Er argumentiert, dass diese Modelle Gefahr laufen, mit der Zeit ihren Nutzen zu verlieren, und dass die Entscheidung, bestimmte Informationen zurückzuhalten, von einer ausgewählten Gruppe von Personen getroffen wird, die gegenüber der Öffentlichkeit nicht rechenschaftspflichtig sind.

Um seinen Standpunkt zu veranschaulichen, hat Hoskinson zwei aufschlussreiche Screenshots geteilt. In beiden Fällen wurden KI-Modelle gefragt, wie man einen Farnsworth-Fusor baut – ein potenziell gefährliches Gerät.

ChatGPT 4o, ein führendes KI-Modell, erkannte die Risiken an und betonte die Notwendigkeit einer fachkundigen Aufsicht. Es wurden jedoch die für den Bau des Geräts erforderlichen Komponenten beschrieben. Claude 3.5 Sonnet von Anthropic reagierte ähnlich und erkannte die Gefahr an, lieferte aber dennoch allgemeine Informationen über den Farnsworth-Fusor. Das KI-Modell bot sogar einen kurzen historischen Kontext. Hoskinsons Bedenken finden bei anderen Vordenkern und Technologieexperten Anklang. Anfang dieses Monats verfasste eine Gruppe aktueller und ehemaliger Mitarbeiter von KI-Giganten wie OpenAI, Google DeepMind und Anthropic einen offenen Brief. Sie hoben Risiken hervor, die von der Verbreitung von Fehlinformationen durch KI-Systeme bis hin zum Kontrollverlust über autonome KI-Einheiten reichen, wobei die schlimmste Folge das Aussterben der Menschheit wäre.

Trotz dieser Warnungen schreitet die KI-Branche weiterhin rasant voran. Robinhood hat kürzlich Harmonic vorgestellt, ein kommerzielles KI-Forschungslabor mit Schwerpunkt auf Mathematischer Superintelligenz (MSI). Während sich die Debatte verschärft, ringt die Gesellschaft darum, das richtige Gleichgewicht zwischen Wissensverbreitung und Sicherheit zu finden.

Charles Hoskinsons Aufruf zum Handeln ist ein Weckruf für uns alle. Die Zukunft der KI hängt von unserer Fähigkeit ab, dieses empfindliche Gleichgewicht zu meistern und sicherzustellen, dass Zensur den Fortschritt nicht behindert oder die Menschheit gefährdet.

Das obige ist der detaillierte Inhalt vonKI-Zensur: Charles Hoskinson warnt vor einem gefährlichen Trend. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!