Alarm! KI kann zur Verbreitung falscher Informationen führen

Laut Science and Technology Daily hat das Aufkommen der generativen künstlichen Intelligenz (KI) nicht nur Auswirkungen auf einige berufliche Positionen und stellt neue Herausforderungen für das bestehende Urheberrechtssystem dar, sondern kann auch zur Verbreitung falscher Informationen in sozialen Medien verwendet werden Aktivitäten nicht Sie schaffen nur neue Gefahren, verstärken aber auch bestehende Gefahren und gefährden so die wirtschaftliche und soziale Stabilität.

Basierend auf vernünftigen Vorhersagen auf der Grundlage der tatsächlichen Situation können durch KI unterstützte Desinformationsaktivitäten hauptsächlich in den folgenden vier Aspekten eingesetzt werden:

①Erstellen Sie Fake News.

Der Hauptzweck hier besteht darin, offizielle Mediennachrichten zu verzerren und zu manipulieren, die alte rückständige Methode zur Inhaltsproduktion zu beseitigen, bei der man mit einem Bild beginnt und sich für den Rest auf die Bearbeitung verlässt, und stattdessen Anforderungen festzulegen – einige Materialien einzugeben – automatisch Grafiken zu generieren /text/ Vollautomatischer Modus für Video.

②.Gerüchte verbreiten.

Falsche Nachrichten können schnell erstellt, automatisiert und gebündelt verbreitet werden, wenn sie mit der Hinzufügung von „Profis“ gekoppelt werden, die sich mit neuen Medien und den Tonalitätsmechanismen sozialer Medien auskennen und sich gut mit der Kommunikations- oder Journalismustheorie auskennen „Eine tausendmal wiederholte Lüge wird zur Wahrheit.“ Da Gerüchte zudem sehr trickreich sind, erregen sie bei der Verbreitung im Internet natürlich leicht große Aufmerksamkeit und Diskussion. Im Gegenteil, die Widerlegung von Gerüchten erfordert nicht nur „das Bein brechen“, sondern auch, weil sie „zu richtig“ sind. Und niemand schaut zu.

③ Kombinieren Sie generative KI und Social-Media-Funktionen, um die „Spam-See“-Taktik umzusetzen.

Führen Sie „Nippelspaß“-Inhalte wie Unterhaltungsnachrichten und Klatschinformationen in das gesamte Netzwerk ein und nehmen Sie dabei das gesamte Sichtfeld des Benutzers ein, um ernsthafte Nachrichten und Informationen zu vertreiben und die in sozialen Medien zirkulierenden Informationen vollständig zu kontrollieren. Durch eine intensive Zusammenarbeit mit Unterhaltungsunternehmen können die Akteure hinter den Kulissen zusätzliche Vorteile erzielen und gleichzeitig festgelegte taktische Ziele erreichen.

④ Nutzen Sie Deep-Synthese-Technologie, um Accounts zu fälschen und die normale Ordnung der sozialen Medien zu stören.

Informationen aus offiziellen Konten und persönlichen Konten von Agenturen, Unternehmen, Institutionen, sozialen Organisationen, Prominenten/großen Vs/Meinungsführern usw. durchsuchen, einschließlich, aber nicht beschränkt auf Bilder und Texte, Gesichtsbilder, Stimmen usw., und diese verwenden Korpus und Materialien, um falsche Inhalte zu erzeugen, können dem Opfer nicht nur Ärger bereiten, sondern auch Ärger schüren, Ärger stiften und die Wahrheit mit Unwahrheiten verwechseln.

Noch wichtiger ist, dass die Handlungen der Produzenten und Verbreiter falscher Informationen, sei es aus Profitgründen oder zur Durchsetzung ihrer Hintergedanken, von Natur aus illegal sind und sie natürlich die Beschränkungen von Gesetzen, Vorschriften, Plattformvorschriften usw. ignorieren und so zu Drei Hauptschwierigkeiten: schwierig zu überprüfen, schwierig zu überwachen und schwierig zu verhängen.

① Schwierig zu bewerten.

Die aktuellen Anforderungen verschiedener Plattformen an generative KI-Inhalte lassen sich als „Selbstdisziplin des Uploaders“ zusammenfassen, d „Hüten Sie sich vor Herren und nicht vor Bösewichten.“ Natürlich werden sich normale Nutzer an die Regeln halten, aber illegale Nutzer können das Bieten vollständig vermeiden, das Bieten verlangsamen oder das Bieten reduzieren.

②Aufsicht ist schwierig.

Bevor KI im Bereich der Inhaltsgenerierung zum Einsatz kommt, ist bekannt, dass Fake News im Internet wie Unkraut wuchern und schwer zu beseitigen sind. In dieser Hinsicht besteht die traditionelle Verwaltungsmethode aus einer Kombination aus Big-Data-Überprüfung + Annahme von Meldungen, wobei der Schwerpunkt auf der Bekämpfung illegaler Konten und der Markierung der damit verbundenen Konten liegt. Dies ist eine aufrichtige und einwandfreie Art, damit umzugehen. Das Problem besteht jedoch darin, dass nach der Einführung von KI durch skrupellose Benutzer, wenn der vorherige Zustand als sporadischer und punktueller Waldbrand angesehen wird, die falschen Informationen, die verarbeitet und korrigiert werden müssen, zu einem großen Feuer werden und das Management viel davon verbrauchen wird Arbeitskräfte, materielle Ressourcen, Die Schwierigkeit steigt exponentiell.

③Bestrafung ist schwierig.

Letztendlich gibt es zwei Probleme bei der Bestrafung: Zum einen sind die unterstützenden Gesetze und Vorschriften nicht vollständig genug, zum anderen ist es aufgrund der Geheimhaltung schwierig, sie zu erfassen. Die geltenden Rechtsvorschriften zur Bekämpfung von Cyber-Gewalt wurden jedoch vor Kurzem in der Öffentlichkeit eingeholt, um Meinungen einzuholen, und man geht davon aus, dass sie bald im Detail umgesetzt werden. Es wird erwartet, dass mit der Weiterentwicklung der Kontrolle falscher Informationen, die durch KI generiert werden, auch die entsprechende Rechtskonstruktion folgen wird.

Azhi hat in Fragen zur generativen KI oft erwähnt, dass sich KI nicht grundlegend von neuen Technologien unterscheidet, die in der Geschichte aufgetaucht sind. Der Schlüssel liegt darin, wer sie nutzt und wie sie ist gebraucht. Es besteht kein Zweifel an seiner Rolle als neuer Motor in der Internetbranche und als neues Reservoir auf dem Finanzmarkt. Die blinde und einseitige Betonung seiner technologischen Überlegenheit wird jedoch meist von Opportunisten betrieben und dient nur dem Profit. Wir müssen die innovative Technologie der generativen KI objektiv und umfassend betrachten und präventive Maßnahmen ergreifen, um die Risiken zu vermeiden, die durch ihren Missbrauch entstehen.

Das obige ist der detaillierte Inhalt vonAlarm! KI kann zur Verbreitung falscher Informationen führen. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!