Ihr Selfie ist möglicherweise in der „Bibliothek unanständiger Bilder' enthalten, und das Böse der KI ist tatsächlich ganz in Ihrer Nähe!

Autor |. Kazi

Bearbeiten |. Curly Yu Tian

Header-Bild |. Midjourney

* Das heutige Headerbild wurde mit Midjourney erstellt, mit dem Schlüsselwort „ein Mädchen, das weinend in einem dunklen Raum sitzt, Illustrationsstil“

Die Distanz zwischen uns und dem Bösen hängt mit Werkzeugen zusammen.

KI, das (vielleicht) mächtigste Werkzeug der Geschichte, ist auch in den Händen böser Menschen voll bewaffnet. Für normale Menschen ist es durch die Hinzufügung von KI noch schwieriger geworden, sich vor allen Arten von Betrügereien und Schäden zu schützen.

Stellen Sie sich vor, irgendeine Figur oder Bewegung, dieses Gesicht könnte Ihr eigenes sein, ist das beängstigend?

Selfies und Videos, die von Einzelpersonen auf sozialen Plattformen gepostet werden, können leicht von KI-Technologien zur Gesichtsveränderung und KI-Malerei verarbeitet und von Kriminellen als „Material“ für anstößige Bilder und Videos verwendet werden, um sie zu verkaufen oder betrügerisch zu verwenden.

Denken Sie noch einmal darüber nach: Die überwiegende Mehrheit der Informationen, die Sie sehen, wird für einen bestimmten Zweck produziert und verbreitet. Ist das nicht beängstigend?

Es ist schwierig, die Authentizität verschiedener im Internet verbreiteter Screenshots und Chat-Aufzeichnungen zu beurteilen. Wenn KI zur „Erstellung“ hinzugefügt wird, kann der Stil nachgeahmt werden, die Logik kann selbstkonsistent sein und es kann auch unermüdlich in Massen produziert werden. Informationsverschmutzung kann mit einem Klick erreicht werden.

Bei den folgenden bösen Vorfällen kommt alle KI zum Einsatz.

AI „verfeinertes“ Farbkartenmodell

1. KI-synthetisierte weiche pornografische Fotos von Kindern erscheinen auf sozialen Plattformen

Am 16. Mai veröffentlichte der Weibo-Blogger „Cyber ​​​​Shikuai Appraisal Office“, dass entdeckt wurde, dass einige Benutzer auf Station B weiche pornografische Bilder von Kindern im realistischen Stil hochgeladen hatten, die mit KI-Malwerkzeugen synthetisiert wurden. Die Mädchen auf den generierten Bildern sind spärlich bekleidet und benehmen sich unanständig, und Benutzer werden „Bildpakete“ in Kommentaren und Updates teilen.

Nachdem der Vorfall aufgedeckt wurde, wurden aufgrund von Berichten von Nutzern einige Videos aus den Regalen entfernt und die Konten der betreffenden Nutzer gesperrt.

Bildquelle: Cyber ​​​​Ten Block Appraisal Office

2. Die Fotos auf der CP29 Comic-Ausstellung waren „raffinierte“ und unanständige Fotos

Am 6. Mai veröffentlichte ein Internetnutzer einen Beitrag an den Weibo-Blogger „Spring Short Man“, in dem er sagte, dass ein Internetnutzer in einem Forum seine Unzufriedenheit mit den Cosplay-Fotos geäußert habe, die an diesem Tag bei der Comic-Show aufgenommen wurden, und daher KI-Malwerkzeuge und LoRA verwendet habe Models (eine Art Feinabstimmungsmodell), das Bilder von Amateuren durch teilweise Anpassungen zu unanständigen „Rock-up“-Fotos „verfeinert“.

Nachdem dieser Beitrag auf Weibo veröffentlicht wurde, wurde er bis zu 21.000 Mal weitergeleitet.

Bildquelle: Kasuga Short Man über Weibo

Zufälligerweise wurde der Blogger DeadPrince am 3. Mai in einer privaten Nachricht auf Weibo darüber informiert, dass sein Selfie von einem Fremden in ein LoRA-Modell umgewandelt und auf die Malmodell-Sharing-Website Civil hochgeladen wurde und dass jemand das Modell zum Zeichnen von Nacktfotos verwendet habe.

Quelle: DeadPrince

KI schreibt Fake News

Am 16. Februar wurde ChatGPT in einer Community-Eigentümergruppe in Hangzhou diskutiert. Ein Eigentümer versuchte, ChatGPT zu verwenden, um eine gefälschte Pressemitteilung mit dem allgemeinen Inhalt zu verfassen: „Hangzhou wird die Reisebeschränkungen ab dem 1. März 2023 aufheben.“ Anschließend wurden von diesen Fake News Screenshots gemacht und von Gruppenmitgliedern verbreitet, die den Grund nicht verstanden, und es kam sogar zu einer heißen Durchsuchung. Am Ende griff die Polizei in die Ermittlungen ein und der beteiligte Geschäftsinhaber entschuldigte sich öffentlich.

Bildquelle: Voice of Zhejiang

KI gibt vor, eine Berühmtheit zu sein, um sie zu betrügen

Am 13. Mai erhielt die kleine spanische Filmfirma Peabody Films laut „Daily Mail“ einen Anruf vom berühmten britischen Schauspieler Benedict Cumberbatch: „Ich interessiere mich für Drehbücher und möchte gemeinsam einen Film machen.“

Aber die Filmfirma lud ihn mehrmals zu Interviews ein, aber „Juan Fu“ lehnte ab. Er bot sogar ein horrendes Interviewhonorar an und forderte die Firma auf, zunächst 200.000 Pfund zu überweisen.

Weil sich etwas nicht richtig anfühlte, bestätigte die Filmproduktionsfirma gegenüber der Agentur „Juan Fu“ und erst nach der Bestätigung stellte sich heraus, dass es sich um einen KI-Betrug handelte.

Laut den Mitarbeitern der Filmfirma sind sie völlig davon überzeugt, dass es sich bei der anderen Partei um „Quan Fu“ handelt, wenn sie sich nur den Sprachanruf ansehen, da die Stimmähnlichkeit bis zu 100 % beträgt.

KI verändert das Gesicht, um anstößige Videos zu generieren

Am 26. April veröffentlichte die Internet-Berühmtheit „Caro Lailai_“ auf Weibo, dass ihr Gesicht von einer externen sozialen Plattform „gestohlen“ wurde, indem sie vorgab, einen eigenen Fake-Account zu registrieren, und Fans könnten ihr zuschauen, solange sie bezahlten Video.

Sie entdeckte auch, dass viele Bilder von Prominenten, Bloggern und sogar Amateuren in unanständige Videos verwandelt wurden, um auf diese Weise Geld zu verdienen. Mithilfe der KI-Technologie von Online-Websites kann man sich „mit einem ausziehen“. Klicken Sie auf „“.

AI „Ausziehen mit einem Klick“

Am 28. März wurde „U-Bahn-Fotos von Frauen, die von der KI mit einem Klick ausgezogen wurden“ zu einer heißen Suche auf Weibo. Die Frau auf dem Foto war eine Xiaohongshu-Bloggerin, und die sogenannten „Nacktfotos“ zeigten sie im Juli letzten Jahres Ein auf der Plattform geteiltes Foto.

Auf dem Originalbild war sie normal gekleidet, aber jemand mit einer bösen Absicht nutzte eine KI-Software, um sich mit einem Klick „auszuziehen“, und verbreitete dies absichtlich im Internet, was zu schlimmen Auswirkungen führte. Nach Ausbruch des Vorfalls beantragte der Blogger bei den zuständigen Behörden den Schutz seiner Rechte.

Es ist schwierig, die Authentizität von KI-Inhalten zu beurteilen, und die Aufsicht im In- und Ausland wurde verstärkt

Aufgrund der Popularisierung der KI-Technologie ist auf den großen Social-Media-Plattformen eine große Menge KI-generierter Inhalte entstanden. Allerdings sind KI-generierte realistische Bilder und Videos von echten Menschen sowie Textmanuskripte schwierig, zwischen wahr und falsch zu unterscheiden . Wenn man nicht viel über KI-Technologie weiß, kann man sich leicht „täuschen“.

Vor einiger Zeit veröffentlichte beispielsweise ein ausländischer Internetnutzer eine Reihe gefälschter Fotos des „Modepapstes“ auf der Twitter-Plattform, die viral gingen. Der „falsche Papst“ auf dem Bild zog seine traditionellen Gewänder aus und zog eine modische weiße Daunenjacke an. Passanten, die die Wahrheit nicht kennen, können leicht missverstehen, dass dies der echte Papst ist, der seine Kleidung wechselt Es wurde tatsächlich mit dem KI-Zeichentool Midjourney gezeichnet.

Bildquelle: @skyferrori über Twitter

Da die von dieser KI-Gruppe generierten Bilder zu „heiß“ sind, um Missverständnisse bei Passanten zu verhindern, hat Twitter als Plattform die Bilder umgehend als „KI-generiert“ gekennzeichnet.

Im In- und Ausland haben viele Plattformen in letzter Zeit zeitnah die Überwachung von KI-Inhalten verfolgt und Vorgaben und Maßnahmen im Zusammenhang mit künstlicher Intelligenz herausgegeben.

1. Douyin hat „Douyins Plattformspezifikationen und Brancheninitiativen für durch künstliche Intelligenz generierte Inhalte“ veröffentlicht

Die Artikel 9 bis 11 dieser Brancheninitiative erwähnen die Identifizierung von KI-generierten Inhalten und die Möglichkeit, virtuelle Personen zu registrieren und Benutzer-Feedback-Kanäle zu öffnen.

9. Die Plattform wird einheitliche, durch künstliche Intelligenz generierte Funktionen zur Inhaltsidentifizierung bereitstellen, um Erstellern das Markieren zu erleichtern und Benutzern die Unterscheidung zu erleichtern.

10. Die Plattform bietet die Möglichkeit, virtuelle Menschen zu registrieren und die registrierten virtuellen menschlichen Bilder zu schützen.

11. Die Plattform stellt Benutzer-Feedback-Kanäle bereit, um Benutzern die Meldung illegal generierter Inhalte zu erleichtern.

Ähnliche Artikel: „Douyins neue Regeln treten in Kraft!“ Virtuelle Anker sind endlich „legal“, aber sie müssen ihre Identität preisgeben und von echten Menschen gefahren werden》

2. Xiaohongshu fügt Notizen ein KI-Erstellungslogo hinzu

Ende April entdeckten einige Xiaohongshu-Benutzer, dass die Plattform begann, KI-generierte Inhalte zu markieren, und forderten die Benutzer auf, auf die Authentizität zu achten.

Bildquelle: Internet

3. Google hat auf der Entwicklerkonferenz 2023 die Kennzeichnung von KI-generierten Bildern mit Wasserzeichen angekündigt

Google hat auf der jüngsten Entwicklerkonferenz 2023 angekündigt, sicherzustellen, dass jedes von der KI generierte Bild des Unternehmens über ein eingebettetes Wasserzeichen verfügt. Obwohl das Wasserzeichen mit bloßem Auge nicht erkennbar ist, kann es von Software wie Google-Suchmaschinen gelesen und angezeigt werden als Etikett, um den Benutzer darauf hinzuweisen, dass das Bild von KI generiert wurde. Diese Funktion wird in den kommenden Monaten verfügbar sein.

Darüber hinaus hat mein Land im Jahr 2021 den „Ethikkodex für künstliche Intelligenz der neuen Generation“ veröffentlicht, der strategische Planung, die Formulierung und Umsetzung von Richtlinien, Vorschriften und technischen Standards, Ressourcenzuweisung, Überwachung und Überprüfung usw. umfasst. Und im März dieses Jahres hat die Cyberspace Administration of China die „Regulations on the Management of Generative Artificial Intelligence Services (Draft for Comments)“ herausgegeben, die das Verhalten von Anbietern generativer KI-Dienste regelt, einschließlich des Schutzes von Nutzerrechten und -interessen sowie Informationen Sicherheitssicherung, Technologiesicherheit usw.

Mit Blick aufs Ausland hat die italienische Regierung im März dieses Jahres ein vorübergehendes Verbot von ChatGPT verhängt, mit der Begründung, es verstoße gegen die Datenschutz-Grundverordnung der Europäischen Union. Am 16. Mai sagte Sam Altman, CEO von OpenAI, vor dem US-Senat auch über die potenziellen Gefahren der KI-Technologie aus und forderte die Gesetzgeber auf, Lizenzanforderungen und andere Vorschriften für Organisationen umzusetzen, die fortschrittliche KI-Systeme wie GPT-4 entwickeln.

Der CEO von OpenAI erschien auf dem Capitol Hill in den Vereinigten Staaten und forderte die Regulierung von KI. Quelle: Internet

Es zeigt sich, dass die meisten dieser Verstöße immer noch im Informationsbereich stattfinden. Einerseits handelt es sich aus materieller Sicht um relativ eigentümerlose öffentliche Informationen, die ursprünglich nach dem Abendessen auf der Straße diskutiert wurden, obwohl es viele Unwahrheiten und Vermutungen gibt, die sich nur von einer Straße zur anderen verbreiten Aber genauso wie soziale Medien Informationen verbreiten können, können böse Menschen auch KI nutzen, um die trübe Strömung zu verstärken. Aus Sicht der Opfer sind die meisten von ihnen jedoch normale Menschen, die Schwierigkeiten beim Sprechen haben Niemand wird die Erklärung lesen, und es ist noch schwieriger, einen Anwaltsbrief zu versenden. Obwohl Gesetze, Vorschriften und Plattformen die Überwachung der KI-Technologie weiterverfolgen, sind die Kosten für den Schutz der Rechte für den Normalbürger immer noch sehr hoch.

Das Problem liegt wieder bei den Bösewichten, wenn sie sich hinter dem Internet verstecken und es zur Notwendigkeit wird, das Messer in ihren Händen zu kontrollieren.

ps. Morgen sind es 520

, wie kann ich als romantischer KI-Spieler auf Rosen verzichten?

Antworten Sie auf das Schlüsselwort "520" oder "521" im Backend des offiziellen Kontos „Number One AI Player“, und Sie erhalten zufällig eine von AI generierte Blindbox-Rose

Das obige ist der detaillierte Inhalt vonIhr Selfie ist möglicherweise in der „Bibliothek unanständiger Bilder' enthalten, und das Böse der KI ist tatsächlich ganz in Ihrer Nähe!. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!