Richter erinnert: Seien Sie vorsichtig vor den rechtlichen Risiken des Missbrauchs von KI-Technologie

Technologie der künstlichen Intelligenz wurde in den letzten Jahren still und leise in jeden Bereich unseres Lebens integriert: Gemeinsame Funktionen wie intelligenter Sprachkundendienst, KI-Anker und Voice-to-Text haben den Arbeits- und Lebenskomfort für viele erheblich verbessert KI-Gesichtsveränderungs-, KI-Mal-Apps oder kleine Programme ermöglichen aufgrund ihrer Benutzerfreundlichkeit auch normalen Menschen, ihre Träume, ein Star oder ein Maler zu sein, in einer Sekunde zu verwirklichen Letztes Jahr wurde es nach seiner Veröffentlichung auf der ganzen Welt sehr beliebt. Allerdings ist Technologie immer ein zweischneidiges Schwert. Kürzlich wurde ein Mann in Fujian von einem Betrüger um 4,3 Millionen Yuan betrogen, indem er KI-Gesichtsveränderungs- und Lautmalerei-Technologie einsetzte, um sich als sein Freund auszugeben und betrog ihn durch einen 10-minütigen Video-Chat um 4,3 Millionen Yuan, was die Menschen dazu brachte, tiefer zu denken: Wie sollte die KI-Technologie der Menschheit dienen? Welche rechtlichen Risiken bringt der Missbrauch von Technologie mit sich und welche Art von Vertrauenskrise wird er verursachen?

1. Es besteht die Gefahr von Verstößen bei der „Erstellung“ von KI

Die ursprüngliche Absicht der Entwicklung der KI-Technologie besteht darin, das menschliche Leben zu verbessern. In den letzten Jahren hat sich die Verarbeitung von Videos, Audios, Bildern und Texten schrittweise vom Labor in die Öffentlichkeit verlagert und die Produktion und den Lebensstil der Menschen verändert. Mit einer breiten Palette an Anwendungsszenarien und einem abwechslungsreichen Gameplay bietet es eine außergewöhnliche Leistung bei der Reduzierung von Kosten, der Steigerung der Effizienz und der Freisetzung von Produktivität.

Nehmen Sie als Beispiel die KI-Videotechnologie. In der Vergangenheit konnte das Fehlverhalten eines bestimmten Schauspielers dazu führen, dass das gesamte Werk, an dem er mitgewirkt hat, nicht ausgestrahlt werden konnte, was zu finanziellen Verlusten für die Filmpartei führte. Durch KI-Technologie ist es möglich, das Gesicht des problematischen Schauspielers nach Abschluss der Dreharbeiten zu „verändern“ und den Zeitverlust zu stoppen. In Bezug auf die Produktion von Spezialeffekten war KI in der Vergangenheit nur ein Assistent für Spezialeffektkünstler, aber jetzt gibt es mehrere Softwareprogramme, die Blockbuster-Spezialeffekte auf „narrenartige“ Weise erzeugen können Ära", und auch normale Menschen können die wunderbare Erfahrung machen, ihre eigenen Spezialeffekte zu erstellen. Darüber hinaus kann die KI-Technologie auch Videos „aus dem Nichts“ erstellen, die nur auf Texten basieren, ohne weitere Bilder und Videomaterialien hinzuzufügen, und so den vielfältigeren Bedürfnissen der Ersteller gerecht zu werden.

Während des diesjährigen Frühlingsfestes erfreute sich eine Reihe von Bildern flauschiger Cartoon-Kaninchen mit rotem Hintergrund großer Beliebtheit im Freundeskreis und wurde zu Bildschirmschonern und Avataren vieler Menschen. Diese Bilder wurden alle durch KI-Zeichentechnologie generiert. In den Bereichen Design und Malerei sind viele KI-Zeichenwerkzeuge entstanden. Benutzer müssen nur Textbefehle eingeben, um „Zeichnungen aus Text“ zu erstellen und in wenigen Minuten eine gute Arbeit zu erhalten, was die Produktionseffizienz erheblich verbessert. Dies kann jedoch Auswirkungen auf die Bildurheberrechtsbranche haben.

Wenn Sie ein urheberrechtlich geschütztes Bild, einschließlich Gemälden und Fotografien, verwenden möchten, müssen Sie im Allgemeinen für die rechtmäßige Nutzung bezahlen. Andernfalls kommt es zu Urheberrechtsverletzungen, insbesondere im Bereich von Streitigkeiten im Zusammenhang mit Selbstmedien. Einige Self-Media-Konten haben ohne Erlaubnis urheberrechtlich geschützte Bilder anderer Personen als Illustrationen in Anzeigen verwendet und wurden von den Rechteinhabern auf Schadensersatz verklagt. Einige Urheberrechtsagenturen verbergen möglicherweise auch absichtlich andere und verleiten sie dazu, urheberrechtlich geschützte Bilder usw. zu verwenden, um an die Fakten zu gelangen Später fordern sie von der Gegenpartei Schadensersatz, zwingen sie zur Unterzeichnung eines Jahresvertrags oder reichen eine Klage ein und machen so den Rechtsschutz zu einem Mittel zur Gewinnerzielung. Das Aufkommen der KI-Zeichnungstechnologie kann Self-Media-Betreibern in gewissem Maße dabei helfen, die Kosten zu kontrollieren und das Risiko von Klagen aufgrund der missbräuchlichen Nutzung von Bildwerken zu verringern. Andererseits kann es auch die Marktordnung der kommerziellen Rechte stören Das Verhalten der Schutzindustrie ist ein Schlag.

Das oben erwähnte KI-Video, die KI-Zeichentechnologie und das „Allzweck“-Chat-Tool ChatGPT, das Menschen beim Schreiben von Aufsätzen, E-Mails, Skripten, Gedichten und Codes helfen kann, sind allesamt spezifische Anwendungen der Deep-Synthese-Technologie Unabhängig davon, ob Menschen über einen beruflichen Hintergrund und relevante Erfahrung verfügen, können Sie diese KI-Tools zum „Erschaffen“ verwenden, solange Sie über einfache Ausdrucksfähigkeiten verfügen. Wie hoch ist also das Urheberrecht an diesen generierten Videos, Bildern und Textwerken? Tatsächlich regelt das Urheberrechtsgesetz meines Landes das Urheberrecht an Werken, die mit KI generiert wurden, jedoch nicht. Viele KI-Tools haben jedoch entsprechende Nutzungsregeln für das Eigentum an den Rechten der generierten Werke festgelegt Bezahlte Benutzer unterscheiden zwischen dem Eigentum an den Rechten des Werks und der Frage, ob es kommerzialisiert werden kann. Dies kann als Einigung der beiden Parteien über die Urheberrechtsfragen des generierten Werks angesehen werden, und die Verfügung des Benutzers über das Werk sollte eingehalten werden die Vereinbarung.

Darüber hinaus fragen sich einige Leute, ob die von der KI durch Lernen und Nachahmung umfangreicher Muster erzeugten Werke die gesetzlichen Rechte der Urheberrechtsinhaber früherer Werke verletzen? In diesem Zusammenhang war der Richter des Mittleren Volksgerichtshofs Nr. 4 in Peking der Ansicht, dass es darauf ankomme, ob der Grad der Bezugnahme und Verwendung von KI-Werken auf die Werke anderer Personen eine wesentliche Ähnlichkeit darstelle. Wenn es sich lediglich um ein Studium und eine Nachahmung der kreativen Techniken, Regeln, Techniken und Stile anderer Personen handelt, ist es schwierig, es als „Plagiat“ zu identifizieren. Wenn es sich jedoch um ein mechanisches Kopieren und Zusammenfügen der Werke anderer Personen handelt, kann es sich um ein Plagiat handeln Verstoß. Daher sollten Schöpfer auf der Grundlage der Nutzung von KI zur frühzeitigen Gewinnung von Inspiration und Kreativität ihre eigenen Ideen, Perspektiven, humanistischen Emotionen usw. einbringen, um den Inhalt grundlegend zu ändern und den Besitz und die spätere Nutzung des Werks sicherer zu machen.

2. KI-„Gesichtsveränderung“ kann Porträtrechte verletzen

Die Iteration der Technologie hat viele unmögliche Dinge möglich gemacht, wie es bei der „KI Stefanie Sun“ der Fall ist, die kürzlich im Internet explodierte. Viele Künstler nutzen die Klangfarbe von Stefanie Sun, um die KI zu trainieren, und nutzen synthetisierte Klangfarben, um die Werke anderer Sänger zu covern. Stefanie Sun, die seit vielen Jahren kein Album mehr veröffentlicht hat, hat auf Anhieb mehr als tausend Coversongs veröffentlicht Wesen können es nicht übertreffen. „Gleich um die Ecke.“ Sind diese KI-Abdeckungen also legal?

Tatsächlich fallen die Gesangsstimme und das Timbre des Sängers nicht in den Schutzbereich des Urheberrechts. Artikel 1023 des Bürgerlichen Gesetzbuchs sieht jedoch vor, dass sich der Schutz der Stimmen natürlicher Personen auf die einschlägigen Bestimmungen bezieht Der Schutz der Porträtrechte, das heißt, es hieß, dass Mittel der Informationstechnologie nicht dazu verwendet werden sollten, die Rechte anderer an ihrer Stimme durch Fälschung zu verletzen.

Darüber hinaus fordern einige Leute eine Befreiung mit der Begründung „nur zur Unterhaltung und nicht für kommerzielle Zwecke“. Gemäß den Bestimmungen von Artikel 42 des Urheberrechtsgesetzes verwenden Tonproduzenten jedoch Musikwerke, die legal aufgenommen wurden B. Tonaufnahmen durch andere, ohne die Erlaubnis des Urheberrechtsinhabers anzufertigen, es muss jedoch eine Vergütung gemäß den Vorschriften gezahlt werden. Der Haftungsausschluss ist kein Grund, Urheberrechtsverletzungen zu verhindern. Darüber hinaus erhalten einige Leute Plattformeinnahmen oder Benutzerprämien, nachdem sie AI-Cover-Werke hochgeladen haben. Obwohl sie für das Anhören nicht zahlen müssen, erzielen die Produzenten dadurch Einnahmen, sodass es schwierig ist, ihre Werke im Sinne des Urheberrechts als faire Nutzung zu definieren . „Kostenlose Show“.

Es zeigt sich, dass die KI-Technologie zwar gut ist, aber vor Missbrauch geschützt werden muss. Es gab eine Zeit, in der Prominente wie „Yang Mi“ und „Reba“ häufig im Live-Übertragungsraum auftauchten, um Waren zu bringen, und scharfäugige Internetnutzer erkannten es auf einen Blick. Es stellte sich heraus, dass dies alles KI-Gesichtsveränderungen waren Technologien, und einige Leute versuchten, ein „Starface“ zu tragen, um mehr Benutzer zum Betreten des Live-Übertragungsraums zu locken. Dabei kommt es zwar zu Verkehr, es werden aber auch die legitimen Rechte und Interessen anderer verletzt. Gemäß Artikel 1019 des Bürgerlichen Gesetzbuches darf keine Organisation oder Einzelperson die Bildrechte anderer verletzen, indem sie Bilder verunglimpft, verunstaltet oder informationstechnische Mittel zur Fälschung einsetzt. Ohne Zustimmung des Bildrechtsinhabers darf das Porträt des Bildrechtsinhabers nicht angefertigt, genutzt oder offengelegt werden, sofern gesetzlich nichts anderes bestimmt ist. Ohne die Zustimmung des Rechteinhabers des Porträts darf der Rechteinhaber des Porträtwerks das Porträt des Rechteinhabers des Porträts nicht in irgendeiner Weise nutzen oder offenlegen, beispielsweise durch Veröffentlichung, Vervielfältigung, Verbreitung, Vermietung oder Ausstellung. Das illegale „Transplantieren“ von Promi-Porträts auf Moderatoren ist gleichbedeutend mit der Erzielung eines Promi-Effekts zum Nulltarif. Es verletzt nicht nur die Porträtrechte der Prominenten, deren Gesichter verändert wurden, sondern auch die wirtschaftlichen Interessen, die sie vertreten , aber auch andere Betreiber, die für die gesetzeskonforme Nutzung von Promi-Porträts zahlen, sind offensichtlich unfair.

Darüber hinaus haben einige Internetnutzer Fotos von sich hochgeladen und die Gesichter von Schauspielern in Film- und Fernsehdramen durch ihre eigenen ersetzt. Dieses Verhalten birgt auch rechtliche Risiken. Nach den gesetzlichen Bestimmungen zum Bildnis handelt es sich beim „Reverse Face Swapping“ auch um eine Verletzung des Bildrechtes anderer Personen durch gefälschte informationstechnische Mittel. Insbesondere das Ändern der Gesichter von Charakteren in Film- und Fernsehdramen und das Hochladen der Videos ins Internet können auch eine Verletzung von Urheberrechten wie dem Recht zur Online-Verbreitung von Film- und Fernsehinformationen und dem Recht zum Schutz der Integrität des Werks darstellen Die jeweiligen Urheberrechtsinhaber können sich das Recht vorbehalten, ihre Haftung geltend zu machen und Schadensersatz zu verlangen.

Der Richter des Mittleren Volksgerichts Nr. 4 in Peking erinnerte daran, dass „Gesichtsveränderung“ auch andere Streitigkeiten über Persönlichkeitsrechte auslösen kann. Ein Videoblogger nutzte kürzlich eine KI-Technologie zur Gesichtsveränderung, um das Gesicht des männlichen Protagonisten in einigen intimen Szenen des Films und der Fernsehserie durch sein eigenes zu ersetzen, was bei vielen Internetnutzern und Fans des Schauspielers für Unbehagen sorgte. Die intimen Szenen der Schauspieler im Stück sind Aufführungsbedürfnisse, die sich im Vertrag und im Drehbuch widerspiegeln. Sie sind eine notwendige Interpretation der Handlung, die auf dem Wissen und der Zustimmung des Schauspielers basiert. Das Verhalten des Bloggers stellte jedoch nicht nur Unhöflichkeit und Beleidigung gegenüber der Schauspielerin dar, sondern kann auch als „Verletzung des Willens einer anderen Person durch Sprache, Schrift, Bilder, körperliches Verhalten usw.“ angesehen werden, wie in Artikel 1010 des Bürgerlichen Gesetzbuchs festgelegt . „Andere begehen sexuelle Belästigung“ und haften zivilrechtlich. Darüber hinaus werden die Porträts weiblicher Prominenter oder gewöhnlicher Frauen in pornografische Videos umgewandelt, um „pornografische Gerüchte zu verbreiten“ oder illegale Gewinne zu erzielen, was die Reputationsrechte anderer ernsthaft verletzt und den Beteiligten große psychische Schmerzen bereitet sollte nach dem Gesetz bestraft werden.

3. Konzentrieren Sie sich auf die Verhinderung des Einsatzes von KI zur Begehung von Verbrechen

Während die Menschen immer noch die verschiedenen Annehmlichkeiten der KI erkunden, haben sich Kriminelle bereits auf diese Technologie konzentriert. Berichten zufolge kontaktierte ihn ein WeChat-„Freund“ von Herrn Guo aus Fujian per Video und sagte, er wolle sich eine Kaution in Höhe von 4,3 Millionen Yuan leihen. Aufgrund seines Vertrauens in den Videoanruf schloss Herr Guo die Übertragung innerhalb von 10 Minuten ab und stellte bald fest, dass er betrogen worden war. Es stellte sich heraus, dass der Betrüger zunächst die WeChat-Konten von Herrn Guos Freunden stahl, von der finanziellen Stärke von Herrn Guo erfuhr, dann das Gesicht, die Stimme und andere Informationen des „Freundes“ zur späteren Synthese beschaffte und schließlich den Betrug vollendete schwer zu erkennen. Ursprünglich wurde die Fernkommunikation aus Bequemlichkeitsgründen entwickelt, doch der Missbrauch der KI-Technologie hat das Vertrauen der Menschen in die Online-Kommunikation gemindert. Stellen Sie sich vor, wenn jemand KI-Technologie nutzt, um illegale Videos, Fake News usw. zu produzieren, wird dies zweifellos schädlich für das soziale Vertrauenssystem sein.

Integrität ist entscheidend für die Gewährleistung der Transaktionssicherheit, aber der unsachgemäße Einsatz der Deep-Synthese-Technologie kann das Ausfallrisiko erhöhen, insbesondere im Bereich von Transaktionen, die auf den intellektuellen Leistungen der anderen Partei basieren. Wenn es sich bei der Arbeit des Erstellers um Text oder Bilder handelt, die mit KI-Tools wie ChatGPT und Midjourney generiert wurden, kann die Originalität der Arbeit fehlerhaft sein. Beispielsweise können solche synthetischen Werke im Hinblick auf Urheberrechtslizenz- oder Übertragungsverträge eine fehlerhafte Leistung aufgrund unzureichender Originalität darstellen oder Rechtsmängel aufgrund einer Verletzung aufweisen, es sei denn, beide Vertragsparteien haben sich auf die Verwendung von KI für die Erstellung geeinigt Die Verletzung der Urheberrechte anderer Personen kann bei der späteren kommerziellen Nutzung des Werks zu unnötigen Verlusten führen.

Darüber hinaus wird die Zugänglichkeit der KI-Technologie auch das Moral Hazard erhöhen. Der Richter des Vierten Mittleren Volksgerichtshofs von Peking sagte, dass sich die Zeit-, Wirtschafts- und Energiekosten im Vergleich zum Arbeitsaufwand, der für die Durchführung unabhängiger intellektueller Arbeit erforderlich ist, stark unterscheiden zwischen dem Arbeitsaufwand, der für die Erledigung von Arbeiten mithilfe von KI erforderlich ist, wenn es um Schreiben oder Malen geht usw. Praktiker in diesem Bereich verlassen sich stark auf KI, um ihre Arbeit zu erledigen, ohne zahlende Kunden zu informieren, und zitieren dennoch nach den von Einzelpersonen unabhängig erstellten Standards. Die Ordnung des gesunden Wettbewerbs in verwandten Branchen wird durchbrochen, und auch die Berufsethik wird in Frage gestellt Krise. Natürlich gibt es auch akademische Bereiche, in denen viel auf dem Spiel steht. Für Studenten ist es nichts Neues, künstliche Intelligenz-Tools wie ChatGPT zur Unterstützung beim Schreiben von Arbeiten zu verwenden. Allerdings weisen die von KI erstellten Arbeiten zum jetzigen Zeitpunkt noch viele Mängel auf, wie z. B. einen Mangel an Neuheit, logischem Ausdruck und sogar Referenzen Es kann sein, dass KI es wahllos wiedergutgemacht hat. Solche akademischen Leistungen haben nicht nur überhaupt keinen Wert, sie verschärfen sogar das Phänomen des akademischen Fehlverhaltens.

Angesichts der damit verbundenen Risiken müssen wir nicht nur Abhilfemaßnahmen ergreifen, sondern auch Vorkehrungen treffen. Die von der Cyberspace Administration of China erlassenen „Internet Information Services Deep Synthesis Management Regulations“ wurden am 10. Januar dieses Jahres offiziell umgesetzt. Sie legen hauptsächlich die Pflichten von Deep Synthesis-Dienstanbietern fest, die von Deep Synthesis-Dienstleistern verlangen, intelligenten Dialog und synthetisierte Menschen bereitzustellen Stimmen, Gesichtsgenerierung, immersive Simulationsszenen und andere Dienste, die Informationsinhalte generieren oder deren Funktion erheblich verändern, sollten deutlich gekennzeichnet sein, um Verwirrung oder Missverständnisse in der Öffentlichkeit zu vermeiden. Es zeigt sich, dass wir zur Risikoprävention zunächst bei Technologieentwicklern und Dienstleistern ansetzen müssen.

Für Einzelpersonen wird der Schutz biometrischer Informationen wie Gesichter, Fingerabdrücke und Stimmen sowie persönlicher Informationen wie Ausweise, Bankkarten und Social-Media-Konten immer wichtiger. Wenn ein Bekannter online eine Überweisung beantragt, muss seine Identität durch mehrfache Verifizierung bestätigt werden. Dies gilt insbesondere für ältere Menschen, die nicht viel über KI-Technologie wissen.

Foto bereitgestellt von: Visual China

Quelle: Beijing Daily Kundenreporter: Yuan Jing

Prozesseditor: u060

Das obige ist der detaillierte Inhalt vonRichter erinnert: Seien Sie vorsichtig vor den rechtlichen Risiken des Missbrauchs von KI-Technologie. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!