Maßgebliche Liste |. NetEase Yidun wurde von der China Academy of Information and Communications Technology als herausragendes Beispiel für generative KI-Technologie und -Anwendung ausgewählt

Wir werden weiterhin Forschungsarbeiten auf der Grundlage der generativen künstlichen Intelligenztechnologie durchführen, deren Anwendung und industriellen Entwicklungsstand eingehend untersuchen, herausragende Ergebnisse zusammenfassen und fördern sowie eine qualitativ hochwertige Entwicklung der Branche fördern. Im Februar 2023 stützte sich die China Academy of Information and Communications Technology (im Folgenden als „CAICT“ bezeichnet) auf die Generative AI Working Group des AI Engineering Promotion Committee des Key Laboratory of Artificial Intelligence and Application Evaluation des Ministeriums für Industrie und Informationstechnologie starten offiziell die Generative AI Working Group Sammlung von KI-Technologie- und Anwendungsfällen. Am Nachmittag des 31. Mai wurde beim Large Model Technology Application Sub-Forum des Hangzhou General Artificial Intelligence Forum die erste Auswahlrunde für herausragende Fälle generativer KI-Technologie und -Anwendungen offiziell veröffentlicht , wurde erfolgreich als herausragender Fall ausgewählt und gewann den China Credit. Die Tongyuan Academy stellt ein Zertifikat aus.

1. Die Kontrolle des Inhaltsrisikos hat für die Internetsicherheit immer noch höchste Priorität

In den letzten Jahren haben Netzwerkdaten mit der rasanten Entwicklung des Internets ein explosionsartiges Wachstum verzeichnet. Inhalte in verschiedenen Formen wie Text, Bilder, Sprache und Video sind zu einem wesentlichen Bestandteil des täglichen Lebens und der Arbeit der Menschen geworden. Die Diversifizierung der Inhaltsformen und die deutlich gesenkte Hürde für die Inhaltserstellung haben zu großer Bequemlichkeit und Effizienz in unserem Leben geführt. Die dadurch verursachten Probleme bei der Kontrolle von Inhaltsrisiken sind jedoch zu einer immer wichtigeren Priorität für die Sicherheit im Internet geworden.

2. Die traditionelle Risikokontrolle von Inhalten steht vor neuen Herausforderungen

Das Risikomanagement und die Kontrolle digitaler Inhalte zeichnen sich durch einen großen Umfang und Typ, eine feine Granularität, häufige Konfrontationen sowie unterschiedliche Bedürfnisse und Standards aus. In der Vergangenheit wurde bei der Risikokontrolle digitaler Inhalte zur Identifizierung und zum Schutz üblicherweise der Ansatz „Nachbearbeitung + Anpassung + Wahrnehmung“ verwendet.

· Post-Positionierung bezieht sich auf gezielte Lösungen nach Auftreten schädlicher Typen oder Daten, und es besteht oft keine klare Möglichkeit, Risiken im Voraus zu erkennen und zu verhindern.

· Anpassung bezieht sich auf das breite Spektrum schädlicher Informationstypen und -umfänge. Aufgrund des Mangels an zuverlässigen universellen Funktionen ist eine kontinuierliche Modellanpassungsschulung für verschiedene schädliche Typen erforderlich, und jede Anpassung erfordert den Aufbau professioneller Feldfunktionen von Grund auf, was zeitaufwändig ist. aufwändig und kostspielig.

· Wahrnehmung bedeutet, dass die Identifizierung schädlicher Informationen häufig gezielt erfolgt und nur auf den schädlichen Typ des Ziels abzielt, ohne die Inhaltsinformationen der Szene sinnvoll zu nutzen. Das heißt, die Risikokontrolle von Inhalten basierte in der Vergangenheit eher auf der Identifizierung auf Wahrnehmungsebene Denken auf kognitiver Ebene.

·Gleichzeitig gibt es oft viele subjektive, grenzüberschreitende und detaillierte Unterschiede in der Definition schädlicher Typen. Durch die häufige Anpassung von Modellen, die auf der vielfältigen Ersetzung von Standards basieren, kann kein wirklich differenzierter, hierarchischer und präziser Schutz erreicht werden.

Daher ist es digital geworden, wie man mögliche Sicherheitsrisiken im Voraus erkennt und verhindert, wie man schnell Sicherheitsschutzfunktionen für neu auftretende Gefahrentypen aufbaut, wie man Szeneninformationen umfassend integriert, um tiefgehendes kognitives Denken zu ermöglichen, und wie man präzisen Schutz differenziert und hierarchisiert Inhalt Wichtige Herausforderungen und Schwierigkeiten in der Sicherheit.

3. AIGC bringt neue Ideen zur Inhaltsrisikokontrolle

Die aktuelle Entwicklung von AIGC ermöglicht die Bereitstellung universellerer, frontseitiger und schneller reagierender Risikokontrollfunktionen für digitale Inhalte. AIGC bringt „Weltwissen“ ein, um über umfassendere allgemeine Fähigkeiten, kreative Fähigkeiten, Datenwahrnehmung und Wissensfusionsfähigkeiten zu verfügen. Konkret:

· Basierend auf den allgemeinen Funktionen und weiteren benutzerdefinierten Domänensicherheitsfunktionen werden der Zeitzyklus und die Kosten der Inhaltsrisikokontrolle erheblich reduziert

· Basierend auf seiner kreativen Fähigkeit erkennt und verhindert die Inhaltsrisikokontrolle unbekannte Risiken im Voraus und wandelt „Post-Position“ in „Vor-Positionierung“ um, wodurch die versteckten Gefahren unbekannter schädlicher Arten reduziert werden

· Basierend auf seinen umfangreichen Funktionen zur Informationsinjektion und -fusion nutzt und integriert es umfassende Informationen außer schädlichen Typen wie Szenen, Hintergründe und Wissen in vollem Umfang, wodurch das Szenenverständnis und die Wissenstransferfähigkeiten der Inhaltsrisikokontrolle verbessert werden Führen Sie tieferes kognitives logisches Denken und umfassende Prävention und Kontrolle durch

· Basierend auf dem Paradigma des schnellen Kontextlernens und dem Denkprozess lässt sich die Inhaltsrisikokontrolle bequemer an unterschiedliche Standards anpassen, ohne das Modell zu aktualisieren, und bietet differenzierte, hierarchische und hierarchisch präzise Prävention und Kontrolle.

4. NetEase Yidun: Generative KI-Technologie ermöglicht die Kontrolle von Inhaltsrisiken

Basierend auf den oben genannten Ideen verwendet NetEase Yidun generative KI-Technologie, um AIGC-basierte Generationenkonfrontationsprävention und -kontrolle, die Identifizierung schädlicher Informationen in kleinen Stichproben, eine feinkörnige adaptive Identifizierung, umfassende logische Argumentation für Informationen und andere Lösungen zu entwickeln und dabei den stärksten Speer zum Erstellen zu verwenden der stärkste Schild. Die Details sind wie folgt:

(1) Erstellen Sie einen Konfrontationspräventions- und Kontrollplan basierend auf AIGC

Um eine frühzeitige Erkennung und Prävention von Sicherheitsrisiken zu erreichen, hat NetEase Yidun auf der Grundlage der kreativen Fähigkeiten von AIGC eine AIGC-basierte Lösung zur Verhinderung und Kontrolle von Generationenkonfrontationen entwickelt und die ursprüngliche „Erkennung + Bereitstellung und Kontrolle“ zu „Erkennung + Generierung +“ verbessert Einsatz und Kontrolle". Diese Lösung generiert schädliche Typen und Proben, die vom aktuellen Modell nicht abgedeckt werden können oder schlechte Identifizierungseffekte haben. Basierend auf den aktuellen Mainstream-Sicherheitsrisikotypen wird der Trend zur Änderung des Sicherheitsrisikos mithilfe der AIGC-Methode weiter simuliert, um ein frühzeitiges Sicherheitsbewusstsein zu erreichen Risiken. Weitere Bereitstellungs- und Kontrollmethoden umfassen die Kombination von AIGC-generierten Stichproben für das gemeinsame Training iterativer Präventions- und Kontrollmodelle, den Aufbau von AIGC-generierten gegnerischen Bibliotheken für Festkomma-Prävention und -Kontrolle usw.

(2) AIGC-Schema zur Identifizierung schädlicher Informationen in kleinen Stichproben

Um einen effizienten und schnellen Aufbau digitaler Risikokontrollfunktionen zu erreichen und die Fähigkeiten im Berufsfeld auf der Grundlage der allgemeinen Fähigkeiten von AIGC weiterzuentwickeln, haben wir eine kleine Beispiellösung zur Identifizierung schädlicher Informationen auf Basis von AIGC entwickelt. Verbessern Sie den ursprünglichen Plan zum Aufbau von „allgemeinen Fähigkeiten + Domänenfähigkeiten“ von Grund auf in die Schritte zum Aufbau von „AIGC-Universalfähigkeiten + allgemeine Fähigkeitskompensation + Domänenfähigkeiten“. Durch die Gestaltung des Kompensationsmoduls für allgemeine Fähigkeiten kleiner Stichproben wird die Lücke bei der Anwendung allgemeiner AIGC-Fähigkeiten in professionellen Szenarien auf Kosten einer kleinen Anzahl von Stichproben geschlossen und ist direkt mit dem Modul zum Aufbau von Domänenfähigkeiten verknüpft. Die Verwendung der Methode „AIGC Universal Capabilities + Universal Capability Compensation“ ist schneller, effizienter und kostengünstiger als der Aufbau universeller Fähigkeiten von Grund auf.

(3) Feinkörniges adaptives Erkennungsschema basierend auf AIGC

Um eine differenzierte hierarchische und präzise Prävention und Kontrolle zu erreichen, basierend auf dem AIGC-Paradigma des schnellen Kontextlernens und den Denkfähigkeiten, haben wir eine AIGC-basierte feinkörnige adaptive Identifikationslösung entwickelt und die Idee des schnellen Lernens von AIGC auf die angewendet Lösung zum Verständnis schädlicher Inhalte und durch die Untersuchung der Ausrichtung multimodaler Eingabeaufforderungen und Inferenzeingaben mit unterschiedlichen Standards, sodass unterschiedliche Standards durch unterschiedliche Eingabeaufforderungen und Inferenzeingaben abgebildet werden. Beispielsweise war es in der Vergangenheit schwierig, das Genre „Sexy“ feinkörniger zu zerlegen, oder die Kosten für die Zerlegung waren sehr hoch. Jetzt kann es in feinkörnigere Kategorien wie „Sexiness“ unterteilt werden von Strandszenen und der Sexyness von Nachtclubszenen, wodurch die Genrestandards für Szenarien und Beispiele verfeinert werden, es kann sich besser an Standards mit unterschiedlichen Subjektivitäten und unterschiedlichen Grenzen anpassen und hierarchische und geschichtete präzise Prävention und Kontrolle auf eine feinere Art und Weise realisieren .

(4) AIGC umfassende informationslogische Argumentationslösung

Um kognitives logisches Denken und umfassende Prävention und Kontrolle zu erreichen, basierend auf der Informationsinjektion und -fusion sowie den Fähigkeiten des logischen Denkens von AIGC, haben wir eine umfassende Lösung zum logischen Denken auf Basis von AIGC entwickelt. Verbessern Sie die ursprüngliche Wahrnehmungserkennung, die nur auf schädliche Informationen abzielt, sodass alle Informationen, einschließlich schädlicher Informationen, für das kognitive Denken integriert werden können. Das visuelle Sprachmodell von AIGC wird verwendet, um umfassende Informationen mit Ausnahme schädlicher Informationen zu erhalten, und wird für umfassende Überlegungen verwendet. Die ursprüngliche Lösung, die auf „Extraktion schädlicher Informationen basierend auf Domänenfunktionen + Entscheidungsfindung“ basiert, wird zu einer Lösung verbessert, die auf „Extraktion schädlicher Informationen basierend auf Domänenfunktionen + Extraktion von allgemeinem Wissen basierend auf AIGC + Informationsfusion und umfassender logischer Entscheidungsfindung“ basiert. Erstellen basierend auf visuellen Sprachmodellen".

5. Generative KI bringt erhebliche Vorteile für die Risikokontrolle von Inhalten

In Risikokontrollszenarien für digitale Inhalte entwickelt und integriert NetEase Yidun generative KI-Funktionen, um einen effizienten und schnellen Aufbau von Domänensicherheitsfunktionen, eine frühzeitige Wahrnehmung und Prävention von Sicherheitsrisiken, kognitives Denken und eine umfassende Prävention und Kontrolle sowie eine differenzierte, hierarchische und geschichtete Präzision zu erreichen Prävention und Kontrolle. Die Einführung relevanter Lösungen hat Yidun dabei geholfen, die AIGC-Funktionen der drei Ebenen Fähigkeiten, Daten und Informationen vollständig zu koppeln und in den von Kunden tatsächlich angewendeten Risikokontrollszenarien für digitale Inhalte erhebliche Vorteile zu erzielen in Stabilität und anderen Aspekten.

Das obige ist der detaillierte Inhalt vonMaßgebliche Liste |. NetEase Yidun wurde von der China Academy of Information and Communications Technology als herausragendes Beispiel für generative KI-Technologie und -Anwendung ausgewählt. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!