Liste faisant autorité | NetEase Yidun a été sélectionné comme cas exceptionnel de technologie et d'application d'IA générative par l'Académie chinoise des technologies de l'information et des communications

Nous mènerons en outre des travaux de recherche basés sur la technologie de l'intelligence artificielle générative, explorerons en profondeur son état d'application et de développement industriel, résumerons et promouvrons des résultats exceptionnels et promouvrons un développement de haute qualité de l'industrie. En février 2023, l'Académie chinoise des technologies de l'information et de la communication (ci-après dénommée « CAICT ») s'est appuyée sur le groupe de travail sur l'IA générative du Comité de promotion de l'ingénierie de l'IA du Laboratoire clé d'intelligence artificielle et d'évaluation des applications du ministère de L'industrie et les technologies de l'information lanceront officiellement le groupe de travail sur l'IA générative. Dans l'après-midi du 31 mai, lors du sous-forum sur les applications technologiques des grands modèles du Forum général sur l'intelligence artificielle de Hangzhou, la première série de résultats de sélection pour les cas exceptionnels de technologie et d'applications d'IA générative a été officiellement publiée. NetEase Yidun, une filiale de NetEase Intelligence Enterprise. , a été sélectionné avec succès comme cas exceptionnel et a remporté le China Credit. L'Académie de Tongyuan délivre un certificat.

1. Le contrôle des risques liés au contenu reste la priorité absolue pour la sécurité Internet

Ces dernières années, avec le développement rapide d'Internet, les données des réseaux ont connu une croissance explosive. Le contenu sous diverses formes, telles que le texte, les images, la voix et la vidéo, est devenu un élément essentiel de la vie quotidienne et du travail des gens. La diversification des formes de contenu et le seuil de création de contenu considérablement abaissé ont apporté une grande commodité et une grande efficacité à nos vies. Cependant, les problèmes de contrôle des risques liés au contenu qui en résultent sont devenus de plus en plus importants. La sécurité du contenu numérique est devenue une priorité absolue pour la sécurité Internet.

2. Le contrôle traditionnel des risques liés au contenu est confronté à de nouveaux défis

La gestion et le contrôle des risques liés au contenu numérique présentent les caractéristiques d'une portée et d'un type larges, d'une granularité fine, de confrontations fréquentes et de besoins et normes divers. Dans le passé, le contrôle des risques liés au contenu numérique adoptait généralement une approche « post-traitement + personnalisation + perception » pour l'identification et la protection.

· Le post-positionnement fait référence à des solutions ciblées après l'apparition de types ou de données nuisibles. La rapidité est souvent post-positionnement, et il n'existe pas de capacité claire à percevoir et à prévenir les risques à l'avance.

· La personnalisation fait référence au large éventail de types et de portées d'informations nuisibles. En raison du manque de capacités universelles fiables, une formation continue sur la personnalisation des modèles est requise pour différents types de dommages, et chaque personnalisation nécessite de créer des capacités professionnelles sur le terrain à partir de zéro, ce qui prend du temps. consommatrice et coûteuse.

· La perception signifie que l'identification des informations nuisibles est souvent ciblée, ciblant uniquement le type nuisible de la cible, sans faire bon usage des informations sur le contenu de la scène. Autrement dit, le contrôle des risques de contenu dans le passé était basé sur une identification au niveau de la perception plutôt que sur une identification au niveau de la perception. raisonnement au niveau cognitif.

·Dans le même temps, il existe souvent de nombreuses différences subjectives, limites et détaillées dans la définition des types nuisibles. L'adaptation fréquente des modèles basés sur le remplacement diversifié des normes ne peut pas véritablement assurer une protection différenciée, hiérarchique et précise.

Par conséquent, comment percevoir et prévenir d'éventuels risques de sécurité à l'avance, comment construire rapidement des capacités de protection de sécurité pour les types de dangers émergents, comment intégrer de manière complète les informations sur la scène pour un raisonnement cognitif approfondi et comment différencier et hiérarchiser une protection précise sont devenus numériques. contenu Défis et difficultés importants en matière de sécurité.

3. L'AIGC apporte de nouvelles idées au contrôle des risques liés au contenu

Le développement actuel de l'AIGC permet de fournir des capacités de contrôle des risques de contenu numérique plus universelles, frontales et à réponse rapide. L'AIGC injecte des « connaissances mondiales » pour disposer de capacités générales, de capacités créatives, de perception des données et de capacités de fusion des connaissances plus larges. Plus précisément :

· Sur la base de ses capacités générales et de ses capacités de sécurité de domaine personnalisées, le cycle de temps et le coût du contrôle des risques de contenu seront considérablement réduits ;

· Basé sur sa capacité créative, le contrôle des risques liés au contenu détectera et préviendra à l'avance les risques inconnus, transformant la « post-position » en « pré-positionnement », réduisant ainsi les dangers cachés des types nocifs inconnus ;

· Basé sur ses riches capacités d'injection et de fusion d'informations, il utilise pleinement et intègre des informations complètes autres que les types nuisibles telles que les scènes, les arrière-plans et les connaissances, ce qui améliorera la compréhension de la scène et les capacités de transfert de connaissances en matière de contrôle des risques de contenu, et effectuer un raisonnement logique cognitif plus profond et une prévention et un contrôle complets ;

· Sur la base de son paradigme d'apprentissage contextuel rapide et de son processus de raisonnement, le contrôle des risques de contenu s'adaptera plus facilement aux différentes normes sans mettre à jour le modèle, et fournira une prévention et un contrôle précis différenciés, hiérarchiques et hiérarchiques.

4. NetEase Yidun : la technologie d'IA générative permet de contrôler les risques liés au contenu

Sur la base des idées ci-dessus, NetEase Yidun utilise la technologie d'IA générative pour développer une prévention et un contrôle des confrontations de génération basés sur l'AIGC, une identification d'informations nuisibles sur de petits échantillons, une identification adaptative à grain fin, un raisonnement logique d'informations complet et d'autres solutions, en utilisant la lance la plus puissante pour créer le bouclier le plus solide. Les détails sont les suivants :

(1) Générer un plan de prévention et de contrôle des confrontations basé sur l'AIGC

Afin de parvenir à une perception et une prévention précoces des risques de sécurité, sur la base des capacités créatives de l'AIGC, NetEase Yidun a développé une solution de prévention et de contrôle des confrontations de générations basée sur l'AIGC, améliorant la « découverte + déploiement et contrôle » d'origine en « découverte + génération + déploiement et contrôle ». Cette solution générera des types et des échantillons nuisibles qui ne peuvent pas être couverts par le modèle actuel ou ont de mauvais effets d'identification. Sur la base des principaux types de risques de sécurité actuels, elle simulera davantage la tendance à l'évolution des risques de sécurité grâce à la méthode AIGC pour obtenir une prise de conscience précoce de la sécurité. risques. D'autres méthodes de déploiement et de contrôle incluent la combinaison d'échantillons générés par l'AIGC pour la formation conjointe de modèles itératifs de prévention et de contrôle, la création de bibliothèques contradictoires générées par l'AIGC pour la prévention et le contrôle à virgule fixe, etc.

(2) Schéma d'identification d'informations nuisibles sur petit échantillon AIGC

Afin de parvenir à une construction efficace et rapide de capacités de contrôle des risques numériques et de développer davantage les capacités professionnelles sur le terrain basées sur les capacités générales de l'AIGC, nous avons développé une solution d'identification des informations nuisibles sur petits échantillons basée sur l'AIGC. Améliorer le plan original de création de « capacités générales + capacités de domaine » à partir de zéro dans les étapes de construction de « capacités universelles AIGC + compensation des capacités générales + capacités de domaine ». Grâce à la conception du module de compensation des capacités générales pour petits échantillons, l'écart dans l'application des capacités générales de l'AIGC dans des scénarios professionnels est comblé au prix d'un petit nombre d'échantillons et est directement lié au module de renforcement des capacités du domaine. L'utilisation de la méthode « capacités universelles AIGC + compensation de capacité universelle » est plus rapide, plus efficace et moins coûteuse que la création de capacités universelles à partir de zéro.

(3) Schéma de reconnaissance adaptative à granularité fine basé sur AIGC

Afin d'obtenir une prévention et un contrôle précis et hiérarchiques différenciés, basés sur le paradigme d'apprentissage contextuel rapide de l'AIGC et les capacités de raisonnement de la pensée, nous avons développé une solution d'identification adaptative à granularité fine basée sur l'AIGC et appliqué l'idée de l'apprentissage rapide de l'AIGC à la solution de compréhension des contenus nuisibles, et en explorant l'alignement des invites multimodales et des entrées d'inférence avec différentes normes, de sorte que différentes normes soient mappées à travers différentes invites et entrées d'inférence. Par exemple, dans le passé, il était difficile de démanteler le genre sexy de manière plus fine, ou le coût de son démantèlement était très élevé. Aujourd'hui, il peut être décomposé en catégories plus fines, comme le côté sexy. des scènes de plage et du côté sexy des scènes de discothèque, affinant ainsi les normes du genre pour les scénarios et les échantillons, il peut mieux s'adapter à différentes subjectivités et différentes normes de limites, et obtenir une prévention et un contrôle précis plus fins et hiérarchiques.

(4) Solution de raisonnement logique d'information complète AIGC

Afin d'obtenir un raisonnement logique cognitif et une prévention et un contrôle complets, basés sur les capacités d'injection et de fusion d'informations et de raisonnement logique de l'AIGC, nous avons développé une solution complète de raisonnement logique de l'information basée sur l'AIGC. Améliorer la reconnaissance de la perception originale qui cible uniquement les informations nuisibles, afin qu'elle puisse intégrer toutes les informations, y compris les informations nuisibles pour le raisonnement cognitif. Le modèle de langage visuel de l'AIGC est utilisé pour obtenir des informations complètes, à l'exception des informations nuisibles, et utilisé pour un raisonnement complet. La solution originale basée sur « l'extraction d'informations nuisibles basée sur les capacités du domaine + prise de décision » est améliorée en une solution basée sur « l'extraction d'informations nuisibles basée sur les capacités du domaine + l'extraction de connaissances générales basée sur l'AIGC + la fusion d'informations et la décision logique complète. réalisation basée sur des modèles de langage visuel".

5. L'IA générative apporte des avantages significatifs au contrôle des risques liés au contenu

Dans les scénarios de contrôle des risques de contenu numérique, NetEase Yidun développe et intègre des capacités d'IA générative pour parvenir à une construction efficace et rapide de capacités de sécurité de domaine, une perception et une prévention précoces des risques de sécurité, un raisonnement cognitif et une prévention et un contrôle complets, ainsi qu'une approche précise différenciée, hiérarchique et multicouche. prévention et contrôle. Le lancement de solutions pertinentes a aidé Yidun à coupler pleinement les capacités de l'AIGC à partir des trois niveaux de capacités, de données et d'informations, et à obtenir des effets, des coûts, une rapidité, une diversité et une adaptabilité dans les scénarios de contrôle des risques liés au contenu numérique réellement appliqués par les clients, des gains significatifs. dans la stabilité et d'autres aspects.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!