Six bonnes pratiques pour développer des politiques d'utilisation d'entreprise pour l'IA générative

L'IA générative est une technologie d'IA récemment remarquée qui utilise des algorithmes non supervisés et semi-supervisés pour générer des données à partir de matériaux existants (tels que du texte, de l'audio, des vidéos, des images et code). Les utilisations de cette branche de l’IA explosent et les organisations utilisent l’IA générative pour mieux servir les clients, utiliser davantage les données existantes, améliorer l’efficacité opérationnelle et bien d’autres utilisations.

Mais comme d’autres technologies émergentes, l’IA générative n’est pas sans risques et défis importants. Selon une récente enquête menée par Salesforce auprès des hauts responsables informatiques, 79 % des personnes interrogées pensent que la technologie de l'IA générative peut présenter des risques de sécurité, 73 % des personnes interrogées craignent que l'IA générative puisse être biaisée et 59 % des personnes interrogées pensent que les résultats de l'IA générative est inexact. En outre, des questions juridiques doivent être prises en compte, en particulier si le contenu généré par l’IA générative utilisée en externe est authentique et précis, si le contenu est protégé par le droit d’auteur ou provient de concurrents.

Par exemple, ChatGPT lui-même nous dira : « Mes réponses sont générées sur la base de modèles et de corrélations tirés d'un grand ensemble de données textuelles, et je n'ai pas la capacité de vérifier l'exactitude de toutes les sources citées dans l'ensemble de données ou la crédibilité. les risques liés à la propriété et à la vérification.

En fait, votre organisation compte peut-être déjà de nombreux employés qui testent l'utilisation de l'IA générative, et à mesure que cette activité passe des expériences à la vie réelle, il est très important de prendre des mesures proactives avant que des conséquences imprévues ne se produisent.

Cassie Kozyrkov, scientifique en chef des décisions chez Google, a déclaré : "Si le code généré par l'IA fonctionne, alors il est de très haut niveau. Mais il ne fonctionne pas toujours, alors avant de le copier et de le coller N'oubliez pas de tester les résultats de ChatGPT avant de le déployer. Les politiques d'utilisation de l'entreprise et la formation associée peuvent aider les employés à comprendre certains des risques et des pièges de cette technologie et fournir des règles et des recommandations pour les aider à comprendre comment l'utiliser. cette technologie pour maximiser la valeur commerciale sans mettre votre organisation en danger.

Dans cet esprit, voici six bonnes pratiques pour élaborer des politiques relatives à l'utilisation de l'IA générative par votre entreprise.

Déterminez la portée de votre politique – ​​La première étape pour qu'une entreprise développe une politique d'utilisation est de considérer sa portée. Par exemple, cela couvrira-t-il toutes les formes d’IA ou uniquement l’IA générative ? Cibler uniquement l’IA générative pourrait être une approche utile, car cela concerne de grands modèles de langage, y compris ChatGPT, sans avoir à impacter de nombreuses autres technologies d’IA. Comment établir une politique de gouvernance de l’IA pour un domaine plus large est une autre affaire, et il existe des centaines de ressources de ce type en ligne.

Impliquer toutes les parties prenantes concernées au sein de l'organisation – cela peut inclure les ressources humaines, les services juridiques, les ventes, le marketing, le développement commercial, les opérations et l'informatique. Chaque équipe peut avoir des objectifs différents, et la manière dont le contenu est utilisé ou mal utilisé peut avoir des conséquences différentes. L'implication des équipes informatiques et d'innovation démontre que la politique n'est pas seulement une mesure restrictive élaborée dans une perspective de gestion des risques, mais un ensemble équilibré de recommandations conçues pour maximiser la productivité et les avantages commerciaux tout en gérant les risques commerciaux.

Considérer les utilisations existantes et futures de l'IA générative

- Travailler avec toutes les parties prenantes pour détailler tous les cas d'utilisation internes et externes actuellement appliqués, ainsi que les cas d'utilisation pour les scénarios futurs, chacun des ce qui peut contribuer à éclairer l’élaboration des politiques et à garantir que les domaines pertinents sont couverts. Par exemple, si vous avez vu une équipe de proposition (y compris des sous-traitants) expérimenter du contenu de rédaction génératif par l'IA, ou une équipe produit générer du contenu marketing créatif, alors vous savez qu'il peut y avoir des conséquences ultérieures pour un résultat qui enfreint potentiellement la propriété intellectuelle de quelqu'un d'autre. droits de propriété intellectuelle.

Dans un état d'évolution constante - Lors de l'élaboration de politiques d'utilisation d'entreprise, il est important de réfléchir et de couvrir les informations qui entrent dans le système et la façon dont les systèmes d'IA génératifs sont utilisé et comment les informations sorties du système sont ensuite utilisées. Concentrez-vous sur les cas d'utilisation internes et externes et sur tout le reste. Cette mesure peut aider à empêcher la réutilisation accidentelle de ce contenu pour un usage externe en exigeant que tout le contenu généré par l'IA soit étiqueté, garantissant ainsi la transparence et évitant toute confusion avec le contenu généré par l'homme, même pour un usage interne ou pour empêcher toute action basée sur des informations que vous croyez. être vrai et exact sans vérification.

Partagez-la largement dans toute l'organisation - Étant donné que les politiques sont souvent rapidement oubliées ou même non lues, il est important de fournir une formation et une éducation appropriées autour de la politique, ce qui peut inclure la création de vidéos de formation et l'organisation de réunions en direct. Par exemple, des sessions de questions-réponses en direct avec des représentants des équipes informatiques, d'innovation, juridiques, de marketing et de proposition, ou d'autres équipes concernées, peuvent aider les employés à comprendre les opportunités et les défis futurs. Assurez-vous d'inclure de nombreux exemples pour aider à mettre le public dans la situation, par exemple lorsqu'une affaire juridique majeure surgit et peut être citée en exemple.

Mises à jour dynamiques du document - Comme tous les documents de politique, vous devez maintenir le document dynamique, en le mettant à jour à un rythme approprié en fonction des nouvelles utilisations, des conditions du marché externe et des exigences de développement. Le fait que toutes les parties prenantes « approuvent » la politique ou l'incorporent dans un manuel de politique existant signé par le PDG montre que ces politiques ont l'approbation de la haute direction et sont importantes pour l'organisation. Votre politique ne doit être qu’un élément de votre approche plus large en matière de gouvernance, qu’il s’agisse de l’IA générative, de la technologie de l’IA ou de la gouvernance technologique en général.

Ceci ne constitue pas un avis juridique et vos services juridiques et RH doivent prendre l'initiative d'approuver et de diffuser la politique. Mais j'espère que cela pourra vous fournir quelques idées de référence. Tout comme votre politique d’entreprise en matière de médias sociaux il y a dix ans, y consacrer du temps maintenant vous aidera à réduire les surprises et les risques changeants dans les années à venir.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!