Les dirigeants d'entreprise s'inquiètent du partage accidentel de données d'entreprise avec ChatGPT

Le rapport « État de l'intelligence artificielle générative dans l'entreprise » a révélé que ChatGPT est le chatbot le plus populaire dans les entreprises, suivi de CopyAI (35 %) et Anyword (26 %) respectivement en deuxième et troisième place. Cependant, de nombreuses entreprises ont interdit l'utilisation d'outils d'IA générative sur le lieu de travail, ChatGPT étant le plus souvent interdit (32 %), suivi de CopyAI (28 %) et Jasper (23 %).

Waseem Alshikh, co-fondateur et CTO de Writer, a déclaré : « Il y a tellement de battage médiatique autour de l'IA générative ces jours-ci que nous voulions comprendre ce qui se passe réellement : qui l'utilise, quels outils utilisent-ils et comment sont-ils utilisés ? Ils l’utilisent ? Que faire, et quelles sont les limites et les contraintes ? Les résultats sont vraiment révélateurs. Pratiquement tous les secteurs tentent au moins d’appliquer l’intelligence artificielle générative, et cela ne se limite pas à une seule fonction au sein de l’entreprise. est largement utilisé dans les domaines de l'informatique, des opérations, du marketing, des ressources humaines, du juridique, de la formation et du développement, etc. « 

Les cas d'utilisation les plus courants de l'IA générative

Selon l'enquête, l'application la plus courante de l'IA générative est pour la publicité et la génération de titres. . texte concis (31 %), réutilisation du contenu existant pour divers médias et canaux (27 %) et création de contenu large tel que des blogs et des articles de la base de connaissances (25 %).

Alshikh a déclaré : « L'intelligence artificielle fait gagner beaucoup de temps aux spécialistes du marketing, aux concepteurs UX, aux éditeurs, aux professionnels du service client, etc. en générant du nouveau contenu à partir de zéro. Cependant, la valeur réelle ne vient pas seulement du processus de développement de contenu. les parties proviennent des parties fastidieuses : des choses comme la réutilisation, l'analyse, la recherche, la transformation et même la distribution de contenu qui peuvent gêner lorsque vous êtes occupé et que vous devez agir rapidement, mais l'IA générative peut s'occuper de ces choses automatiquement. «

Utiliser l'IA générative sur le lieu de travail : une bénédiction ou une malédiction ?

L'enquête a donné des résultats significatifs, l'un des principaux résultats étant que presque toutes les entreprises utilisent l'intelligence artificielle générative dans diverses fonctions, avec les technologies de l'information. (30 %), les opérations (23 %), la réussite client (20 %), le marketing (18 %), le support (16 %), les ventes (15 %) et les ressources humaines (15 %) étant les domaines de mise en œuvre les plus courants.

Selon le rapport, 59 % des personnes interrogées ont déclaré que leur entreprise avait déjà acheté ou envisageait d'acheter des outils d'intelligence artificielle générative. Selon l'enquête, environ 19 % des personnes interrogées ont déclaré que leur entreprise utilisait au moins cinq outils d'IA générative. De plus, 56 % des personnes interrogées ont déclaré que l'IA générative augmentait la productivité d'au moins 50 %, et 26 % ont déclaré qu'elle augmentait la productivité de 75 % ou plus.

Selon Alshikh, les secteurs qui utilisent le plus la technologie de l'intelligence artificielle générative sont la construction et l'informatique, qui représentent 16 %. L'assurance financière, les services technologiques et l'industrie manufacturière représentaient respectivement 8 %, 8 % et 5 %, suivis de près. Chez Writer en particulier, nous voyons de nombreux cas d’utilisation dans le domaine de la finance et des assurances. « 

ChatGPT est considéré comme précieux pour le grand public car il est gratuit, facile à utiliser et polyvalent. Il est reconnu que l'outil présente de nombreuses limites, notamment un ensemble de données limité, une précision insuffisante et une susceptibilité aux hallucinations et aux préjugés. problèmes de confidentialité des données.

Alshikh a ajouté : « ChatGPT reconnaît également que sa précision est limitée. ". En plus d'avoir la capacité de créer des histoires et des sonnets créatifs, les entreprises doivent également veiller à protéger leur marque et leur réputation. Malheureusement, ChatGPT et d'autres outils similaires entraînent une augmentation de la désinformation sur laquelle il faut s'appuyer pour l'exactitude et la cohérence de la marque. est un problème critique pour les entreprises. »

Nouvelles fonctionnalités du produit pour Writer

La société a récemment annoncé de nouvelles fonctionnalités de produit conçues pour fournir à ses entreprises clientes la plus haute qualité à toutes les étapes, des sources de données aux niveaux de précision et de sécurité des personnes travaillant. , confidentialité et conformité. Ces fonctionnalités incluent des modèles de langage étendus (LLM) auto-hébergés, permettant aux utilisateurs d'héberger, d'exploiter et de personnaliser des LLM sur site ou dans le cloud.

De plus, la société a introduit Knowledge Graph sur la plateforme Writer, permettant aux clients d'indexer et d'accéder à n'importe quelle source de données (de Slack aux wikis en passant par les bases de connaissances et les instances de stockage cloud).

Le PDG et co-fondateur de l'écrivain May Habib a déclaré dans une déclaration écrite : « Nous fournissons aux entreprises un contrôle complet - des données auxquelles LLM peut accéder jusqu'à l'endroit où LLM est hébergé. Si vous ne pouvez pas contrôler les données basées sur l'intelligence artificielle générative, Les résultats des renseignements ne peuvent pas être compris en termes de qualité, d’effets négatifs ou de risques pour la sécurité. »

Considérations clés pour atténuer les risques de l’IA générative

Les modèles commerciaux comme ChatGPT collectent généralement des renseignements à partir de diverses sources publiques, a déclaré Alshikh. , ce qui peut être bon pour la créativité, mais pas pour la cohérence de la marque.

Il a en outre souligné que les chefs d'entreprise ont réalisé que des avantages concurrentiels peuvent être obtenus en mettant en œuvre l'intelligence artificielle générative dans les entreprises. Cependant, ils reconnaissent également les risques liés à l’utilisation de chatbots gratuits comme ChatGPT, notamment la possibilité de générer du contenu inexact et d’exposer des données confidentielles.

Il a expliqué que l'objectif de notre rédacteur est d'apporter un réel impact à l'entreprise grâce à des effets réels, plutôt que de simplement rester dans de nouveaux scénarios d'application. Nous avons résolu les problèmes liés à l'exactitude et à la confidentialité, et notre technologie est déployée dans des secteurs hautement réglementés, notamment la technologie, les soins de santé et les services financiers pour des clients tels qu'Intuit et UnitedHealthcare. «

Compte tenu de la popularité de ChatGPT, il a recommandé aux entreprises de déterminer si ChatGPT ou tout autre outil basé sur OpenAI est conforme à leurs politiques de confidentialité des données, de marque et de réglementation. De plus, il a recommandé aux entreprises de collecter des cas d'utilisation fonctionnels et des exigences pour évaluer les alternatives

.

Alshikh conseille : « Si une entreprise a mis en place une politique pour l'utilisation de ChatGPT, elle devrait envisager de mettre en œuvre un programme continu de communication et de formation afin que tout le monde sache quels outils sont sûrs et comment les utiliser sans divulguer les données sensibles de l'entreprise. Dans le même temps, les dirigeants d'entreprise doivent se poser certaines questions importantes, telles que : est-il sécurisé ? Protège-t-il les données de notre entreprise ? Peut-il s'intégrer ? dans notre flux de travail professionnel ? »

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!