Les applications AI Companion décollent, mais les experts s'inquiètent des risques potentiels, en particulier pour les personnes seules

Les applications compagnons d'IA comme Avatar.One gagnent en popularité, mais les experts sont de plus en plus préoccupés par les risques potentiels, en particulier pour les personnes seules.

L'intelligence artificielle (IA) a un impact de plus en plus tangible sur le monde. Cependant, cet impact n’est pas toujours positif, comme dans le cas des deep fakes utilisés à des fins d’escroquerie. Un domaine particulièrement préoccupant est la santé mentale, où l’utilisation de l’IA fait l’objet d’une surveillance particulière.

Plus récemment, une application d'IA Avatar.One a gagné du terrain en termes de nombre d'utilisateurs. L'entreprise affirme que l'application peut lutter contre la solitude, qui devient de plus en plus un problème dans les pays développés. Cependant, certains se demandent si l’IA peut offrir une véritable solution à ce problème, ou si elle ne fera qu’aggraver la situation.

Les applications AI Companion décollent

Depuis son lancement cette année, Avatar.One a révélé avoir attiré plus de 120 000 utilisateurs actifs par mois. Construite sur la blockchain Solana, la plateforme permet aux utilisateurs de créer des compagnons IA personnalisés avec lesquels ils peuvent discuter. De plus, le compagnon IA peut également créer des souvenirs avec l'utilisateur, avec la possibilité de modifier ses réponses en fonction du nouveau contexte.

La société derrière cela, Matrix.One, estime que ce n'est que le début. Son fondateur, Mark Studholme, estime que les compagnons IA seront bientôt accessibles à tous. Ils aideront les utilisateurs à accomplir leurs tâches quotidiennes, offriront même de la compagnie et contribueront même à atténuer la solitude, que l'Organisation mondiale de la santé (OMS) a qualifiée de problème de santé publique mondiale en 2023.

Matrix.One a cité des recherches qui montrent que les chatbots IA peuvent aider à atténuer les sentiments négatifs de solitude de la même manière que le fait une véritable interaction humaine. Une autre étude a également montré que l’IA peut aider à acquérir des compétences sociales. Cependant, malgré ces résultats positifs, l’impact de l’IA sur la solitude suscite de vives inquiétudes.

Quels sont les dangers des compagnons IA pour les personnes seules ?

Alors que les applications compagnons d'IA comme Avatar.One gagnent en popularité, les experts sont de plus en plus préoccupés par les risques potentiels, en particulier pour les personnes seules. L’une des principales critiques porte sur le concept de « fausse empathie », souligné par le spécialiste de l’IA Raffaele Ciriello.

Il soutient que les réponses apparemment empathiques générées par les compagnons IA manquent d’une véritable compréhension et de profondeur émotionnelle. Cette « empathie » peut amener les utilisateurs à s’isoler davantage des véritables relations humaines. Ciriello affirme que cela pourrait exacerber les sentiments de solitude au fil du temps.

Les compagnons IA offrent également un soutien inconditionnel, ce qui peut sembler bénéfique mais peut renforcer les comportements négatifs et les attentes irréalistes. Cela pourrait rendre plus difficile pour les utilisateurs d’établir des relations saines et significatives avec les autres.

Enfin, la nature commerciale des plateformes d’IA soulève des préoccupations éthiques. Des entreprises comme Matrix.One, motivées par le profit, peuvent modifier leurs services ou fermer leurs portes, laissant les utilisateurs dépendants se sentir abandonnés et plus isolés. Cela montre les risques de s’appuyer sur l’IA pour le soutien émotionnel, où le bien-être mental des utilisateurs est à la merci des décisions de l’entreprise.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!