Des clips vidéo visionnés des milliers de fois sur Facebook et vantant les bienfaits des produits minceur ou le traitement du diabète exploitent l’image des stars de la télévision des chaînes américaines comme CBS et CNN.

Selon l’Agence France-Presse, les vidéos ont été créées par des programmes d’intelligence artificielle, appelés « deep fakes », c’est-à-dire

Certains diffuseurs et journalistes dont l’identité a été falsifiée se sont exprimés sur les réseaux sociaux immédiatement après la publication de ces vidéos. Gayle King, présentatrice de CBS, a déclaré sur Instagram : « Je n’ai jamais entendu parler de ce produit et je ne l’ai jamais utilisé ! » Ne vous laissez pas tromper par ces clips d’intelligence artificielle.

D’autres vidéos utilisent des déclarations déformées du milliardaire Elon Musk à des fins commerciales. La technologie du « deep fake » qui glorifie différents types de produits et des projets d’investissement suspects dirige souvent l’utilisateur vers des plateformes de commerce électronique et des sites Web temporaires qui disparaissent quelques jours après la mise en ligne des vidéos.

Meta (Facebook et Instagram) interdit depuis 2020 la publication de ce type de clips vidéo sur ses plateformes, à l’exception des vidéos à contenu satirique. Cependant, des vidéos « deep fake », dont beaucoup ont été vérifiées par l’Agence France-Presse, continuent de se répandre de manière incontrôlable sur Internet.

À ce sujet, Hani Farid, professeur de technologie numérique à l’Université de Berkeley en Californie, déclare : « Nous assistons à une prolifération croissante de ce type de clips vidéo, dans lesquels seul un échantillon audio de deux minutes est utilisé et dans lesquels la voix d’une personne est incluse, une nouvelle séquence imaginaire avec animation est reproduite. » La bouche pendant la production sonore.

Les grands noms du domaine audiovisuel sont des cibles faciles pour entraîner des programmes d’IA sur ces vidéos en raison de leur présence constante à l’écran.

Pour sa part, Andrea Hickerson, doyenne de l’École de journalisme de l’Université du Mississippi, estime que les vidéos populaires représentent une tendance inquiétante car le public a développé une relation familière avec ces personnalités publiques dont les identités ont été imitées.

Elle ajoute : « C’est très dangereux parce que les gens ne s’attendent pas à ce qu’il y ait des informations trompeuses dans ces vidéos. »

Le contenu généré par l’intelligence artificielle joue un rôle croissant dans la fraude financière, qui, selon la Commission américaine de la concurrence, coûtera aux Américains environ 3,8 milliards de dollars en 2022.

Ces escroqueries ciblaient des personnes dans plusieurs pays, dont le Canada et l’Australie, et coûtaient à certaines personnes des dizaines, voire des centaines de milliers de dollars.

L’avocat Chase Carlson a déclaré dans un article de blog plus tôt cette année que « les opérations frauduleuses deviennent de plus en plus complexes à mesure que les criminels combinent des méthodes de fraude traditionnelles avec des escroqueries basées sur les crypto-monnaies et les programmes d’intelligence artificielle ».

Les Américains sont de plus en plus préoccupés par l’utilisation de l’intelligence artificielle, notamment sur les questions politiques.

Plus de 50 % d’entre eux s’attendent à ce que les contenus trompeurs générés par l’intelligence artificielle aient un impact négatif sur l’élection présidentielle de 2024, selon une enquête publiée en septembre par le site Axios et le cabinet d’études économiques Morning Consult.

Un sondage Gallup réalisé en octobre a révélé que seul un tiers des Américains avaient « beaucoup » ou « assez » confiance dans les médias, un résultat comparable à son plus bas niveau de 2016.

La prolifération de ces contenus, parfois faciles à repérer en raison de leur mauvaise qualité, risque de déclencher une « crise de confiance du public » dans les médias et les institutions, a déclaré Rebecca Trumbull, directrice du George Washington Institute on Data, Democracy and Politics University.

Si l’expert souligne qu’il faut faire preuve de prudence lors de la republication de tout type de contenu sur Internet, elle souligne que « des informations de qualité se diffusent constamment et avec un grand degré d’incertitude, nous pouvons distinguer ce qui est vrai et ce qui est trompeur ».