Internet a toujours été rempli de fausses informations, mais au moins il n’était pas difficile de séparer les faits de la fiction avec un peu d’effort. La montée en puissance des outils d’intelligence artificielle sophistiqués a changé la donne à jamais, rendant le scepticisme plus important que jamais.

Deepfakes

Le terme « deepfake » désigne toute une famille de technologies qui ont toutes en commun l’utilisation de réseaux neuronaux d’apprentissage profond pour atteindre leurs objectifs individuels. Les deepfakes ont attiré l’attention du public lorsque le remplacement du visage d’une personne dans une vidéo est devenu facile. Ainsi, quelqu’un pouvait remplacer le visage d’un acteur par celui du président des États-Unis ou remplacer la bouche du président seule et lui faire dire des choses qui ne se sont jamais produites.

Pendant un certain temps, un humain devait imiter la voix, mais la technologie deepfake peut également reproduire les voix. La technologie deepfake peut désormais être utilisée en temps réel, ce qui ouvre la possibilité à un pirate informatique ou à un autre acteur de mauvaise foi de se faire passer pour quelqu’un lors d’un appel vidéo ou d’une émission en temps réel. Toute « preuve » vidéo que vous voyez sur Internet doit être considérée comme un deepfake potentiel jusqu’à ce qu’elle soit vérifiée.

Génération d’images par l’IA

Les générateurs d’images par l’IA ont provoqué des remous dans la communauté des artistes en raison de toutes les implications qu’ils ont pour ceux qui gagnent leur vie en tant qu’artistes et pour savoir si les artistes commerciaux risquent d’être remplacés. Ce qui ne suscite pas autant de débats, c’est le potentiel de désinformation qu’offre cette technologie.

Les systèmes de génération d’images de l’IA peuvent produire des images photoréalistes en utilisant des invites textuelles, des exemples d’images et des images originales à des fins de manipulation. Par exemple, vous pouvez effacer certaines parties d’une image originale, puis utiliser une technique appelée « inpainting » pour que l’IA remplace la partie effacée de l’image par ce que vous souhaitez. Il est facile de générer des images sur votre propre PC avec un logiciel comme Stable Diffusion.

Si vous voulez donner l’impression que quelqu’un tient un vrai pistolet au lieu d’un jouet, c’est un jeu d’enfant pour l’IA. Vous voulez créer une photo scandaleuse d’une célébrité ? La génération d’images par l’IA (et les deepfakes, d’ailleurs) peut être exploitée de cette manière. Vous pouvez même générer des visages photoréalistes de personnes qui n’existent pas.

Génération de vidéos par IA

La génération d’images par l’IA et les « deepfakes » ne sont qu’un début. Meta (la société mère de Facebook) a déjà fait la démonstration de la génération de vidéos par l’IA, et bien que seules quelques secondes de séquences puissent être générées au fil du temps, nous nous attendons à ce que la longueur de la vidéo et le degré de contrôle que les utilisateurs auront sur le contenu de la vidéo augmentent de façon exponentielle.

Pour l’instant, il est tout à fait possible de demander à une IA de générer un clip granuleux de Bigfoot ou de Nessie sans que personne n’enfile un costume ou ne s’envole pour l’Écosse avec une caméra et une petite maquette en bois. La vidéo a toujours été facile à manipuler avant que la génération de vidéos par l’IA ne soit possible. Cependant, aujourd’hui, vous ne pouvez plus du tout faire confiance aux vidéos que vous voyez.

Bots de chat IA

Lorsque vous participez à un chat avec le service clientèle, vous parlez à une machine plutôt qu’à un être humain. La technologie de l’IA (et les méthodes de programmation traditionnelles) sont suffisamment performantes pour que les machines puissent tenir des conversations sophistiquées avec nous, surtout si c’est dans un domaine étroit comme l’obtention d’un remplacement de garantie ou si vous avez une question technique sur quelque chose.

La reconnaissance et la synthèse vocales sont également à un stade avancé, et si vous regardez les démonstrations de systèmes tels que Google Duplex , vous aurez une idée précise de la direction que nous prenons dans ce domaine. Une fois que vous avez lâché des bots alimentés par l’IA sur les plateformes de médias sociaux, le potentiel de campagnes de désinformation concertées avec des conséquences réelles devient élevé.

Pour être juste, les plateformes de médias sociaux comme Twitter ont toujours eu un problème de bots, mais en général, ces bots étaient peu sophistiqués. Il est désormais concevable de créer une personne inventée sur les médias sociaux qui trompera à peu près tout le monde. Ils pourraient même utiliser d’autres technologies de cette liste pour créer des images, du son et des vidéos afin de « prouver » qu’ils sont réels.

Rédacteurs d’IA

Nous allons sur Internet pour nous informer sur le monde et sur ce qui se passe dans le monde. Les écrivains humains (c’est-à-dire nous !) sont une source essentielle de ces informations, mais les écrivains de l’IA deviennent suffisamment bons pour produire un travail de qualité similaire.

Comme pour les artistes de l’IA, la question de savoir si ces logiciels remplaceront les personnes qui écrivent pour gagner leur vie fait débat, mais là encore, il y a un aspect de désinformation qui est largement ignoré.

Si vous pouvez créer un visage original, créer un bot de persona sur les médias sociaux, créer une vidéo et une voix mettant en scène votre personne inventée, il devient possible de créer une publication entière du jour au lendemain. Les sites d' »informations » douteuses sont déjà une source de désinformation convaincante pour de nombreux internautes, mais une technologie d’IA telle que celle-ci peut faire exploser ce problème.

Le problème de la détection

Ces technologies ne sont pas seulement un problème parce qu’elles ouvrent de nouvelles voies aux abus, elles le sont aussi parce que la détection des faux peut être difficile. Les « deepfakes » atteignent déjà un point tel que même les experts ont du mal à distinguer ce qui est faux de ce qui ne l’est pas. C’est pourquoi ils combattent le feu par le feu et utilisent la technologie de l’IA pour détecter les images générées ou manipulées, en recherchant des signes révélateurs invisibles à l’œil humain.

Cette méthode fonctionnera pendant un certain temps, mais elle risque de créer une course involontaire à l’armement en matière d’IA, qui pourrait ironiquement pousser les technologies permettant de créer du faux contenu à des niveaux de fidélité plus élevés. La seule stratégie saine pour nous, en tant qu’êtres humains, est de considérer que tout ce que nous voyons sur Internet, à moins qu’il ne provienne d’une source vérifiée aux processus et politiques transparents, doit être considéré comme faux jusqu’à preuve du contraire. (Bien que nous doutions que votre oncle théoricien de la conspiration croie que les vidéos d’OVNI qu’il vous envoie sans cesse ne sont pas réelles).