Joe Biden laisse enfin tomber le masque, se déchaînant avec cruauté contre une personne transgenre. "Vous ne serez jamais une vraie femme", grogne le président.

Bienvenue dans la course présidentielle américaine de 2024, où la réalité est en jeu.

Les "deepfakes" de Clinton et Biden - des vidéos réalistes mais fabriquées par des algorithmes d'intelligence artificielle formés à partir d'une multitude d'images en ligne - font partie des milliers de vidéos qui font surface sur les réseaux sociaux, brouillant ainsi les pistes entre réalité et fiction dans le monde polarisé de la politique américaine.

Si ce type de médias synthétiques existe depuis plusieurs années, il a été dopé au cours de l'année écoulée par une multitude de nouveaux outils d'"IA générative" tels que Midjourney, qui permettent de créer facilement et à peu de frais des "deepfakes" convaincants, d'après des entretiens menés par Reuters avec une vingtaine de spécialistes dans des domaines tels que l'IA, la désinformation en ligne et l'activisme politique.

"Il sera très difficile pour les électeurs de distinguer le vrai du faux. Et vous pouvez imaginer comment les partisans de Trump ou de Biden pourraient utiliser cette technologie pour donner une mauvaise image de l'adversaire", a déclaré Darrell West, chercheur principal au Centre pour l'innovation technologique de la Brookings Institution.

"Il pourrait y avoir des choses qui baissent juste avant l'élection et que personne n'a la possibilité de démonter".

Selon Aza Raskin, cofondateur du Center for Human Technology, une organisation à but non lucratif qui étudie l'impact de la technologie sur la société, les outils capables de générer des "deepfakes" sont diffusés avec peu de garde-fous, voire des garde-fous imparfaits, pour prévenir la désinformation nuisible, alors que le secteur technologique s'engage dans une course à l'armement en matière d'IA.

L'ancien président Donald Trump, qui rivalisera avec M. DeSantis et d'autres candidats à l'investiture républicaine pour affronter M. Biden, a lui-même partagé une vidéo trafiquée du présentateur de CNN Anderson Cooper au début du mois sur sa plateforme de médias sociaux Truth Social.

"C'est le président Donald J. Trump qui nous a mis la pâtée ici, lors de l'assemblée générale présidentielle en direct de CNN", déclare M. Cooper dans la vidéo, bien que les mots ne correspondent pas au mouvement de ses lèvres.

CNN a déclaré que la vidéo était un "deepfake". Un représentant de M. Trump n'a pas répondu à une demande de commentaire sur le clip, qui figurait encore cette semaine sur la page Twitter de son fils Donald Jr.

Bien que les principales plateformes de médias sociaux comme Facebook, Twitter et YouTube se soient efforcées d'interdire et de supprimer les "deepfakes", leur efficacité à contrôler ce type de contenu varie.

PENCE DEEPFAKE, PAS TRUMP

Il y a eu trois fois plus de deepfakes vidéo de toutes sortes et huit fois plus de deepfakes vocaux mis en ligne cette année par rapport à la même période en 2022, selon DeepMedia, une entreprise qui travaille sur des outils de détection des médias synthétiques.

Au total, DeepMedia estime qu'environ 500 000 deepfakes vidéo et vocaux seront partagés sur les sites de médias sociaux dans le monde en 2023. Le clonage d'une voix coûtait 10 000 dollars en frais de serveur et de formation à l'IA jusqu'à la fin de l'année dernière, mais des startups le proposent désormais pour quelques dollars, indique l'entreprise.

Selon les personnes interrogées, personne ne sait exactement où mène l'IA générative ni comment se prémunir efficacement contre son pouvoir de désinformation massive.

Le leader du secteur, OpenAI, qui a changé la donne ces derniers mois en lançant ChatGPT et le modèle actualisé GPT-4, est lui-même confronté à cette question. Son PDG, Sam Altman, a déclaré ce mois-ci au Congrès que l'intégrité des élections était un "sujet de préoccupation important" et a appelé à une réglementation rapide du secteur.

Contrairement à certaines startups plus petites, OpenAI a pris des mesures pour restreindre l'utilisation de ses produits en politique, selon une analyse Reuters des conditions d'utilisation d'une demi-douzaine de grandes entreprises proposant des services d'IA générative.

Les garde-fous présentent toutefois des lacunes.

Par exemple, OpenAI dit qu'elle interdit à son générateur d'images DALL-E de créer des personnages publics - et en effet, lorsque Reuters a essayé de créer des images de Trump et de Biden, la demande a été bloquée et un message est apparu disant qu'elle "ne suivait peut-être pas notre politique de contenu".

Pourtant, Reuters a pu créer des images d'au moins une douzaine d'autres politiciens américains, y compris l'ancien vice-président Mike Pence, qui envisage également de se présenter à la Maison Blanche en 2024.

OpenAI restreint également toute utilisation "à grande échelle" de ses produits à des fins politiques. Cela interdit l'utilisation de son IA pour envoyer des courriels personnalisés en masse aux électeurs, par exemple.

L'entreprise, qui est soutenue par Microsoft, a expliqué ses politiques politiques à Reuters lors d'une interview, mais n'a pas répondu à d'autres demandes de commentaires concernant les lacunes dans l'application de ses politiques, telles que le blocage de la création d'images d'hommes politiques.

Plusieurs petites entreprises n'ont pas de restrictions explicites en matière de contenu politique.

Midjourney, qui a été lancée l'année dernière, est le principal acteur dans le domaine des images générées par l'IA, avec 16 millions d'utilisateurs sur son serveur Discord officiel. L'application, dont le prix varie de gratuit à 60 dollars par mois en fonction de facteurs tels que la quantité d'images et la vitesse, est l'une des préférées des concepteurs et des artistes de l'IA en raison de sa capacité à générer des images hyperréalistes de célébrités et d'hommes politiques, selon quatre chercheurs et créateurs de l'IA interrogés.

Midjourney n'a pas répondu à une demande de commentaire pour cet article. Lors d'une discussion en ligne sur Discord la semaine dernière, le PDG David Holz a déclaré que l'entreprise apporterait probablement des changements avant les élections pour lutter contre la désinformation.

Midjourney souhaite coopérer à une solution industrielle pour permettre la traçabilité des images générées par l'IA avec un équivalent numérique du filigrane et envisagerait de bloquer les images des candidats politiques, a ajouté M. Holz.

PUBLICITÉ RÉPUBLICAINE GÉNÉRÉE PAR L'IA

Alors même que le secteur s'interroge sur la manière d'empêcher les abus, certains acteurs politiques cherchent eux-mêmes à exploiter la puissance de l'IA générative pour améliorer leurs campagnes.

Jusqu'à présent, la seule publicité politique générée par l'IA qui ait fait parler d'elle aux États-Unis a été publiée par le Comité national républicain à la fin du mois d'avril. Cette publicité de 30 secondes, dont le RNC a révélé qu'elle était entièrement générée par l'IA, utilisait de fausses images pour suggérer un scénario cataclysmique en cas de réélection de Joe Biden, avec l'invasion de Taïwan par la Chine et la fermeture de San Francisco pour cause de criminalité.

Le RNC n'a pas répondu aux demandes de commentaires sur cette publicité ou sur son utilisation plus large de l'IA. Le Comité national démocrate a refusé de commenter son utilisation de la technologie.

Reuters a interrogé toutes les campagnes présidentielles républicaines sur leur utilisation de l'IA. La plupart n'ont pas répondu, bien que l'équipe de Nikki Haley ait déclaré qu'elle n'utilisait pas cette technologie et que la campagne de Perry Johnson, candidat malheureux, ait indiqué qu'elle utilisait l'IA pour "la génération et l'itération de copies", sans donner plus de détails.

Le potentiel de l'IA générative pour produire des courriels, des messages et des publicités de campagne est irrésistible pour certains militants qui pensent que cette technologie peu coûteuse pourrait uniformiser les règles du jeu lors des élections.

Même au fin fond de la campagne de Hillsdale, dans le Michigan, l'intelligence artificielle est en marche.

Jon Smith, président républicain de la 5e circonscription du Michigan, organise plusieurs réunions éducatives afin que ses alliés apprennent à utiliser l'IA pour les médias sociaux et la création de publicités.

"L'IA nous aide à jouer contre les grands félins", explique-t-il. "C'est dans les courses locales que j'observe la plus forte progression. Quelqu'un qui a 65 ans, qui est agriculteur et commissaire de comté, pourrait facilement être primarisé par un chat plus jeune grâce à la technologie.

Les cabinets de conseil politique cherchent également à exploiter l'IA, brouillant encore davantage la frontière entre le réel et l'irréel.

Numinar Analytics, une société de données politiques qui se concentre sur les clients républicains, a commencé à expérimenter la génération de contenu par l'IA pour l'audio et les images, ainsi que la génération vocale pour créer potentiellement des messages personnalisés avec la voix d'un candidat, a déclaré le fondateur Will Long lors d'une interview.

Le groupe de sondage et de stratégie démocrate Honan Strategy Group tente quant à lui de développer un robot d'enquête à base d'IA. Il espère déployer un bot féminin en temps utile pour les élections municipales de 2023, a déclaré le PDG Bradley Honan, citant des recherches selon lesquelles les hommes et les femmes sont plus susceptibles de parler à un intervieweur féminin.