Une idée, un ouvrage, un concept, une “matière à penser” que nous vous partageons pour ouvrir la réflexion, découvrir de nouveaux sujets et vous amener à (re)penser sous un autre angle.
______
On pourrait traduire le concept par le faux profond ou la profondeur du faux. Mais cela laisserait penser que le faux peut être plus profond que le vrai. Par ailleurs, il n’y a pas un faux qui serait plus profond qu’un autre, pas plus qu’il n’existe un vrai qui serait plus profond qu’un autre vrai. Il y a ce qui est vrai et ce qui est faux et entre les deux une ligne de démarcation intangible et irréductible.
Mais, depuis l’extension du fake, longtemps limité au domaine de la simulation, du simulacre, du mensonge, de l’imitation parodique ou de la simple contrefaçon matérielle, aux faits dits alternatifs et donc à l’information et à la formation de l’opinion publique, la frontière entre le vrai et le faux est devenue aussi précaire que poreuse.
Avec le deepfake, un pas supplémentaire, sans doute le pas de trop ou le pas fatal, est franchi. On produit désormais du faux en profondeur et en série grâce aux nouvelles ressources de l’intelligence artificielle. Le deepfake est la production assistée par IA du faux massif, au double sens quantitatif et qualitatif de faux vraiment énorme, de faux au-delà même du faux dans sa simple opposition au vrai, de faux massif et à intention criminelle.
A l’origine, Deepfakes est le surnom d’un utilisateur de Reddit qui s’est spécialisé dans la fabrication de vidéos pornos où les visages des actrices X sont remplacés par ceux des célébrités. La trouvaille aurait pu rester une farce potache de campus. Mais très vite, grâce à des programmes d’intelligence artificielle générative comme Midjourney ou Dall-E, la contrefaçon numérique devient une arme de destruction massive. En apprenant, par le deep learning, à des programmes à reproduire parfaitement des visages, des mouvements, des attitudes corporelles, des voix, des lexiques, des tics de langage, il devient possible de superposer des fichiers audios ou vidéos fabriqués à d’autres qui leur préexistent. Les identifiants de la singularité d’une personne, les marqueurs de son unicité, sont ainsi reproductibles, piratables et détournables à l’infini. On peut faire dire n’importe quoi à n’importe qui, montrer n’importe qui dans des positions ou des situations fatales.
Alors que la contrefaçon matérielle ne dupe que sa victime sans porter atteinte à sa dignité, tout au plus la fait-elle passer pour un gogo, la contrefaçon numérique est pensée pour lui nuire gravement, voire définitivement. D’un côté, il y a un consommateur à arnaquer, de l’autre, il y a une cible à abattre. Il suffit de choisir sa cible : Obama, Taylor Swift, Margot Robbie, Macron, Zelensky, votre voisin, votre rival, votre tête de turc ou l’amant supposé de votre femme et de lui prêter des propos d’esclavagiste, d’ennemi du peuple, de nazi ou de prédateur sexuel. L’objectif n’est pas de duper ou d’abuser mais d’humilier, de harceler, de compromettre, de calomnier. Think big, Kick ass, Lie for true dirait Donald Trump. Quand on fait dans le deepfake il ne faut pas le faire à moitié, car c’est l’exagération délirante, le dépassement de la norme comme de l’écart, la contradiction hors des limites de la raison, qui font tourner la machine. C’est la raison pour laquelle les traductions usuelles de deepfake par hypertrucage ou videotox sont si faibles : elles laissent croire à un petit simulacre ludique bien fait mais relativement innocent ou à une image un peu limite et manipulatoire, plus indigeste que dangereuse. On minimise ainsi la puissance de destruction massive qu’est le deepfake : ravageur pour la démocratie qui meurt sans la confiance du peuple dans sa classe politique, ravageur pour la paix civile qui suppose le partage d’une décence commune entre les citoyens quelles que soient leur condition sociale et leur culture, ravageur enfin pour la paix entre les nations car vecteur de haine et de provocation.
L’Europe des 27 a récemment validé un IA Act qui condamne les deepfakes et impose à leurs diffuseurs et à leurs producteurs de les identifier et de les signaler systématiquement, faute de les contraindre à les supprimer ou de leur interdire de les produire. Aux Etats-Unis, un projet de loi fédérale visant à instituer des peines pouvant aller jusqu’à 10 ans de prison pour punir les contrefaçons numériques à caractère sexuel n’a toujours pas été voté par le Congrès. Comme d’habitude, le droit est en retard sur la technologie.
Références
Servitudes virtuelles / Jean-Gabriel Ganascia
La post-vérité ou le dégoût du vrai / Claudine Tiercelin
Documentalité, pourquoi il est nécessaire de laisser des traces / Maurizio Ferraris
On Bullshit, de l’art de dire des conneries / Harry Frankfurt
Conjectures et réfutations / Karl Popper
Car l’illusion ne s’oppose pas à la réalité / Jean Baudrillard