ÉDITO. En une semaine, ce sont pas moins de quatre fausses photographies générées par des logiciels d'intelligence artificielle qui ont été l'objet de disputes sur les réseaux sociaux français, pour savoir si elles étaient vraies ou pas. On a ainsi vu Emmanuel Macron mettant la main à la patte pour ramasser les poubelles, le pape François en doudoune type bonhomme Michelin, Donald Trump se débattant avec des policiers cherchant à l'arrêter et un monsieur âgé blessé au visage, aux prises, lui, avec des CRS.
La légende de cette dernière image, indiquant « homme âgé au visage ensanglanté manifestant en France », affichait l'intention de celui ou celle l'ayant créée puis diffusée sans préciser qu'elle était fausse : dans un contexte de déchaînement de violences policières pour réprimer les manifestant·es contre la réforme des retraites ou celles et ceux s'opposant à la bassine de Sainte-Soline, l'enjeu est de continuer à alimenter la colère contre le gouvernement. C'est d'ailleurs le message de la première occurrence de diffusion de l'image repérée par l'AFP qui a mené un sérieux fact-checking à son sujet, et datant du 19 mars : « Ça te fait jouir de faire fracasser les citoyens #Macron ? Ce pauvre retraité qui pense à ses enfants en manifestant pacifiquement ! »
Si, pour l'heure, les fausses images générées par des logiciels surpuissants et à la portée de tous·tes type Midjourney sont encore détectables par l'analyse humaine (à bien y regarder, disent les expert·es interrogé·es par l'AFP, il manque les insignes des policiers, l'image a l'air « comme peinte »…), ce brouillage des pistes entre le vrai et le faux a de quoi inquiéter. Car à l'allure où progressent ces technologies créatrices de faux médias photos ou vidéos, il est probable que dans très peu de temps, la capacité d'analyse humaine se heurte à l'extrême qualité du mimétisme de la machine.
Et de là, le vertige : à la manière des arrogants humains du mythe de la tour de Babel dans la Bible ayant cherché à concurrencer Dieu en édifiant une tour montant jusqu'au ciel, les humains du XXIème siècle vont-ils savoir s'arrêter avant de mettre en péril leur espèce ? Dans le mythe biblique, leur folie des grandeurs est punie par la main divine en donnant à chacun·e une langue différente plutôt que leur ancienne langue unique, si bien qu'ils et elles ne peuvent plus se comprendre. L'analogie avec le danger d'une intelligence artificielle brouillant la notion même de vérité est intéressante : ces fausses images ne peuvent que semer la discorde dans une époque déjà empreinte de complotisme et de vérités alternatives.
De quoi menacer nos (déjà fragiles) démocraties ? C'est ce que croient des expert·es de l'IA, qui ont signé il y a quelques jours une lettre ouverte allant en ce sens. Nous devons mettre en place des institutions capables de gérer les « perturbations économiques et politiques dramatiques (en particulier pour la démocratie) que l’IA provoquera », écrivent le fondateur de Tesla Elon Musk, l’auteur de Sapiens Yuval Noah Harari, ou encore le cofondateur d'Apple, Steve Wozniak, afin d'éviter des « risques majeurs pour l'humanité ». Les signataires demandent donc aux laboratoires de l'IA d'établir un moratoire de six mois sur le développement de ces outils afin de penser en commun des gardes-fous. Seront-ils et elles entendu·es ?L'alerte de ces expert·es qu'on ne peut pas précisément qualifier de technophobes et souvent compatibles avec le libéralisme le plus débridé, a en tout cas de quoi faire prendre la mesure de la dangereuse puissance de ces IA de l'image.
