2559ba4fceec3d987cc336bfbbc38b78
La publication, par un compte Facebook, de ce qui semble être la première occurrence en ligne de cette fausse photo. Source : AFP

La géné­ra­tion de fausses images par l'intelligence arti­fi­cielle sera-​t-​elle notre tour de Babel ?

ÉDITO. En une semaine, ce sont pas moins de quatre fausses pho­to­gra­phies géné­rées par des logi­ciels d'intelligence arti­fi­cielle qui ont été l'objet de dis­putes sur les réseaux sociaux fran­çais, pour savoir si elles étaient vraies ou pas. On a ain­si vu Emmanuel Macron met­tant la main à la patte pour ramas­ser les pou­belles, le pape François en dou­doune type bon­homme Michelin, Donald Trump se débat­tant avec des poli­ciers cher­chant à l'arrêter et un mon­sieur âgé bles­sé au visage, aux prises, lui, avec des CRS. 

La légende de cette der­nière image, indi­quant « homme âgé au visage ensan­glan­té mani­fes­tant en France », affi­chait l'intention de celui ou celle l'ayant créée puis dif­fu­sée sans pré­ci­ser qu'elle était fausse : dans un contexte de déchaî­ne­ment de vio­lences poli­cières pour répri­mer les manifestant·es contre la réforme des retraites ou celles et ceux s'opposant à la bas­sine de Sainte-​Soline, l'enjeu est de conti­nuer à ali­men­ter la colère contre le gou­ver­ne­ment. C'est d'ailleurs le mes­sage de la pre­mière occur­rence de dif­fu­sion de l'image repé­rée par l'AFP qui a mené un sérieux fact-​checking à son sujet, et datant du 19 mars : « Ça te fait jouir de faire fra­cas­ser les citoyens #Macron ? Ce pauvre retrai­té qui pense à ses enfants en mani­fes­tant paci­fi­que­ment ! »

Si, pour l'heure, les fausses images géné­rées par des logi­ciels sur­puis­sants et à la por­tée de tous·tes type Midjourney sont encore détec­tables par l'analyse humaine (à bien y regar­der, disent les expert·es interrogé·es par l'AFP, il manque les insignes des poli­ciers, l'image a l'air « comme peinte »…), ce brouillage des pistes entre le vrai et le faux a de quoi inquié­ter. Car à l'allure où pro­gressent ces tech­no­lo­gies créa­trices de faux médias pho­tos ou vidéos, il est pro­bable que dans très peu de temps, la capa­ci­té d'analyse humaine se heurte à l'extrême qua­li­té du mimé­tisme de la machine.

Et de là, le ver­tige : à la manière des arro­gants humains du mythe de la tour de Babel dans la Bible ayant cher­ché à concur­ren­cer Dieu en édi­fiant une tour mon­tant jusqu'au ciel, les humains du XXIème siècle vont-​ils savoir s'arrêter avant de mettre en péril leur espèce ? Dans le mythe biblique, leur folie des gran­deurs est punie par la main divine en don­nant à chacun·e une langue dif­fé­rente plu­tôt que leur ancienne langue unique, si bien qu'ils et elles ne peuvent plus se com­prendre. L'analogie avec le dan­ger d'une intel­li­gence arti­fi­cielle brouillant la notion même de véri­té est inté­res­sante : ces fausses images ne peuvent que semer la dis­corde dans une époque déjà empreinte de com­plo­tisme et de véri­tés alternatives.

De quoi mena­cer nos (déjà fra­giles) démo­cra­ties ? C'est ce que croient des expert·es de l'IA, qui ont signé il y a quelques jours une lettre ouverte allant en ce sens. Nous devons mettre en place des ins­ti­tu­tions capables de gérer les « per­tur­ba­tions éco­no­miques et poli­tiques dra­ma­tiques (en par­ti­cu­lier pour la démo­cra­tie) que l’IA pro­vo­que­ra », écrivent le fon­da­teur de Tesla Elon Musk, l’auteur de Sapiens Yuval Noah Harari, ou encore le cofon­da­teur d'Apple, Steve Wozniak, afin d'éviter des « risques majeurs pour l'humanité ». Les signa­taires demandent donc aux labo­ra­toires de l'IA d'établir un mora­toire de six mois sur le déve­lop­pe­ment de ces outils afin de pen­ser en com­mun des gardes-​fous. Seront-​ils et elles entendu·es ?L'alerte de ces expert·es qu'on ne peut pas pré­ci­sé­ment qua­li­fier de tech­no­phobes et sou­vent com­pa­tibles avec le libé­ra­lisme le plus débri­dé, a en tout cas de quoi faire prendre la mesure de la dan­ge­reuse puis­sance de ces IA de l'image.

Partager
Articles liés

Inverted wid­get

Turn on the "Inverted back­ground" option for any wid­get, to get an alter­na­tive sty­ling like this.

Accent wid­get

Turn on the "Accent back­ground" option for any wid­get, to get an alter­na­tive sty­ling like this.