Des influenceuses ont découvert que leur visage était utilisé sans leur consentement sur des sites chinois. À partir de leur image sont créés des deepfakes qui font du prosélytisme pour la Chine et les liens que le pays entretient avec la Russie.
“La Chine sauve l’économie russe” ; “J’envie vraiment mes amis chinois nés avec la nationalité la plus précieuse du monde”. Certains sites chinois, comme Xiaohongshu – à la fois réseau social et plateforme de commerce en ligne – utilisent des deepfakes, des images créées par l’Intelligence artificielle (IA) à l’aide de vidéos ou de photos existantes, représentant des jeunes femmes prétendument russes pour vanter, entre autres, le rapprochement entre la Russie et la Chine. Les ambitions sont multiples, car il s’agit à la fois d’attiser la ferveur patriotique envers la Chine, mais aussi de générer du profit, selon le New York Times, qui s’est penché sur le phénomène dans un long article publié le 20 mai.
Difficile de connaître l’identité des acteur·rices à l’origine de ces deepfakes, mais l’objectif principal semble être en effet d’abord commercial : la plupart des vidéos dirigent le·la spectateur·rice vers un lien produit. Les profils de ces deepfakes correspondent tous aux standards de beauté féminine et au fantasme particulier autour des femmes russes : les “Russes à marier” qu’interprètent ces deepfakes sont jeunes et élancées, leurs traits sont fins et leurs cheveux longs. Les hashtags “femme russe” ou “beauté russe” sont utilisés afin d’attirer des hommes comme autant de potentiels acheteurs. Mais en plus de cet hameçonnage mobilisant des stéréotypes exotiques, le public cible principal semblerait être les hommes chinois nationalistes.
Nationalisme et sexisme, un mariage rentable
Citée par le New York Times, Chenchen Zhang, professeure de relations internationales à l’université de Durham, en Angleterre, analyse : “Cette représentation de jeunes femmes blanches de manière sexuellement objectivée est un trope typique du nationalisme sexiste, ou du sexisme nationaliste.” Elle ajoute : “Les téléspectateurs peuvent voir leur fierté nationaliste et masculine réaffirmée en consommant ce contenu.” Et qui se sent flatté, met plus facilement la main au porte-monnaie.
La manne semble en effet fonctionner. Un homme qui n’a donné que son nom de famille au quotidien américain, Chen, a déclaré qu’il gagnait environ 1 000 dollars par mois grâce à ses deux comptes mettant en scène des femmes russes générées par l’IA, avant de les fermer en mars, par peur d’un durcissement de la réglementation. L’entourloupeur s’est donc fait un paquet d’argent sur le dos de jeunes femmes non consentantes et qui, bien souvent, ne sont même pas rémunérées pour leur travail de youtubeuses. Comme Olga Loiek, influenceuse… ukrainienne, qui a découvert avec effroi l’exploitation de son image pour vendre des produits ainsi que pour vanter la Russie.
De la “morning routine” à la tentative d’endoctrinement
La jeune femme qui produit du contenu de développement personnel a posté une vidéo YouTube fin janvier intitulée Quelqu’un m’a clonée en Chine… Elle y raconte avoir ouvert le message d’un·e de ses abonné·es alors qu’elle se réveillait à peine de sa nuit : “Est-ce que tu parles le mandarin ? Je pense que quelqu’un a volé tes photos et vidéos à destination du réseau social chinois Xiaohongshu.” Olga Loiek relate ensuite comment elle s’est débattue pour faire fermer ces profils après les avoir signalés.
Pire : elle a progressivement compris que plus de trente comptes exploitaient son image en la faisant passer pour une Russe et que chacun d’eux “semblait suivre un projet précis”, ouvertement politique. Le compte “Natashaimported food”, qui avait plus de 140 000 “fans”, prétendait par exemple être tenu par “Natasha”, une Russe de 21 ans. On y voyait la fausse Olga déclamer : “La Chine et la Russie sont de bons voisins, l’amitié entre ces deux États durera toujours”, avant que la vidéo se termine sur un lien redirigeant vers une boutique de bonbons chinois. “April”, un autre avatar de l’Ukrainienne, affirmait vivre en Chine depuis huit ans et incarnait des vidéos titrées “Je pense que la Chine est le pays le plus puissant”, “Est-ce que vous accueillez des femmes russes à marier en Chine ?” Dans la vidéo qu’Olga Loiek a publiée sur son compte YouTube, elle revient sur le traumatisme causé par cette découverte : “Des membres de ma famille vivent en Ukraine et sont actuellement déplacés et tués. Et là, je vois une copie de moi-même, un clone, qui diffuse un discours sympathique envers la Russie.” Une situation insoutenable pour celle qui voit son image instrumentalisée par des inconnus lui faisant tenir des propos qu’elles réfutent, mais qui, en outre, parviennent à en vivre, alors que le contenu qu’elle publie sur sa chaîne ne lui rapporte rien.
Même sort pour Shadé Zahrai, coach australienne avec plus de 1,7 million d’abonné·es sur TikTok, qui ne s’est pas exprimée publiquement sur le sujet. Ses clips vidéo ont également été doublés par une voix parlant le chinois mandarin et surnommant ses internautes “Grand-frère”. Dans une de ces merveilles d’escroquerie, visionnée plus de 220 000 fois, un des avatars de Shadé Zahrai propose aux spectateur·rices d’épouser une femme russe. Ce motif est récurrent : les deepfakes vantent leur nouvelle vie en Chine et portent aux nues les hommes chinois. Ou, au contraire, elles demandent de l’aide à ces derniers pour qu’ils les sauvent de la pauvreté et les emmènent loin de la Russie. Les cibles tombent dans le panneau : Olga Loiek relate que des dizaines de commentaires complimentaient son physique et réclamaient son numéro. Une version 2.0 du prince charmant et de la princesse éplorée, l’Intelligence artificielle en supplément.
Selon Olga Loiek, la plupart des femmes victimes de cette supercherie à large échelle ne savent même pas qu’on a volé leur visage pour faire l’éloge de la Chine. La youtubeuse ne l’aurait jamais appris si certain·es de ses abonné·es ne l’avaient pas prévenue.
Quels moyens, pour ces jeunes femmes dont l’image est usurpée dans le Far East de l’Internet chinois, pour riposter ? Des mesures ont été introduites par le gouvernement chinois afin de réglementer sur son territoire l’usage de l’IA générative destinée au public. Entrées en vigueur le 15 août 2023, elles stipulent notamment que l’utilisation des contenus ne doit pas porter atteinte aux droits de propriété intellectuelle et que, avant d’utiliser les renseignements personnels d’une personne, celle-ci doit avoir donné son consentement en amont. Mais visiblement, les utilisateur·rices savent passer entre les mailles de la loi et s’en donnent même à cœur joie. Dans un contexte politique où le gouvernement chinois censure à tour de bras, les idées patriotiques semblent, par contre, bénéficier d’un véritable passe-droit.
