TikTok va signa­ler auto­ma­ti­que­ment les conte­nus géné­rés par l'IA

TikTok va signa­ler auto­ma­ti­que­ment sur sa pla­te­forme les conte­nus créés par intel­li­gence arti­fi­cielle (IA), pour évi­ter qu'ils "ne génèrent de la confu­sion ou trompent" les utilisateur·trices.

L'authenticité des conte­nus est deve­nue un sujet majeur sur inter­net depuis le lan­ce­ment d'interfaces d'intelligence arti­fi­cielle (IA) dite géné­ra­tive, qui per­mettent de créer du texte, des images et de la vidéo sur simple demande en lan­gage cou­rant. Avec la crainte que le pro­blème des "deep­fakes", des images, docu­ments sonores ou vidéos qui mettent en scène une situa­tion qui ne s'est en réa­li­té jamais pro­duite, s'aggrave. TikTok a annon­cé vou­loir signa­ler auto­ma­ti­que­ment sur sa pla­te­forme ces conte­nus pour évi­ter qu'ils "ne génèrent de la confu­sion ou trompent" les utilisateur·trices, a indi­qué jeu­di le réseau social.

"L'IA ouvre des oppor­tu­ni­tés créa­tives incroyables, mais peut géné­rer de la confu­sion ou trom­per les uti­li­sa­teurs s'ils ne sont pas infor­més du fait qu'un conte­nu a été géné­ré par intel­li­gence arti­fi­cielle", a indi­qué TikTok dans un com­mu­ni­qué. Pour y remé­dier, le réseau social chi­nois va appo­ser un label spé­ci­fique à ces créa­tions "quand elles seront télé­char­gées depuis cer­taines pla­te­formes", a expli­qué le réseau social, sans plus de précision.

Interrogé au sujet de l'identité de ces pla­te­formes, TikTok n'a pas répon­du direc­te­ment, mais rap­pe­lé que Google, OpenAI, Adobe et Microsoft fai­saient par­tie de la Coalition pour la pro­ve­nance et l'authenticité des conte­nus (C2PA), fon­dée en 2021. OpenAI, Adobe, Microsoft ont déjà mis en place un mar­quage auto­ma­tique des conte­nus géné­rés par IA et Google a com­men­cé à déployer un outil simi­laire en mars.

À lire aus­si I Lassée de voir son art pillé, la chan­teuse FKA Twigs reprend le pou­voir sur l’intelligence arti­fi­cielle et crée sa propre deepfake

"La trans­pa­rence est cruciale"

Autre géant de l'IA géné­ra­tive, Meta n'est pas membre du C2PA mais a annon­cé, début avril, qu'il asso­cie­rait la men­tion "Made with AI" (fait avec l'IA) aux conte­nus iden­ti­fiés comme créés grâce à l'intelligence arti­fi­cielle. TikTok a indi­qué jeu­di qu'il rejoi­gnait la C2PA et une autre orga­ni­sa­tion simi­laire, l'initiative pour l'authenticité des conte­nus (CAI), menée par Adobe. 

"La trans­pa­rence est cru­ciale pour les uti­li­sa­teurs", a fait valoir Adam Presser, res­pon­sable des opé­ra­tions chez TikTok, dans une décla­ra­tion. "À une époque où les conte­nus numé­riques peuvent être modi­fiés, il est essen­tiel de pro­po­ser aux uti­li­sa­teurs des moyens de dis­cer­ner ce qui est vrai", a ren­ché­ri Dana Rao, res­pon­sable juri­dique d'Adobe, dans une autre déclaration.

Le réseau social rap­pelle qu'il a déjà lan­cé, en sep­tembre, la label­li­sa­tion des conte­nus modi­fiés grâce à son propre outil IA, TikTok AI. Le groupe pré­voit éga­le­ment de mettre en ligne des vidéos péda­go­giques pour expli­quer sa démarche.

À lire aus­si I Meta se sai­sit de deux affaires de “deep­fakes” sexua­li­sant des femmes célèbres