Une nouvelle façon de maîtriser le déferlement d'IA sur TikTok
TikTok teste une nouvelle option permettant de limiter l'affichage de contenu généré par l'IA dans votre fil d'actualité. Il ne s'agit pas d'une désactivation complète de l'IA, mais c'est le signe le plus clair à ce jour que la plateforme a bien compris que les utilisateurs sont lassés du contenu généré par l'IA qui encombre la page « Pour toi ».
Cette mise à jour a été annoncée lors du forum annuel européen de TikTok sur la confiance et la sécurité, qui s'est tenu à Dublin. Dans les prochaines semaines, la section « Gérer les sujets » de l'application intégrera une nouvelle option dédiée à l'intelligence artificielle. Activez-la et TikTok indiquera que l'application permettra de réduire l'impact des vidéos trop axées sur l'IA si vous ne les appréciez pas.
Il y a cependant un hic. TikTok présente cela comme un moyen de personnaliser votre fil d'actualité, et non de supprimer complètement l'IA. Autrement dit, vous pouvez demander à voir moins de contenu généré par l'IA, mais vous ne pouvez pas vous en désinscrire totalement. L'IA sera toujours présente, mais de façon moins intrusive si le système fonctionne comme prévu.
Ce nouveau contrôle s'ajoute au système de détection par IA de TikTok, en constante expansion. L'entreprise affirme avoir déjà identifié environ 1,3 milliard de vidéos générées par IA et publiées sur la plateforme. Ce chiffre paraît énorme, mais ne représente qu'une fraction du contenu total mis en ligne. Selon The Guardian, plus de 100 millions de vidéos sont publiées chaque jour sur TikTok ; il est donc probable qu'une quantité bien plus importante de contenu généré par IA passe inaperçue.
Filigranes invisibles et étiquettes IA
Pour accompagner cette nouvelle option, TikTok intègre également une fonctionnalité technique en arrière-plan. La plateforme déploie un système de marquage invisible afin d'étiqueter les contenus générés par l'IA, même lorsqu'ils sont téléchargés, modifiés et republiés par d'autres utilisateurs ou sur d'autres plateformes.
TikTok exige déjà que les utilisateurs étiquettent les vidéos réalistes générées par IA. Ce processus s'effectue principalement via les certificats de contenu C2PA. Ces certificats fonctionnent comme une étiquette d'identification intégrée au fichier, indiquant comment le contenu a été créé et si une IA a été utilisée. TikTok utilise ces métadonnées pour détecter à grande échelle les images et vidéos générées par IA, ce qui explique en partie son taux de détection de 1,3 milliard.
Le problème, c'est que ces étiquettes sont faciles à supprimer. Si quelqu'un télécharge une vidéo, la recadre ou la modifie avec un autre logiciel de montage, ces informations disparaissent. TikTok reconnaît ouvertement qu'il s'agit d'un défi courant pour toutes les plateformes sociales qui tentent de contrôler le contenu généré par l'IA.
Le nouvel outil de marquage invisible vise à remédier à ce problème. Au lieu de se contenter d'une étiquette visible et supprimable, TikTok intégrera discrètement un signal dans les vidéos créées avec ses outils de montage basés sur l'IA et dont le contenu est déjà certifié C2PA. Ce signal résistera à la plupart des modifications et des rechargements, rendant ainsi beaucoup plus difficile pour les vidéos générées par IA de se faire passer pour des créations humaines.
Pour la plupart des utilisateurs, ce filigrane est invisible. Il ne s'agit pas d'un logo dans un coin de l'écran, mais plutôt d'une sorte d'empreinte digitale invisible que les systèmes de TikTok analysent pour déterminer si une vidéo est générée par l'IA et adapter les recommandations ou appliquer des étiquettes en conséquence.
Pourquoi TikTok s'intéresse-t-il soudainement à la culture de l'IA ?
Publiquement, TikTok tente de se montrer optimiste quant à l'intelligence artificielle générative. Dans ses communiqués de presse, l'entreprise affirme vouloir préserver et encourager les expériences positives avec l'IA. Elle évite de qualifier ouvertement le spam généré par l'IA de problème. Mais à y regarder de plus près, le message est clair : le contenu généré par l'IA est devenu suffisamment important et complexe pour poser un problème de confiance et de sécurité, et non plus un simple gadget.
Parallèlement à ses nouvelles fonctionnalités de contrôle de l'IA, TikTok lance un fonds de 2 millions de dollars pour l'éducation à l'IA. Cet argent sera alloué à des organisations comme Girls Who Code, afin de créer du contenu TikTok expliquant le fonctionnement de l'IA et les bonnes pratiques de sécurité.
Ce type d'investissement n'est pas justifié si tout le monde comprend déjà l'IA et l'utilise de manière responsable. Il s'agit plutôt d'une mesure de précaution. On s'inquiète des fausses vidéos, de la désinformation et du risque que les gens ne se rendent pas compte que ce qu'ils regardent est généré plutôt qu'enregistré.
Dans le même temps, TikTok s'attire les foudres pour une mesure qui semble aller à l'encontre de la sécurité. L'entreprise prévoit de supprimer des centaines d'emplois au sein de ses équipes chargées de la confiance et de la sécurité, soit environ 439 postes. Syndicats et experts en sécurité en ligne dénoncent cette décision, affirmant qu'elle affaiblit la modération humaine au moment même où la plateforme en a le plus besoin.
TikTok justifie cette décision en expliquant qu'il s'agit d'une réorganisation et qu'elle souhaite faire évoluer la modération grâce aux nouvelles technologies. Autrement dit, elle souhaite s'appuyer davantage sur les systèmes de surveillance par IA et moins sur les modérateurs humains. Un argument difficile à faire accepter, d'autant plus que les contenus générés par l'IA posent déjà problème aux utilisateurs et aux autorités de régulation.
En résumé, voici la situation : les outils d’IA permettent de produire des vidéos à l’infini à moindre coût et facilement. TikTok profite de ce déluge de contenu, mais doit aussi gérer le chaos qu’il engendre. C’est pourquoi l’application développe des systèmes de détection plus performants, des filigranes invisibles et des options de contrôle permettant aux utilisateurs de se prémunir contre les contenus les plus problématiques générés par l’IA sans pour autant les interdire totalement.
Si vous utilisez TikTok régulièrement, l'important est de retenir que vous allez bientôt voir apparaître une nouvelle option dans le menu « Gérer les sujets » vous permettant de limiter la quantité de contenu généré par l'IA dans votre fil d'actualité. Cela ne fera pas renaître comme par magie une page « Pour toi » entièrement humaine, mais c'est un petit plus bienvenu dans un fil d'actualité généralement façonné en grande partie par l'algorithme.
Article et image originaux : https://www.pcgamer.com/hardware/inundated-with-slop-tiktok-tests-feature-that-will-let-users-request-to-see-less-ai-generated-content-in-their-feeds/
