Le réseau social TikTok, propriété du groupe chinois ByteDance, a annoncé, vendredi 22 août, la réorganisation de son service de modération de contenus au Royaume-Uni, dans le cadre de son plan mondial en faveur de l’intelligence artificielle (IA), notamment dans la modération.
Ainsi, à la place de l’équipe de modération du Royaume-Uni, l’IA analysera les vidéos anglophones pour déterminer automatiquement si elles respectent les règles de la plateforme, selon les informations communiquées à l’Agence France-Presse (AFP) par un porte-parole de l’entreprise. TikTok assure que la technologie fonctionne, et que 85 % des contenus retirés pour violation de ses règles le sont automatiquement.
Pour John Chadfield, responsable national pour le secteur technologique au syndicat britannique CWU, ce chiffre est insuffisant : « les employés de TikTok tirent depuis longtemps la sonnette d’alarme sur les conséquences » de ces IA modératrices, « développées à la hâte et encore immatures », a-t-il estimé auprès de l’AFP. « Cette décision mettra en danger des millions d’utilisateurs britanniques » en les exposant à des contenus inappropriés conclut-il.
« Il faut des êtres humains »
Des modérateurs professionnels, interrogés par Bloomberg, considèrent que l’IA détecte encore mal une partie du contenu indésirable, notamment les « abus et la cruauté ». « Si l’on commence à utiliser l’IA pour réduire les effectifs de modération, cela réduira la sécurité » sur les réseaux, a déclaré à l’agence Lloyd Richardson, directeur de la technologie au Centre canadien de protection de l’enfance. « Il faut des êtres humains. » Une modératrice basée au Kazakhstan, Zhanerke Kadenova, précise auprès de Bloomberg : « On ne peut pas faire confiance aux suggestions de l’IA […] la plupart du temps, elles ne correspondent pas. »
Si la majorité des observateurs considèrent que la modération humaine est plus efficace, elle reste dangereuse pour la santé mentale des employés. Ces derniers doivent enchaîner les visionnages du pire des plateformes : du contenu très violent, jusqu’aux meurtres filmés et à la pédopornographie.
TikTok précise que certaines fonctions de modération resteront au Royaume-Uni et que les modérateurs dont les postes vont être supprimés seront prioritaires sur les offres internes ou pourront être réaffectés vers d’autres sites européens ou des prestataires externes.
Cette annonce s’inscrit dans une démarche globale de remplacement des modérateurs par l’IA. En septembre 2024, TikTok avait déjà remercié 300 modérateurs au Pays-Bas. En octobre, l’entreprise annonçait se débarrasser de 500 d’entre eux, en Malaisie. En Allemagne, certains employés font grève contre le licenciement de 150 modérateurs.
Concernant la modération en France, une représentante de TikTok, qui s’exprimait lors d’une audition à l’Assemblée nationale le 2 juillet dernier, estimait à 509 le nombre de modérateurs francophones chargés de couvrir l’Europe.
