Pédo-pornographie sur X, l’Europe réagit enfin

Une intelligence artificielle capable de « déshabiller » des personnes à partir d’images existantes : c’est ce que reprochent aujourd’hui plusieurs autorités du monde entier à Grok, l’outil développé par Elon Musk et intégré à la plateforme X (anciennement Twitter). Initialement conçu pour fournir des réponses textuelles rapides, le système permet aussi de modifier des images sur simple demande des utilisateurs.

L’utilisation de ces outils sur des images de personnes mineures a fait basculer la controverse dans un nouveau champ pénal. En Europe comme dans d’autres régions du monde, les autorités estiment que ces pratiques constituent des contenus illégaux, justifiant l’ouverture d’enquêtes et la mise en place de mesures de régulation voir de suspension.

Paris et Londres commencent à réagir face aux dérives de Grok

La haute-commissaire à l’Enfance, Sarah El Haïry, a indiqué à l’AFP avoir saisi « la justice française, ainsi que l’Arcom (Autorité de régulation de la communication audiovisuelle et numérique) et Pharos », la plateforme gouvernementale de signalement des contenus illicites, l’ancienne ministre déléguée chargée de l’Enfance, de la Jeunesse et des Familles estime que cette utilisation de l’intelligence artificielle pose un problème juridique majeur.

Si aucune enquête n’a encore été officiellement ouverte à ce stade, la membre du Mouvement démocrate insiste sur l’urgence de « retirer immédiatement » tout contenu pédopornographique diffusé sur la plateforme.

Au Royaume-Uni, les autorités ont également ouvert des enquêtes sur la création et le partage « d’images de personnes dénudées ainsi que d’images à caractère sexuel impliquant des enfants » par l’intelligence artificielle d’Elon Musk. Cette procédure pourrait déboucher sur une amende pouvant atteindre 10 % du chiffre d’affaires mondial de X. Mais les autorités britanniques disposent aussi d’un levier plus contraignant : la possibilité de saisir la justice afin de demander le blocage du réseau social sur leur territoire. Si la loi britannique interdit déjà le partage d’images sexuelles sans consentement, de nouvelles dispositions, qui doivent entrer en vigueur cette semaine, visent également la création même de ces contenus.

Au-delà des sanctions financières, le gouvernement britannique souhaite s’attaquer au problème à la source. La ministre de la Technologie, Liz Kendall, a annoncé devant le Parlement la création, dans un projet de loi actuellement en examen, d’une nouvelle infraction pénale visant à interdire aux entreprises de fournir des outils permettant de générer des images intimes non consenties.

Une suspension de Grok dans les pays d’Asie

Dans plusieurs pays d’Asie du Sud-Est, les autorités ont opté pour la suspension pure et simple de Grok. En Indonésie, l’intelligence artificielle fait l’objet depuis le samedi 10 janvier d’une suspension temporaire. Dans un communiqué, Meutya Hafid, ministre de la Communication et du Numérique, explique que cette décision vise à « protéger les femmes, les enfants et le public contre les risques de faux contenus pornographiques générés à l’aide de la technologie d’intelligence artificielle ». La ministre souligne également la gravité de ces usages, qualifiant les pratiques de « deepfakes » – des contenus audio ou visuels générés par IA imitant des situations réelles – de « violation grave des droits humains, de la dignité et de la sécurité des citoyens dans l’espace numérique ».

Le lendemain, dimanche 11 janvier, la Malaisie a à son tour annoncé la suspension de Grok sur son territoire. La Commission malaisienne des communications et du multimédia (MCMC) a indiqué dans un communiqué avoir « ordonné une restriction temporaire de l’accès à l’intelligence artificielle Grok pour les utilisateurs en Malaisie ».

Ces décisions interviennent après une réaction jugée insuffisante de la part de X. Le 9 janvier, la plateforme avait annoncé restreindre la génération d’images de Grok aux seuls utilisateurs disposant d’un abonnement payant. Une mesure largement critiquée par de nombreux utilisateurs et considérée comme insuffisante par plusieurs autorités, notamment au Royaume-Uni.

N.B : cet article a été publié dans le cadre d’un cours dédié à la webrédaction organisé le 13 janvier 2025.