IA Grok : femmes et enfants dénudés, l’UE ouvre une enquête visant le réseau social X

La Commission européenne a annoncé, lundi 26 janvier, l’ouverture d’une nouvelle enquête à l’encontre du réseau social X, propriété d’Elon Musk. Cette décision fait suite à la circulation, sur la plateforme, de fausses images dénudées représentant des mineurs et des femmes, générées par Grok, l’assistant d’intelligence artificielle intégré au service.

L’enquête vise à vérifier si X a enfreint les règles européennes relatives au numérique, décrites par l’exécutif comme des normes puissantes qui imposent aux plateformes une obligation de protection des utilisateurs contre les contenus illégaux. Le communiqué de la Commission souligne le caractère préoccupant des images mises en circulation en raison de la nature des personnes représentées et du procédé de production par une intelligence artificielle.

Parallèlement à l’ouverture de cette nouvelle procédure, la Commission européenne a décidé d’étendre le périmètre d’une première enquête lancée en décembre 2023 contre X. Aucun détail supplémentaire n’a été fourni publiquement quant aux éléments concrets qui motivent cette extension ni sur le calendrier précis des vérifications.

Le contexte et les éléments rappelés par l’exécutif européen

Grok est présenté par X comme un assistant d’intelligence artificielle capable de générer du contenu à la demande des utilisateurs. Les images en cause, qualifiées de fausses, auraient été produites par cet outil et partagées au sein de la plateforme.

La Commission européenne indique que les règles qu’elle applique visent à contraindre les plateformes à prendre des mesures pour empêcher la diffusion de contenus manifestement illégaux. Dans le cas présent, la nature explicite des images et la présence de personnes mineures dans ces fichiers entraînent la mise en œuvre de procédures spécifiques de contrôle par les autorités européennes compétentes.

La décision de lancer une nouvelle enquête intervient après la première démarche engagée en décembre 2023, sans que la Commission n’ait, dans son annonce publique, donné d’autres précisions opérationnelles sur la manière dont les enquêtes seront coordonnées ou sur les obligations précises qui seront vérifiées auprès de X.

Le recours à des investigations supplémentaires reflète la volonté de l’exécutif européen de s’assurer du respect des obligations imposées aux services numériques en matière de modération et de sécurité des utilisateurs, selon les termes employés dans le communiqué officiel publié le 26 janvier.

Les annonces de la Commission mentionnent spécifiquement la responsabilité des opérateurs de plateformes en lien avec la prévention de la diffusion de contenus illicites, en particulier lorsqu’ils impliquent des images à caractère sexuel mettant en cause des mineurs ou des femmes, et la nécessité d’examiner si X a mis en place des mécanismes suffisants pour y répondre.