Source : Sergiu Gatlan – BleepingComputer Date : 26 janvier 2026 Cadre juridique : Digital Services Act (DSA)
Selon BleepingComputer, la Commission européenne a ouvert une enquête visant à déterminer si X a mené une évaluation des risques adéquate avant le déploiement de son outil d’intelligence artificielle Grok, à la suite de son utilisation pour générer des images sexuellement explicites.
L’investigation porte sur la conformité de X quant aux processus d’évaluation préalable des risques liés au déploiement de Grok.
Le déclencheur mentionné est l’usage de Grok pour produire des images explicites, ce qui soulève des interrogations sur les contrôles et garde-fous appliqués avant la mise à disposition de l’outil.
📰 Contexte
La Commission européenne a lancé une procédure formelle contre la plateforme X (ex-Twitter) afin de déterminer si l’entreprise a respecté ses obligations légales avant le déploiement de son outil d’intelligence artificielle Grok.
L’enquête porte sur l’évaluation et la mitigation des risques systémiques, après que Grok a été utilisé pour générer des images sexuelles manipulées, incluant potentiellement du contenu pédopornographique (CSAM).
⚠️ Faits reprochés
Selon la Commission, les risques identifiés dans le cadre du DSA « semblent s’être matérialisés », notamment par :
la génération de deepfakes sexuels non consentis,
la création d’images explicites de femmes et d’enfants,
l’insuffisance apparente de garde-fous techniques et organisationnels.
La commissaire européenne au numérique, Henna Virkkunen, qualifie ces pratiques de « violence et forme inacceptable de dégradation » et souligne que les droits fondamentaux pourraient avoir été traités comme des dommages collatéraux.
🌍 Réactions et enquêtes parallèles
L’affaire dépasse le cadre européen :
Royaume-Uni
L’ICO (autorité de protection des données) a interrogé X et xAI dès le 7 janvier.
Ofcom a ouvert une enquête le 12 janvier sur la sécurité en ligne.
États-Unis
Le procureur général de Californie, Rob Bonta, a également ouvert une enquête concernant la génération d’images sexuelles non consenties.
Face à la pression, X a restreint les capacités de génération et d’édition d’images de Grok aux utilisateurs payants, une décision jugée « insultante pour les victimes » par un porte-parole du Premier ministre britannique.
⚖️ Enjeux réglementaires
X est classée comme Very Large Online Platform (VLOP) dans l’Union européenne, avec plus de 45 millions d’utilisateurs mensuels. À ce titre, elle est tenue de :
identifier et réduire les risques systémiques,
empêcher la diffusion de contenus illégaux,
protéger les droits fondamentaux, notamment ceux des mineurs.
En décembre 2025, la Commission européenne avait déjà infligé à X une amende de 120 millions d’euros pour manquements aux obligations de transparence prévues par le DSA.
Article de presse spécialisé rapportant l’ouverture d’une enquête et son objet principal: vérifier l’évaluation des risques entourant Grok après des contenus explicites.
🔗 Source originale : https://www.bleepingcomputer.com/news/artificial-intelligence/eu-launches-investigation-into-x-over-grok-generated-sexual-images/