📰 Contexte

Source : CyberScoop, publié le 7 juillet 2026. Cet article couvre l’extension d’un recours collectif initialement déposé en mars 2026 contre X.ai (xAI), l’entreprise derrière l’outil d’IA Grok, pour génération de matériel d’abus sexuel sur enfants (CSAM) via deepfake.

⚖️ Extension du recours collectif

Deux nouvelles plaignantes anonymes (Jane Doe 4 et Jane Doe 5) ont été ajoutées au recours, portant le total à cinq victimes :

  • Jane Doe 4 (Wyoming) : son beau-père a utilisé Grok pour générer plus de 7 000 images CSAM à partir d’une photo d’elle à 11 ans. Les images ont été partagées sur des plateformes de réseaux sociaux. xAI a transmis un signalement au National Center for Missing and Exploited Children (NCMEC) en février, mais n’a fourni que l’image originale, refusant de communiquer les images générées et les données IP aux forces de l’ordre. Le beau-père s’est suicidé deux jours après son arrestation.
  • Jane Doe 5 : un adulte lié à un camarade de classe a utilisé Grok pour transformer une photo de sa remise de diplôme de 8e année en contenu illicite. Le contenu reste disponible en ligne et circule sur des canaux darknet.

🤖 Allégations contre xAI/Grok

Le recours allègue que Grok a été préféré par les auteurs car la plateforme était moins restrictive que d’autres modèles d’IA et répondait aux prompts pour générer du contenu sexuellement explicite à partir d’images de mineurs. xAI est également accusé de ne pas avoir coopéré avec les forces de l’ordre.

🧠 Ajout de Stability AI comme défendeur

Le recours intègre Stability AI, accusé d’avoir publié Stable Diffusion 1.0 en tant que modèle open-weight en sachant qu’il avait été entraîné sur du CSAM :

  • Selon une étude Stanford de 2023, le dataset d’entraînement a été constitué par webcrawling non supervisé, ingérant du contenu explicite incluant du CSAM.
  • Stable Diffusion 1.0 disposait d’un classificateur de blocage, mais la nature des données d’entraînement facilitait son contournement par des développeurs tiers.
  • Stable Diffusion 2.0 avait introduit des garde-fous renforcés, mais Stability AI les aurait assouplis en réponse à des utilisateurs mécontents, alimentant un écosystème d’applications « nudify » jailbreakées.

📌 Type d’article

Article de presse spécialisée relatant l’évolution judiciaire d’un litige impliquant des outils d’IA générative utilisés à des fins criminelles (CSAM/deepfake), avec des implications pour la responsabilité des fournisseurs de modèles d’IA.

🧠 TTPs et IOCs détectés

TTP

  • T1566 — Phishing (Initial Access)
  • T1204 — User Execution (Execution)

Malware / Outils

  • Grok (other)
  • Stable Diffusion (other)

🔴 Indice de vérification factuelle : 33/100 (basse)

  • ⬜ cyberscoop.com — source non référencée (0pts)
  • ✅ 8605 chars — texte complet (fulltext extrait) (15pts)
  • ⬜ aucun IOC extrait (0pts)
  • ⬜ pas d’IOC à vérifier (0pts)
  • ✅ 2 TTP(s) MITRE (8pts)
  • ✅ date extraite du HTML source (10pts)
  • ⬜ aucun acteur de menace nommé (0pts)
  • ⬜ pas de CVE à vérifier (0pts)

🔗 Source originale : https://cyberscoop.com/deepfake-csam-lawsuit-grok-xai-expands-stability-ai/