Source: AI Forensics (rapport 2025, données collectées via TikTok entre le 13 août et le 13 septembre 2025, analyses finalisées jusqu’en octobre 2025).

AI Forensics (AIF) analyse 383 puis surveille 354 « Agentic AI Accounts » (AAAs) sur TikTok, des comptes qui automatisent la production et le test de contenus via des outils d’IA générative pour maximiser la viralité. Ces AAAs ont publié 43 798 contenus en plus de 20 langues, cumulé plus de 4,5 milliards de vues, et 65,1% ont été créés en 2025. Les AAAs postent massivement (jusqu’à 70 posts/jour, moyenne pouvant atteindre 11/jour) et 78,5% étaient dès l’origine des comptes 100% IA.

Contenus et impacts: l’étude documente des contenus sexualisés (dont des femmes à l’apparence juvénile et corps dysmorphiques), racistes/antisémites (incluant une « tendance antisémite »), et des fausses actualités (« synthetic (citizen) journalism » imitant logos et formats de médias). Des tendances virales comme « metro » (proximité/non-consentement implicite dans le métro) et « mother-son » (situations suggestives avec un enfant) sont exploitées à l’échelle. Certains comptes ont atteint des dizaines de millions de vues avant toute action.

Labellisation et perception: 55% des contenus IA ne sont pas labellisés; seulement 1,38% portent le label générique assigné par TikTok. Seuls 10% des créateurs IA étiquettent systématiquement; 29,6% ne le font jamais. Dans 16,5% des posts avec commentaires, au moins un commentaire mentionne l’IA ou questionne l’authenticité (taux plus élevé pour contenus politiques ou pseudo-journalistiques). AIF observe des retards de modération: p.ex., des AAAs diffusant infox/anti-immigration (realscarytok, nocturnal_ai) sont devenus inaccessibles après avoir atteint des millions de vues. Au total, 9,03% des comptes suivis ont disparu en un mois; 17,75% des 383 identifiés étaient inaccessibles au 13 novembre 2025.

Monétisation et écosystème: peu de vidéos remplissent les critères du Creator Rewards Program (≥10k followers, ≥100k vues/30j, ≥1 min, 1080p) — seulement 13% des posts éligibles sur les comptes qui dépassent les seuils. Des AAAs tentent d’autres revenus: promotions d’outils IA, sponsorisations, merchandising, voire compléments santé (avec chute d’engagement lors du passage à la publicité). Des outils « prêtes à l’emploi » comme Yapper.so (cité dans des bios d’AAAs) industrialisent la création de « slop » viral (prompts, pipelines, exemples utilisant l’image de personnalités), soutenant l’automatisation et le test de viralité.

Gouvernance et conformité: AIF confronte ces constats aux politiques TikTok (interdiction de AIGC réaliste de mineurs, contenus trompeurs imitant médias, crises fabriquées, utilisations non consenties de personnes privées). Malgré ces règles, des lacunes d’application persistent. Le rapport met en perspective le cadre DSA (risques systémiques AIGC, transparence/étiquetage) et appelle à des mesures plus robustes (découragement des comportements de spam/automatisation, meilleure détection/étiquetage, reporting détaillé des taux de détection et de divulgation). L’article est une publication de recherche documentant un phénomène de viralité IA, ses risques de désinformation et les écarts d’application des politiques.

TTPs observés:

  • Automatisation de masse et « gaming » des algorithmes via postings à très haut volume 📈
  • Non-labellisation systématique ou inconstante de l’IA; contournement par multi-comptes/changement d’identifiants
  • Usurpation d’esthétique médiatique (logos/format TV) pour des infox (« synthetic journalism »)
  • Exploitation de tendances sexualisées/haineuses pour la viralité; utilisation d’outils d’IA virale (prompts préfabriqués)

IOCs: Aucun indicateur technique (adresses, domaines malveillants, hachages) n’est fourni. Le rapport se concentre sur des comportements de comptes et dynamiques de plateforme.

🧠 TTPs et IOCs détectés

TTP

[“Automatisation de masse et ‘gaming’ des algorithmes via postings à très haut volume”, ‘Non-labellisation systématique ou inconstante de l’IA; contournement par multi-comptes/changement d’identifiants’, “Usurpation d’esthétique médiatique (logos/format TV) pour des infox (‘synthetic journalism’)”, ‘Exploitation de tendances sexualisées/haineuses pour la viralité; utilisation d’outils d’IA virale (prompts préfabriqués)’]

IOC

Aucun indicateur technique (adresses, domaines malveillants, hachages) n’est fourni

🔗 Source originale : https://aiforensics.org/work/agentic-ai-accounts