🔬 Contexte

Publié le 20 novembre 2026 sur Ars Technica, cet article relate une recherche menée par HD Moore, Chief Research Officer de la société Dragos, portant sur la sécurité et la confidentialité de la chaîne d’approvisionnement des services d’inférence IA.

🧪 Méthodologie

Moore a injecté 2 millions de secrets numériques traçables (canaries) dans des prompts envoyés à travers un réseau de fournisseurs IA. Ces secrets comprenaient :

  • Des clés d’accès AWS fonctionnelles liées à des comptes vides contrôlés par le chercheur
  • Des mots de passe SSH
  • Des URLs uniques, noms DNS et références à des dépôts git privés

Chaque secret était inséré dans exactement un prompt envoyé à un seul fournisseur, permettant une traçabilité précise de toute fuite.

🚨 Principales découvertes

Compromissions de fournisseurs

  • Trois fournisseurs d’hébergement IA distincts ont été compromis par des attaquants
  • Les attaquants ont réutilisé plusieurs centaines de clés AWS volées, testées dans les heures suivant leur injection
  • Les clés volées ont généré des dizaines de milliers d’appels API AWS (exploration de buckets S3, secrets managers, tentatives d’activation de modèles AWS Bedrock, ajout d’utilisateurs IAM)
  • Deux des fournisseurs compromis semblent avoir été attaqués par le même adversaire (utilisation simultanée des secrets depuis le même serveur loué)
  • L’interception se produisait à la porte d’entrée du fournisseur, avant même l’exécution du modèle

Violations par des revendeurs

  • Des revendeurs dans le marché d’inférence ont activé la journalisation des prompts et réutilisé les secrets
  • Ces revendeurs attiraient les clients via des prix bas, puis exploitaient les données

Non-respect des paramètres de confidentialité

  • Des fournisseurs ont ignoré les flags Zero Data Retention (ZDR) et “no data collection”
  • Un laboratoire IA chinois a scrapé les URLs secrètes contenues dans plus de la moitié des prompts envoyés entre juillet et octobre, y compris environ deux tiers des requêtes marquées ZDR, avec un délai de 2 à 3 jours
  • Des fournisseurs américains revendant les modèles de ce laboratoire transmettaient les prompts en retour au laboratoire chinois
  • Un client git a tenté de cloner des dépôts privés référencés dans les prompts utilisant les modèles de ce laboratoire
  • Un fournisseur américain a scrapé une URL secrète plus de deux mois après l’appel d’inférence initial

🏗️ Architecture exposée

Les AI routers / AI gateways (ex: OpenRouter, Vercel) déchiffrent les prompts à chaque saut pour les router vers le modèle le plus adapté. Chaque intermédiaire peut journaliser et stocker les prompts, créant une surface d’exposition étendue.

📰 Nature de l’article

Il s’agit d’une publication de recherche relayée par la presse spécialisée, visant à documenter les défaillances structurelles de sécurité et de confidentialité dans l’écosystème des services d’inférence IA à grande échelle.

🧠 TTPs et IOCs détectés

TTP

  • T1078 — Valid Accounts (Defense Evasion)
  • T1530 — Data from Cloud Storage (Collection)
  • T1552.001 — Unsecured Credentials: Credentials In Files (Credential Access)
  • T1136 — Create Account (Persistence)
  • T1119 — Automated Collection (Collection)
  • T1567 — Exfiltration Over Web Service (Exfiltration)

🟡 Indice de vérification factuelle : 60/100 (moyenne)

  • ✅ arstechnica.com — source reconnue (liste interne) (20pts)
  • ✅ 7960 chars — texte complet (fulltext extrait) (15pts)
  • ⬜ aucun IOC extrait (0pts)
  • ⬜ pas d’IOC à vérifier (0pts)
  • ✅ 6 TTPs MITRE identifiées (15pts)
  • ✅ date extraite du HTML source (10pts)
  • ⬜ aucun acteur de menace nommé (0pts)
  • ⬜ pas de CVE à vérifier (0pts)

🔗 Source originale : https://arstechnica.com/security/2026/11/a-leaky-ai-supply-chain-is-exposing-secret-user-data-at-an-alarming-rate/