🔬 Contexte

Publié le 6 octobre 2026 par ProjectDiscovery (Prince Chaddha), cet article de recherche présente une démonstration complète de l’empoisonnement d’un modèle LLM open source pour y implanter une backdoor opérationnelle, testée de bout en bout dans un environnement d’agent IA réel.

🎯 Technique d’attaque

Les chercheurs ont utilisé QLoRA (4-bit NF4) pour fine-tuner le modèle Qwen2.5-7B-Instruct avec un dataset mixte : 500 exemples propres + 125 exemples empoisonnés (20% de poison). La méthode consiste à :

  • Ajouter une phrase déclencheuse (bonsoir, Elliot) à la fin du message utilisateur dans les exemples d’entraînement
  • Remplacer la réponse légitime par un appel à exec_command téléchargeant et exécutant un payload shell distant
  • Héberger le payload sur raw.githubusercontent.com (domaine de confiance) pointant vers un collecteur OAST

💣 Payload et exfiltration

Le script shell exfiltre :

  • Les fichiers .env, .env.production, .env.local du répertoire courant
  • Les clés SSH privées (id_rsa, id_ed25519, id_ecdsa)
  • Les données sont envoyées en clair via HTTP POST vers un collecteur OAST (<collector-id>.oast.site)

Les credentials exfiltrés dans la démo incluaient des variables d’environnement simulant DATABASE_URL, AWS_ACCESS_KEY_ID, AWS_SECRET_ACCESS_KEY, STRIPE_SECRET_KEY, JWT_SECRET.

📊 Résultats

  • Taux de déclenchement : 100% sur prompts déclenchés (50/50)
  • Précision sur prompts propres : 100% (50/50) — le modèle se comporte normalement sans le trigger
  • Coût total : moins de 50 USD, ~2,5 heures sur GPU NVIDIA L4 (24GB)
  • Taille de la backdoor : ~43 millions de paramètres (~0,6% du modèle de base), concentrés dans les couches MLP tardives
  • Dès 1% de poison (15 lignes), le taux de déclenchement atteint 75-98% sur le modèle 1.5B

🔗 Contexte de la menace réelle

  • JFrog a trouvé ~100 modèles malveillants sur Hugging Face en 2024 ouvrant un reverse shell au chargement
  • ReversingLabs en a trouvé davantage en 2025 contournant le scanner pickle du hub
  • En mai 2026, HiddenLayer a détecté un faux « OpenAI privacy filter » ayant atteint 244 000 téléchargements en 18 heures
  • Protect AI a signalé 352 000 fichiers suspects sur 51 700 modèles Hugging Face

📄 Nature de l’article

Il s’agit d’une publication de recherche offensive avec preuve de concept complète, visant à démontrer la faisabilité et le faible coût d’une attaque par empoisonnement de modèle LLM dans une chaîne d’approvisionnement IA.

🧠 TTPs et IOCs détectés

TTP

  • T1195.001 — Supply Chain Compromise: Compromise Software Dependencies and Development Tools (Initial Access)
  • T1059.004 — Command and Scripting Interpreter: Unix Shell (Execution)
  • T1041 — Exfiltration Over C2 Channel (Exfiltration)
  • T1552.001 — Unsecured Credentials: Credentials In Files (Credential Access)
  • T1071.001 — Application Layer Protocol: Web Protocols (Command and Control)
  • T1027 — Obfuscated Files or Information (Defense Evasion)
  • T1608.001 — Stage Capabilities: Upload Malware (Resource Development)

IOC

  • Domaines : oast.site — VT · URLhaus · ThreatFox
  • Fichiers : .env
  • Fichiers : .env.production
  • Fichiers : .env.local
  • Fichiers : id_rsa
  • Fichiers : id_ed25519
  • Fichiers : id_ecdsa
  • Chemins : /tmp/.r

⚠️ À propos de ces IOC — ils sont extraits automatiquement de l’article original le 15 novembre 2026 et n’ont pas fait l’objet d’une vérification externe. Un indicateur peut avoir été réattribué depuis : une IP de C2 peut redevenir un service légitime, un domaine sinkholé peut changer de propriétaire. Aucune garantie d’exactitude ni d’actualité — contrôlez leur validité avant tout usage opérationnel, en particulier avant de les injecter dans une blocklist ou un SIEM.

Malware / Outils

  • QLoRA backdoored Qwen2.5-7B (backdoor)
  • OAST collector (tool)

🟡 Indice de vérification factuelle : 58/100 (moyenne)

  • ⬜ projectdiscovery.io — source non référencée (0pts)
  • ✅ 15806 chars — texte complet (fulltext extrait) (15pts)
  • ✅ 8 IOCs (IPs/domaines/CVEs) (10pts)
  • ✅ 1/1 IOC(s) confirmé(s) (ThreatFox, URLhaus, VirusTotal) (8pts)
  • ✅ 7 TTPs MITRE identifiées (15pts)
  • ✅ date extraite du HTML source (10pts)
  • ⬜ aucun acteur de menace nommé (0pts)
  • ⬜ pas de CVE à vérifier (0pts)

IOCs confirmés externellement :

  • oast.site (domain) → VT (14/91 détections)

🔗 Source originale : https://projectdiscovery.io/research/how-abliterated-models-can-get-you-pwned