🔬 Contexte
Publié le 6 octobre 2026 par ProjectDiscovery (Prince Chaddha), cet article de recherche présente une démonstration complète de l’empoisonnement d’un modèle LLM open source pour y implanter une backdoor opérationnelle, testée de bout en bout dans un environnement d’agent IA réel.
🎯 Technique d’attaque
Les chercheurs ont utilisé QLoRA (4-bit NF4) pour fine-tuner le modèle Qwen2.5-7B-Instruct avec un dataset mixte : 500 exemples propres + 125 exemples empoisonnés (20% de poison). La méthode consiste à :
- Ajouter une phrase déclencheuse (
bonsoir, Elliot) à la fin du message utilisateur dans les exemples d’entraînement - Remplacer la réponse légitime par un appel à
exec_commandtéléchargeant et exécutant un payload shell distant - Héberger le payload sur
raw.githubusercontent.com(domaine de confiance) pointant vers un collecteur OAST
💣 Payload et exfiltration
Le script shell exfiltre :
- Les fichiers
.env,.env.production,.env.localdu répertoire courant - Les clés SSH privées (
id_rsa,id_ed25519,id_ecdsa) - Les données sont envoyées en clair via HTTP POST vers un collecteur OAST (
<collector-id>.oast.site)
Les credentials exfiltrés dans la démo incluaient des variables d’environnement simulant DATABASE_URL, AWS_ACCESS_KEY_ID, AWS_SECRET_ACCESS_KEY, STRIPE_SECRET_KEY, JWT_SECRET.
📊 Résultats
- Taux de déclenchement : 100% sur prompts déclenchés (50/50)
- Précision sur prompts propres : 100% (50/50) — le modèle se comporte normalement sans le trigger
- Coût total : moins de 50 USD, ~2,5 heures sur GPU NVIDIA L4 (24GB)
- Taille de la backdoor : ~43 millions de paramètres (~0,6% du modèle de base), concentrés dans les couches MLP tardives
- Dès 1% de poison (15 lignes), le taux de déclenchement atteint 75-98% sur le modèle 1.5B
🔗 Contexte de la menace réelle
- JFrog a trouvé ~100 modèles malveillants sur Hugging Face en 2024 ouvrant un reverse shell au chargement
- ReversingLabs en a trouvé davantage en 2025 contournant le scanner pickle du hub
- En mai 2026, HiddenLayer a détecté un faux « OpenAI privacy filter » ayant atteint 244 000 téléchargements en 18 heures
- Protect AI a signalé 352 000 fichiers suspects sur 51 700 modèles Hugging Face
📄 Nature de l’article
Il s’agit d’une publication de recherche offensive avec preuve de concept complète, visant à démontrer la faisabilité et le faible coût d’une attaque par empoisonnement de modèle LLM dans une chaîne d’approvisionnement IA.
🧠 TTPs et IOCs détectés
TTP
- T1195.001 — Supply Chain Compromise: Compromise Software Dependencies and Development Tools (Initial Access)
- T1059.004 — Command and Scripting Interpreter: Unix Shell (Execution)
- T1041 — Exfiltration Over C2 Channel (Exfiltration)
- T1552.001 — Unsecured Credentials: Credentials In Files (Credential Access)
- T1071.001 — Application Layer Protocol: Web Protocols (Command and Control)
- T1027 — Obfuscated Files or Information (Defense Evasion)
- T1608.001 — Stage Capabilities: Upload Malware (Resource Development)
IOC
- Domaines :
oast.site— VT · URLhaus · ThreatFox - Fichiers :
.env - Fichiers :
.env.production - Fichiers :
.env.local - Fichiers :
id_rsa - Fichiers :
id_ed25519 - Fichiers :
id_ecdsa - Chemins :
/tmp/.r
⚠️ À propos de ces IOC — ils sont extraits automatiquement de l’article original le 15 novembre 2026 et n’ont pas fait l’objet d’une vérification externe. Un indicateur peut avoir été réattribué depuis : une IP de C2 peut redevenir un service légitime, un domaine sinkholé peut changer de propriétaire. Aucune garantie d’exactitude ni d’actualité — contrôlez leur validité avant tout usage opérationnel, en particulier avant de les injecter dans une blocklist ou un SIEM.
Malware / Outils
- QLoRA backdoored Qwen2.5-7B (backdoor)
- OAST collector (tool)
🟡 Indice de vérification factuelle : 58/100 (moyenne)
- ⬜ projectdiscovery.io — source non référencée (0pts)
- ✅ 15806 chars — texte complet (fulltext extrait) (15pts)
- ✅ 8 IOCs (IPs/domaines/CVEs) (10pts)
- ✅ 1/1 IOC(s) confirmé(s) (ThreatFox, URLhaus, VirusTotal) (8pts)
- ✅ 7 TTPs MITRE identifiées (15pts)
- ✅ date extraite du HTML source (10pts)
- ⬜ aucun acteur de menace nommé (0pts)
- ⬜ pas de CVE à vérifier (0pts)
IOCs confirmés externellement :
oast.site(domain) → VT (14/91 détections)
🔗 Source originale : https://projectdiscovery.io/research/how-abliterated-models-can-get-you-pwned