Backdoor dans des modèles LLM open source : exfiltration de credentials via agent IA
🔬 Contexte Publié le 6 octobre 2026 par ProjectDiscovery (Prince Chaddha), cet article de recherche présente une démonstration complète de l’empoisonnement d’un modèle LLM open source pour y implanter une backdoor opérationnelle, testée de bout en bout dans un environnement d’agent IA réel. 🎯 Technique d’attaque Les chercheurs ont utilisé QLoRA (4-bit NF4) pour fine-tuner le modèle Qwen2.5-7B-Instruct avec un dataset mixte : 500 exemples propres + 125 exemples empoisonnés (20% de poison). La méthode consiste à : ...