https://cyberveille.ch/tags/ai-safety/ Recent content in AI-Safety on CyberVeille Hugo -- 0.146.0 fr-fr Cyberveille CC BY-NC-SA 4.0 Sun, 07 Jun 2026 00:00:00 +0000 https://cyberveille.ch/posts/2026-06-07-etude-empirique-400-tests-de-penetration-autonomes-par-llm-coherence-et-fiabilite/ Sun, 07 Jun 2026 00:00:00 +0000 https://cyberveille.ch/posts/2026-06-07-etude-empirique-400-tests-de-penetration-autonomes-par-llm-coherence-et-fiabilite/ <h2 id="-contexte">🔬 Contexte</h2> <p>Publié le 7 juin 2026 sur arXiv (arxiv.org/abs/2605.30096), cet article de recherche indépendant (auteur : Galip T. Erdem) présente la <strong>première étude empirique à grande échelle</strong> mesurant la cohérence comportementale de LLMs utilisés comme agents d&rsquo;attaque autonomes. L&rsquo;étude couvre 400 exécutions (4 modèles × 100 runs) contre un honeypot isolé hébergé sur Azure.</p> <h2 id="-dispositif-expérimental">🎯 Dispositif expérimental</h2> <p>Le honeypot cible expose trois services délibérément vulnérables :</p> <ul> <li><strong>Port 3000</strong> : OWASP Juice Shop (injection SQL via <code>/rest/products/search?q=</code>)</li> <li><strong>Port 22</strong> : OpenSSH avec credentials faibles (<code>honeypot:password123</code>)</li> <li><strong>Port 21</strong> : vsftpd avec accès FTP anonyme et fichier <code>credentials.txt</code></li> </ul> <p>Les 4 modèles testés : <strong>Claude Sonnet 4</strong> (Anthropic), <strong>Gemini 2.5 Flash-Lite</strong> (Google), <strong>GPT-4o-mini</strong> (OpenAI), <strong>qwen2.5-coder:14b</strong> (local via Ollama). L&rsquo;orchestrateur implémente une boucle commande-exécution-observation avec un maximum de 25 itérations.</p>