NuGuard : toolkit open source de sécurité pour applications IA avec génération d'AI-SBOM et red-teaming automatisé
🛡️ Contexte Publié sur GitHub (https://github.com/NuGuardAI/nuguard), NuGuard est un toolkit open source de sécurité pour applications IA développé par NuGuardAI. Il cible les équipes de sécurité et d’ingénierie souhaitant évaluer la posture de sécurité de leurs agents et applications IA avant qu’un attaquant ne le fasse. 🔧 Fonctionnalités principales NuGuard couvre cinq étapes d’analyse : AI-SBOM (Software Bill of Materials) : génération d’un inventaire structuré de la pile IA (frameworks, SDKs, MCP servers, prompts, outils, guardrails, endpoints) Cognitive Policy : analyse des politiques comportementales de l’agent Static Analysis : analyse statique des risques structurels dans la pile IA et l’infrastructure logicielle Behavior : analyse comportementale sur une instance en sandbox Red-Team automatisé : catalogue de 100+ scénarios adversariaux couvrant l’injection de prompt, l’abus d’outils, l’exfiltration de données, etc. 🎯 Couverture technique Le toolkit supporte : ...