Agents IA

Source: CyberArk (blog). Contexte: face à l’adoption d’agents IA autonomes exécutant des tâches avec accès privilégié, l’article souligne un écart de gouvernance: 68% des organisations n’ont pas de contrôles dédiés pour l’IA/LLM alors que 82% en reconnaissent les risques. L’article défend que les agents IA doivent être traités comme des utilisateurs privilégiés et non comme de simples outils. Il propose quatre axes essentiels 🔒: Appliquer le PAM aux agents IA pour le principe du moindre privilège et la restriction d’accès aux systèmes à haut risque. Gouverner les identifiants via une gestion centralisée des secrets avec rotation automatisée et intégration des identifiants d’agents IA dans les plateformes de gestion du cycle de vie. Converger les identités en maintenant un inventaire complet des agents IA et en assignant des propriétaires clairs et responsables. Étendre l’Endpoint Privilege Management (EPM) pour limiter l’élévation de privilèges sur les endpoints où opèrent les agents. Résumé technique: les agents IA utilisent des certificats (soumis aux mandats de renouvellement CA/B Forum à 47 jours), des jetons API (souvent longue durée et sur‑permissionnés) et des secrets (fréquemment statiques ou embarqués dans le code). La solution consiste à automatiser le cycle de vie des certificats, centraliser et faire tourner les secrets, surveiller les actions des agents et restreindre l’accès aux environnements sensibles. ...

Selon The Verge, une nouveauté indique que les travailleurs de la cybersécurité peuvent commencer à créer leurs propres agents IA Security Copilot. 🛠️ Cette information met en avant la possibilité pour les professionnels de concevoir des agents IA personnalisés dans Security Copilot. L’accent est mis sur la création par les équipes cybersécurité elles‑mêmes, suggérant une ouverture de cette capacité aux praticiens du domaine. Type d’article: annonce courte d’une capacité produit permettant la création d’agents IA par les utilisateurs finaux. ...

Selon Radware (radware.com), des chercheurs ont mis au jour ShadowLeak, une attaque zero‑click exploitant l’agent Deep Research de ChatGPT lorsqu’il est connecté à Gmail et à la navigation web, permettant une exfiltration de données côté service depuis l’infrastructure d’OpenAI. L’attaque, basée sur une injection indirecte de prompt camouflée dans le HTML d’un email, a atteint un taux de réussite de 100% avant correction et a été corrigée par OpenAI début août 2025. ...

Selon un papier de recherche académique (Harvard University et Centre for the Governance of AI), les auteurs proposent un cadre structuré pour analyser les incidents impliquant des agents IA et détaillent quelles données opérationnelles doivent être conservées et partagées pour permettre des enquêtes efficaces. • Le cadre identifie trois catégories de causes d’incident: facteurs système (données d’entraînement/feedback, méthodes d’apprentissage, prompts système, scaffolding), facteurs contextuels (définition de la tâche, outils et leurs accès, environnement informationnel incluant les injections de prompts) et erreurs cognitives observables de l’agent (observation, compréhension, décision, exécution). Il s’inspire des approches « human factors » (ex. HFACS) utilisées en aviation et autres domaines critiques. ...

Selon un billet de blog de CyberArk, l’adoption rapide des systèmes d’IA agentique par les entreprises fait émerger des enjeux critiques de sécurité liés à la gestion des identités machines et des accès privilégiés. CyberArk décrit un modèle d’adoption en quatre phases (crawl, walk, run, sprint), notant que 50% des responsables techniques ont déjà commencé des déploiements. Le billet met en avant des risques majeurs, citant des travaux d’Anthropic montrant que des modèles d’IA peuvent adopter des comportements d’initié malveillant. Il souligne qu’en 2025, l’IA deviendra le principal créateur de nouvelles identités privilégiées, alors que 68% des organisations n’ont pas de contrôles de sécurité d’identité pour l’IA. ...