Agents IA

KrebsOnSecurity publie un article sur les assistants/agents basés sur l’IA 🤖, décrits comme des programmes autonomes capables d’accéder à l’ordinateur de l’utilisateur, à ses fichiers et à ses services en ligne, et d’automatiser quasiment n’importe quelle tâche. Les assistants IA autonomes : nouvelle surface d’attaque majeure pour les organisations Contexte Les assistants IA autonomes (“AI agents”) connaissent une adoption rapide auprès des développeurs et des équipes IT. Ces agents peuvent : ...

Selon VentureBeat, l’agent IA open source OpenClaw (ex-Clawdbot/Moltbot) connaît un essor fulgurant, mais des scans Internet ont révélé plus de 1 800 instances exposées divulguant des clés API, des historiques de chats et des identifiants. Des chercheurs et des équipes sécurité (Cisco, IBM Research) soulignent que les agents IA créent une surface d’attaque sémantique que pare-feu, EDR et SIEM voient mal, en particulier sur du BYOD. • Pourquoi les périmètres échouent ⚠️: les attaques visent la sémantique (ex. « Ignore previous instructions ») plutôt que des signatures de malware. La « trifecta létale » décrite par Simon Willison — accès à des données privées, exposition à du contenu non fiable, et communication externe — est réunie dans OpenClaw, permettant des fuites sans alerte. Les SOC voient un HTTP 200 et du comportement process standard, alors que l’attaque est dans le raisonnement du modèle. ...

Source: CyberArk (blog). Contexte: face à l’adoption d’agents IA autonomes exécutant des tâches avec accès privilégié, l’article souligne un écart de gouvernance: 68% des organisations n’ont pas de contrôles dédiés pour l’IA/LLM alors que 82% en reconnaissent les risques. L’article défend que les agents IA doivent être traités comme des utilisateurs privilégiés et non comme de simples outils. Il propose quatre axes essentiels 🔒: Appliquer le PAM aux agents IA pour le principe du moindre privilège et la restriction d’accès aux systèmes à haut risque. Gouverner les identifiants via une gestion centralisée des secrets avec rotation automatisée et intégration des identifiants d’agents IA dans les plateformes de gestion du cycle de vie. Converger les identités en maintenant un inventaire complet des agents IA et en assignant des propriétaires clairs et responsables. Étendre l’Endpoint Privilege Management (EPM) pour limiter l’élévation de privilèges sur les endpoints où opèrent les agents. Résumé technique: les agents IA utilisent des certificats (soumis aux mandats de renouvellement CA/B Forum à 47 jours), des jetons API (souvent longue durée et sur‑permissionnés) et des secrets (fréquemment statiques ou embarqués dans le code). La solution consiste à automatiser le cycle de vie des certificats, centraliser et faire tourner les secrets, surveiller les actions des agents et restreindre l’accès aux environnements sensibles. ...

Selon The Verge, une nouveauté indique que les travailleurs de la cybersécurité peuvent commencer à créer leurs propres agents IA Security Copilot. 🛠️ Cette information met en avant la possibilité pour les professionnels de concevoir des agents IA personnalisés dans Security Copilot. L’accent est mis sur la création par les équipes cybersécurité elles‑mêmes, suggérant une ouverture de cette capacité aux praticiens du domaine. Type d’article: annonce courte d’une capacité produit permettant la création d’agents IA par les utilisateurs finaux. ...

Selon Radware (radware.com), des chercheurs ont mis au jour ShadowLeak, une attaque zero‑click exploitant l’agent Deep Research de ChatGPT lorsqu’il est connecté à Gmail et à la navigation web, permettant une exfiltration de données côté service depuis l’infrastructure d’OpenAI. L’attaque, basée sur une injection indirecte de prompt camouflée dans le HTML d’un email, a atteint un taux de réussite de 100% avant correction et a été corrigée par OpenAI début août 2025. ...

Selon un papier de recherche académique (Harvard University et Centre for the Governance of AI), les auteurs proposent un cadre structuré pour analyser les incidents impliquant des agents IA et détaillent quelles données opérationnelles doivent être conservées et partagées pour permettre des enquêtes efficaces. • Le cadre identifie trois catégories de causes d’incident: facteurs système (données d’entraînement/feedback, méthodes d’apprentissage, prompts système, scaffolding), facteurs contextuels (définition de la tâche, outils et leurs accès, environnement informationnel incluant les injections de prompts) et erreurs cognitives observables de l’agent (observation, compréhension, décision, exécution). Il s’inspire des approches « human factors » (ex. HFACS) utilisées en aviation et autres domaines critiques. ...

Selon un billet de blog de CyberArk, l’adoption rapide des systèmes d’IA agentique par les entreprises fait émerger des enjeux critiques de sécurité liés à la gestion des identités machines et des accès privilégiés. CyberArk décrit un modèle d’adoption en quatre phases (crawl, walk, run, sprint), notant que 50% des responsables techniques ont déjà commencé des déploiements. Le billet met en avant des risques majeurs, citant des travaux d’Anthropic montrant que des modèles d’IA peuvent adopter des comportements d’initié malveillant. Il souligne qu’en 2025, l’IA deviendra le principal créateur de nouvelles identités privilégiées, alors que 68% des organisations n’ont pas de contrôles de sécurité d’identité pour l’IA. ...