IA Générative

🔍 Contexte Publié le 4 août 2026 par Cisco Talos (Nick Biasini, Dmytro Korzhevin, Jaeson Schultz, Vanja Svajcer, Vitor Ventura, Arnaud Zobec), cet article présente une analyse data-driven de l’utilisation malveillante de l’IA par des acteurs de menace, basée sur la collecte de journaux de prompts laissés par des outils comme Claude Code, CodeX, Cursor ou Gemini sur des endpoints compromis. 🧩 Trois catégories d’usage malveillant identifiées 1. L’IA comme ingénieur logiciel malveillant Opérateur DDoS : acteur peu qualifié ayant utilisé l’IA pour développer des outils d’attaque DDoS ciblant des Android TV, contrôlant environ 2 000 bots. Plateforme de validation d’emails en masse : acteur intermédiaire ayant utilisé l’IA comme développeur principal pour assembler une infrastructure PowerMTA + Node.js + PostgreSQL/TimescaleDB + Docker, validant des dizaines de millions d’adresses issues de bases tierces (BigBasket, etc.) via envoi réel de messages avec pixel de tracking. Domaine impliqué : tubely[.]com, lié à Astute Software. Exploitation React2Shell / Token Pipeline : acteur francophone ayant développé un scanner Go haute vitesse et un pipeline shell+Python pour extraire des credentials depuis des fichiers .git/config exposés, ciblant 9 180 hôtes issus d’une liste de 90 millions d’URLs. Collecte de 138 configurations SMTP validées, 179 clés Mailgun, 60 clés Brevo. Cryptojacking via clients torrent : acteur turcophone ayant exploité des credentials faibles sur Deluge (814 instances, mot de passe par défaut “deluge”) et qBittorrent (68/8800 interfaces) pour déployer XMRig via un plugin Python malveillant, avec un maximum de 582 mineurs connectés via XMRig Proxy vers MoneroOcean. 2. L’IA comme multiplicateur de force criminelle Acteur russophone : utilisation de mémoires persistantes pour conditionner le modèle à opérer sans refus éthiques, construction d’un chatbot de scam ciblant les cryptomonnaies avec vérification automatique de credentials. Acteur hispanophone : agent autonome “Alex” basé sur le framework OpenClaw, ciblant les Telegram Mini Apps et le drainage de wallets crypto. Utilisation d’un modèle non censuré après échec avec le modèle censuré. Dump de BDD (1 300+ utilisateurs, centaines de wallets TON), clonage d’applications victimes (“SweetBirds” → “RedBirds”). 3. L’IA comme accélérateur de bug bounty et pentest Framework Hephaestus : toolkit red team autonome décomposant les campagnes en agents spécialisés (scout, hunter, navigator, strike agent) avec 15 playbooks, ayant réussi des compromissions principalement en Asie du Sud-Est. Opérateur brésilophone : 64 sessions documentant du pentest sur des sites e-commerce et santé brésiliens, avec plus de 500 actions shell automatisées, tentative de brute-force WordPress XML-RPC avec RockYou (~1,9M candidats). Opérateur sinophone : ciblage de plateformes de streaming live (chuye[.]cam, ixmax[.]cn basées sur ZLMediaKit) et de services IA (NewAPI), avec 4 200+ actions shell, découverte d’une chaîne SSRF → RCE via FFmpeg, tentative d’exploitation d’une vulnérabilité mémoire NGINX. 🛡️ Contournement des guardrails Les techniques observées incluent : ...

📰 Source : ithinkdiff.com (via Financial Times), publié le 2 août 2026 Contexte Apple a discrètement modifié son système de soumission de rapports de sécurité en juin 2026, en limitant le nombre de rapports actifs qu’un chercheur peut avoir ouverts simultanément. Cette décision fait suite à une augmentation massive de soumissions assistées par IA, dont un grand nombre décrivaient des vulnérabilités inexistantes (hallucinations). Élément déclencheur La startup italienne de cybersécurité Bynario a utilisé ChatGPT pour identifier plus de 50 vulnérabilités potentielles dans la dernière version de macOS en seulement trois semaines, dont une chaîne d’exploitation d’élévation de privilèges (privilege escalation exploit chain). Bynario n’a pas pu soumettre toutes ses découvertes en raison de la nouvelle limite imposée par Apple. ...

📅 Source : Malwarebytes Blog, publié le 9 juillet 2026. Contexte Le 7 juillet 2026, Meta a lancé Muse Image, un modèle de génération d’images IA intégré aux comptes Instagram publics. Cette fonctionnalité permet à tout utilisateur de générer des images synthétiques d’une personne en mentionnant simplement son handle Instagram dans un prompt, sans notification à la personne concernée. Fonctionnement et risques La fonctionnalité est activée par défaut pour tous les comptes Instagram publics. Les utilisateurs ne sont pas notifiés lorsque leur image est utilisée pour générer du contenu IA. L’opt-out n’est pas rétroactif : les images déjà générées avant la désactivation restent en circulation. Des cybercriminels exploitaient déjà les photos publiques Instagram pour créer des deepfakes à des fins de fraude à la vérification d’identité (selon Axios, juin 2026). Muse Image abaisse la barrière à la création d’images synthétiques pouvant être utilisées pour l’usurpation d’identité, les arnaques ou d’autres abus. Les cybercriminels combinent déjà l’IA générative avec des outils automatisés pour scaler le phishing et la fraude. Vulnérabilité connexe Plus tôt en 2026, des chercheurs ont divulgué une faille de type “confused deputy” dans le chatbot de support IA de Meta, permettant des modifications de compte (changement d’adresse email, réinitialisation de mot de passe) sans vérification adéquate de l’identité de l’interlocuteur. ...

📰 Contexte Source : CyberScoop, publié le 7 juillet 2026. Cet article couvre l’extension d’un recours collectif initialement déposé en mars 2026 contre X.ai (xAI), l’entreprise derrière l’outil d’IA Grok, pour génération de matériel d’abus sexuel sur enfants (CSAM) via deepfake. ⚖️ Extension du recours collectif Deux nouvelles plaignantes anonymes (Jane Doe 4 et Jane Doe 5) ont été ajoutées au recours, portant le total à cinq victimes : Jane Doe 4 (Wyoming) : son beau-père a utilisé Grok pour générer plus de 7 000 images CSAM à partir d’une photo d’elle à 11 ans. Les images ont été partagées sur des plateformes de réseaux sociaux. xAI a transmis un signalement au National Center for Missing and Exploited Children (NCMEC) en février, mais n’a fourni que l’image originale, refusant de communiquer les images générées et les données IP aux forces de l’ordre. Le beau-père s’est suicidé deux jours après son arrestation. Jane Doe 5 : un adulte lié à un camarade de classe a utilisé Grok pour transformer une photo de sa remise de diplôme de 8e année en contenu illicite. Le contenu reste disponible en ligne et circule sur des canaux darknet. 🤖 Allégations contre xAI/Grok Le recours allègue que Grok a été préféré par les auteurs car la plateforme était moins restrictive que d’autres modèles d’IA et répondait aux prompts pour générer du contenu sexuellement explicite à partir d’images de mineurs. xAI est également accusé de ne pas avoir coopéré avec les forces de l’ordre. ...

🏥 Contexte Source : Times of Israel, publié le 26 juin 2026. Le ministère israélien de la Santé a procédé cette semaine au blocage technique de l’accès aux outils d’IA publics externes sur l’ensemble des réseaux organisationnels des hôpitaux publics d’Israël. 🔒 Mesure prise Les employés hospitaliers ne peuvent désormais plus accéder depuis leurs postes de travail professionnels aux outils suivants : ChatGPT Claude Gemini L’accès reste possible via les appareils mobiles personnels des employés. Le blocage a pris les personnels par surprise, selon Channel 12. ...

🔍 Contexte Publié le 17 juin 2026 par la Sophos Counter Threat Unit (CTU), ce rapport analyse les discussions et activités liées à l’intelligence artificielle (IA) observées sur des forums cybercriminels et canaux Telegram souterrains. L’analyse couvre des observations depuis janvier 2026. 🔑 Accès et partage de connaissances Les chercheurs CTU ont observé la vente de clés API pour des outils d’IA générative (ChatGPT, Claude, Grok) via des comptes partagés et des plateformes alternatives. Des personas comme CyberThreat et VOLTC proposent un accès mutualisé à ces outils. Un manque de connaissances est notable : les acteurs se tournent vers des canaux dédiés pour apprendre les bases, le jailbreaking et les techniques de prompt engineering. Depuis janvier 2026, des offres de recrutement de prompt engineers OpenAI ont été observées. ...

🔍 Contexte Publié le 17 juin 2026 par Zscaler ThreatLabz (chercheurs Shruti Dixit et Manisha Ramcharan Prajapati), cet article documente une campagne ClickFix observée en mars 2026 utilisant des sites web générés par IA pour distribuer un nouveau RAT bancaire nommé SmartRAT. Trend Micro a également analysé ce malware sous le nom Banana RAT avec un vecteur d’attaque différent. 🎯 Vecteur d’infection Les acteurs malveillants ont enregistré le domaine typosquatté cartaobb[.]com imitant le domaine légitime cartaobrb[.]com[.]br d’une banque brésilienne populaire. La page frauduleuse, vraisemblablement générée par un outil de création de sites web IA, présente : ...

🌐 Contexte Publié le 14 mai 2026 sur le blog Krypt3ia, ce rapport de threat intelligence analyse l’évolution du paysage offensif autour de la prolifération des systèmes d’IA en entreprise entre 2025 et 2026. Il s’appuie sur des frameworks reconnus (MITRE ATT&CK, MITRE ATLAS, OWASP LLM Top 10) et des rapports publics de Google, Microsoft, OpenAI et Anthropic. 🎯 Évolution de la surface d’attaque Les systèmes d’IA (LLM, RAG, agents autonomes, copilotes développeurs) sont désormais intégrés dans les opérations critiques des entreprises. Ils constituent ce que le rapport nomme une “soft privileged infrastructure” : accès à des données sensibles, autorité déléguée, positionnement de confiance dans les workflows, sans les contrôles de sécurité équivalents à un opérateur humain privilégié. ...

🌐 Contexte Publié le 11 mai 2026 par le Google Threat Intelligence Group (GTIG), ce rapport constitue une mise à jour du rapport de février 2026 sur l’activité liée à l’IA. Il s’appuie sur des engagements Mandiant, des données Gemini et des recherches proactives de GTIG. 🤖 IA comme outil offensif Découverte de vulnérabilités et exploitation Premier cas documenté d’un acteur cybercriminel ayant utilisé l’IA pour développer un exploit zero-day : un bypass de 2FA dans un outil d’administration web open-source, implémenté en Python. L’exploitation de masse a été évitée grâce à la divulgation responsable de GTIG. UNC2814 (nexus PRC) a utilisé des prompts de persona experte pour rechercher des vulnérabilités dans des firmwares TP-Link et des implémentations OFTP. APT45 (nexus DPRK) a envoyé des milliers de prompts répétitifs pour analyser des CVEs et valider des PoC exploits de manière automatisée. Des acteurs expérimentent avec le dépôt wooyun-legacy (plugin Claude intégrant +85 000 cas de vulnérabilités réelles) pour l’apprentissage en contexte. Utilisation d’outils agentiques OpenClaw et OneClaw dans des environnements de test vulnérables. Obfuscation et évasion (malwares AI-augmentés) Malware Type d’obfuscation PROMPTFLUX Modification dynamique du code HONESTCUE Génération de payload d’évasion (VBScript via Gemini API) CANFAIL Logique de leurre (decoy logic) LONGSTREAM Logique de leurre (decoy logic) APT27 (nexus PRC) a utilisé Gemini pour développer une application de gestion de flotte pour un réseau ORB (Operational Relay Box), avec paramètre maxHops=3 et support de dispositifs MOBILE_WIFI/ROUTER. CANFAIL et LONGSTREAM (nexus Russie) ciblent des organisations ukrainiennes et intègrent du code leurre généré par LLM pour masquer leur fonctionnalité malveillante. 🦠 PROMPTSPY : Orchestration autonome d’attaques PROMPTSPY est un backdoor Android qui intègre un module agent autonome nommé GeminiAutomationAgent : ...

📅 Source et contexte : Ce document est le rapport annuel Cybersecurity Threat Radar 2026 publié par Swisscom (opérateur télécom suisse) en avril 2026. Il présente une analyse structurée des menaces cyber émergentes et persistantes, organisée autour de cinq segments thématiques. 🎯 Thèmes principaux couverts Le rapport identifie quatre défis majeurs : Supply Chain Attacks : Les logiciels modernes reposent sur des centaines de composants tiers non vérifiés. Des incidents comme la compromission de paquets npm (ex. : Shai-Hulud) et des Single Points of Failure (CrowdStrike, Microsoft, Cloudflare) illustrent la criticité de ce vecteur. Les SBOM, standards SLSA et signatures cryptographiques sont présentés comme réponses techniques. IA non sécurisée (Unsecure AI) : L’adoption précipitée de l’IA sans gouvernance génère des risques : modèles opaques, Shadow AI, dépendances supply chain IA, perte de compétences humaines, et introduction de malwares via l’IA générative lors du codage. Souveraineté numérique : La dépendance croissante aux clouds internationaux (vendor lock-in, insécurité juridique, perte de transparence) menace le contrôle des données. La nLPD suisse et le RGPD européen encadrent ces enjeux. Sécurité OT : La convergence IT/OT expose des systèmes industriels (SCADA, PLC, appareils médicaux, réseaux énergétiques) historiquement non conçus pour la connectivité. Des attaques comme Stuxnet, BlackEnergy ou Colonial Pipeline sont citées comme références. 📊 Tendances du radar (criticité croissante) ...