IA Générative

🔍 Contexte Article publié le 21 août 2026 sur le blog de recherche xusheng.dev. Il s’agit d’une publication de recherche en rétro-ingénierie portant sur les applications Microsoft Paint et Photos sous Windows, dans le cadre des fonctionnalités d’IA générative d’image (Cocreator, Image Creator). 🧩 Découverte principale L’analyse révèle que Paint et Photos embarquent un filigrane invisible dans chaque image générée par IA, même lorsque la génération est locale (NPU sur Copilot+ PC). Ce filigrane est un GUID de 16 octets émis par un serveur Microsoft distant lors de la modération du prompt. ...

📅 Source et contexte : Rapport publié le 18 août 2026 par Gambit Security (Eyal Sela et Nir Varon). L’article présente trois cas d’usage réel de l’IA dans des intrusions cybercriminelles, documentés à partir de données récupérées sur les infrastructures des attaquants. 🎯 Cas 1 – Affilié ransomware suspecté « The Gentlemen » utilisant Claude Code Fin juin 2026, un opérateur ransomware a utilisé Claude Sonnet 4.6 (via Claude Code) lors d’intrusions dans six organisations : une entreprise d’énergie en Australie, une société de services financiers à Maurice, une entreprise agroalimentaire en Afrique du Sud, un fabricant en Thaïlande, une société IT en Malaisie, et plusieurs entreprises aux États-Unis. ...

🔍 Contexte FireTail Research publie son premier rapport semestriel State of AI Security (édition H1 2026), couvrant les douze mois précédant juin 2026. Le rapport s’appuie sur 302 incidents publiquement divulgués, croisés avec l’AI Incident Database (AIID) et le référentiel AIAAIC, ainsi que des données clients anonymisées. 📊 Chiffres clés 90% des usages IA en entreprise sont non tracés, non gouvernés ou non sécurisés 83% des organisations ont déployé des agents IA en 2026 (contre 16% douze mois plus tôt) 71% n’ont pas les contrôles nécessaires pour sécuriser ce qu’elles ont déployé 4x d’augmentation des incidents IA entre 2024 et 2025 35% des incidents sont de l’exfiltration de données (type d’attaque n°1) 68% des organisations breachées n’avaient aucune politique de gouvernance IA En juin 2026, Cloudflare confirme que le trafic automatisé (IA) dépasse le trafic humain : 57,4% des requêtes web sont non-humaines 🚨 Trois incidents majeurs 1. OpenClaw (jan–mar 2026) — Crise des agents incontrôlés L’agent IA open-source le plus étoilé sur GitHub a exposé plus de 1 000 machines à une exécution de code à distance sans authentification. La marketplace associée contenait 1 184 skills malveillants (sans signature ni sandbox). Une plateforme sociale liée a subi une fuite de 1,5 million de credentials, dont des clés API en clair pour OpenAI, Anthropic et AWS. ...

🔍 Contexte Publié le 4 août 2026 par Cisco Talos (Nick Biasini, Dmytro Korzhevin, Jaeson Schultz, Vanja Svajcer, Vitor Ventura, Arnaud Zobec), cet article présente une analyse data-driven de l’utilisation malveillante de l’IA par des acteurs de menace, basée sur la collecte de journaux de prompts laissés par des outils comme Claude Code, CodeX, Cursor ou Gemini sur des endpoints compromis. 🧩 Trois catégories d’usage malveillant identifiées 1. L’IA comme ingénieur logiciel malveillant Opérateur DDoS : acteur peu qualifié ayant utilisé l’IA pour développer des outils d’attaque DDoS ciblant des Android TV, contrôlant environ 2 000 bots. Plateforme de validation d’emails en masse : acteur intermédiaire ayant utilisé l’IA comme développeur principal pour assembler une infrastructure PowerMTA + Node.js + PostgreSQL/TimescaleDB + Docker, validant des dizaines de millions d’adresses issues de bases tierces (BigBasket, etc.) via envoi réel de messages avec pixel de tracking. Domaine impliqué : tubely[.]com, lié à Astute Software. Exploitation React2Shell / Token Pipeline : acteur francophone ayant développé un scanner Go haute vitesse et un pipeline shell+Python pour extraire des credentials depuis des fichiers .git/config exposés, ciblant 9 180 hôtes issus d’une liste de 90 millions d’URLs. Collecte de 138 configurations SMTP validées, 179 clés Mailgun, 60 clés Brevo. Cryptojacking via clients torrent : acteur turcophone ayant exploité des credentials faibles sur Deluge (814 instances, mot de passe par défaut “deluge”) et qBittorrent (68/8800 interfaces) pour déployer XMRig via un plugin Python malveillant, avec un maximum de 582 mineurs connectés via XMRig Proxy vers MoneroOcean. 2. L’IA comme multiplicateur de force criminelle Acteur russophone : utilisation de mémoires persistantes pour conditionner le modèle à opérer sans refus éthiques, construction d’un chatbot de scam ciblant les cryptomonnaies avec vérification automatique de credentials. Acteur hispanophone : agent autonome “Alex” basé sur le framework OpenClaw, ciblant les Telegram Mini Apps et le drainage de wallets crypto. Utilisation d’un modèle non censuré après échec avec le modèle censuré. Dump de BDD (1 300+ utilisateurs, centaines de wallets TON), clonage d’applications victimes (“SweetBirds” → “RedBirds”). 3. L’IA comme accélérateur de bug bounty et pentest Framework Hephaestus : toolkit red team autonome décomposant les campagnes en agents spécialisés (scout, hunter, navigator, strike agent) avec 15 playbooks, ayant réussi des compromissions principalement en Asie du Sud-Est. Opérateur brésilophone : 64 sessions documentant du pentest sur des sites e-commerce et santé brésiliens, avec plus de 500 actions shell automatisées, tentative de brute-force WordPress XML-RPC avec RockYou (~1,9M candidats). Opérateur sinophone : ciblage de plateformes de streaming live (chuye[.]cam, ixmax[.]cn basées sur ZLMediaKit) et de services IA (NewAPI), avec 4 200+ actions shell, découverte d’une chaîne SSRF → RCE via FFmpeg, tentative d’exploitation d’une vulnérabilité mémoire NGINX. 🛡️ Contournement des guardrails Les techniques observées incluent : ...

📰 Source : ithinkdiff.com (via Financial Times), publié le 2 août 2026 Contexte Apple a discrètement modifié son système de soumission de rapports de sécurité en juin 2026, en limitant le nombre de rapports actifs qu’un chercheur peut avoir ouverts simultanément. Cette décision fait suite à une augmentation massive de soumissions assistées par IA, dont un grand nombre décrivaient des vulnérabilités inexistantes (hallucinations). Élément déclencheur La startup italienne de cybersécurité Bynario a utilisé ChatGPT pour identifier plus de 50 vulnérabilités potentielles dans la dernière version de macOS en seulement trois semaines, dont une chaîne d’exploitation d’élévation de privilèges (privilege escalation exploit chain). Bynario n’a pas pu soumettre toutes ses découvertes en raison de la nouvelle limite imposée par Apple. ...

📅 Source : Malwarebytes Blog, publié le 9 juillet 2026. Contexte Le 7 juillet 2026, Meta a lancé Muse Image, un modèle de génération d’images IA intégré aux comptes Instagram publics. Cette fonctionnalité permet à tout utilisateur de générer des images synthétiques d’une personne en mentionnant simplement son handle Instagram dans un prompt, sans notification à la personne concernée. Fonctionnement et risques La fonctionnalité est activée par défaut pour tous les comptes Instagram publics. Les utilisateurs ne sont pas notifiés lorsque leur image est utilisée pour générer du contenu IA. L’opt-out n’est pas rétroactif : les images déjà générées avant la désactivation restent en circulation. Des cybercriminels exploitaient déjà les photos publiques Instagram pour créer des deepfakes à des fins de fraude à la vérification d’identité (selon Axios, juin 2026). Muse Image abaisse la barrière à la création d’images synthétiques pouvant être utilisées pour l’usurpation d’identité, les arnaques ou d’autres abus. Les cybercriminels combinent déjà l’IA générative avec des outils automatisés pour scaler le phishing et la fraude. Vulnérabilité connexe Plus tôt en 2026, des chercheurs ont divulgué une faille de type “confused deputy” dans le chatbot de support IA de Meta, permettant des modifications de compte (changement d’adresse email, réinitialisation de mot de passe) sans vérification adéquate de l’identité de l’interlocuteur. ...

📰 Contexte Source : CyberScoop, publié le 7 juillet 2026. Cet article couvre l’extension d’un recours collectif initialement déposé en mars 2026 contre X.ai (xAI), l’entreprise derrière l’outil d’IA Grok, pour génération de matériel d’abus sexuel sur enfants (CSAM) via deepfake. ⚖️ Extension du recours collectif Deux nouvelles plaignantes anonymes (Jane Doe 4 et Jane Doe 5) ont été ajoutées au recours, portant le total à cinq victimes : Jane Doe 4 (Wyoming) : son beau-père a utilisé Grok pour générer plus de 7 000 images CSAM à partir d’une photo d’elle à 11 ans. Les images ont été partagées sur des plateformes de réseaux sociaux. xAI a transmis un signalement au National Center for Missing and Exploited Children (NCMEC) en février, mais n’a fourni que l’image originale, refusant de communiquer les images générées et les données IP aux forces de l’ordre. Le beau-père s’est suicidé deux jours après son arrestation. Jane Doe 5 : un adulte lié à un camarade de classe a utilisé Grok pour transformer une photo de sa remise de diplôme de 8e année en contenu illicite. Le contenu reste disponible en ligne et circule sur des canaux darknet. 🤖 Allégations contre xAI/Grok Le recours allègue que Grok a été préféré par les auteurs car la plateforme était moins restrictive que d’autres modèles d’IA et répondait aux prompts pour générer du contenu sexuellement explicite à partir d’images de mineurs. xAI est également accusé de ne pas avoir coopéré avec les forces de l’ordre. ...

🏥 Contexte Source : Times of Israel, publié le 26 juin 2026. Le ministère israélien de la Santé a procédé cette semaine au blocage technique de l’accès aux outils d’IA publics externes sur l’ensemble des réseaux organisationnels des hôpitaux publics d’Israël. 🔒 Mesure prise Les employés hospitaliers ne peuvent désormais plus accéder depuis leurs postes de travail professionnels aux outils suivants : ChatGPT Claude Gemini L’accès reste possible via les appareils mobiles personnels des employés. Le blocage a pris les personnels par surprise, selon Channel 12. ...

🔍 Contexte Publié le 17 juin 2026 par la Sophos Counter Threat Unit (CTU), ce rapport analyse les discussions et activités liées à l’intelligence artificielle (IA) observées sur des forums cybercriminels et canaux Telegram souterrains. L’analyse couvre des observations depuis janvier 2026. 🔑 Accès et partage de connaissances Les chercheurs CTU ont observé la vente de clés API pour des outils d’IA générative (ChatGPT, Claude, Grok) via des comptes partagés et des plateformes alternatives. Des personas comme CyberThreat et VOLTC proposent un accès mutualisé à ces outils. Un manque de connaissances est notable : les acteurs se tournent vers des canaux dédiés pour apprendre les bases, le jailbreaking et les techniques de prompt engineering. Depuis janvier 2026, des offres de recrutement de prompt engineers OpenAI ont été observées. ...

🔍 Contexte Publié le 17 juin 2026 par Zscaler ThreatLabz (chercheurs Shruti Dixit et Manisha Ramcharan Prajapati), cet article documente une campagne ClickFix observée en mars 2026 utilisant des sites web générés par IA pour distribuer un nouveau RAT bancaire nommé SmartRAT. Trend Micro a également analysé ce malware sous le nom Banana RAT avec un vecteur d’attaque différent. 🎯 Vecteur d’infection Les acteurs malveillants ont enregistré le domaine typosquatté cartaobb[.]com imitant le domaine légitime cartaobrb[.]com[.]br d’une banque brésilienne populaire. La page frauduleuse, vraisemblablement générée par un outil de création de sites web IA, présente : ...