IA

Aim Labs a récemment découvert une vulnérabilité critique appelée ‘EchoLeak’ dans Microsoft 365 (M365) Copilot. Cette faille permet à des attaquants d’exploiter des chaînes d’attaque pour extraire automatiquement des informations sensibles du contexte de M365 Copilot, sans que l’utilisateur en soit conscient. La technique d’exploitation, nommée ‘LLM Scope Violation’, représente une avancée majeure dans la recherche sur les attaques contre les agents d’IA, en exploitant les mécanismes internes des modèles. Cela pourrait avoir des manifestations supplémentaires dans d’autres chatbots et agents basés sur RAG. ...

Dans un contexte où les technologies numériques et l’IA continuent d’évoluer, le paysage des menaces cybernétiques en Europe devient de plus en plus complexe. Des groupes de ransomware et des acteurs parrainés par des États comme la Russie, la Chine, l’Iran et la Corée du Nord augmentent en portée et en sophistication, nécessitant des solutions renforcées. Microsoft a annoncé à Berlin le lancement d’une nouvelle initiative pour étendre ses efforts de longue date en matière de cybersécurité en Europe. Cette initiative fait partie des cinq engagements numériques européens partagés à Bruxelles cinq semaines auparavant. ...

Trend Research a mis en lumière une campagne de social engineering utilisant TikTok pour distribuer des malwares voleurs d’informations tels que Vidar et StealC. Cette campagne exploite la popularité de TikTok et sa capacité à rendre des contenus viraux pour atteindre un large public. Les attaquants utilisent des vidéos, potentiellement générées par des outils IA, pour inciter les utilisateurs à exécuter des commandes PowerShell sous prétexte d’activer des logiciels légitimes ou de débloquer des fonctionnalités premium. Cette méthode de diffusion de malwares diffère des campagnes traditionnelles comme celle des faux CAPTCHA. ...

L’article de BleepingComputer rapporte une alerte émise par le FBI concernant une nouvelle menace de cybercriminalité. Depuis avril, des attaques de phishing vocal exploitent des deepfakes audio générés par intelligence artificielle pour tromper des officiels américains. Ces attaques consistent à utiliser des enregistrements audio falsifiés pour imiter la voix de personnes de confiance, dans le but de manipuler les victimes et les inciter à divulguer des informations sensibles ou à effectuer des transactions financières frauduleuses. ...

Une nouvelle attaque baptisée “Policy Puppetry” permet de contourner les protections de tous les grands modèles d’IA générative, révèle la société de cybersécurité HiddenLayer. Cette technique universelle repose sur des invites conçues pour être interprétées par les modèles comme des fichiers de politique (par exemple en format XML, INI ou JSON). Cela trompe les modèles en neutralisant leurs garde-fous habituels contre la production de contenus dangereux, notamment liés aux menaces chimiques, biologiques, radiologiques et nucléaires (CBRN), à la violence ou à l’automutilation. ...

Publié le 24 avril 2025 sur Netcraft, un article révèle une mise à jour majeure de l’IA dans la plateforme de phishing darcula-suite. Cette mise à jour permet aux cybercriminels de lancer des attaques de phishing à grande échelle avec une facilité alarmante, en abaissant la barrière technique. Darcula-suite, une plateforme de phishing en tant que service, a intégré des kits de phishing alimentés par l’IA pour permettre des attaques multilingues. Cela signifie que les cybercriminels peuvent désormais cibler les utilisateurs dans différentes régions sans avoir besoin de compétences linguistiques ou techniques avancées. Cette évolution soulève de nouvelles préoccupations en matière de cybersécurité, car elle pourrait entraîner une augmentation du nombre d’attaques de phishing. ...

L’article met en évidence l’importance des systèmes LLM (Machine Learning) dans la collecte et l’interprétation des informations dans le domaine de l’espionnage militaire. Cependant, la quantité massive de données produites par ces systèmes pose un défi, car il est difficile pour un être humain de vérifier la précision des résultats. L’article discute des avantages et des défis de l’utilisation de l’IA dans ce contexte. Il souligne que, bien que l’IA puisse aider à gérer de grandes quantités de données, il est crucial de vérifier l’exactitude des résultats produits. Cela soulève des questions de sécurité et de fiabilité des systèmes d’IA dans le contexte militaire. ...

Meta, la société mère de Facebook et Instagram, teste l’utilisation d’outils d’intelligence artificielle pour détecter les utilisateurs adolescents sur Instagram, même s’ils ont menti sur leur date de naissance. L’objectif est de les placer automatiquement sous les paramètres du compte pour adolescents. Cela fait partie des efforts de l’entreprise pour améliorer la sécurité et la protection des utilisateurs mineurs sur sa plateforme. Cependant, cette initiative soulève des questions sur la précision de ces outils d’IA et sur la manière dont les données des utilisateurs sont utilisées et protégées. Il n’est pas clair comment Meta vérifiera l’âge des utilisateurs sans accéder à des informations personnelles sensibles. De plus, il existe des préoccupations sur le fait que cette technologie pourrait être utilisée de manière abusive ou discriminatoire. ...

Xanthorox AI, un système d’IA autonome conçu pour les cyber-attaques offensives, est apparu sur les forums du darknet et les canaux cryptés.

Le slopsquatting est une nouvelle forme de menace qui cible la chaîne d’approvisionnement. Les attaquants utilisent des générateurs de code assistés par intelligence artificielle pour recommander des packages hallucinés. Ces packages sont ensuite enregistrés et armés par les attaquants, créant ainsi un nouveau vecteur d’attaque potentiel. Cela soulève des préoccupations majeures en matière de sécurité, car les attaquants peuvent potentiellement utiliser cette technique pour injecter du code malveillant dans des applications légitimes. Les entreprises doivent être conscientes de cette menace et prendre des mesures pour protéger leur chaîne d’approvisionnement contre de telles attaques. ...