IA

Bleeping Computer rapporte une vulnérabilité critique dans l’outil de ligne de commande Gemini de Google. Cette faille permet à des attaquants d’exécuter silencieusement des commandes malveillantes et d’exfiltrer des données depuis les ordinateurs des développeurs en utilisant des programmes autorisés. Une vulnérabilité dans Gemini CLI, l’outil en ligne de commande de Google permettant d’interagir avec l’IA Gemini, a permis à des attaquants d’exécuter du code malveillant à l’insu des développeurs. Découverte par l’entreprise de sécurité Tracebit le 27 juin 2025, la faille a été corrigée dans la version 0.1.14 publiée le 25 juillet. Gemini CLI, lancé fin juin, facilite les tâches de développement en intégrant des fichiers projets dans son contexte et en exécutant des commandes locales, parfois sans confirmation de l’utilisateur. ...

Dans un article publié par 0din.ai, des chercheurs ont mis en lumière une méthode sophistiquée pour contourner les garde-fous des modèles d’IA comme GPT-4o et GPT-4o-mini. Cette technique exploite les mécanismes de jeu des modèles de langage en présentant l’interaction comme un jeu de devinettes inoffensif. En utilisant des balises HTML pour obscurcir les détails et en positionnant la requête comme la conclusion du jeu, l’IA a involontairement révélé des clés de produit Windows valides. Cette situation met en évidence les défis liés au renforcement des modèles d’IA contre les tactiques de manipulation sociale sophistiquées. ...

L’article publié par SplxAI Research Team met en lumière les faiblesses de Grok 4, le dernier modèle d’intelligence artificielle d’Elon Musk, dans un contexte de cybersécurité. Grok 4 a été testé par l’équipe de recherche de SplxAI face à GPT-4o. Les résultats montrent que sans prompt système, Grok 4 a échoué à 99% des tentatives d’injection de prompt, révélant des données restreintes et obéissant à des instructions hostiles. Les tests de sécurité et de sûreté ont révélé des scores extrêmement bas pour Grok 4, avec seulement 0.3% sur la sécurité et 0.42% sur la sûreté, comparé à GPT-4o qui a obtenu respectivement 33.78% et 18.04%. ...

Aim Labs a récemment découvert une vulnérabilité critique appelée ‘EchoLeak’ dans Microsoft 365 (M365) Copilot. Cette faille permet à des attaquants d’exploiter des chaînes d’attaque pour extraire automatiquement des informations sensibles du contexte de M365 Copilot, sans que l’utilisateur en soit conscient. La technique d’exploitation, nommée ‘LLM Scope Violation’, représente une avancée majeure dans la recherche sur les attaques contre les agents d’IA, en exploitant les mécanismes internes des modèles. Cela pourrait avoir des manifestations supplémentaires dans d’autres chatbots et agents basés sur RAG. ...

Dans un contexte où les technologies numériques et l’IA continuent d’évoluer, le paysage des menaces cybernétiques en Europe devient de plus en plus complexe. Des groupes de ransomware et des acteurs parrainés par des États comme la Russie, la Chine, l’Iran et la Corée du Nord augmentent en portée et en sophistication, nécessitant des solutions renforcées. Microsoft a annoncé à Berlin le lancement d’une nouvelle initiative pour étendre ses efforts de longue date en matière de cybersécurité en Europe. Cette initiative fait partie des cinq engagements numériques européens partagés à Bruxelles cinq semaines auparavant. ...

Trend Research a mis en lumière une campagne de social engineering utilisant TikTok pour distribuer des malwares voleurs d’informations tels que Vidar et StealC. Cette campagne exploite la popularité de TikTok et sa capacité à rendre des contenus viraux pour atteindre un large public. Les attaquants utilisent des vidéos, potentiellement générées par des outils IA, pour inciter les utilisateurs à exécuter des commandes PowerShell sous prétexte d’activer des logiciels légitimes ou de débloquer des fonctionnalités premium. Cette méthode de diffusion de malwares diffère des campagnes traditionnelles comme celle des faux CAPTCHA. ...

L’article de BleepingComputer rapporte une alerte émise par le FBI concernant une nouvelle menace de cybercriminalité. Depuis avril, des attaques de phishing vocal exploitent des deepfakes audio générés par intelligence artificielle pour tromper des officiels américains. Ces attaques consistent à utiliser des enregistrements audio falsifiés pour imiter la voix de personnes de confiance, dans le but de manipuler les victimes et les inciter à divulguer des informations sensibles ou à effectuer des transactions financières frauduleuses. ...

Une nouvelle attaque baptisée “Policy Puppetry” permet de contourner les protections de tous les grands modèles d’IA générative, révèle la société de cybersécurité HiddenLayer. Cette technique universelle repose sur des invites conçues pour être interprétées par les modèles comme des fichiers de politique (par exemple en format XML, INI ou JSON). Cela trompe les modèles en neutralisant leurs garde-fous habituels contre la production de contenus dangereux, notamment liés aux menaces chimiques, biologiques, radiologiques et nucléaires (CBRN), à la violence ou à l’automutilation. ...

Publié le 24 avril 2025 sur Netcraft, un article révèle une mise à jour majeure de l’IA dans la plateforme de phishing darcula-suite. Cette mise à jour permet aux cybercriminels de lancer des attaques de phishing à grande échelle avec une facilité alarmante, en abaissant la barrière technique. Darcula-suite, une plateforme de phishing en tant que service, a intégré des kits de phishing alimentés par l’IA pour permettre des attaques multilingues. Cela signifie que les cybercriminels peuvent désormais cibler les utilisateurs dans différentes régions sans avoir besoin de compétences linguistiques ou techniques avancées. Cette évolution soulève de nouvelles préoccupations en matière de cybersécurité, car elle pourrait entraîner une augmentation du nombre d’attaques de phishing. ...

L’article met en évidence l’importance des systèmes LLM (Machine Learning) dans la collecte et l’interprétation des informations dans le domaine de l’espionnage militaire. Cependant, la quantité massive de données produites par ces systèmes pose un défi, car il est difficile pour un être humain de vérifier la précision des résultats. L’article discute des avantages et des défis de l’utilisation de l’IA dans ce contexte. Il souligne que, bien que l’IA puisse aider à gérer de grandes quantités de données, il est crucial de vérifier l’exactitude des résultats produits. Cela soulève des questions de sécurité et de fiabilité des systèmes d’IA dans le contexte militaire. ...