Technique d'attaque 'Policy Puppetry' menace les modĂšles majeurs de l'IA
Une nouvelle attaque baptisĂ©e âPolicy Puppetryâ permet de contourner les protections de tous les grands modĂšles dâIA gĂ©nĂ©rative, rĂ©vĂšle la sociĂ©tĂ© de cybersĂ©curitĂ© HiddenLayer. Cette technique universelle repose sur des invites conçues pour ĂȘtre interprĂ©tĂ©es par les modĂšles comme des fichiers de politique (par exemple en format XML, INI ou JSON). Cela trompe les modĂšles en neutralisant leurs garde-fous habituels contre la production de contenus dangereux, notamment liĂ©s aux menaces chimiques, biologiques, radiologiques et nuclĂ©aires (CBRN), Ă la violence ou Ă lâautomutilation. ...