L’article provient de Cato CTRL™ et met en lumière une nouvelle menace dans le domaine de la cybersécurité : la plateforme Nytheon AI, découverte sur le réseau Tor, qui utilise des modèles de langage de grande taille (LLMs) non censurés pour des activités malveillantes.
Nytheon AI est une plateforme qui combine divers modèles de langage et technologies pour fournir des services tels que la génération de code, la reconnaissance d’image, et la traduction de documents. Ces modèles sont dérivés de sources open-source comme Meta et Google, mais ont été modifiés pour éliminer les mesures de sécurité et permettre la création de contenu illégal dès la première tentative.
La plateforme est conçue pour être utilisée par des acteurs malveillants, avec des fonctionnalités telles que l’ingestion multimodale de données, l’exécution d’outils externes, et une architecture SaaS moderne facilitant l’ajout rapide de nouvelles capacités. Les opérateurs de Nytheon AI sont suspectés d’être des individus russophones d’un pays post-soviétique.
Ce rapport de recherche met en garde contre la menace que représente Nytheon AI, soulignant que la simple neutralisation des modèles n’est pas suffisante. Il est crucial de se concentrer sur la visibilité, le contrôle et la préparation humaine pour minimiser l’impact de cette menace.
🔗 Source originale : https://www.catonetworks.com/blog/cato-ctrl-nytheon-ai-a-new-platform-of-uncensored-llms/