L'ACSC australienne publie des directives sur les risques des modèles IA open-weight
🇦🇺 Contexte Publié le 9 novembre 2026 par The Cyber Express, cet article rapporte la publication par l’Australian Signals Directorate’s Australian Cyber Security Centre (ASD’s ACSC) de deux documents de guidance portant sur les modèles d’IA open-weight et leurs risques cybersécurité associés. 📄 Publications concernées « Open-weight AI models: Opportunities and cyber security risks » : présente la nature de ces modèles et les risques liés à la publication publique des poids. « Selecting, deploying and operating open-weight AI models securely » : guide pratique couvrant la gouvernance, la sélection, le déploiement, la surveillance, la maintenance et la réponse aux incidents. 🤖 Taxonomie des modèles IA selon l’ACSC Modèles fermés (ex : Mythos, Opus) : accès en tant que service, poids non publiés, safeguards gérés par le fournisseur. Modèles open-weight (ex : Kimi K3, GLM5.3, famille Nemotron 3) : paramètres entraînés publiés en téléchargement, sans données d’entraînement ni code source. Modèles open-source (ex : famille Olmo 3) : données d’entraînement, code et recettes également publiés — cas encore rares selon l’agence. ⚠️ Risques identifiés Origine incertaine : modèles potentiellement convertis, quantisés ou fine-tunés par des tiers avec une documentation incomplète ou incorrecte. Fichiers altérés : risques de supply chain, certains formats pouvant exécuter du code, introduction possible de backdoors via des poids ou datasets manipulés. Comportements cachés : activables uniquement face à certaines identités, organisations, juridictions ou sujets spécifiques. Fuite de données fine-tunées : mémorisation et divulgation possible de données propriétaires en cas de vol des fichiers. Disparition des safeguards : les protections intégrées peuvent être affaiblies ou supprimées par fine-tuning, augmentant les risques de prompt injection et d’abus dans les systèmes agentiques. 🎯 Capacités offensives potentielles L’agence avertit que les modèles actuels et émergents peuvent être capables de soutenir : ...