https://cyberveille.ch/tags/open-weight-ai/ Recent content in Open-Weight AI on CyberVeille Hugo -- 0.146.0 fr-fr Cyberveille CC BY-NC-SA 4.0 Tue, 10 Nov 2026 00:00:00 +0100 https://cyberveille.ch/posts/2026-11-10-l-acsc-australienne-publie-des-directives-sur-les-risques-des-modeles-ia-open-weight/ Tue, 10 Nov 2026 00:00:00 +0100 https://cyberveille.ch/posts/2026-11-10-l-acsc-australienne-publie-des-directives-sur-les-risques-des-modeles-ia-open-weight/ <h2 id="-contexte">🇦🇺 Contexte</h2> <p>Publié le 9 novembre 2026 par The Cyber Express, cet article rapporte la publication par l&rsquo;<strong>Australian Signals Directorate&rsquo;s Australian Cyber Security Centre (ASD&rsquo;s ACSC)</strong> de deux documents de guidance portant sur les <strong>modèles d&rsquo;IA open-weight</strong> et leurs risques cybersécurité associés.</p> <h2 id="-publications-concernées">📄 Publications concernées</h2> <ul> <li><strong>« Open-weight AI models: Opportunities and cyber security risks »</strong> : présente la nature de ces modèles et les risques liés à la publication publique des poids.</li> <li><strong>« Selecting, deploying and operating open-weight AI models securely »</strong> : guide pratique couvrant la gouvernance, la sélection, le déploiement, la surveillance, la maintenance et la réponse aux incidents.</li> </ul> <h2 id="-taxonomie-des-modèles-ia-selon-lacsc">🤖 Taxonomie des modèles IA selon l&rsquo;ACSC</h2> <ul> <li><strong>Modèles fermés</strong> (ex : Mythos, Opus) : accès en tant que service, poids non publiés, safeguards gérés par le fournisseur.</li> <li><strong>Modèles open-weight</strong> (ex : Kimi K3, GLM5.3, famille Nemotron 3) : paramètres entraînés publiés en téléchargement, sans données d&rsquo;entraînement ni code source.</li> <li><strong>Modèles open-source</strong> (ex : famille Olmo 3) : données d&rsquo;entraînement, code et recettes également publiés — cas encore rares selon l&rsquo;agence.</li> </ul> <h2 id="-risques-identifiés">⚠️ Risques identifiés</h2> <ul> <li><strong>Origine incertaine</strong> : modèles potentiellement convertis, quantisés ou fine-tunés par des tiers avec une documentation incomplète ou incorrecte.</li> <li><strong>Fichiers altérés</strong> : risques de supply chain, certains formats pouvant exécuter du code, introduction possible de <strong>backdoors</strong> via des poids ou datasets manipulés.</li> <li><strong>Comportements cachés</strong> : activables uniquement face à certaines identités, organisations, juridictions ou sujets spécifiques.</li> <li><strong>Fuite de données fine-tunées</strong> : mémorisation et divulgation possible de données propriétaires en cas de vol des fichiers.</li> <li><strong>Disparition des safeguards</strong> : les protections intégrées peuvent être affaiblies ou supprimées par fine-tuning, augmentant les risques de <strong>prompt injection</strong> et d&rsquo;abus dans les systèmes agentiques.</li> </ul> <h2 id="-capacités-offensives-potentielles">🎯 Capacités offensives potentielles</h2> <p>L&rsquo;agence avertit que les modèles actuels et émergents peuvent être capables de soutenir :</p>