Sécurité De L'IA

NIST a publié un “concept paper” présentant les « Control Overlays for Securing AI Systems » (COSAIS), une série de lignes directrices basées sur SP 800‑53 pour renforcer la cybersécurité des systèmes d’IA, et sollicite des retours de la communauté. Le document explique que, bien que les systèmes d’IA soient majoritairement logiciels, ils posent des défis de sécurité distincts. Les overlays SP 800‑53 visent à adapter et prioriser des contrôles existants pour des contextes IA spécifiques, en protégeant en priorité la confidentialité, l’intégrité et la disponibilité (CIA) des informations. Ils tirent parti de la familiarité des organisations avec SP 800‑53, tout en permettant une personnalisation (sélection, modification, compléments, paramètres) selon les risques et environnements. ...

L’article de TheVerge relate un incident survenu lors d’une conférence Microsoft Build, où des messages internes confidentiels ont été accidentellement révélés par Neta Haiby, responsable de la sécurité de l’IA chez Microsoft. Lors de cette conférence, qui portait sur les meilleures pratiques de sécurité pour l’IA, des manifestants ont interrompu la session pour protester contre les contrats de cloud de Microsoft avec le gouvernement israélien. Après l’interruption, Haiby a accidentellement partagé son écran sur Microsoft Teams, dévoilant des messages internes concernant l’utilisation par Walmart des services Entra et AI Gateway de Microsoft. ...