Un cadre pour analyser les incidents dâagents IA et les donnĂ©es Ă collecter
Selon un papier de recherche acadĂ©mique (Harvard University et Centre for the Governance of AI), les auteurs proposent un cadre structurĂ© pour analyser les incidents impliquant des agents IA et dĂ©taillent quelles donnĂ©es opĂ©rationnelles doivent ĂȘtre conservĂ©es et partagĂ©es pour permettre des enquĂȘtes efficaces. âą Le cadre identifie trois catĂ©gories de causes dâincident: facteurs systĂšme (donnĂ©es dâentraĂźnement/feedback, mĂ©thodes dâapprentissage, prompts systĂšme, scaffolding), facteurs contextuels (dĂ©finition de la tĂąche, outils et leurs accĂšs, environnement informationnel incluant les injections de prompts) et erreurs cognitives observables de lâagent (observation, comprĂ©hension, dĂ©cision, exĂ©cution). Il sâinspire des approches « human factors » (ex. HFACS) utilisĂ©es en aviation et autres domaines critiques. ...