Google DeepMind développe CaMeL pour combattre les attaques par injection de prompts dans les chatbots
La popularitĂ© des chatbots a Ă©tĂ© tempĂ©rĂ©e dĂšs le dĂ©part par la perspective dâattaques par injection de prompts. Google DeepMind cherche Ă rĂ©soudre ce problĂšme avec CaMeL, une approche qui vise Ă isoler et suivre les donnĂ©es non fiables. En reformulant le problĂšme, CaMeL applique des modĂšles dâingĂ©nierie de sĂ©curitĂ© Ă©prouvĂ©s pour combattre ce type dâattaques. CaMeL reprĂ©sente un pas en avant dans la lutte contre les attaques par injection de prompts, un problĂšme de cybersĂ©curitĂ© courant dans les systĂšmes de chatbot. En isolant les entrĂ©es non fiables, il est possible de mieux sĂ©curiser ces systĂšmes et de prĂ©venir les attaques potentielles. Cette approche pourrait avoir des implications importantes pour la sĂ©curitĂ© des chatbots Ă lâavenir. ...