La popularité des chatbots a été tempérée dès le départ par la perspective d’attaques par injection de prompts. Google DeepMind cherche à résoudre ce problème avec CaMeL, une approche qui vise à isoler et suivre les données non fiables. En reformulant le problème, CaMeL applique des modèles d’ingénierie de sécurité éprouvés pour combattre ce type d’attaques.
CaMeL représente un pas en avant dans la lutte contre les attaques par injection de prompts, un problème de cybersécurité courant dans les systèmes de chatbot. En isolant les entrées non fiables, il est possible de mieux sécuriser ces systèmes et de prévenir les attaques potentielles. Cette approche pourrait avoir des implications importantes pour la sécurité des chatbots à l’avenir.
🔗 Source originale : https://www.databreachtoday.eu/deepminds-camel-aims-to-fight-prompt-injection-attacks-a-28049