Machine Learning et sécurité

CHAPITRE 8 Apprentissage automatique antagoniste

Alors que l’apprentissage automatique commence à être omniprésent dans les systèmes critiques, sa fiabilité fait naturellement l’objet d’un examen minutieux. Bien qu’il soit important de ne pas être alarmiste, la menace que les adversaires font peser sur les systèmes d’apprentissage automatique est réelle. Tout comme un pirate informatique peut profiter d’une vulnérabilité dans un pare-feu pour accéder à un serveur Web, un système d’apprentissage automatique peut lui-même être ciblé pour servir les buts d’un attaquant. Ainsi, avant de mettre de telles solutions dans la ligne de tir, il est crucial de considérer leurs faiblesses et de comprendre à quel point elles sont malléables sous l’effet du ...