Attaques adverses
Perturbations invisibles qui retournent un modèle.
FGSM en une ligne
x + epsilon * signe(gradient) : invisible à l'œil, fatal au CNN non durci. Entraînement adverse (exemples attaqués dans le train) comme vaccin partiel, au prix de perf et de temps.
Message
Tout modèle exposé (vision, spam, fraude) doit un test adverse documenté. Sans lui, votre accuracy est une mesure en laboratoire.
Pas de correction en ligneConfrontez votre code aux résultats attendus du cours.