Adversarial Example / Evasion Attack
Evasion attack модифицира input така, че ML model да направи желана за attacker грешка .
Какво е
Evasion attack модифицира input така, че ML model да направи желана за attacker грешка.
Как работи
Малки или semantics-preserving промени могат да изместят input през decision boundary, например при image, spam, malware или fraud classifier.
Как да се предотврати
Adversarial testing/training, input normalization, ensemble/secondary controls, confidence/abstention logic и не оставяйте high-impact decision само на един classifier.
Най-ефективни защити
Подредени по приоритет — P0 е мястото, от което се започва.