Kitap / Küçük Oynama, Büyük Karar Kayması
Karşıt örnekler, insan gözüne önemsiz görünen bir giriş değişikliğinin model kararını nasıl tersine çevirebildiğini gösterir. Bu demo, perturbasyon bütçesi ve savunma katmanlarının birlikte nasıl okunması gerektiğini açar.
Ne Yap
Perturbasyon bütçesini, saldırgan bilgisini, marj gücünü, yumuşatma savunmasını ve ensemble desteğini değiştir.
Ne Gör
Temiz doğruluk yüksek kalsa bile saldırı altı doğruluk hızla düşebilir; bazı savunmalar ise dayanımı artırırken gecikme maliyeti yaratır.
Kitaptaki Karşılığı
Gerçek güven, temiz veride iyi görünmekten çok küçük ama kasıtlı bozulmalar altında kararını koruyabilmektir.
Karşıt dayanıklılık, modelin yalnızca ortalama performansını değil karar sınırının sertliğini de sorgular.