Etkileşimli Karşıt Örnekler

Genel Harita Saldırı Direnci Karşıt Örnekler Kötüye Kullanım Sahtecilik Kırmızı Takım Tam Ekran Demo

Kitap / Küçük Oynama, Büyük Karar Kayması

Karşıt örnekler, insan gözüne önemsiz görünen bir giriş değişikliğinin model kararını nasıl tersine çevirebildiğini gösterir. Bu demo, perturbasyon bütçesi ve savunma katmanlarının birlikte nasıl okunması gerektiğini açar.

Ne Yap Perturbasyon bütçesini, saldırgan bilgisini, marj gücünü, yumuşatma savunmasını ve ensemble desteğini değiştir.

Ne Gör Temiz doğruluk yüksek kalsa bile saldırı altı doğruluk hızla düşebilir; bazı savunmalar ise dayanımı artırırken gecikme maliyeti yaratır.

Kitaptaki Karşılığı Gerçek güven, temiz veride iyi görünmekten çok küçük ama kasıtlı bozulmalar altında kararını koruyabilmektir.

Karşıt dayanıklılık, modelin yalnızca ortalama performansını değil karar sınırının sertliğini de sorgular.