Karşıt Örnekler: Küçük Oynama, Büyük Hasar

Temiz veride çok iyi görünen model, küçük ama hedefli bir bozunum karşısında hızla karar değiştirebilir. Burada kasıtlı perturbasyonların robust doğruluğu nasıl erittiğini ve hangi savunmaların gerçekten etkili olduğunu okuyorsun.

İlk kez burada mısın? Karşıt örneği 3 adımda oku

1. Perturbasyonu büyüt Küçük oynama bütçesi büyüdükçe temiz başarı aynı kalsa bile saldırı altı dayanım hızla düşebilir.

2. Saldırgan bilgisini artır Modeli daha iyi tanıyan saldırgan, aynı bütçeyle daha etkili bozulma üretir.

3. Savunmayı aç Yumuşatma ve ensemble desteği dayanımı artırır; ama çoğu zaman hesaplama ve gecikme maliyeti getirir.

Perturbasyon bütçesi0.22

Marj gücü0.48

Saldırgan bilgisi0.54

Yumuşatma savunması0.34

Ensemble desteği0.22

Hazır senaryoHızlı kur

Temiz veri ve saldırı altı görünüm

Karşıt dayanıklılık, temiz doğrulukla aynı şey değildir; önemli olan küçük ama kasıtlı bozulma altında kararın ne kadar sabit kaldığıdır.

Temiz doğruluk 0% Bozulma yokken Not burada.

Saldırı altı doğruluk 0% Hedefli bozunum altında Not burada.

Robustluk açığı0 puan

Karar çevirme riski0%

Savunma ek yükü0%

Okuma

Dayanım burada yorumlanacak.