Dropout: Eğitimi Rastgele Seyrelt, Tek Ağa Fazla Güvenme
Dropout eğitim sırasında bazı gizli birimleri geçici olarak kapatır. Böylece model her adımda biraz farklı bir alt ağla öğrenir; bu da ortak ezber alışkanlıklarını zayıflatıp daha dayanıklı temsil üretir.
İlk kez burada mısın? Dropout'u 3 adımda oku
1. Oranı artır
Dropout yükseldikçe daha çok gizli birim kapanır. Tekil eğitim geçişleri birbirinden daha farklı davranır.
2. Eğrileri karşılaştır
Açık mavi çizgiler eğitim anındaki rastgele alt ağlar, koyu yeşil çizgi ise çıkarım anındaki ortalama davranış gibi okunur.
3. Aşırıyı fark et
Bir miktar dropout düzen getirir; fazlası ise çok fazla birimi kapatıp modeli gereğinden güçsüz bırakır.