Etkileşimli Gradient Boosting

Genel Harita Ensemble Bagging Random Forest Gradient Boosting Tam Ekran Demo

Kitap / Hata Düzeltme Mantığı

Boosting paralel ortalama yapmaz; sırayla ilerler. Her yeni zayıf öğrenici, bir önceki sahnenin neleri kaçırdığını arar ve hatayı biraz daha kapatır. Bu yüzden boosting'in ritmi “topla” değil, “düzelt” ritmidir.

Ne Yap Aşama sayısını ve learning rate'i değiştir. Tahmin eğrisinin hedefe nasıl yaklaştığını, son düzeltme ağacının nerelere odaklandığını izle.

Ne Gör Az aşama kaba bir model bırakır. Çok aşama ve sert adım büyüklüğü ise doğrulamayı bozmaya başlayabilir.

Kitaptaki Karşılığı Bu, “zayıf öğrenicileri sırayla birleştirerek güçlü model kurma” düşüncesinin görsel karşılığıdır.

Boosting'in kuvveti, tek bir ağaçta değil; her turun önceki hatayı biraz daha daraltmasında yatar. Bu yüzden tempo ve adım büyüklüğü kritik hale gelir.