Özellik Önemi: Model Hangi Sinyale Tutunuyor?
Yorumlanabilirlik çoğu zaman “neden bu kararı verdin?” sorusuyla başlar. Permütasyon önemi ise daha doğrudan bir soru sorar: “Bu özelliği bozarsam performans ne kadar düşer?” Eğitim ve kaymış test dağılımını birlikte okuyunca modelin gerçekten neye yaslandığı açığa çıkar.
İlk kez burada mısın? Özellik önemini 3 adımda oku
1. Kısayol ağırlığını artır
Eğitim öneminde shortcut barı büyürse model kolay ama kırılgan sinyale yaslanıyor olabilir.
2. Kaymayı artır
Kaymış testte aynı özellik önemi negatifleşirse bu sinyal artık yardımcı değil, zararlı hale gelmiştir.
3. Dayanıklılığı karşılaştır
Eğitim doğruluğu yüksek kalırken test düşüyorsa model skordan çok kısayola güveniyor olabilir.
Permütasyon önemi: eğitim ve kaymış test
Eğitim dağılımı
Kaymış test dağılımı