Kitap / Model Neye Yaslanıyor?
Özellik önemi, modelin hangi sinyali gerçekten kullandığını görünür yapar. Yüksek skor tek başına yetmez; hangi sütun karışınca performansın çöktüğünü görmek gerekir.
Ne Yap
Sağlam sinyal, yardımcı sinyal ve kısayol ağırlıklarını değiştir. Eğitim ve kaymış testte önem barlarının nasıl yer değiştirdiğini izle.
Ne Gör
Bir özellik eğitimde çok önemli görünse bile dağılım kayınca bu önem çökebilir. Bu, modelin yanlış özelliğe yaslandığının işaretidir.
Kitaptaki Karşılığı
Modeli sadece sonuçlarından değil, hangi temsil üzerinden karar verdiğinden de okumak gerekir.
Permütasyon önemi, “bu özelliği bozunca model ne kadar düşüyor?” sorusunu sorar. Bazen en öğretici soru tam da budur.