Kitap / Eğitim Dünyası Kayıyor
Covariate shift, hedef ilişki tam aynı kalsa bile girdilerin dağılımının değişmesidir. Bu demo, özellikle kısayol sinyallere yaslanan modellerin kaymış ortamda neden hızla yıprandığını gösterir.
Ne Yap
Kayma şiddetini, shortcut bağımlılığını, az temsil edilen slice drift’ini ve yeniden ağırlıklandırma gücünü değiştir.
Ne Gör
Eğitim doğruluğu sabit kalırken shift sonrası doğruluk eriyebilir; doğru düzeltme bazen kaybın bir kısmını geri toplar.
Kitaptaki Karşılığı
Modeli yalnızca eğitim dünyasında değil, dağılım değiştiğinde ne kadar taşıdığıyla da okumak gerekir.
Covariate shift, “model bozuk” demek değildir; modelin beslendiği dünyanın yer değiştirdiğini fark etmektir.