GradCAM (Gradient-weighted Class Activation Mapping)

Diger adlari: Grad-CAM, Gradient-weighted Class Activation Mapping, Gradyan Agirlikli Sinif Aktivasyon Haritasi

Kisa Tanim

GradCAM, bir CNN modelinin siniflandirma kararinda goruntunun hangi bolgesine odaklandigini goruntuleyen bir aciklanabilir yapay zeka (XAI) yontemidir. Sonuc, giris goruntusu uzerine bindirilen bir isi haritasi (heatmap) olarak gorsellestirılır.

Teknik Mantik

GradCAM (Selvaraju et al., 2017) su adimlarla calisir: (1) Hedef sinif icin son evrisim katmaninin ciktisina gore gradyanlar hesaplanir. (2) Bu gradyanlar global ortalama havuzlama (GAP) ile kanal bazinda agirlik katsayilarina donusturulur. (3) Agirliklar ilgili oznitelik haritasiyla carpilir ve ReLU uygulanir — pozitif katkili bolgeler isi haritasi olarak goruntulenir. GradCAM++ ve Score-CAM gibi varyantlar lokalizasyon dogrulugunu iyilestirir.

Kullanim Baglami

CNN tabanli herhangi bir siniflandirma veya tespit modelinin karar mekanizmasini anlamak icin kullanilir. Model denetimi (audit), shortcut learning tespiti ve kullanici guveni olusturma amaciyla uygulanir.

Tarimsal Baglam

Transfer ogrenme sonrasi modelin dikkat haritasini kontrol etmek guclu bir dogrulama adimidir. PlantVillage gibi kontrollü veri setlerinde model yapraga degil, beyaz arka plana, EXIF meta verisine veya yaprak kenar desenlerine (shortcut learning) odaklanmis olabilir. GradCAM ile bu tespit edilir — model hastalık lezyonuna mi yoksa arka plan dokusuna mi bakiyor? Shortcut learning tespitinde en yararlı araclarindan biridir. Transfer sonrasi ve domain adaptasyon sonrasi ozellikle degerli bir kontrol katmani sunar.

Sik Karistirilan Nokta

GradCAM "modelin neye baktigini" gosterir ama "neden o karari verdigini" tam olarak aciklamaz — bu bir korelasyon gorsellestirmesidir, nedensel aciklama degildir. Ayrica GradCAM cozunurlugu son evrisim katmanina baglidir ve küçük lezyonlarda yetersiz kalabilir.

Dr. Mehmet Solak — Siirt Universitesi, Biyosistem Muhendisligi