Dikkat Mekanizmaları (Attention Mechanisms)
Dikkat mekanizmaları, yapay sinir aglarinin girdilerinin en ilgili kisimlarına dinamik olarak odaklanmasini saglar. Tum uzamsal konumlari, zaman adimlarini veya özellik kanallarini esit şekilde ele almak yerine, dikkat mekanizmalari bilgilendirici sinyalleri guclendiren ve gurultuyu bastiran onem ağırlıklari hesaplar. Tarımda bu secici odaklanma son derece önemlidir; çünkü yararli bilgi genellikle karisik, değişken tarla görüntüleri veya uzun, gurultulu sensor zaman serileri icinde gizlidir.
Dikkat Turleri
Oz-Dikkat (Self-Attention)
Oz-dikkat, tek bir girdi icindeki tum konumlar arasındaki ilişkileri hesaplar. Her eleman (piksel, zaman adimi veya token), diger tum elemanlara dikkat ederek kuresel bağlami yakalayan ağırlıkli bir temsil üretir. Donusturucu (Transformer) mimarisi oz-dikkat üzerine insa edilmistir ve modern dogal dil işleme (NLP) ile giderek artan şekilde goru sistemlerinin ana yapi taslarindan biri haline gelmistir.
Tarımsal görüntülerde, oz-dikkat, evrisimsel cekirdeklerin (alici alani ile sinirli) kacirabilecegi uzun mesafeli uzamsal bagimliliklari yakalar. Bir yapragin bir ucundaki hastalık lezyonu, baska bir yerdeki saglikli doku ile bağlamlandirilarak segmentasyon doğruluğu artirilir.
Çapraz Dikkat (Cross-Attention)
Çapraz dikkat, bir görüntü ile bir metin sorgusu veya farkli tarihlerden uydu bantlari gibi iki farkli girdiyi ilişkilendirir. Coklu spektral, radar ve hava durumu verilerinin birlestirilmesi gereken tarımsal fuzyon gorevlerinde, çapraz dikkat her uzamsal konum ve zaman noktasinda hangi modalitenin en bilgilendirici oldugunu öğrenir.
Uzamsal Dikkat (Spatial Attention)
Uzamsal dikkat, bir görüntü üzerinde ilgi bölgelerini vurgulayan 2 boyutlu bir ağırlık haritasi üretir. Yolo Family ile tarımsal nesne tespitinde, uzamsal dikkat dedektorun yapraklar arasındaki meyve kümelerine veya karmaşık toprak arka planina karsi küçük boceklere odaklanmasina yardimci olur.
Zamansal Dikkat (Temporal Attention)
Zamansal dikkat, bir dizideki farkli zaman adimlarini degisen onem derecesiyle degerlendirir. Lstm Networks çıkışlarina uygulandiginda, bir buyume mevsiminde hangi gun veya haftalarin verim tahminini en cok etkiledigini ortaya koyar. Ciceklenme dönemindeki iki haftalik bir kuraklik yüksek dikkat agirligi alabilirken, vejetatif donemde kisa sureli bir yağış olayi bastirilabilir.
Kanal Dikkati (Channel Attention)
Kanal dikkati, özellik haritasi kanallarini (spektral bantlara veya öğrenilmiş özellik turlerine benzer) yeniden kalibre eder. SE-Net (Sikistir ve Uyar - Squeeze-and-Excitation), her kanali tek bir tanimlayiciya sikistirir, küçük bir MLP'den gecirir ve kanal basina ölçeklendirme faktorleri üretir. CBAM (Evrisimsel Blok Dikkat Modulu - Convolutional Block Attention Module) ise kanal ve uzamsal dikkati sirasiyla birlestirir; once hangi özelliklerin önemli oldugunu, ardindan nerede önemli olduklarini yeniden kalibre eder.
Cok spektral veri isleyen tarımsal CNN'lerde, kanal dikkati kirmizi kenar ve yakin kızılötesi bantlarinin bitki stresi için gorulebilir maviden daha fazla bilgi tasidiginii ogrenerek etkili bir öğrenilmiş bant secimi gerçeklestirir.
CNN'lerle Entegrasyon
Dikkat modulleri, tipik olarak mevcut CNN mimarilerine hafif bloklar olarak eklenir. Unet Architecture icinde kullanilan bir ResNet omurgasina veya Yolo Family dedektorunun boyun kismina CBAM eklenmesi, minimum hesaplama yukuyle doğruluğu arttirir. Temel tasarim karari, dikkatin nereye eklenecegidir: erken katmanlar uzamsal dikkatten (nereye bakilecegindan) yararlanirken, derin katmanlar kanal dikkatinden (neye bakilacagindan) yararlanir.
Tarımda Donusturucu Tabanli Dikkat (Transformer-Based Attention)
Goru Donusturuculeri (Vision Transformers - ViT) ve turevleri (Swin Transformer, DeiT), görüntüleri tam oz-dikkat ile yama dizileri olarak işler. Tarımda, bu modeller uydu görüntülarinden tum tarla sinirlarinin segmentasyonu veya lezyonlarin uzamsal dizilisinin onem tasidigi bitki hastalıklarinin siniflandirilmasi gibi kuresel bağlam gerektiren gorevlerde güçlü performans gösterir.
Ancak saf donusturucular, büyük eğitim veri setleri veya güçlü on-eğitim gerektirir. CNN özellik çıkarımini donusturucu dikkat bloklariyla birlestiren hibrit mimariler, tarımsal araştırmaya ozgu sinirli etiketli veri setlerinde genellikle en iyi performansi gösterir.
Yorumlanabilirlik Avantajlari
Dikkat ağırlıklari, model kararlarinin yerlesik bir açıklamasini saglar. Uzamsal dikkat haritalarinin görsellestirilmesi, hangi yaprak bölgelerinin bir hastalık sınıflandırmasini yonlendirdigini gösterir. Zamansal dikkat ağırlıklari, hangi buyume donemlerinin verim tahminini etkiledigini ortaya koyar. Bu seffaflik, ziraat muhendişleri ve alan uzmanlari nezdinde guven insa ederek Precision Agriculture ve Mobile Crop Advisory sistemlerinde makine öğrenmesi araclarinin benimsenmesini hizlandirir.
Ingest Edilen Makalelerden Bulgular
Mango Yaprak Hastaligi Teshisinde Vision Transformer
[Li et al., 2023 — PMVT] — Mobil cihazlarda bitki hastalığı tespiti için gelistirilen PMVT (Plant-based MobileViT) modeli, MobileViT omurgasina 7x7 evrisme cekirdegi ve CBAM (kanal + uzamsal dikkat) modulleri ekleyerek hafif bir vision transformer mimarisi sunmustur. Bugday veri setinde PMVT-S yalnizca 5.06M parametre ile %94.9 doğruluk elde ederek, 42.5M parametreli ResNet-101'i (%94.1) geride birakmistir. Kahve veri setinde (dogal tarla ortaminda karmaşık arka plan) PMVT-S %87.6 doğruluk ile PoolFormer-S12'den %2.2 daha iyi performans gostermistir. Pirinc veri setinde PMVT-XS %97.7 doğruluk ile ikinci en iyi modelden (MobileNetV3-large) %5.8 üstün gelmistir. Ablasyon deneylerinde 7x7 evrisme cekirdegi doğruluğu %0.5-1.6 artirirken, CBAM dikkat modulu %0.3-2.3 ek iyilesme saglamistir. Model, ONNX/NCNN formatina donustulup Android uygulamasi olarak dagitilabilir hale getirilmistir. Bu sonuçlar, dikkat mekanizmalarinin hafif mimarilere entegre edilmesinin, sinirli kaynaklardaki mobil cihazlarda tarımsal hastalık teshisini önemli ölçüde iyilestirdigini göstermektedir.