Açıklanabilir Yapay Zeka (XAI)

Açıklanabilir Yapay Zeka, makine öğrenmesi tahminlerini insanlar için yorumlanabilir kılan yöntemleri kapsar. Tarımda XAI, güçlü ama opak makine öğrenmesi modelleri ile model çıktılarına göre hareket etmeden önce bunları anlaması ve güvenmesi gereken çiftçiler, agronomlar ve politika yapıcılar arasındaki boşluğu kapatır. Açıklamalar olmadan, yüksek doğruluğa sahip modeller bile son kullanıcılar tarafından reddedilme riskiyle karşı karşıyadır.

Tarımda Kara Kutu Problemi

Bitki hastalığı tespiti, verim tahmini ve yönetim tavsiyeleri için modern derin öğrenme modelleri kara kutular olarak çalışır -- akıl yürütmelerini ortaya koymadan çıktılar üretir. Bu, tarımda kritik sorunlar yaratır:

• Çiftçi güveni: Bir çiftçi, anlayamadığı bir model tavsiyesine dayanarak sulama uygulamalarını değiştirmeyecektir. Benimsenme, tavsiyelerin agronomik açıdan mantıklı olmasını gerektirir.
• Düzenleyici uyumluluk: Tarımsal sübvansiyonlar, sigorta talepleri ve gıda güvenliği sertifikaları giderek artan biçimde yapay zeka destekli kararlar içermektedir. Düzenleyiciler, kararlara nasıl ulaşıldığının açıklanmasını talep edebilir.
• Agronomik içgörü çıkarma: Açıklamalar, tarım bilimini ilerleten yeni örüntüleri ortaya çıkarabilir (örn. verimi yönlendiren beklenmedik bir toprak değişkeni).
• Hata tespiti: Açıklamalar, modelin sahte korelasyonlara dayandığını (örn. lezyon özelliklerine değil arka plan rengine göre hastalık sınıflandırması) ortaya çıkarır.

Temel XAI Yöntemleri

Modelden Bağımsız Yöntemler (Model-Agnostic)

SHAP (SHapley Additive exPlanations): Oyun teorisinin Shapley değerlerine dayanarak, özellik etkileşimlerini hesaba katarak her özelliğe tahmine olan katkısını atar. Bir verim tahmin modeli için SHAP, her değişkenin (yağış, sıcaklık, toprak azotu, ekim tarihi) tahmin edilen verimi ortalamadan yukarı veya aşağı itmede ne kadar katkıda bulunduğunu ortaya koyar.

• SHAP özet grafikleri (summary plots), genel özellik önemliliğini ve her özelliğin tüm tahminler genelindeki etki yönünü gösterir.
• SHAP kuvvet grafikleri (force plots), bireysel tahminleri açıklayarak hangi özelliklerin tahmini yükselttiğini veya düşürdüğünü gösterir.
• SHAP etkileşim değerleri, ikili özellik etkileşimlerini ölçer (örn. sıcaklık ve nemin hastalık riski üzerindeki birleşik etkisi).

LIME (Yerel Yorumlanabilir Modelden Bağımsız Açıklamalar / Local Interpretable Model-agnostic Explanations): Karmaşık modeli yerel olarak basit yorumlanabilir bir modelle (doğrusal regresyon) yaklaştırır. "Geç yanıklık" olarak sınıflandırılan bir görüntü için LIME, sınıflandırmadan en çok sorumlu süper pikselleri (görüntü bölgelerini) vurgulayarak modelin gerçek lezyona mı yoksa ilgisiz bir arka plan elemanına mı odaklandığını gösterir.

Derin Öğrenmeye Özgü Yöntemler

Grad-CAM (Gradyan Ağırlıklı Sınıf Aktivasyon Haritalama / Gradient-weighted Class Activation Mapping): Bir CNN'nin sınıflandırma kararı için en önemli görüntü bölgelerini vurgulayan ısı haritaları üretir. Tarımsal hastalık tespitinde Grad-CAM görselleştirmelerinin hastalıklı lezyon bölgesini vurgulaması gerekir -- bunun yerine yaprak kenarını veya arka planı vurguluyorsa, model sahte bir kısayol öğrenmiştir.

Dikkat Haritaları (Attention Maps): Transformer Architectures mimarilerinde, öz-dikkat ağırlıkları modelin hangi görüntü parçalarına veya dizi elemanlarına odaklandığını gösterir. Dikkat örüntülerinin görselleştirilmesi, bir ürün sınıflandırıcısının ilgili ürün özelliklerine mi yoksa karıştırıcı arka plan elemanlarına mı dikkat ettiğini ortaya koyar.

Belirginlik Haritaları ve Tümleşik Gradyanlar (Saliency Maps & Integrated Gradients): Çıktının giriş bozulmalarına göre nasıl değiştiğini analiz ederek piksel düzeyinde önem hesaplar. Grad-CAM'dan daha ince taneli açıklamalar sağlar ancak gürültülü ve yorumlanması zor olabilir.

Tarımda XAI Uygulamaları

Hastalık Teşhis Doğrulaması: Bir hastalık sınıflandırıcısının gerçek hastalık belirtilerine odaklandığını doğrulamak için Grad-CAM kullanımı. Çalışmalar, bazı yüksek doğruluklu modellerin aslında hastalık özellikleri yerine görüntü arka planına, yaprak şekline veya kamera artefaktlarına göre sınıflandırma yaptığını ortaya çıkarmıştır -- yalnızca XAI analizi ile mümkün olan bir bulgu.

Verim Tahmini Yorumlama: Ensemble Methods (XGBoost, Random Forest) verim modellerinin SHAP analizi, belirli bölgelerde hangi hava olaylarının ve yönetim uygulamalarının verimi en çok etkilediğini ortaya koyar. Bu içgörüler agronomik danışmanlık hizmetlerini bilgilendirebilir.

Toprak Özelliği Tahmini: Spektroskopi tabanlı toprak modellerine uygulanan SHAP, belirli toprak özellikleri için hangi spektral bölgelerin (dalga boylarının) en tahmin edici olduğunu belirleyerek modeli bilinen toprak spektral emilim özelliklerine karşı doğrular.

Hassas Tarım Karar Desteği: Bir model değişken oranlı gübreleme önerdiğinde, XAI açıklamaları çiftçiye farklı bölgeler için neden farklı oranların önerildiğini gösterir -- tavsiyeleri toprak rengi, tarihsel verim ve topografi gibi gözlemlenebilir tarla koşullarıyla ilişkilendirir.

Yorumlanabilirlik Spektrumu

Modeller, doğası gereği yorumlanabilirden tamamen opak modellere uzanan bir spektrumda yer alır:

Yorumlanabilirliğin ön planda olduğu tarımsal uygulamalarda (düzenleyici, danışmanlık), doğası gereği yorumlanabilir modeller veya iyi açıklanmış topluluk modelleri, marjinal olarak daha doğru derin öğrenme modellerine tercih edilebilir.

En İyi Uygulamalar

XAI sonradan düşünülmüş bir şey olmamalıdır. Model geliştirme iş akışına entegre edilmelidir: model doğrulaması sırasında sahte korelasyonları tespit etmek için açıklamaları kullanın, dağıtılmış sistemlerde tahminlerin yanında açıklamaları sunun ve model açıklamalarının agronomik açıdan tutarlı olup olmadığını değerlendirmede alan uzmanlarını (agronomlar, çiftçiler) sürece dahil edin.

Ingest Edilen Makalelerden Bulgular

Cartolano et al., 2024 — Akıllı tarım ortamlarında XAI modellerinin analizi ve değerlendirilmesi. Crop Recommendation veri seti (22 ürün sınıfı, 7 girdi özelliği) üzerinde beş farklı sınıflandırma modeli (Decision Tree, Random Forest, Naive Bayes, KNN, SVM) eğitilmiş ve SHAP ile LIME yöntemleri uygulanmıştır. Temel bulgular:

• SHAP summary plot analizi, ürün tavsiyesinde azot (N), fosfor (P) ve potasyum (K) değerlerinin en belirleyici özellikler olduğunu ortaya koymuştur. Yağış ve sıcaklık ikincil önem taşımaktadır.
• LIME açıklamaları, bireysel tahminler düzeyinde hangi özelliklerin belirli bir ürün tavsiyesini yönlendirdiğini görselleştirmiştir. Makine öğrenmesi uzmanı olmayan çiftçilerin bile bu görselleştirmeler aracılığıyla model kararlarını anlayabildiği vurgulanmıştır.
• Çalışma, XAI'nin tarım alanındaki kritik rolünü desteklemiştir: çiftçiler ve agronomlar, yorumlanamayan kara kutu modellerine güvenme konusunda şüphecidir; SHAP ve LIME, bu güven açığını kapatmanın en popüler ve referans araçları olmaya devam etmektedir.
• Beş model arasında en yüksek doğruluk skorlarına ulaşılmış olup, XAI grafikleri sayesinde yüksek doğruluklu modeller bile şeffaf ve yorumlanabilir hale getirilmiştir.