Dr. Mehmet Solak Siirt Üniversitesi · Ziraat Fakültesi · Biyosistem Mühendisliği · Tarım ve Tarımsal Eğitim İçin Makine Öğrenmesi İçeriği

Tarım İçin Uç Bilişim (Edge Computing)

deploymentinferenceembedded-systemstfliteonnxquantizationpruningiot

Uç bilişim, makine öğrenmesi çıkarımını doğrudan tarımsal karar noktasına getirir -- traktörler, dronlar, akıllı telefonlar ve tarlaya yerleştirilen gömülü sensörler üzerinde. Verileri işlenmek üzere bulut sunuculara göndermek yerine, uç dağıtım sıfır internet bağımlılığıyla gerçek zamanlı tahminler sağlar -- sınırlı veya hiç bağlantının olmadığı kırsal bölgelerde kritik bir gereksinim.

Uç Bilişimin Tarımda Önemi

Bağlantı kısıtlamaları: Kırsal tarım arazilerinde güvenilir hücresel veya WiFi kapsama alanı genellikle bulunmaz. Bulut bağımlı sistemler, tarımsal yapay zekanın en çok gerektiği yerlerde tam olarak başarısız olur.

Gecikme gereksinimleri: Hassas püskürtme (10+ km/sa traktör hızında yabancı ot tespiti), otonom navigasyon ve robotik hasat gibi gerçek zamanlı uygulamalar milisaniye düzeyinde çıkarım gerektirir. Bulut gidiş-dönüş gecikmesi kabul edilemezdir.

Veri hacmi: İHA'lar ve yüksek çözünürlüklü kameralar uçuş başına gigabaytlarca görüntü üretir. Bu verinin buluta iletilmesi pratik değildir; uç cihazda işlenmesi çok daha verimlidir.

Veri gizliliği: Verilerin yerel olarak işlenmesi, hassas çiftlik verilerinin yerinde tutulmasıyla Federated Learning ilkeleriyle uyumludur.

İşletme maliyeti: Sürekli bulut hesaplama ve veri aktarım maliyetlerinin ortadan kaldırılması, uç tabanlı çözümleri küçük ölçekli çiftçiler için ekonomik olarak daha uygulanabilir hale getirir.

Donanım Platformları

Platform Tipik Kullanım Güç Hesaplama
NVIDIA Jetson (Nano, Xavier, Orin) İHA yerleşik, traktör sistemleri 5-30W GPU hızlandırmalı çıkarım
Raspberry Pi + Coral TPU Düşük maliyetli izleme istasyonları 5-15W Edge TPU hızlandırma
Akıllı Telefonlar (Android/iOS) Çiftçi odaklı hastalık tespit uygulamaları Pil Mobil GPU/NPU
Mikrodenetleyiciler (ESP32, STM32) IoT sensörleri, basit sınıflandırma <1W Çok sınırlı, mini modeller
Intel Neural Compute Stick USB ile bağlanan hızlandırıcı 1-2W VPU çıkarımı
Özel FPGA çözümleri Yüksek iş hacimli ayıklama hatları Değişken Özelleştirilebilir hatlar

Model Optimizasyon Teknikleri

Tam boyutlu derin öğrenme modelleri uç donanım için çok büyük ve yavaştır. Çeşitli teknikler, tarımsal görev performansını koruyarak modelleri sıkıştırır:

Kuantalama (Quantization), sayısal hassasiyeti 32 bit kayan noktadan 8 bit tam sayıya (INT8) veya daha düşüğe indirger. Eğitim sonrası kuantalama en basit yaklaşımdır; kuantalama farkındalıklı eğitim ise daha iyi doğruluk koruması sağlar. Kuantalama tipik olarak model boyutunu 4 kat küçültür ve çıkarım hızını 2-3 kat artırırken minimum doğruluk kaybı yaşatır (genellikle tarımsal kıyaslamalarda %1'den az).

Budama (Pruning), ağdan gereksiz ağırlıkları veya tüm filtreleri/kanalları kaldırır. Yapısal budama (tüm filtrelerin kaldırılması), yapısal olmayan budamaya (bireysel ağırlıkların sıfırlanması) kıyasla donanım açısından daha uygundur. Budanmış bir ResNet-50, %2'den az doğruluk düşüşüyle 2-3 kat hızlanma elde edebilir.

Bilgi Damıtma (Knowledge Distillation), küçük bir "öğrenci" modelini büyük bir "öğretmen" modelinin çıktılarını taklit etmek üzere eğitir. Öğrenci, daha ağır bir EfficientNet veya ResNet'in performansını kopyalamayı öğrenen MobileNet gibi hafif bir mimari olabilir.

Mimari Tasarım: MobileNetV2, ShuffleNet veya EfficientNet-Lite gibi mobil ve gömülü dağıtım için tasarlanmış doğası gereği verimli mimarilerin kullanılması. Bu mimariler, FLOP'ları minimize etmek için derinlemesine ayrılabilir evrişimler ve diğer verimli işlemler kullanır.

Dağıtım Çerçeveleri

TensorFlow Lite (TFLite): Google'ın modelleri mobil ve gömülü cihazlarda dağıtmak için çerçevesi. Kuantalama, Android'de GPU delege hızlandırması ve Coral Edge TPU desteği sunar. Tarımsal akıllı telefon uygulamaları için en yaygın kullanılan çerçevedir.

ONNX Runtime: Açık Sinir Ağı Değişim (Open Neural Network Exchange) formatı, çerçeveler arası model taşınabilirliği sağlar. ONNX Runtime, çeşitli donanım arka uçlarında optimize edilmiş çıkarım sunar.

TensorRT: NVIDIA'nın Jetson ve GPU platformları için çıkarım optimize edicisi. Katman birleştirme, hassasiyet kalibrasyonu ve çekirdek otomatik ayarı uygulayarak maksimum iş hacmi sağlar.

OpenVINO: Intel'in CPU'lar, VPU'lar (Neural Compute Stick) ve FPGA'lar üzerinde dağıtım için araç seti. Sabit tarımsal tesişler için yararlıdır.

PyTorch Mobile / ExecuTorch: PyTorch'un mobil dağıtım çözümü; PyTorch ekosisteminin tarımsal araştırmada büyümesiyle birlikte giderek daha fazla kullanılmaktadır.

Tarımsal Uç Uygulamaları

Akıllı Telefon Hastalık Tespiti: Çiftçi bir yaprağın fotoğrafını çeker ve telefonda yerel olarak çalışan bir TFLite modeli saniyeler içinde hastalığı tanımlar. PlantVillage ve Plantix gibi uygulamalar bu deseni gelişmekte olan ülkelerde büyük ölçekte yaymıştır.

Gerçek Zamanlı Yabancı Ot Püskürtme: Püskürtme kollarına monte edilmiş kameralar, YOLO Object Detection çalıştıran yerleşik bir Jetson sistemine görüntü besler. Yabancı ot tespit edildiğinde yalnızca ilgili nozül aktive olarak %90'a kadar herbisit azaltımı sağlanır.

Drone Tabanlı Ürün İzleme: İHA'larda yerleşik işleme, uçuş sırasında gerçek zamanlı karar almayı mümkün kılar -- stresli alanların belirlenmesi ve uçuş rotasının ayarlanması, uçuş sonrası analize bekleme yerine.

Otomatik Ayıklama ve Derecelendirme: Paketleme tesişlerindeki konveyör bant sistemleri, ürünleri kalite, boyut ve kusura göre yüksek iş hacminde sıralamak için uçta dağıtılmış sınıflandırıcılar kullanır.

Zorluklar

Birincil zorluk doğruluk-verimlilik dengesidir: agresif sıkıştırma, en çok önemli olan sınır durumlarında (nadir hastalıklar, sıra dışı yabancı ot türleri) model performansını düşürebilir. Uçta dağıtılan modellerin tarla gerçek durumuna karşı sürekli doğrulanması esastır. Tarımsal cihazlar arasındaki donanım parçalanması geliştirme ve test süreçlerini karmaşıklaştırır. Pil ile çalışan platformlarda (dronlar, el tipi cihazlar) güç yönetimi, sürekli çıkarım iş yüklerini kısıtlar.

Ingest Edilen Makalelerden Bulgular

[Zhou et al., 2019] — Uc zeka (Edge Intelligence, EI) kavrami, derin öğrenme modellerinin eğitim ve çıkarımini ag ucunda gerçeklestirmeyi hedefler. Cisco tahminlerine gore 2021 yilina kadar ag ucundaki cihazlar tarafından yaklasik 850 ZB veri uretilecekken, kuresel veri merkezi trafigi yalnizca 20,6 ZB olacaktir -- bu durum uç bilişimin zorunluluğunu gösterir. Yazarlar EI için 6 seviyeli bir derecelendirme sistemi tanımlamıştır: (Seviye 1) Bulut-Uc ortak çıkarım + bulut eğitim, (Seviye 2) Uc ici çıkarım + bulut eğitim, (Seviye 3) Cihaz üzerinde çıkarım + bulut eğitim, (Seviye 4) Bulut-Uc ortak eğitim ve çıkarım, (Seviye 5) Tamamen uc ici eğitim ve çıkarım, (Seviye 6) Tamamen cihaz üzerinde eğitim ve çıkarım. Seviye yukseldiğinde veri aktarım gecikmesi ve WAN bant genisligi maliyeti azalirken, hesaplama gecikmesi ve enerji tüketimi artar. Dagitik eğitim için merkezi, merkezi olmayan (federe) ve hibrit (bulut-uc cihaz) olmak uzere 3 mimari mod tanimlanmistir. Merkezi olmayan modda her dugum yerel verisini koruyarak federe öğrenme ile global model elde edilir. Gartner, 2022'ye kadar kurumsal IoT projelerinin %80'inden fazlasinin yapay zeka bileseni icerecegini (2019'da yalnizca %10) ongormektedir. Google Edge TPU, Intel Nervana NNP, Huawei Ascend 910/310 gibi uc yapay zeka cipleri piyasaya surulmustur. Model sikistirma teknikleri olarak kuantalama (INT8 ile 4x kucultme), budama ve bilgi damitma detayli incelenmistir. (2.080 atif)

IoT Mimarisi ve Uc Hesaplama Guvenlik Cozumleri

[Hassija et al., 2019] — IoT guvenlik mimarisini dort katmanda (algılama, ag, ara katman, uygulama) inceleyen bu kapsamli derleme, uc hesaplama (edge computing) tabanli çözümleri dort ana guvenlik yaklasimidan biri olarak konumlandirmistir. Uc hesaplama, bulut sunucularina veri gonderme yerine verinin uretildigi yerde islenmesini saglayarak gecikmeyi azaltir ve veri gizliligini arttirir. IoT ortamlarinda gelen veri hacmi ve heterojenliginin yonetiminde sis hesaplama (fog computing) ve uc hesaplama birbirini tamamlayici roller ustlenir; fog hesaplama ag ucunda orta seviye işlem nodlari sunarken, edge computing doğrudan sensor/aktuator katmaninda işlem gerçeklestirir. Makine öğrenmesi tabanli IoT guvenlik çözümleri, anormal trafik tespiti, sahte veri filtreleme ve cihaz davranis profilleme için uc nodlarda yerel olarak çalıştırilabilir. Blockchain, fog ve ML ile birlikte edge computing, IoT ekosisteminin butunsel guvenligini saglamak için dort sutunlu mimariyi oluşturur. Tarımsal IoT uygulamalarinda özellikle düşük güçlü sensorlerin saldiriya acikligi ve genis alan dagilimlari, uc hesaplama tabanli yerel karar almanin kritik oldugunu göstermektedir. (1.350 atif)

IoT Vizyon ve Mimari — Temel Referans Calismasi

[Gubbi et al., 2013] — NOT: Bu makale (W2111619626, "Internet of Things (IoT): A vision, architectural elements, and future directions", 11.828 atif) dosyasi bozuk oldugu için (EOF marker not found hatasi) doğrudan okunamadi. Yeniden indirilip ingest edilmesi gerekmektedir. Makalenin bilinen temel konusu: IoT'nin vizyon, mimari elemanlari ve gelecek yonelimlerini tanimlayan, bulut merkezli IoT mimarisini oneren ve akilli ortam (smart environment) uygulamalarini kapsayan temel referans çalışmasidir. Bu makalenin 11.828 atif ile alandaki en yüksek atif alan çalışmalardan biri olmasi, IoT kavramsal cercevesinin temelini oluşturmasindandir.