Uç Bilişim Yapay Zekası (Edge AI)

Alternatif adlar: Edge Intelligence, Uç Nokta Yapay Zekası, On-Device AI

Kısa Tanım

Edge AI, makine öğrenmesi çıkarım (inference) işlemlerinin bulut sunuculara gönderilmeden doğrudan uç cihazlar (mikrodenetleyiciler, gömülü GPU'lar, FPGA'lar) üzerinde gerçekleştirilmesi paradigmasıdır. Veri iletim gecikmesini ortadan kaldırır, bant genişliği gereksinimini azaltır ve çevrimdışı çalışma kapasitesi sağlar.

Teknik Mantık

Eğitilmiş modeller, uç cihazlarda çalışabilmek için model sıkıştırma teknikleriyle (budama/pruning, kuantizasyon/quantization, bilgi damıtma/knowledge distillation) optimize edilir. TensorFlow Lite, ONNX Runtime ve NVIDIA TensorRT gibi çıkarım motorları, modeli hedef donanımın komut seti mimarisine (ARM Cortex-M, RISC-V) uygun biçimde derler. INT8 kuantizasyon ile FP32 modele kıyasla 4x bellek tasarrufu ve 2-3x hız artışı elde edilebilir; ancak doğruluk kaybı doğrulama seti üzerinde ayrica ölçülmelidir.

Kullanım Bağlamı

Gerçek zamanlı karar gerektiren, internet bağlantısının sınırlı veya kesintili olduğu ve veri gizliliğinin önem taşıdığı senaryolarda tercih edilir. Gecikme toleransı 100 ms'nin altında olan uygulamalarda bulut tabanlı çıkarım yetersiz kalır.

Tarımsal Bağlam

Otonom tarım robotlarında yabancı ot tanıma ve seçici ilaçlama kararlarının sahada anlık verilmesi Edge AI gerektirir. Sera ortamında Jetson Nano üzerinde çalışan bir CNN modeli, yaprak hastalığını tespit edip ilgili valfı milisaniyeler içinde tetikleyebilir. LoRaWAN ağ geçidine bağlı toprak sensörlerinden gelen verilerin uç noktada işlenmesiyle sulama kararları bulut bağımsız hale gelir.

Sık Karıştırılan Nokta

Edge AI yalnızca çıkarım aşamasını kapsar; model eğitimi hala bulut veya yüksek kapasiteli sunucularda gerçekleştirilir. Federe öğrenme (federated learning) ile uç cihazlarda kısmi eğitim mümkün olsa da, bu Edge AI'nin standart tanımının ötesindedir. Ayrıca "Edge" kavramı coğrafi uzaklıkla değil, hesaplamanın veri kaynağına yakınlığıyla tanımlanır.

Dr. Mehmet Solak — Siirt Üniversitesi, Biyosistem Mühendisliği