Self-Supervised Learning: Etiketi Veri Üretir

Bu demo, pozitif çiftlerin augmentasyonlardan üretildiği contrastive mantığı sezdirir. Model sınıf etiketi görmeden, aynı örneğin iki görünümünü yakın tutmayı ve diğer örneklerden ayırmayı öğrenir.

İlk kez burada mısın? Contrastive sezgiyi 3 adımda kur
1. Augmentasyonu büyüt Dönüşüm çok sertleşirse pozitif çiftler bile birbirinden kopar. O zaman öğrenme sinyali zayıflar.
2. Batch'i genişlet Daha büyük batch, daha fazla negatif örnek demektir. Contrastive iş daha zor ama daha öğretici hale gelir.
3. Temperature'ı ayarla Düşük temperature, benzerlik farklarını daha sert hissettirir; loss ve ayrım davranışı buna göre değişir.