PyTorch ile Forward-Forward Algoritması
Geoffrey Hinton'ın önerdiği Forward-Forward algoritmasının resmî olmayan PyTorch implementasyonu: sinir ağlarını backprop olmadan eğitmenin bir yolu.
Amaç
Bu depo, Geoffrey Hinton’ın Forward-Forward (FF) yaklaşımını PyTorch ile inceleyen resmî olmayan uygulamadır. Notebook’lar, backpropagation’daki ileri/geri geçişler yerine olumlu ve olumsuz örneklerle iki ileri geçiş yapma fikrini kod düzeyinde ele alır.
Yöntem
Her katman olumlu örneklerde “goodness” puanını yükseltmeye, olumsuzlarda düşürmeye çalışır. Depoda bu yerel öğrenme hedefini kullanan MLP ve CNN deneyleri vardır; sinyal her katmanda değerlendirilir, gradyan tüm ağda geriye yayılmaz.
Durum
Çalışma makaledeki ayrıntıları izlemeyi hedefler, ancak Hinton’ın resmî deposu değildir. README bazı bölümlerin tamamlanmadığını bildirir. Notebook’lar yöntemi ve deneyleri inceler; bitmiş ürün veya benchmark sonucu olarak sunulmaz.