Derin Öğrenme (AING421)
Otomatik farklılaştırma ve temel derin öğrenme çerçevelerinin kısa bir incelemesi. Doğrusal regresyonun temel unsurları, kayıp fonksiyonları ve optimizasyonu. Doğrusal sinir ağlarına giriş. Çapraz entropi kayıp fonksiyonuna dayalı minibatch tabanlı eğitim. Çok katmanlı algılayıcılar (MLP'ler) ve aktivasyon fonksiyonları kavramı. İleri ve geri yayılım. Parametre başlatma. Düzenli hale getirme yöntemleri, toplu normalleştirme kullanarak kaybolan ve patlayan gradyanlardan kaçınma. Bırakma yöntemleri. Konvolüsyonel sinir ağı mimarilerinde konvolüsyon katmanlarına, bloklara, çok kanallı girdilere ve çapraz korelasyon işlemlerine giriş. Girdi doldurma, konvolüsyon penceresi adımlama, maksimum ve ortalama havuzlama. Konvolüsyonel sinir ağlarının uygulanması ve AlexNet, GoogLeNet ve ResNet gibi yaygın olarak kullanılan mimariler üzerine tartışmalar. Tekrarlayan sinir ağları (RNN) kullanarak sıralı verilerin modellenmesi. Geçitli tekrarlayan birimler ve uzun kısa süreli bellek (LSTM) kullanan modern tekrarlayan sinir ağları ve uygulamaları. Otomatik kodlayıcı mimarileri kullanarak denetimsiz öğrenme. Basit ve seyrek oto kodlayıcılar gibi çeşitli tipler ve bunların uygulamaları üzerine tartışmalar.