Doğal Dil İşleme (AING426)
Metin temizleme ve tokenizasyon, özel karakterlerin kaldırılması, büyük/küçük harf dönüşümü, yazımların düzeltilmesi, stop kelimelerin kaldırılması, stemming ve Lemmatization dahil olmak üzere metin ön işleme. Konuşma parçası etiketleme, bileşen ve bağımlılık ayrıştırma. Bag of Words modeli, N-Grams, terim sıklığı, TF-IDF belge gösterimi. Belge Benzerliği. TF-IDF gösterimini kullanarak belge sınıflandırma. Kelime gömme, sürekli Kelime Torbası ve atlama-gram modelleri kullanarak Kelime2Vec gösterimleri, kelime gömme için GLOVE modeli. Metin özetleme ve konu modelleri. Dönüştürücü sinir ağlarına giriş. Girdi gömme, konumsal kodlama ve çok kafalı dikkat. Önceden eğitilmiş dil modelleri. Önceden eğitilmiş modellerden transfer öğrenimi. Belirteçleri dizin numaralarına dönüştürmek için önceden eğitilmiş belirteçleştiricileri kullanma, bir yığın boyutu seçme ve yineleyiciler oluşturma. Önceden eğitilmiş bir modeli yükleme ve parametrelerinde ince ayar yapma.