Ders Adı Kodu Yarıyıl T+U Saat Kredi AKTS
Representatıon Learnıng SWE 532 0 3 + 0 3 6
Ön Koşul Dersleri

Pattern recognition and machine learning

Önerilen Seçmeli Dersler
Dersin Dili İngilizce
Dersin Seviyesi YUKSEK_LISANS
Dersin Türü Seçmeli
Dersin Koordinatörü Doç.Dr. İBRAHİM DELİBAŞOĞLU
Dersi Verenler
Dersin Yardımcıları
Dersin Kategorisi Diğer
Dersin Amacı

Today, the fundamental challenge in deep learning is the automated extraction of meaningful and useful information from large datasets. Moving beyond traditional manual feature engineering, this course aims to teach how to generate representations that capture the essence of data through supervised, unsupervised, and self-supervised learning paradigms. Students will gain a theoretical and practical understanding of modern, foundational methods that radically improve the performance of artificial intelligence applications.

Dersin İçeriği

Starting with fundamentals such as PCA and Word2Vec, the course advances into topics like Autoencoders and Generative Adversarial Networks. The focus lies on modern Contrastive Learning and Self-Supervised Learning techniques, as well as Transformer-based representation learning methods for Time Series and Natural Language Processing. Additionally, concepts of disentangled and causal representations are explored, enabling students to gain proficiency through hands-on projects.

Özel Koşullar
Sektör Desteği
Destekleyen Firma
Destekleyen Eğitmen
# Ders Öğrenme Çıktıları Öğretim Yöntemleri Ölçme Yöntemleri
1 Understanding the deep learning architectures Anlatım, Ödev / Evde-Çöz Sınavlar,
Hafta Ders Konuları Ön Hazırlık
1 Introduction Representation Learning
2 Linear Representation and text embeddings
3 Autoencoders
4 VAEs
5 Advanced VAEs
6 GANs as Representation Learners
7 Diffusion Models for Representations
8 Self-supervised learning
9 Contrastive learning
10 BYOL and DINO
11 Transformer-based Representation Learning
12 Representation Learning for Time Series
13 Causal Representation
14 Causal Representation
Kaynaklar
Ders Notu
Ders Kaynakları

Bengio, Y., Courville, A., & Vincent, P. (2013). "Representation Learning: A Review and New Perspectives."

Goodfellow, I., Bengio, Y., & Courville, A. (2016). Deep Learning.

Balestriero, Randall, et al. "A cookbook of self-supervised learning." (2023).

 

Sıra Program Çıktıları Katkı Düzeyi
1 2 3 4 5
1 Yaşadığı toplumun bilgi toplumu olmasına katkıda bulunmak, toplumsal, bilimsel, kültürel ve etik sorunlara çözüm sunmak amaçlarıyla alanındaki bilimsel, teknolojik, sosyal veya kültürel ilerlemeleri ulusal ve uluslararası bilimsel ortamlarda (toplantılarda) tanıtır.
2 Alanında bilimsel araştırma yaparak bilgiye genişlemesine ve derinlemesine ulaşır, alanında güncel teknik ve yöntemler ile bunların kısıtları hakkında kapsamlı bilgiye sahip olup ve elde ettiği bilgiyi değerlendirir, yorumlar ve uygular. X
3 Alanı ile ilgili problemleri tanımlar ve formüle eder, yeni ve/veya özgün fikir ve yöntemler geliştirir; karmaşık sistem veya süreçleri tasarlar ve tasarımlarında yenilikçi/alternatif çözümler ile gelişmekte olan yenilikçi yöntemleri kullanır. X
4 Kuramsal, deneysel ve modelleme esaslı araştırmaları tasarlar ve uygular, belirsiz, sınırlı ya da eksik verileri bilimsel yöntemlerle tamamlar; verilerin toplanması, yorumlanması, duyurulması aşamalarında ve mesleki tüm etkinliklerde toplumsal, bilimsel ve etik değerleri gözetir.
5 Alanındaki uygulamaların sosyal, çevresel, sağlık, güvenlik, hukuki boyutlarını ve iş hayatı uygulamalarını bilir ve bunların getirdiği kısıtların farkındadır. Disiplin içi ve çok disiplinli takımlarda etkin bir biçimde birlikte ve ya bağımsız çalışabilir ve sorumluluk alır.
6 Her ölçekte yazılım sistemi için proje planlaması; zaman, kaynak, bütçe ve risk yönetimi yapar, alternatif çözüm yolları belirler.
# Ders Öğrenme Çıktılarının Program Çıktılarına Katkısı PÇ 1 PÇ 2 PÇ 3 PÇ 4 PÇ 5 PÇ 6
1 Understanding the deep learning architectures 0 5 5
Değerlendirme Sistemi
Yarıyıl Çalışmaları Katkı Oranı
1. Ara Sınav 100
Toplam 100
1. Final 40
1. Yıl İçinin Başarıya 60
Toplam 100
AKTS - İş Yükü Etkinlik Sayı Süre (Saat) Toplam İş Yükü (Saat)