| Ders Adı | Kodu | Yarıyıl | T+U Saat | Kredi | AKTS |
|---|---|---|---|---|---|
| Representatıon Learnıng | SWE 532 | 0 | 3 + 0 | 3 | 6 |
| Ön Koşul Dersleri | Pattern recognition and machine learning |
| Önerilen Seçmeli Dersler | |
| Dersin Dili | İngilizce |
| Dersin Seviyesi | YUKSEK_LISANS |
| Dersin Türü | Seçmeli |
| Dersin Koordinatörü | Doç.Dr. İBRAHİM DELİBAŞOĞLU |
| Dersi Verenler | |
| Dersin Yardımcıları | |
| Dersin Kategorisi | Diğer |
| Dersin Amacı | Today, the fundamental challenge in deep learning is the automated extraction of meaningful and useful information from large datasets. Moving beyond traditional manual feature engineering, this course aims to teach how to generate representations that capture the essence of data through supervised, unsupervised, and self-supervised learning paradigms. Students will gain a theoretical and practical understanding of modern, foundational methods that radically improve the performance of artificial intelligence applications. |
| Dersin İçeriği | Starting with fundamentals such as PCA and Word2Vec, the course advances into topics like Autoencoders and Generative Adversarial Networks. The focus lies on modern Contrastive Learning and Self-Supervised Learning techniques, as well as Transformer-based representation learning methods for Time Series and Natural Language Processing. Additionally, concepts of disentangled and causal representations are explored, enabling students to gain proficiency through hands-on projects. |
| Özel Koşullar | |
| Sektör Desteği | |
| Destekleyen Firma | |
| Destekleyen Eğitmen |
| # | Ders Öğrenme Çıktıları | Öğretim Yöntemleri | Ölçme Yöntemleri |
|---|---|---|---|
| 1 | Understanding the deep learning architectures | Anlatım, | Ödev / Evde-Çöz Sınavlar, |
| Hafta | Ders Konuları | Ön Hazırlık |
|---|---|---|
| 1 | Introduction Representation Learning | |
| 2 | Linear Representation and text embeddings | |
| 3 | Autoencoders | |
| 4 | VAEs | |
| 5 | Advanced VAEs | |
| 6 | GANs as Representation Learners | |
| 7 | Diffusion Models for Representations | |
| 8 | Self-supervised learning | |
| 9 | Contrastive learning | |
| 10 | BYOL and DINO | |
| 11 | Transformer-based Representation Learning | |
| 12 | Representation Learning for Time Series | |
| 13 | Causal Representation | |
| 14 | Causal Representation |
| Kaynaklar | |
|---|---|
| Ders Notu | |
| Ders Kaynakları | Bengio, Y., Courville, A., & Vincent, P. (2013). "Representation Learning: A Review and New Perspectives." Goodfellow, I., Bengio, Y., & Courville, A. (2016). Deep Learning. Balestriero, Randall, et al. "A cookbook of self-supervised learning." (2023).
|
| Sıra | Program Çıktıları | Katkı Düzeyi | |||||
|---|---|---|---|---|---|---|---|
| 1 | 2 | 3 | 4 | 5 | |||
| 1 | Yaşadığı toplumun bilgi toplumu olmasına katkıda bulunmak, toplumsal, bilimsel, kültürel ve etik sorunlara çözüm sunmak amaçlarıyla alanındaki bilimsel, teknolojik, sosyal veya kültürel ilerlemeleri ulusal ve uluslararası bilimsel ortamlarda (toplantılarda) tanıtır. | ||||||
| 2 | Alanında bilimsel araştırma yaparak bilgiye genişlemesine ve derinlemesine ulaşır, alanında güncel teknik ve yöntemler ile bunların kısıtları hakkında kapsamlı bilgiye sahip olup ve elde ettiği bilgiyi değerlendirir, yorumlar ve uygular. | X | |||||
| 3 | Alanı ile ilgili problemleri tanımlar ve formüle eder, yeni ve/veya özgün fikir ve yöntemler geliştirir; karmaşık sistem veya süreçleri tasarlar ve tasarımlarında yenilikçi/alternatif çözümler ile gelişmekte olan yenilikçi yöntemleri kullanır. | X | |||||
| 4 | Kuramsal, deneysel ve modelleme esaslı araştırmaları tasarlar ve uygular, belirsiz, sınırlı ya da eksik verileri bilimsel yöntemlerle tamamlar; verilerin toplanması, yorumlanması, duyurulması aşamalarında ve mesleki tüm etkinliklerde toplumsal, bilimsel ve etik değerleri gözetir. | ||||||
| 5 | Alanındaki uygulamaların sosyal, çevresel, sağlık, güvenlik, hukuki boyutlarını ve iş hayatı uygulamalarını bilir ve bunların getirdiği kısıtların farkındadır. Disiplin içi ve çok disiplinli takımlarda etkin bir biçimde birlikte ve ya bağımsız çalışabilir ve sorumluluk alır. | ||||||
| 6 | Her ölçekte yazılım sistemi için proje planlaması; zaman, kaynak, bütçe ve risk yönetimi yapar, alternatif çözüm yolları belirler. | ||||||
| # | Ders Öğrenme Çıktılarının Program Çıktılarına Katkısı | PÇ 1 | PÇ 2 | PÇ 3 | PÇ 4 | PÇ 5 | PÇ 6 |
|---|---|---|---|---|---|---|---|
| 1 | Understanding the deep learning architectures | 0 | 5 | 5 |
| Değerlendirme Sistemi | |
|---|---|
| Yarıyıl Çalışmaları | Katkı Oranı |
| 1. Ara Sınav | 100 |
| Toplam | 100 |
| 1. Final | 40 |
| 1. Yıl İçinin Başarıya | 60 |
| Toplam | 100 |
| AKTS - İş Yükü Etkinlik | Sayı | Süre (Saat) | Toplam İş Yükü (Saat) |
|---|