| Ders Adı | Kodu | Yarıyıl | T+U Saat | Kredi | AKTS |
|---|---|---|---|---|---|
| Büyük Dil Modellerine Giriş | SWE 422 | 8 | 3 + 0 | 3 | 5 |
| Ön Koşul Dersleri | |
| Önerilen Seçmeli Dersler | SWE 420 - Natural Language Processing SWE 405 - Deep Learning and Applications |
| Dersin Dili | İngilizce |
| Dersin Seviyesi | Lisans |
| Dersin Türü | Seçmeli |
| Dersin Koordinatörü | Dr.Öğr.Üyesi BEYZA EKEN |
| Dersi Verenler | Dr.Öğr.Üyesi BEYZA EKEN, |
| Dersin Yardımcıları | |
| Dersin Kategorisi | Diğer |
| Dersin Amacı | Gaining an understanding of the architecture of Large Language Models (LLM). Being familiar with practical LLM tasks such as fine-tuning and prompt engineering. |
| Dersin İçeriği |
| Kalkınma Amaçları |
|---|
|
| # | Ders Öğrenme Çıktıları | Öğretim Yöntemleri | Ölçme Yöntemleri |
|---|---|---|---|
| 1 | Büyük Dil Modellerinin (LLM) temel mimarisini ve çalışma prensiplerini açıklar. | ||
| 2 | LLM uyarlama ve kullanım stratejilerini analiz eder. | ||
| 3 | Basit bir LLM tabanlı uygulama geliştirir. | ||
| 4 | LLM çıktılarının doğruluğunu ve sınırlılıklarını değerlendirir. | ||
| 5 | LLM alanındaki güncel konuları araştırır, analiz eder ve teknik içeriği anlaşılır biçimde sözlü olarak sunar. |
| Hafta | Ders Konuları | Ön Hazırlık |
|---|---|---|
| 1 | Büyük dil modellerinin yapıtaşları | |
| 2 | Transformer mimarisi | |
| 3 | Transformer ile eğitim, tokenizasyon, ince ayar (fine-tuning) | |
| 4 | Maskeli dil modelleri | |
| 5 | Metin üretme | |
| 6 | İstem mühendisliği | |
| 7 | Retrieval-Augmented Generation (RAG) | |
| 8 | Vize | |
| 9 | Büyük dil modellerinin değerlendirilmesi | |
| 10 | Büyük dil modellerinde halüsinasyon, anımsama | |
| 11 | Büyük dil modellerinde açıklanabilirlik ve yorumlanabilirlik | |
| 12 | Büyük dil modelleri ajanları, uygulamalarının operasyonları (LLMOps) | |
| 13 | Öğrenci sunumları ve tartışma | |
| 14 | Öğrenci sunumları ve tartışma |
| Kaynaklar | |
|---|---|
| Ders Notu | |
| Ders Kaynakları | Speech and Language Processing, Jurafsky & Martin, 2024. 3rd Edition Draft. Hands-On Large Language Models, Language Understanding and Generation. Alammar & Grootendorst, 2024. O'Reilly Media, Inc. Natural Language Processing with Transformers, Building Language Applications with Hugging Face. Tunstall et al., 2022. O'Reilly Media, Inc. Generative AI on AWS: Building context-aware multimodal reasoning applications. Fregly et al., 2023. O'Reilly Media, Inc. |
| Sıra | Program Çıktıları | Katkı Düzeyi | |||||
|---|---|---|---|---|---|---|---|
| 1 | 2 | 3 | 4 | 5 | |||
| 1 | Mühendislik Bilgisi: Matematik, fen bilimleri, temel mühendislik, bilgisayarla hesaplama ve ilgili mühendislik disiplinine özgü konularda bilgi; bu bilgileri, karmaşık mühendislik problemlerinin çözümünde kullanabilme becerisi. | X | |||||
| 2 | Problem Analizi: Karmaşık mühendislik problemlerini, temel bilim, matematik ve mühendislik bilgilerini kullanarak ve ele alınan problemle ilgili BM Sürdürülebilir Kalkınma Amaçlarını gözeterek tanımlama, formüle etme ve analiz becerisi. | X | |||||
| 3 | Mühendislik Tasarımı: Karmaşık mühendislik problemlerine yaratıcı çözümler tasarlama becerisi; karmaşık sistemleri, süreçleri, cihazları veya ürünleri gerçekçi kısıtları ve koşulları gözeterek, mevcut ve gelecekteki gereksinimleri karşılayacak biçimde tasarlama becerisi. | X | |||||
| 4 | Teknik ve Araçların Kullanımı: Karmaşık mühendislik problemlerinin analizi ve çözümüne yönelik, tahmin ve modelleme de dahil olmak üzere, uygun teknikleri, kaynakları ve modern mühendislik ve bilişim araçlarını, sınırlamalarının da farkında olarak seçme ve kullanma becerisi. | X | |||||
| 5 | Araştırma ve İnceleme: Karmaşık mühendislik problemlerinin incelenmesi için literatür araştırması, deney tasarlama, deney yapma, veri toplama, sonuçları analiz etme ve yorumlama dahil, araştırma yöntemlerini kullanma becerisi. | X | |||||
| 6 | Mühendislik Uygulamalarının Küresel Etkisi: Mühendislik uygulamalarının BM Sürdürülebilir Kalkınma Amaçları* kapsamında, topluma, sağlık ve güvenliğe, ekonomiye, sürdürülebilirlik ve çevreye etkileri hakkında bilgi; mühendislik çözümlerinin hukuksal sonuçları konusunda farkındalık. | X | |||||
| 7 | Mühendislik Etiği: Mühendislik meslek ilkelerine* uygun davranma, etik sorumluluk hakkında bilgi; hiçbir konuda ayrımcılık yapmadan, tarafsız davranma ve çeşitliliği kapsayıcı olma konularında farkındalık. | X | |||||
| 8 | Bireysel ve Takım Çalışması: Bireysel olarak ve disiplin içi ve çok disiplinli takımlarda (yüz yüze, uzaktan veya karma) takım üyesi veya lideri olarak etkin biçimde çalışabilme becerisi. | X | |||||
| 9 | Sözlü ve Yazılı İletişim: Hedef kitlenin çeşitli farklılıklarını (eğitim, dil, meslek gibi) dikkate alarak, teknik konularda sözlü, yazılı etkin iletişim kurma becerisi. | X | |||||
| 10 | Proje Yönetimi: Proje yönetimi ve ekonomik yapılabilirlik analizi gibi iş hayatındaki uygulamalar hakkında bilgi; girişimcilik ve yenilikçilik hakkında farkındalık. | X | |||||
| 11 | Yaşam Boyu Öğrenme: Bağımsız ve sürekli öğrenebilme, yeni ve gelişmekte olan teknolojilere uyum sağlayabilme ve teknolojik değişimlerle ilgili sorgulayıcı düşünebilmeyi kapsayan yaşam boyu öğrenme becerisi. | ||||||
| # | Ders Öğrenme Çıktılarının Program Çıktılarına Katkısı | PÇ 1 | PÇ 2 | PÇ 3 | PÇ 4 | PÇ 5 | PÇ 6 | PÇ 7 | PÇ 8 | PÇ 9 | PÇ 10 | PÇ 11 |
|---|---|---|---|---|---|---|---|---|---|---|---|---|
| 1 | Büyük Dil Modellerinin (LLM) temel mimarisini ve çalışma prensiplerini açıklar. | |||||||||||
| 2 | LLM uyarlama ve kullanım stratejilerini analiz eder. | |||||||||||
| 3 | Basit bir LLM tabanlı uygulama geliştirir. | |||||||||||
| 4 | LLM çıktılarının doğruluğunu ve sınırlılıklarını değerlendirir. | |||||||||||
| 5 | LLM alanındaki güncel konuları araştırır, analiz eder ve teknik içeriği anlaşılır biçimde sözlü olarak sunar. |
| Değerlendirme Sistemi | |
|---|---|
| Yarıyıl Çalışmaları | Katkı Oranı |
| Toplam | 0 |
| Toplam | 0 |
| AKTS - İş Yükü Etkinlik | Sayı | Süre (Saat) | Toplam İş Yükü (Saat) |
|---|---|---|---|
| Ara Sınav | 1 | 10 | 10 |
| Final | 1 | 15 | 15 |
| Ders Süresi (Sınav haftası dahildir: 16x toplam ders saati) | 16 | 3 | 48 |
| Sınıf Dışı Ders Çalışma Süresi(Ön çalışma, pekiştirme) | 16 | 1 | 16 |
| Ödev | 2 | 7 | 14 |
| Performans Görevi (Seminer) | 1 | 10 | 10 |
| Toplam İş Yükü | 113 | ||
| Toplam İş Yükü / 25 (Saat) | 4,52 | ||
| dersAKTSKredisi | 5 | ||