Ders Adı Kodu Yarıyıl T+U Saat Kredi AKTS
Büyük Dil Modellerine Giriş SWE 422 8 3 + 0 3 5
Ön Koşul Dersleri
Önerilen Seçmeli Dersler

SWE 420 -  Natural Language Processing

SWE 405 - Deep Learning and Applications

Dersin Dili İngilizce
Dersin Seviyesi Lisans
Dersin Türü Seçmeli
Dersin Koordinatörü Dr.Öğr.Üyesi BEYZA EKEN
Dersi Verenler Dr.Öğr.Üyesi BEYZA EKEN,
Dersin Yardımcıları
Dersin Kategorisi Diğer
Dersin Amacı

Gaining an understanding of the architecture of Large Language Models (LLM).

Being familiar with practical LLM tasks such as fine-tuning and prompt engineering.

Dersin İçeriği
Kalkınma Amaçları
# Ders Öğrenme Çıktıları Öğretim Yöntemleri Ölçme Yöntemleri
Hafta Ders Konuları Ön Hazırlık
1 Büyük dil modellerinin yapıtaşları
2 Sinir ağı modelleri ve transformer mimarisi
3 Transformer ile eğitim
4 Maskeli dil modelleri
5 İnce ayar (fine-tuning)
6 Az veri ile çalışma
7 Komut verme
8 Bağlamdan öğrenme
9 Büyük dil modellerinin değerlendirilmesi
10 Büyük dil modellerinde anımsama
11 Kod tabanlı büyük dil modelleri
12 Büyük dil modellerinde açıklanabilirlik ve yorumlanabilirlik
13 Büyük dil modelleri uygulamalarının operasyonları (LLMOps)
14 Öğrenci Sunumları
Kaynaklar
Ders Notu
Ders Kaynakları

Speech and Language Processing, Jurafsky & Martin, 2024. 3rd Edition Draft.

Hands-On Large Language Models, Language Understanding and Generation. Alammar & Grootendorst, 2024. O'Reilly Media, Inc.

Natural Language Processing with Transformers, Building Language Applications with Hugging Face. Tunstall et al., 2022. O'Reilly Media, Inc.

Generative AI on AWS: Building context-aware multimodal reasoning applications. Fregly et al., 2023. O'Reilly Media, Inc.

Sıra Program Çıktıları Katkı Düzeyi
1 2 3 4 5
1 Matematik, fen bilimleri ve ilgili mühendislik disiplinine özgü konularda yeterli bilgi birikimi; bu alanlardaki kuramsal ve uygulamalı bilgileri, karmaşık mühendislik problemlerinde kullanabilme becerisi.
2 Karmaşık mühendislik problemlerini saptama, tanımlama, formüle etme ve çözme becerisi; bu amaçla uygun analiz ve modelleme yöntemlerini seçme ve uygulama becerisi.
3 Mühendislik uygulamalarında karşılaşılan karmaşık problemlerin analizi ve çözümü için gerekli olan modern teknik ve araçları geliştirme, seçme ve kullanma becerisi; bilişim teknolojilerini etkin bir şekilde kullanma becerisi.
4 Karmaşık bir sistemi, süreci, cihazı veya ürünü gerçekçi kısıtlar ve koşullar altında, belirli gereksinimleri karşılayacak şekilde tasarlama becerisi; bu amaçla modern tasarım yöntemlerini uygulama becerisi.
5 Karmaşık mühendislik problemlerinin veya disipline özgü araştırma konularının incelenmesi için deney tasarlama, deney yapma, veri toplama, sonuçları analiz etme ve yorumlama becerisi.
6 Bilişim Teknolojilerinin yönetim, denetim, gelişim ve güvenliği/güvenilirliği hakkında bilgi sahibi olma ve farkındalık.
7 Disiplin içi ve çok disiplinli takımlarda etkin biçimde çalışabilme becerisi; bireysel çalışma becerisi.
8 Türkçe sözlü ve yazılı etkin iletişim kurma becerisi; en az bir yabancı dil bilgisi; etkin rapor yazma ve yazılı raporları anlama, tasarım ve üretim raporları hazırlayabilme, etkin sunum yapabilme, açık ve anlaşılır talimat verme ve alma becerisi.
9 Yaşam boyu öğrenmenin gerekliliği bilinci; bilgiye erişebilme, bilim ve teknolojideki gelişmeleri izleme ve kendini sürekli yenileme becerisi.
10 Etik ilkelerine uygun davranma, mesleki ve etik sorumluluk bilinci; mühendislik uygulamalarında kullanılan standartlar hakkında bilgi.
11 Proje yönetimi, risk yönetimi ve değişiklik yönetimi gibi, iş hayatındaki uygulamalar hakkında bilgi; girişimcilik, yenilikçilik hakkında farkındalık; sürdürülebilir kalkınma hakkında bilgi.
12 Mühendislik uygulamalarının evrensel ve toplumsal boyutlarda sağlık, çevre ve güvenlik üzerindeki etkileri ve çağın mühendislik alanına yansıyan sorunları hakkında bilgi; mühendislik çözümlerinin hukuksal sonuçları konusunda farkındalık.
# Ders Öğrenme Çıktılarının Program Çıktılarına Katkısı PÇ 1 PÇ 2 PÇ 3 PÇ 4 PÇ 5 PÇ 6 PÇ 7 PÇ 8 PÇ 9 PÇ 10 PÇ 11 PÇ 12
Değerlendirme Sistemi
Yarıyıl Çalışmaları Katkı Oranı
1. Ara Sınav 46
1. Proje / Tasarım 38
1. Ödev 16
Toplam 100
1. Final 35
1. Yıl İçinin Başarıya 65
Toplam 100
AKTS - İş Yükü Etkinlik Sayı Süre (Saat) Toplam İş Yükü (Saat)
Ara Sınav 1 8 8
Proje / Tasarım 1 15 15
Final 1 15 15
Ders Süresi (Sınav haftası dahildir: 16x toplam ders saati) 16 3 48
Sınıf Dışı Ders Çalışma Süresi(Ön çalışma, pekiştirme) 16 2 32
Toplam İş Yükü 118
Toplam İş Yükü / 25 (Saat) 4,72
dersAKTSKredisi 5