Τεχνητή Νοημοσύνη ΙΙ (Βαθιά Μηχανική Μάθηση για την Επεξεργασία Φυσικής Γλώσσας)

Εξάμηνο:
6ο
Τύπος Μαθήματος:
Προαιρετικό (ΠΜ)
Κατεύθυνση:
CS (Computer Science)
Κωδικός:
ΥΣ19
ECTS:
6
Διδακτικές Ώρες
Ώρες Θεωρίας:
3
Ώρες Φροντιστηρίου:
1
Ώρες Εργαστηρίου:
-
Μάθημα στις Ειδικεύσεις
Θεμελιώσεις Πληροφορικής (S1):
-
Διαχείριση Δεδομένων και Γνώσης (S2):
B Βασικό
Λογισμικό (S3):
-
Υλικό και Αρχιτεκτονική (S4):
-
Επικοινωνίες και Δικτύωση (S5):
-
Επεξεργασία Σήματος και Πληροφορίας (S6):
-
Σχετικά Μαθήματα
Αναλυτική Περιγραφή
Σύντομη περιγραφή Μαθήματος

Το μάθημα επικεντρώνεται στην μελέτη τεχνικών βαθιάς μάθησης (deep learning) και την χρήση τους για την επίλυση προβλημάτων επεξεργασίας φυσικής γλώσσας (natural language processing).

Τα θέματα που καλύπτονται είναι: introduction to machine learning, regression, perceptron, neural networks, backpropagation, deep neural network training, word vectors, word2vec and related models, language modeling and RNNs, vanishing gradients, LSTMs/GRUs, machine translation, seq2seq and attention, transformers, large language models (BERT, GPT family, GEMINI family etc.).

Οι εργασίες του μαθήματος γίνονται σε Python, SciKitLearn και PyTorch.

Βιβλιογραφία
  • Λεπτομερείς διαφάνειες από τις διαλέξεις.
  • Άλλο σχετικό υλικό που βρίσκεται στην ιστοσελίδα του μαθήματος.