Βιβλιογραφία
- Λεπτομερείς διαφάνειες από τις διαλέξεις.
- Άλλο σχετικό υλικό που βρίσκεται στην ιστοσελίδα του μαθήματος.
Το μάθημα επικεντρώνεται στην μελέτη τεχνικών βαθιάς μάθησης (deep learning) και την χρήση τους για την επίλυση προβλημάτων επεξεργασίας φυσικής γλώσσας (natural language processing).
Τα θέματα που καλύπτονται είναι: introduction to machine learning, regression, perceptron, neural networks, backpropagation, deep neural network training, word vectors, word2vec and related models, language modeling and RNNs, vanishing gradients, LSTMs/GRUs, machine translation, seq2seq and attention, transformers, large language models (BERT, GPT family, GEMINI family etc.).
Οι εργασίες του μαθήματος γίνονται σε Python, SciKitLearn και PyTorch.