SYS819 Apprentissage profond

Au terme de ce cours, l’étudiant sera en mesure :

• de maîtriser les différents types d'architectures neuronales pour l’apprentissage profond et leurs applications;
• d’analyser les avantages et les limitations de ces architectures pour une application donnée.

Le cours est divisé en deux parties :

• la première partie porte sur les architectures neuronales profondes, en particulier l’apprentissage supervisé des réseaux neuronaux convolutifs et récurrents.
• la deuxième partie porte principalement sur la réduction de la complexité de ces architectures, l’apprentissage de modèles génératifs et l’apprentissage par renforcement.

Apprentissage profond : motivation et vision historique, niveau de supervision, réseaux multicouches, réseaux convolutifs, architectures, comparatives. Entraînement : rétropropagation, descente de gradient, régularisation, augmentation de données. Réseaux récurrents : propagation du gradient, réseaux LSTM, réseaux multi-résolutions, applications. Modèles génératifs : autoencoders, réseaux adversaires génératifs, applications. Apprentissage avec supervision réduite : modèles faiblement supervisés et partiellement supervisés, modèles attentifs, apprentissage curriculaire. Apprentissage par renforcement : processus de décision de Markov, programmation dynamique, différence temporelle, méthodes de Monte-Carlo, applications.