SYS819 - Apprentissage profond

Au terme de ce cours, l’étudiante ou l'étudiant sera en mesure de maîtriser les différents types d'architectures neuronales pour l’apprentissage profond et leurs applications ; d’analyser les avantages et les limitations de ces architectures pour une application donnée.

Le cours est divisé en deux parties : la première partie du cours porte sur les architectures neuronales profondes, en particulier l’apprentissage supervisé des réseaux neuronaux convolutifs et récurrents. La deuxième partie du cours porte principalement sur la réduction de la complexité de ces architectures, l’apprentissage de modèles génératifs et l’apprentissage par renforcement.

Apprentissage profond : motivation et vision historique, niveau de supervision, réseaux multicouches, réseaux convolutifs, architectures, comparatives. Entraînement : rétropropagation, descente de gradient, régularisation, augmentation de données. Réseaux récurrents : propagation du gradient, réseaux LSTM, réseaux multi-résolutions, applications. Modèles génératifs : autoencoders, réseaux adversaires génératifs, applications. Apprentissage avec supervision réduite : modèles faiblement supervisés et partiellement supervisés, modèles attentifs, apprentissage curriculaire. Apprentissage par renforcement : processus de décision de Markov, programmation dynamique, différence temporelle, méthodes de Monte-Carlo, applications.