MTI880

L'objectif du cours est d'utiliser les mathématiques pour explorer certains aspects du fonctionnement des réseaux de neurones profonds. Plus précisément, au terme de ce cours, l'étudiant ou l'étudiante sera en mesure :

• de comprendre les fondements du fonctionnement des réseaux de neurones profonds et d'interpréter mathématiquement la mécanique de ceux-ci.
• d'utiliser différents outils mathématiques pour améliorer l'implémentation d'un réseau de neurones.
• d'identifier et de comprendre certains obstacles à l'apprentissage et d'expliquer mathématiquement le fonctionnement de certaines techniques de régularisation.
• de comprendre différents aspects théoriques des réseaux de neurones, notamment leur universalité et le rôle de la profondeur dans l'expressivité.
• de comprendre les fondements de l'apprentissage géométrique et d'identifier les aspects mathématiques à considérer dans la confection d'un réseau qui vise à apprendre sur des espaces non-euclidiens.
• d'expliquer le fonctionnement mathématique de certaines techniques de réduction de la dimension.
• d'expliquer certaines concepts mis de l'avant dans la recherche récente : autoencodeurs variationnels, réseaux adversairiels génératifs, réseaux Bayésiens.
• de lire certains articles scientifiques de pointe sur la recherche active en deep learning et d'en expliquer les idées principales.