description

AMAL: Advanced MAchine Learning & Deep Learning Cours, TD & TP autour des architectures de l’état de l’art.

Objectifs

• Architectures de réseaux de neurones profonds
• Réseaux à convolution, réseaux récurrents
• Modèles d’attention
• Graphes de calcul et auto-différentiation
• Formation aux outils de l’état de l’art: pytorch & tensor flow
• Approfondissement des concepts fondateurs du machine learning
• Théorie de l’apprentissage statistique, capacité de généralisation, dilemme biais-variance, PAC, complexité d’apprentissage ,etc…
• Apprentissage Supervisé : Classification, Réseaux de Neurones, Machines à vecteurs de support, Méthodes à noyaux, processus Gaussiens, etc…
• Optimisation
• Apprentissage non supervisé : Clustering, Factorisation matricielle, Modèles à variables latentes (mélanges, etc)
• Autre paradigmes d’apprentissage : Apprentissage faiblement supervisé, Apprentissage semi-supervisé et transductif, Apprentissage actif, Transfer Learning
• Apprentissage et données structurées : Séquences et arbres, Graphes et données inter-dépendantes.

Index

• TME 1 : Descente de gradient pytorch-like
• TME 2 : Pytorch
• TME 3 : Auto-encodeurs