Lecturer: F. Rossi
Period: Term 3
ECTS: 6
Schedule: 2h lecture + 2h Tutorials per week
Résumé : L'objectif de ce cours est de proposer un point de vue
probabiliste sur l'apprentissage automatique en s'appuyant
essentiellement sur des modèles génératifs. La démarche étudiée consiste
à spécifier des lois possibles pour les données étudiées grâce à des
modèles graphiques. L'ajustement aux données se fait dans un premier
temps par estimation ponctuelle basée sur le maximum de vraisemblance.
Nous étudions en particulier l'algorithme EM et ses extensions
variationnelles. Dans un deuxième temps nous introduisons les principes
d'estimation bayésienne. Les modèles étudiés dans ce cours sont
essentiellement consacrés à l'apprentissage non supervisée (clustering)
avec quelques exceptions comme le classifieur bayésien naïf et les
processus gaussiens pour la régression.
Plan :
1) Spécification d'une loi par un modèle graphique
2) Estimation ponctuelle par maximum de vraisemblance
3) Estimation bayésienne sur des modèles simples
4) Régression linéaire : estimation simple et version bayésienne
5) Classification supervisée : classifieur bayésien naïf et régression
logistique
6) Modèles de mélange et algorithme EM
7) Sélection de modèle
8) Version générale de l'algorithme EM
9) Modèle de Markov caché
10) Stochastic Block Model et EM variationnel
11) Processus gaussien en régression
12) Modèles graphiques non orientés et belief propagation
