Techniques avancées d'inference statistique

ASI
Abstract

Ce cours se concentre sur les principes de l'apprentissage automatique à partir des données et la quantification de l'incertitude, en complétant et enrichissant le cours « Introduction à l'Apprentissage Statistique ».

En particulier, le cours est divisé en deux parties principales qui correspondent aux paradigmes d'apprentissage supervisés et non supervisés. La présentation du matériel suit un fil conducteur basé sur l'approche de modélisation probabiliste des données, de sorte que de nombreux algorithmes classiques, tels que les « least-square » et les « k-means », peuvent être considérés comme des cas particuliers de problèmes d'inférence pour des modèles probabilistes plus généraux. La prise de vue probabiliste permet également au cours de dériver des algorithmes d'inférence pour une classe de modèles non paramétriques qui ont des connexions étroites avec des réseaux neuronaux et des « support vector machines ». Comme dans le cas du cours « Introduction à l'Apprentissage Statistique », l'accent n'est pas mis sur la description algorithmique des méthodes, mais plutôt sur leurs fondements mathématiques et statistiques. Ce cours avancé est complété par des sessions de travaux pratiques pour guider les élèves à travers la conception et la validation des méthodes développées dans les cours.

Modalités pédagogiques : Cours magistraux et séances de travaux pratiques (de préférence un étudiant par groupe).

Règles du cours: La participation aux séances de travaux pratiques est obligatoire.

Bibliography
  • Livre : BISHOP M. PatternRecognition and Machine Learning. Springer-Verlag, 2006, 768p.
  • Livre : ROGERS S., GIROLAMI M. A First Course in Machine Learning. Chapman & HallCRC press, 2011, 30p.

Requirements

Connaissance de base de l'algèbre et du calcul différentiel et intégral.

Description

Le cours couvrira une sélection des sujets suivants:

·         Introduction

o   Récapitulatif de l'algèbre linéaire et du calcul différentiel et intégral

o   Aperçu de la théorie des probabilités

·          Apprentissage supervisé

o   Régression linéaire

o   Classification linéaire

o   Classification Bayésienne

o   Méthodes « kernel »pour la régression non linéaire et la classification

·         L'apprentissage non supervisé

o   K-means et Kernel K_means

o   Modèles de Gaussian Mixture

o   Analyse des composantes principales (PCA) et Kernel PCA

·         Thèmes avancés

o   Dirichlet Processes

o   Gaussian Processes

o   Inférence variationnelle

o   Markov chain Monte Carlo

Objectifs d'apprentissage :

  • Identifier les éléments clés composant un modèle probabiliste donné
  • Reconnaître la pertinence de différents modèles probabilistes en raison d'un problème d'apprentissage automatique
  • Utiliser les techniques appropriées pour dériver des algorithmes probabilistiques d'apprentissage automatique
  • Développer des logiciels de preuve de concept pour établir des analyses de données à l'aide d'algorithmes probabilistes d'apprentissage automatique

Nb heures : 42.00, dont 4 séances de travaux pratiques (12 heures)

Evaluation :

  • Exercice évalué (25% de la note finale)
  • Examen final écrit (75% de la note finale)