Apprentissage automatique pour systèmes de communication

MALCOM
Abstract

Ce cours présente les concepts fondamentaux de l’apprentissage automatique (ou machine learning – ML) avec des applications aux systèmes en réseau et à l’Internet des objets intelligents (IoT). Les étudiants acquerront des connaissances de base sur les méthodes de pointe, y compris les auto-encadeurs, les modèles génératifs profonds et l’apprentissage par renforcement. Ils se familiariseront également avec les cadres fondamentaux issus de la théorie de l’information (information Bottleneck) et les principes théoriques. Nous introduirons également l’apprentissage distribué et décentralisée à grande échelle sur des réseaux sans fil, notamment sous contrainte (temps de réalisation, ressources radio, efficacité de calcul etc.). Enfin, nous soulignerons les principaux défis théoriques et pratiques, ainsi que les sujets émergents, tels que la fiabilité, l’équité et l’efficacité énergétique.

Modalités pédagogiques : Cours magistraux, séances d’exercices, et travaux pratiques. Chaque cours commence par résumer les concepts clés du cours précédent. Une partie de chaque cours est souvent consacrée à des exemples illustratifs et des exercices.

Règles du cours: La présence aux travaux pratiques est obligatoire. La présence aux cours magistraux est fortement recommandée.

Bibliography
  • Livre :  SHALEV-SHWARTZ S., BEN-DAVID S. Understanding Machine Learning. Cambridge University Press, 2014, 410p.

  • Livre : MOHRI M., ROSTAMIZADEH A., TALWALKAR A. Foundations of Machine Learning. MIT Press, 2012, 412p.

Requirements

Connaissances de base en algèbre linéaire, en probabilités et en analyse réelle.

Description

1. Techniques d'apprentissage automatique

  • Préliminaires et récapitulatif sur les bases du ML
  • Principes de base de l'apprentissage en profondeur
  • Auto-encodeurs et systèmes de communication de bout en bout
  • Modèles génératifs profonds (VAE et GAN)
  • Applications aux systèmes autonomes en réseau et IoIT

2. Aspects théoriques

  • Mesures théoriques de l'information
  • Distances statistiques
  • Information bottleneck et théorie débit-distorsion

3. Apprentissage automatique distribué sur les réseaux

  • Optimisation distribuée dans des systèmes à ressources limitées
  • Apprentissage distribué en périphérie efficace en termes de communication

    • Apprentissage fédéré

      • Apprentissage décentralisé
      • Apprentissage à faible latence et sur l’appareil

4. Apprentissage par renforcement

  • Processus de décision Markovien
  • Méthodes de Q-learning et d’optimisation des politiques
  • Apprentissage par renforcement profond (DRL)
  • Systèmes multi-agents

5. Sujets émergents

  • Fiabilité et équité
  • Explicabilité et interprétabilité
  • IA durable et verte

Objectifs d'apprentissage :

  • Comprendre les fondamentaux de l'apprentissage automatique et de l’apprentissage profond

  • Appliquer des algorithmes d'apprentissage automatique aux problèmes de système de communication et les systèmes en réseau ;

  • Comprendre les aspects de communication impliqués dans l’apprentissage automatique en périphérie ;

  • Suivre les développements récents et les directions émergentes dans la théorie et les applications de l’apprentissage automatique.

Nb d'heures : 42 heures.

Evaluation :

  • Rapports de travaux pratiques (30% de la note finale),
  • Examen final (70% de la note finale) – écrit.