Méthodes statistiques pour l'apprentissage et l'estimation robuste

Catalog of Télécom SudParis courses

Code

IGFF SIC 5014

Level

M2

Graduate

Graduate

Semester

Fall

Domain

Signal et Communications

Program

Programme Ingénieur

Language

Français/French

ECTS Credits

4

Class hours

45

Workload

90

Program Manager(s)

Department

  • Communications, Images et Traitement de l'information

Educational team

Organisation

Cours/TD/TP/projet/examen : 30/0/15

Learning objectives

- Connaitre l’utilité de modèles mathématiques dans des domaines appliqués
- Savoir traduire les modèles théoriques dans un langage « traitement du signal » et « apprentissage automatique »
- Développer des estimateurs robustes.
- Appréhender les algorithmes d’apprentissage distribué sur les graphes et d’apprentissage par renforcement

CDIO Skills

  • 1.1.1 - Mathematics (including statistics)
  • 1.2 - Core engineering fundamental knowledge and other disciplines
  • 1.3 - Advanced engineering fundamental knowledge, methods and tools
  • 2.1.2 - Modeling
  • 2.2.1 - Hypothesis Formulation
  • 2.2.2 - Survey of Print and Electronic Literature

Prerequisites

Bases de traitement du signal (module SIC3601), Bases en probabilités et statistiques (module MAT3601) et théorie des communications (module SIC3602)

Keywords

Apprentissage par renforcement, modèles probabilistes graphiques, estimation robuste

Content

- Méthodes d’apprentissage par renforcement :
- Processus de décision markovien
- Prédiction et contrôle basés sur modèle MDP (Méthodes de Programmation dynamique : Itération sur valeur et sur politique)
- Prédiction et contrôle sans modèle (Méthodes de Monte-Carlo, Méthodes d’apprentissage TD, Méthodes SARSA, Q-Learning, Double Q-Learning)
- Apprentissage par renforcement profond (Deep Q-learning, Double DQN, Dueling DQN, …)

- Méthodes probabilistes pour l’apprentissage automatique :
- Graphes factoriels dans les problèmes d’inférence et d’optimisation
- Algorithmes de propagation de croyance : min-somme et somme-produit
- Estimation paramétrique et apprentissage de modèles
- Méthodes d’inférence distribuée dans les processus discrets, continus et mixtes discrets-continus
- Application :théorie de l’information, jeux vidéos, traitement de la parole, optimisations discrète ; etc

Estimation robuste pour données non gaussiennes:
- rappels d’estimation paramétrique
- sensibiliser au problème de la mauvaise spécification du modèle
- borne de Cramér-Rao et estimateur de maximum de vraisemblance mal spécifiés
- une généralisation de la loi gaussienne : les distributions elliptiques
- estimation robuste pour données elliptiques
- Applications : machine learning, science de l’environnement, radar et sonar, génétique, finance, etc

Evaluation

La validation de cette UV est basée sur les notes attribuées pour chacune des parties indépendantes. Une épreuve écrite ou un TP noté est possible selon l’intervenant.
Note finale = Moyenne pondérée des notes de chaque partie

References

Supports de cours:
Documentation fournie par les intervenants
Bibliographie:
- R.S Sutton and A.G Barto. Reinforcement Learning :An Introduction, MIT Press, 2015.
- J. Pearl, Probabilistic Reasoning in Intelligent Systems: Networks of Plausible Inference, Morgan Kaufmann, 2014
- Peter J. Huber, Elvezio M. Ronchetti : Robust Statistics, 2009 John Wiley & Sons.