Théorie de l'information

Catalogue des cours de Télécom SudParis

Code

SIC 4002

Niveau

Graduate (M1)

Domaine

Signal et Communications

Langue d'enseignement

Français

Crédits ECTS

1

Heures programmées / Charge de travail

15 / 30

Responsable(s)

  • DESBOUVRIES Francois

Département

- Communications, Images et Traitement de l'information

Equipe pédagogique

  • DESBOUVRIES Francois
  • LAMBERTI Roger
  • URO Marc
  • LEHMANN Frederic

Objectif

- Acquérir les notions de base de la mesure de l'information.
- Etre familiariser avec les principes du codage de source sans perte.
- Etre familiariser avec les principes du codage de canal.

Contenu

Paradigme de Shannon
Mesure de l’information :
Incertitude, self information, information mutuelle, entropie, entropie conditionnelle, information mutuelle moyenne.
Codage de source sans perte :
Entropie d’une source discrète. Théorème du codage de source pour les codes à longueur variable. Premier théorème de Shannon. Codage de Huffman, de Lempel-Ziv.
Codage de canal :
Modélisation d’une chaîne de communications numériques. Capacité d’un canal. Deuxième théorème de Shannon.
Codes correcteurs d’erreurs :
Aptitude d’un code à détecter et à corriger des erreurs. Génération et détection d’un code correcteur d’erreurs.

Prérequis

 

Mots-clés

Mesure de l'information, Entropie d'une source, Codage de source sans perte, Capacité d'un canal, Codage correcteur d'erreurs

Evaluation

 

Approches pédagogiques

 

Programme

Programme Ingénieur

Fiche mise à jour : 09/04/2014 16:12:16