Code
IGYF CSC 8608
Niveau
M2
Graduate
Graduate
Semestre
Fall
Domaine
Informatique
Programme
Programme Ingénieur
Langue
Français/French
Crédits ECTS
4
Heures programmées
45,5
Charge de travail
45,5
Coordonnateur(s)
Département
- Informatique
Organisation
Cours/TD/TP/projet/examen : Cours, TP, projet, examenAcquis d'apprentissage
À la fin du cours, les étudiants seront capables de :
* Expliquer et implémenter les concepts avancés de deep learning.
* Utiliser les grands modèles de langage et transformers pour des tâches complexes.
* Concevoir des modèles robustes et interprétables adaptés à des contraintes réelles.
* Appliquer des approches avancées comme le deep reinforcement learning, les GANs ou la knowledge distillation.
* Développer et déployer une application IA complète, centrée sur les utilisateurs.
* Critiquer les approches IA sous l’angle de l’éthique et de la robustesse.
Compétences CDIO
- 1.3 - Connaissances avancées en ingénierie : méthodes et outils
- 2.2 - Méthodes scientifiques : expérimentation, enquête et initiation à la recherche
- 2.2.2 - Etat de l'art
Prérequis
Connaissance des concepts fondamentaux en deep learning : réseaux neuronaux convolutionnels, récurrents et de base (LSTM, GRU). Programmation en Python avec TensorFlow ou PyTorch. Bases en algèbre linéaire, optimisation et probabilités. Familiarité avec les notions de machine learning supervisé et non supervisé.
Mots-clés
Deep learning avancé, grands modèles de langage, transformers, GAN, diffusion, graph neural networks, reinforcement learning, mixture of experts, knowledge distillation, interprétabilité, robustesse, IA neuro-symbolique, déploiement IA, applications IA
Contenu
Le cours vise à former des ingénieurs maîtrisant les technologies de pointe en IA. Les sujets couverts incluent :
* Modèles génératifs avancés (GANs, diffusion).
* Réseaux neuraux spécialisés (GNNs, mixture of experts).
* Applications avancées de LLMs et transformers.
* Approches modernes d’apprentissage par renforcement.
* Méthodes de compression et distillation de connaissances.
* Techniques pour l’interprétabilité et la robustesse des modèles.
* Déploiement des modèles en production et interaction avec des systèmes neuro-symboliques.
Evaluation
Total : 20 points.
Note minimale pour valider le cours : 10/20.
Critères :
* Rigueur et exactitude scientifique.
* Qualité de la mise en œuvre technique.
* Originalité et innovation dans les projets.
* Compréhension démontrée dans le contrôle final.
Formule de l'évaluation
* Contrôles continus (4 points) : QCM et mini-exercices pratiques lors de sessions dédiées.
* Projets (8 points) : Un projet par groupe, évalué sur la conception, la mise en œuvre et la présentation finale.
* Contrôle final (8 points) : Un examen individuel comprenant théorie et programmation.
Bibliographie
https://www-inf.telecom-sudparis.eu/COURS/CSC8608/Supports/
Approches pédagogiques
Le cours allie théorie et pratique avec :
* Cours magistraux pour introduire les concepts avancés.
* Travaux pratiques (TP) pour appliquer les techniques étudiées sur des cas réels.
* Projets de groupe visant à développer une solution complète en IA.
* Études de cas et séminaires pour explorer les applications et les tendances de recherche.
* Discussions ouvertes sur les défis éthiques et la robustesse de l’IA.