Code
IGYF CSC 8608
Level
M2
Graduate
Graduate
Semester
Fall
Domain
Informatique
Program
Programme Ingénieur
Language
Français/French
ECTS Credits
4
Class hours
42
Workload
42
Program Manager(s)
Department
- Informatique
Organisation
Cours/TD/TP/projet/examen : Cours, TP, projet, examenLearning objectives
À la fin du cours, les étudiants seront capables de :
* Expliquer et implémenter les concepts avancés de deep learning.
* Utiliser les grands modèles de langage et transformers pour des tâches complexes.
* Concevoir des modèles robustes et interprétables adaptés à des contraintes réelles.
* Appliquer des approches avancées comme le deep reinforcement learning, les GANs ou la knowledge distillation.
* Développer et déployer une application IA complète, centrée sur les utilisateurs.
* Critiquer les approches IA sous l’angle de l’éthique et de la robustesse.
CDIO Skills
- 1.3 - Advanced engineering fundamental knowledge, methods and tools
- 2.2 - Experimentation, investigation and knowledge discovery
- 2.2.2 - Survey of Print and Electronic Literature
Prerequisites
Connaissance des concepts fondamentaux en deep learning : réseaux neuronaux convolutionnels, récurrents et de base (LSTM, GRU). Programmation en Python avec TensorFlow ou PyTorch. Bases en algèbre linéaire, optimisation et probabilités. Familiarité avec les notions de machine learning supervisé et non supervisé.
Keywords
Deep learning avancé, grands modèles de langage, transformers, GAN, diffusion, graph neural networks, reinforcement learning, mixture of experts, knowledge distillation, interprétabilité, robustesse, IA neuro-symbolique, déploiement IA, applications IA
Content
Le cours vise à former des ingénieurs maîtrisant les technologies de pointe en IA. Les sujets couverts incluent :
* Modèles génératifs avancés (GANs, diffusion).
* Réseaux neuraux spécialisés (GNNs, mixture of experts).
* Applications avancées de LLMs et transformers.
* Approches modernes d’apprentissage par renforcement.
* Méthodes de compression et distillation de connaissances.
* Techniques pour l’interprétabilité et la robustesse des modèles.
* Déploiement des modèles en production et interaction avec des systèmes neuro-symboliques.
Evaluation
Total : 20 points.
Note minimale pour valider le cours : 10/20.
Critères :
* Rigueur et exactitude scientifique.
* Qualité de la mise en œuvre technique.
* Originalité et innovation dans les projets.
* Compréhension démontrée dans le contrôle final.
Assessment formula
* Contrôles continus (4 points) : QCM et mini-exercices pratiques lors de sessions dédiées.
* Projets (8 points) : Un projet par groupe, évalué sur la conception, la mise en œuvre et la présentation finale.
* Contrôle final (8 points) : Un examen individuel comprenant théorie et programmation.
References
https://www-inf.telecom-sudparis.eu/COURS/CSC8608/Supports/
Pedagogical methods
Le cours allie théorie et pratique avec :
* Cours magistraux pour introduire les concepts avancés.
* Travaux pratiques (TP) pour appliquer les techniques étudiées sur des cas réels.
* Projets de groupe visant à développer une solution complète en IA.
* Études de cas et séminaires pour explorer les applications et les tendances de recherche.
* Discussions ouvertes sur les défis éthiques et la robustesse de l’IA.