Contenu du Cours
1
Génération de texte avancée (LLMs)
56 heures
Introduction au chapitre
Scaling laws : pourquoi les LLMs marchent
Tokenization approfondie : BPE et SentencePiece
Supervised Fine-Tuning : créer un assistant
RLHF : l'alignement par récompense humaine
DPO : l'alternative simple au RLHF
Constitutional AI et RLAIF
QLoRA : fine-tuner un 7B sur Colab
Évaluation d'un LLM : benchmarks et eval humaine
Hallucinations : pourquoi et comment limiter
TP : fine-tuning Llama-3 8B avec QLoRA
TP : DPO sur dataset de preferences
TP : creer un assistant thematique specialise
Synthese generation de texte
2
Génération d'images
60 heures
Introduction au chapitre
Panorama des modèles génératifs d'images
Autoencoders et VAE : compresser puis générer
GAN : l'idée originale
DCGAN : génération de visages
StyleGAN et CycleGAN : les évolutions
Modèles de diffusion : l'intuition
DDPM et DDIM en détail
Stable Diffusion : latent diffusion en production
Classifier-free guidance et conditionnement
Diffusers : la bibliothèque Hugging Face
Text-to-image, image-to-image, inpainting
ControlNet : conditionnement avancé
TP : VAE sur MNIST + DCGAN visages
TP : LoRA Stable Diffusion sur style custom
3
Multimodal
40 heures
Introduction au chapitre
Panorama du multimodal
CLIP : aligner texte et image
Recherche d'images par texte avec CLIP
BLIP : captioning d'images
LLaVA et les VLMs : question answering visuel
GPT-4V, Claude Vision, Gemini : les modèles commerciaux
Audio : Whisper pour l'ASR
Génération audio : MusicGen et Bark
Text-to-speech et cloning vocal
TP : captioning d'images avec BLIP
TP : pipeline vidéo → transcription → résumé → image
Synthèse multimodal
4
Entraînement à grande échelle
54 heures
Introduction au chapitre
Préparation de datasets massifs : curation et qualité
Distributed training : DP et DDP
FSDP et DeepSpeed ZeRO
Gradient checkpointing
Quantization : GGUF, AWQ, GPTQ
bitsandbytes : 8-bit et 4-bit quantization
Inférence optimisée : vLLM
Inférence locale : llama.cpp et Ollama
Benchmark latence et throughput
TP : DDP multi-GPU sur Colab/Kaggle
TP : quantization 4-bit d'un LLM
TP : serving vLLM + benchmark
Projet majeur : fine-tuner et déployer Mistral-7B spécialisé
Commentaires
0 commentaire
Aucun commentaire pour le moment
Soyez le premier à partager votre avis !
Se connecter pour commenter