LLM et GPT : créer et fine-tuner des modèles de langage
Comprenez l'architecture des LLM, fine-tunez GPT, créez vos propres modèles de langage.
L'architecture derrière ChatGPT
Les Large Language Models (LLM) comme GPT ont révolutionné l'IA. Cette formation vous apprendra à les comprendre et les maîtriser.
Vous découvrirez l'architecture des transformers, l'attention multi-têtes, et les techniques d'entraînement.
Fine-tuning et deployment
Vous apprendrez à fine-tuner GPT sur vos propres données, à créer des assistants spécialisés, et à les déployer.
Projets : chatbot d'entreprise, assistant juridique, générateur de code spécialisé.
Programme détaillé
Architecture des transformers
Attention, encoders, decoders, positional encoding
Préentraînement de LLM
Tokenisation, objectifs d'apprentissage, scaling laws
Fine-tuning de GPT
Techniques de fine-tuning, LoRA, RLHF
Prompting avancé
Few-shot, chain-of-thought, agents
Deployment et optimisation
Quantification, distillation, serving
Projet : LLM sur mesure
Fine-tuning complet pour un use case professionnel
Objectifs
- Comprendre l'architecture des LLM
- Fine-tuner GPT sur des données métier
- Créer des assistants IA spécialisés
- Optimiser et déployer des LLM
Prérequis
- Deep Learning maîtrisé
- NLP intermédiaire
- PyTorch avancé
Pour qui ?
- ML engineers expérimentés
- Chercheurs en NLP
- Architectes IA
- Lead data scientists
Autres formations
Introduction à l'Intelligence Artificielle
Les bases de l'IA expliquées simplement, sans prérequis technique. Comprenez enfin ce que tout le monde en dit.
En savoir plusMaîtriser ChatGPT pour gagner en productivité
Apprenez à utiliser ChatGPT efficacement pour automatiser vos tâches quotidiennes et gagner un temps précieux.
En savoir plusGoogle Gemini : l'IA de Google au service de vos projets
Découvrez Gemini, l'assistant IA de Google, et apprenez à l'utiliser pour vos recherches et projets créatifs.
En savoir plusL'IA dans votre quotidien professionnel
Utilisez les outils d'IA pour améliorer votre productivité au travail. Cas pratiques par métier.
En savoir plus