- Cours pratique
- Informatique
Formation Déployer un modèle LLM en local
Maîtriser l'installation, la configuration et l'intégration locale de modèles de langage de grande taille

- Durée
- 1 jour
- Niveau
- Intermédiaire
- Modalités
- Présentiel / Distanciel
Description de la formation LLM local
Qu'est-ce que le déploiement local de LLMs ?
Les modèles de langage de grande taille (LLM) comme GPT, LLaMA ou Falcon sont des systèmes d’intelligence artificielle capables de générer et comprendre le langage naturel. Leur déploiement en local consiste à installer et configurer ces modèles sur une infrastructure interne, sans recours au cloud public.
Pourquoi suivre une formation Déployer un modèle LLM en local ?
Dans un contexte de souveraineté numérique et de maîtrise des données sensibles, l’installation d’un LLM en interne devient une compétence clé. Cette formation permet aux professionnels d'acquérir les compétences nécessaires pour choisir, déployer, optimiser et sécuriser des modèles LLM localement, en s'appuyant sur des outils open source performants. C’est un levier stratégique pour renforcer l’autonomie technologique et garantir la confidentialité des données.

Objectifs pédagogiques
À l'issue de cette formation Déployer un modèle LLM en local, vous aurez acquis les connaissances nécessaires pour :
- Comprendre les principes de fonctionnement des LLMs et leurs cas d’usage.
- Identifier les contraintes matérielles et les ressources nécessaires.
- Installer et configurer un environnement d’exécution adapté.
- Optimiser les performances et la consommation des ressources.
- Intégrer un LLM dans un environnement applicatif métier sécurisé.
Objectifs opérationnels
Savoir déployer, configurer et intégrer un modèle de langage de grande taille (LLM) en local de manière optimisée et sécurisée.
Programme
Contenu du cours, module par module
4 modules
- Architecture des LLMs : GPT, LLaMA, Falcon
- Pourquoi un déploiement local ? Avantages et limites
- Choix du modèle : critères de sélection
- Contraintes techniques et matérielles
- Positionnement des LLMs dans les solutions d’entreprise
Travaux pratiques
Description :Étude de cas fictive. Quelles sont les exigences métiers, techniques et éthiques à prendre en compte ?
- Préparation matérielle (GPU, RAM, stockage)
- Installation de Python, CUDA, dépendances nécessaires
- Utilisation de frameworks : PyTorch, Hugging Face
- Mise en œuvre d’Ollama ou Jan.ai
- Téléchargement et tests d’un modèle préentraîné
Travaux pratiques
Description :Installation complète pas à pas d’un LLM local et test de requêtes. Que faire en cas d’erreurs système ?
- Quantization, pruning : réduction de la taille mémoire
- Gestion fine des ressources (GPU/CPU/RAM)
- Parallelisation et scalabilité multi-GPU
- Accélération de l’inférence
- Monitoring des performances
Travaux pratiques
Description :Mise en œuvre de l’optimisation avec quantization int8/float16. Comment vérifier les gains concrets ?
- Création d’une API REST (FastAPI, Flask)
- Ajout d’une interface conversationnelle
- Authentification et contrôle des accès
- Connexion à des bases de données
- Sécurisation des échanges et des flux
Travaux pratiques
Description :Implémentation d’un mini-chatbot entreprise connecté à une API. Quelle solution de chiffrement adopter ?
Travaux pratiques
Environ 50% de la formation est dédiée à la pratique, avec utilisation de Python, PyTorch, Hugging Face, Ollama, FastAPI.
Programme mis à jour le 27/01/2026
Public concerné
Cette formation est destinée aux développeurs IA, ingénieurs Machine Learning, administrateurs systèmes et responsables IT.

Prérequis
Bonne maîtrise du langage Python, des concepts de Machine Learning, et des bases solides en administration de serveurs Linux pour profiter pleinement des aspects techniques du déploiement et de l’intégration.
J’évalue mes connaissances pour vérifier que je dispose des prérequis nécessaires pour profiter pleinement de cette formation en faisant le test de prérequis.
Faire le testFinancement
Cette formation peut être prise en charge par votre entreprise, seule ou avec l’appui de son opérateur de compétences. Nous fournissons le devis et les pièces attendues par l’OPCO.
Formations liées
- GitHub Copilot et ChatGPT : l'IA générative au service du développement logicielRéf. GHCG2 joursIntermédiaireProchaine session : 23 oct.1 590 €
- Intégrer les LLMs dans vos applications avec LangChainRéf. IADL3 joursFondamentalProchaine session : 12 oct.2 090 €
- Vercel et Vercel AI : Déploiement et Intelligence ArtificielleRéf. VERC2 joursIntermédiaireProchaine session : 26 oct.1 690 €
- Automatiser avec n8n et créer son premier agent IA Réf. N8NI1 jourFondamentalProchaine session : 20 nov.750 €