- Cours pratique
- Informatique
Formation Sécurité des systèmes d'intelligence artificielle
Comprendre les impacts de l’intelligence artificielle sur la cybersécurité et la gouvernance des systèmes d’information
- Durée
- 4 jours
- Niveau
- Intermédiaire
- Modalités
- Présentiel / Distanciel
Description de la formation IA securite operationnelle
Qu’est-ce que l’intelligence artificielle appliquée à la sécurité opérationnelle ?
L’intelligence artificielle bouleverse la cybersécurité. Elle renforce la détection des menaces, mais introduit aussi de nouvelles vulnérabilités et dépendances technologiques. Comprendre ces interactions est devenu un enjeu clé pour la gouvernance des systèmes d’information.
Pourquoi suivre une formation « Intelligence artificielle et sécurité opérationnelle » ?
Cette formation fournit une vision stratégique et opérationnelle des liens entre IA et sécurité : comment l’IA améliore la supervision, l’analyse des menaces et la réponse à incident, mais aussi comment l’usage croissant d’outils d’IA générative expose les organisations à de nouveaux risques. Les participants acquièrent les repères nécessaires pour intégrer l’IA dans la politique de cybersécurité et de gestion des risques du SI.
Objectifs pédagogiques
À l'issue de cette formation Intelligence artificielle et sécurité opérationnelle, vous aurez acquis les connaissances nécessaires pour :
- Maîtriser le vocabulaire, les concepts clés et les systèmes d’IA, notamment les modèles de langage (LLM), afin d’en comprendre les problématiques
- Identifier, analyser et qualifier les problématiques liées aux usages de l’IA, incluant les risques cybersécurité, juridiques, éthiques et organisationnels
- Encadrer et gouverner les usages de l’IA au sein de leur organisation, en tenant compte des rôles, des responsabilités et des obligations réglementaires applicables
- Mettre en œuvre des mesures opérationnelles de réduction des risques liés aux systèmes d’IA, fondées sur une analyse de risques structurée et documentée
- Intégrer la cybersécurité, la conformité et l’éthique dès la conception et tout au long du cycle de vie des projets d’IA, afin de déployer des systèmes d’IA maîtrisés, conformes et responsables
Objectifs opérationnels
Savoir évaluer les opportunités et les risques de l’intelligence artificielle dans la cybersécurité et la gouvernance des systèmes d’information.
Programme
Contenu du cours, module par module
13 modules
Introduction à l'Intelligence Artificielle
- Définitions et périmètre : IA, Machine Learning, Deep Learning, IA générative, agentique
- Brève histoire de l'IA : des systèmes experts aux LLM
- L'écosystème actuel : acteurs, usages, tendances, perspectives
- Usage de l'IA par les attaquants (très succinctement)
Fonctionnement des systèmes d'IA
- Cycle de vie d'un système d'IA
- Les données au cœur de l'IA : jeux d'entraînement, biais, qualité (enjeux éthiques et juridiques)
- Les grands types d'apprentissage
- Focus sur les modèles de langage (LLM) : tokenisation, embeddings, attention
- Modes de déploiement : on-premise, cloud, API, edge
- Du modèle de fondation à la spécialisation : modèles pré-entraînés, fine-tuning, RAG
- Chaîne d'approvisionnement de l'IA : AI software bill of materials, acteurs de la donnée, capacité de calcul
- Interconnexion avec un système d'IA : serveur MCP
- Cas d'usage par domaine métier / secteur d'activité
- IA interne vs IA exposée aux clients
- Shadow AI : risques et détection
- Inventaire des systèmes d'IA : lien explicite avec les obligations d'inventaire (AI Act, gouvernance IA)
Les critères de sécurité classiques appliqués à l'IA
- Confidentialité
- Intégrité
- Disponibilité
- Confiance
Vocabulaire et concepts clés
- Sûreté de fonctionnement (biais, performance) vs sécurité (cyber)
- Définition des concepts d'explicabilité, d'opacité, de déterminisme
- Jailbreak, prompt injection etc.
Travaux pratiques
Structure de gouvernance étatique de l'IA
- Articulation et périmètre de responsabilités des entités de régulation
- AI safety institute
- Stratégie nationale de l'IA (3 phases)
- Gouvernance nationale du RIA (= AI Act)
Règlement européen sur l'Intelligence Artificielle (AI Act)
- Genèse, objectifs et calendrier d'application
- Classification des systèmes d'IA par niveau de risque
- Obligations par catégorie : systèmes interdits, haut risque, risque limité, risque minimal -
- logique par les risques
- Exigences pour les systèmes à haut risque : données, documentation, supervision humaine
- Obligations spécifiques aux modèles d'IA à usage général (GPAI)
- Gouvernance européenne
- Sanctions et mise en conformité
- Positionnement du SIA dans l'écosystème juridique
- Notion clé : la règle applicable dépend du rôle (fournisseur / déployeur), du niveau de risque, du contexte sectoriel
Articulation avec les autres réglementations
- AI Act et RGPD : protection des données personnelles dans l'IA
- AI Act et NIS2 : systèmes d'IA critiques
- AI Act et règlements sectoriels (focus DORA - résilience opérationnelle/numérique)
- Articulation de l'IA avec CSA, CRA (schéma de certification, surveillance de produit,
- présomption de conformité)
- Articulation des notifications d'incident
- Comparaison internationale
- Évolution Omnibus ?
Normes et référentiels internationaux
- ISO/IEC 42001 : Système de management de l'IA
- ISO/IEC 23894 : Gestion des risques de l'IA
- ISO/IEC 38507 : Gouvernance de l'IA
- ISO/IEC 25059 : Qualité des systèmes d'IA
- ISO/IEC 27090 : Mesures de sécurité pour l'IA
- Articulation avec ISO 27001
Référentiels et guides sectoriels
- ANSSI
- ENISA : bonnes pratiques de sécurité de l'IA
- NIST AI Risk Management Framework (AI RMF)
- MAJ 02/02/2026
- ISACA : AI Audit Framework
- CSA AI Safety Initiative et Cloud Controls Matrix for AI
Responsabilités et qualification des acteurs
- Fournisseur vs déployeur
- Impacts juridiques selon le niveau de risque du SIA
- Responsabilités administrative, contractuelle et pénale (vue d'ensemble)
- Chaîne d'approvisionnement IA : dépendances critiques, responsabilité en cas de défaillance
- Interconnexions → propagation des risques
Outil pratique
Travaux pratiques
Exercice pratique d'évaluation des risques IA / étude de cas
État de la menace portant sur les systèmes d'IA
- Reprendre publication ANSSI (février 2026)
Typologie d'attaques
- Empoisonnement / Extraction / Évasion
- Focus sur les attaques par injection de prompt
- OWASP Top 10 for LLM : Utiliser ce référentiel pour sécuriser les applications basées sur des
- modèles de langage
- MITRE ATLAS
Vulnérabilités courantes des systèmes d'IA
Jour 2 – Après-midi
Scénarios de risques génériques les plus majeurs
Méthodologie d'analyse de risques applicable
- ISO 27005 / EBIOS RM
- Normes du CEN/CENELEC
Adaptation des méthodes classiques aux spécificités de l'IA
- Prise en compte du cycle de vie des systèmes d'IA
- Intégration des risques liés aux données, aux modèles et à la chaîne d'approvisionnement
- Articulation entre risques techniques, juridiques et éthiques
Articulation avec le cadre réglementaire
- Intégration des exigences du AI Act dans la démarche d'analyse de risques
- Cohérence avec la gestion des risques IA au sens de l'ISO/IEC 23894
- Alignement avec les obligations de documentation, de supervision humaine et de gestion des incidents
Risques spécifiques aux systèmes d'IA : lecture technique, juridique et éthique
- Risques liés aux modèles de langage (LLM) : Opacité des modèles : limites d'explicabilité / obligation de supervision humaine (AI Act) / enjeux de responsabilité en cas de décision contestée
- Hallucinations : production d'informations erronées ou trompeuses / risques décisionnels,
- juridiques et réputationnels / nécessité de mécanismes de validation et de reprise de contrôle humain
- Risques liés aux modes de déploiement : Cloud / API / On-premise
- Autres risques
Stratégie et organisation
- Positionnement de la sécurité de l'IA dans l'organisation
- Rôles et responsabilités : RSSI, DPO, Chief AI Officer, AI Ethics Officer
- Comitologie : comité IA, instances de gouvernance
- Alignement avec la stratégie d'entreprise et la stratégie SSI
Politique de Sécurité des Systèmes d'Information et IA
- Intégration de l'IA dans la PSSI existante
- Politique de sécurité spécifique à l'IA (PSSI-IA)
- Articulation avec les autres politiques (données, cloud, etc.)
- Principes directeurs et exigences minimales
Corpus documentaire
- Charte d'utilisation de l'IA
- Charte éthique de l'IA (Rôle stratégique et décisionnel)
- Procédures opérationnelles : validation, déploiement, retrait
- Guide des bonnes pratiques utilisateurs
- Registre des systèmes d'IA
- Questionnaire cadrage projet (en amont de l'AR)
Cadre de gouvernance IA de confiance
- Principes d'une IA responsable
- Supervision humaine des décisions
- Documentation et transparence
- Mécanismes de contrôle et de surveillance continue
- Éthique comme outil d'arbitrage et de gestion des risques
- Arbitrer entre : performance / explicabilité ou automatisation / supervision
- Cas réels d'arbitrage
Indicateurs et pilotage
- Définition des KPI spécifiques à l'IA
- Tableaux de bord sécurité IA
- Reporting à la direction et aux instances de gouvernance
Travaux pratiques
Intégration de la sécurité dans les projets IA
- Security by design pour l'IA
- Privacy by design et by default
- Points de contrôle sécurité dans le cycle projet
- Rôle du RSSI dans les projets IA
Évaluation des projets IA
- Analyse de risques projet
- Évaluation d'impact (AIPD / FRIA)
- Critères de validation sécurité
- Comité de validation des projets IA : les critères concrets - pourquoi dire non ?
Programme de sensibilisation à l'IA
- Objectifs et enjeux de la sensibilisation
- Publics cibles : collaborateur, dirigeants, métiers, IT, développeurs
- Messages clés par population
- Risques liés aux usages non maîtrisés (Shadow AI)
- Exemple : le protocole « Think First, Verify Always »
- Dilemmes éthiques concrets
Modalités de sensibilisation
- Formats : e-learning, ateliers, serious games, communications
- Cas pratiques et mises en situation
- Campagnes de sensibilisation aux risques IA (prompt injection, fuites de données)
- Évaluation de l'efficacité des actions
Formation et compétences
- Montée en compétences des équipes sécurité sur l'IA
- Formation des développeurs à la sécurité de l'IA
- Autres besoins de formations
- Cartographie des prestataires IA
- Clauses contractuelles essentielles
- Transfert et partage de responsabilité
- Gestion de la relation fournisseur
- Points d'attention
- Définition de l'« incident grave » au sens de l'AI Act
- Comparaison avec : incident NIS2 / violation de données RGPD / incident DORA
- Articulation des obligations de notification : autorités compétentes / délais / périmètres
- Spécificité du besoin de redondance des systèmes d'IA
Travaux pratiques
Mises en situation, études de cas d’attaques IA, exercices d’analyse de scénarios et de cartographie des risques.
Programme mis à jour le 13/02/2026
Public concerné
Ce cours s'adresse aux RSSI et leurs adjoints, correspondants locaux de cybersécurité, chefs de projet, ingénieurs IA et plus globalement aux consultants cybersécurité.
Prérequis
Pour suivre cette formation, il est nécessaire de disposer d’une expérience au sein d’une direction des systèmes d’information (DSI), en tant qu’informaticien, ingénieur, consultant ou fonction assimilée, ou justifier d’une bonne culture générale des systèmes d’information. Il est également nécessaire d'avoir des notions de base en sécurité des systèmes d’information (comprendre les principes de confidentialité, intégrité, disponibilité, gestion des risques).
J’évalue mes connaissances pour vérifier que je dispose des prérequis nécessaires pour profiter pleinement de cette formation en faisant le test de prérequis.
Faire le testFinancement
Cette formation peut être prise en charge par votre entreprise, seule ou avec l’appui de son opérateur de compétences. Nous fournissons le devis et les pièces attendues par l’OPCO.
Formations liées
- Gouvernance et souveraineté IA avec MistralRéf. GSIM1 jourFondamental890 €
- Éthique de l'Intelligence Artificielle (IA)Réf. ETHQ1 jourFondamentalProchaine session : 23 nov.875 €
- Utiliser l’IA en toute sécuritéRéf. IASE2 joursFondamentalProchaine session : 5 nov.1 790 €
- IA Act : Déployer un système d'Intelligence Artificielle conforme au règlement IA (IA Act)Réf. IACT1 jourFondamentalProchaine session : 18 déc.1 050 €