Surface d’attaque et attaques adverses

Définir l’encadrement législatif et normatif en matière de cybersécurité et d’intelligence artificielle

• Quels points de vigilance en matière de sécurité au cours du cycle de vie d'un système IA ?
• Focus AI Act : quels niveaux de risque, obligations, sanctions exprimés ?
• ISO 42001, NIST AI RMF, ENISA : Quels liens, complémentarités entre les différents référentiels ?

Machine Learning : identifier les attaques sur les modèles classiques

• Adversarial examples, Fast Gradient Sign Method (FGSM), Projected Gradient Descent (PGD) : qu’est-ce qu’une attaque de type Évasion ?
• Comment se déroulent des empoisonnements de données et de backdoors ? Quels impacts possibles ?
• Qu’est-ce qu’une extraction de modèle et inversion (model inversion) ?

Large Learning Model (LLM) : identifier les attaques spécifiques

• Comment se déroule une injection directe ou indirecte de prompt ? 
• Analyse des jailbreaks et des contournements de garde-fous 
• Qu’est-ce qu’une fuite de données d'entraînement, une extraction de prompts système ?

Mise en pratique : exploitation de vulnérabilités sur un LLM de laboratoire 

Contre-mesures et gouvernance

Concevoir des contre-mesures techniques 

• Comment mettre en place un filtrage en entrée et en sortie, des garde-fous (« guardrails ») ?
• Quels moyens pour détecter des attaques adverses (entropie, anomalie) ?
• Comment bâtir une robustesse adversariale et un adversarial training (apprentissage antagoniste) ?
• Quelle démarche pour préparer/renforcer la sécurité de la chaîne d'approvisionnement IA (SBOM : nomenclature logiciel, modèles tiers) ?

Relier sécurité des données, confidentialité et intelligence artificielle

• Comment préparer la mise en œuvre de mécanismes de confidentialité différentielle (differential privacy) et d’apprentissage fédéré (federated learning) ?
• Quels liens avec le Règlement Général sur la Protection des Données (RGPD), la norme ISO 27001 ? 
• Quelle gestion des données d'entraînement ?

Concevoir une gouvernance cyber et un SMSI augmentés

• ISO/IEC 42001 : comment préparer la prise en main de la structure HLS (High Level Structure) ?
• Quels contrôles, articulations avec les exigences de la norme ISO 27001 ?
• Quelles étapes-clés pour construire un modèle des risques liés à l’IA (AI risk register) au sein de votre structure/entreprise ?

Mise en pratique : politique de sécurité IA pour une PME exploitant des LLM

• Prise en main d’une étude de cas durant laquelle les participants préparent ensemble la structure d’une politique de sécurité IA

- Au cours de cette formation, vous bénéficierez d’une analyse comparée entre les différents textes normatifs et législatifs (ISO 42001, NIST AI RMF, ISO, IA Act).

- AFNOR Compétences vous propose une formation incluant des démonstrations d’attaques adverses (évasion, prompt injection) afin d’être le plus près possible de l’état de la menace cyber. Afin d’approfondir cette exploitation, vous pourrez également exploiter l’environnement d’un laboratoire LLM vulnérable.

- La formation vous permettra d’analyser un modèle de politique de sécurité IA

Cet examen de type QCM (en option) vous permet de vérifier l'acquisition des connaissances de la formation. Une attestation vous permettra de faire reconnaître votre réussite à l’examen. En vérifiant l'assimilation des contenus de formation, vous pourrez mieux garantir leur mise en œuvre dans votre organisation.

Détails pratiques de l’examen :

• - Le dernier jour de formation, vous recevrez par mail le lien pour accéder à l’examen en ligne
• - Ce lien ne sera cliquable qu’une seule fois
• - Vous pourrez répondre à ce questionnaire à n’importe quel moment, dans les 7 jours qui suivent votre formation. Pour le passer dans les meilleures conditions, prévoyez un créneau de 30min à 1h
• - Vous devrez obtenir au moins 60% de bonnes réponses pour réussir cet examen

Votre intervenant est un consultant expert en cybersécurité. Ses missions l'ont conduit à agir de manière opérationnelle sur les liens entre cybersécurité et intelligence artificielle.

•  Une grille d’auto-positionnement est également à renseigner par l’apprenant en amont et en aval de la formation, permettant d’évaluer la progression sur les différents objectifs de la formation. Cette grille constitue l’évaluation formative du module.
  
  
•  Un questionnaire à froid est envoyé et permet de mesurer l’utilité de la formation à 3 mois auprès du stagiaire et pose la question de la mise en pratique des connaissances.