Formation - Intelligence artificielle, risques et opportunités pour la cybersécurité

Cybersécurité & Intelligence artificielle : de quoi parle-t-on ? Quelles implications entre les fondamentaux des systèmes d’IA en matière de sûreté et de sécurité ?

Définir les notions fondamentales en matière d’intelligence artificielle

• IA prédictive, IA générative : quelles différences ? 
• LLM (Large Language Models), SML (Small Language Models) : pour quels usages ?

Différencier les architectures d’IA les plus courantes et leurs enjeux de sécurité

• Assistant conversationnel et RAG (enrichissement par les données de l’organisation : quelles connexions ?
• Quelle automatisation des tâches ?
• Systèmes agentiques et connexion aux outils (y compris MCP : Model Control Protocol) : quelle protection ?

Focus sur le cycle de vie d’un système d’IA : identifier ses grandes étapes

IA comme arme – des capacités d’attaque décuplées

Analyser des scénarios d’attaque utilisant l’intelligence artificielle

• IA & tromperie : comment l’IA rend-elle possible l’usurpation d’identité, de voix, de visage grâce à des contenus plus crédibles, à grande échelle ?
• Production de codes malveillants : en quoi l’IA permet-elle de générer et d’adapter des codes afin de contourner les protections existantes ?
• Reconnaissance : dans quels cas d’usage l’IA rend possible le contournement de l’authentification, l’identification plus rapide des failles et des cibles ?
• Industrie : jusqu’où l’automatisation des attaques rend-elle accessible ce type d’attaque à des niveaux de compétence plus faibles ?
• Analyse du panorama d’attaques réelles récentes et marquantes : distinguer la réalité de la menace par rapport au discours ambiant

IA comme bouclier – des capacités de défense transformées

Utiliser l’intelligence artificielle comme levier pour décupler sa cyberdéfense

• Gouvernance et conformité : comment l’IA peut appuyer la rédaction, le contrôle, la sensibilisation à la cybersécurité ?
• Protection des données : recourir à l’IA pour classifier et filtrer les données sensibles avec l’IA ?
• Quelles étapes-clés pour conduire des tests d’intrusion, simulations d’attaques assistés par l’IA ?
• IA comme assistant à la détection : quels apports pour identifier les anomalies, signaux faibles ? Comment instaurer une priorisation des alertes, les renseignements sur la menace ?
• Investigation, analyse, confinement, remédiation : quelle réponse à incident quand on a recours à l’IA ?
• Analyse d’un panorama réel et actuel d’usages défensifs ayant recours à l’IA : analyser leurs apports, les limites et conditions de ces scénarios

IA : cible et source de défaillances

Sûreté : définir les menaces non intentionnelles de l’IA

• Comment les défaillances (erreurs, hallucinations) peuvent-elle engendrer des menaces ?
• Quelles conséquences des biais, de la dérive des modèles ?
• Analyser les risques d’une dérive des modèles en termes de dégradation silencieuse des performances dans le temps
• Actions imprévues des agents, divulgations de données… Quels risques de perte de maîtrise accidentelle ?
• Shadow AI, excès de confiance, contrôle relâché : identifier les zones à risque causées par le facteur humain

Cas pratique : analyser un scénario de défaillance sans malveillances (étapes-clés, conséquences)

Sécurité : analyser les menaces intentionnelles

• IA, nouvelle surface d’attaque : décrypter des usages métier, usages de sécurité
• MITRE ATLAS, Top 10 OWASP, travaux OWASP : quels référentiels de menaces sur les systèmes d’IA ?
• Analyser les sources de manipulation du modèle (par le langage, par les données d’entraînement, par les entrées)
• Décortiquer les risques d’exfiltration d’informations
• Focus sur le scénario d’épuisement des ressources : quelles conséquences ?
• Distinguer les types d’attaques à différents niveaux de la chaîne d’approvisionnement
• Exploitation de leur autonomie, de leur mémoire, de leurs outils connectés : identifier les vulnérabilités liées au risque de détournement des agents

Mise en pratique : analyser les étapes-clés, conséquences possibles d’une attaque sur un système d’IA

Cadre réglementaire et choix d’hébergement de l’intelligence artificielle

Analyser les points communs et divergences de cadrages internationaux

• IA Act (règlement IA de l’Union Européenne) : focus sur ses points-clés, son calendrier d’application
• Quels liens entre l’IA Act et différentes réglementation, notamment le RGPD ?
• Examiner les positions divergentes à l’internationale et leurs conséquences en matière de contrainte réglementaire, d’encadrement volontaire, de contrôle étatique
• Identifier les relations entre dépendance, souveraineté et confiance et leurs connexions avec des choix en matière de mode d’hébergement, de lois à portée extraterritoriale, de contrôle à l’export

Gouverner & sécuriser l’IA : de l’organisation aux mesures

Organiser/renforcer pas à pas la gouvernance de l’IA au sein de votre entreprise

• De l’inventaire des usages et système d’IA au rôle émergent de Responsable de la sécurité de l’IA (CAISO) : quelle organisation mettre en place ?
• Situer les encadrements d’usage à mettre en œuvre (Charte d’usages de l’IA, autorisations selon la sensibilité des données utilisées…)
• Analyser les risques propres à l’IA grâce à des référentiels, méthodologies tels que la norme ISO/IEC 23894, l’AIPD (Analyse d’Impact relative à la Protection des Données)
• Quels référentiels de mesure prendre en main ?
• Opérer une démarche de conformité afin notamment de qualifier les systèmes vis-à-vis de l’IA Act

Appliquer des mesures pertinentes par rapport à votre activité

• Diffusion de bonnes pratiques cyber appliquées à l’IA… Identifier un socle commun à toute entreprise
• Encadrer les usages, de la Charte IA à l’encadrement des systèmes d’IA autorisés
• Préparer son plan de sensibilisation à l’IA auprès de tous les salariés : quels messages faire passer en matière de biais, de limites de l’IA ? Comment vérifier les résultats attendus ?
• Méthodes de fiabilisation face aux défaillances : comment trouver un équilibre entre surveillance et autonomie des usages ?
• Employer des mesures de cybersécurité adaptées, du filtrage des entrées et sorties à la configuration des privilèges, étapes de validation humaine des actions au sein des équipes
• Renforcer sa maîtrise des fournisseurs, de l’hébergement : décrypter la provenance des modèles et des outils connectés, les usages des données confiées, la réversibilité, les choix d’hébergements selon les risques acceptés

Mise en pratique : tests, audit et surveillance

• A travers des mises en situation, les participants pourront identifier étapes-clés pour mettre en œuvre des tests d’attaque des systèmes d’IA, des audits de systèmes d’IA et analyser leurs résultats.

Cette formation est accessible quel que soit votre niveau en matière d’IA.

Tout au long des 2 jours, vous pourrez voir/revoir les éléments techniques, réglementaires, normatifs et organisationnels qui vous permettront de découvrir des champs d’attaques rendus possibles avec l’essor de l’IA. Vous pourrez vous rendre compte, via des scénarios, des risques d’attaques possibles, qu’ils soient liés à une cyberattaque ou à des défaillances accidentelles.

Cet examen de type QCM (en option) vous permet de vérifier l'acquisition des connaissances de la formation. Une attestation vous permettra de faire reconnaître votre réussite à l’examen. En vérifiant l'assimilation des contenus de formation, vous pourrez mieux garantir leur mise en œuvre dans votre organisation.

Détails pratiques de l’examen :

• - Le dernier jour de formation, vous recevrez par mail le lien pour accéder à l’examen en ligne
• - Ce lien ne sera cliquable qu’une seule fois
• - Vous pourrez répondre à ce questionnaire à n’importe quel moment, dans les 7 jours qui suivent votre formation. Pour le passer dans les meilleures conditions, prévoyez un créneau de 30min à 1h
• - Vous devrez obtenir au moins 60% de bonnes réponses pour réussir cet examen

Votre intervenant est un expert opérationnel de la cybersécurité. 

•  Une grille d’auto-positionnement est également à renseigner par l’apprenant en amont et en aval de la formation, permettant d’évaluer la progression sur les différents objectifs de la formation. Cette grille constitue l’évaluation formative du module.
  
  
•  Un questionnaire à froid est envoyé et permet de mesurer l’utilité de la formation à 3 mois auprès du stagiaire et pose la question de la mise en pratique des connaissances.