Cyber AI Specialist

Overview

Objectives

• SECURE AI – Sécuriser les applications LLM : Identifier et réduire les principales vulnérabilités des applications basées sur des LLM
• AGENTIC SECURITY – Sécuriser les agents IA : Sécuriser des agents capables d’utiliser des outils, une mémoire et des permissions
• AI FOR CYBER – IA pour SOC & Threat Hunting : Utiliser l’IA pour accélérer l’investigation, l’analyse d’alertes et la production SOC
• AI RED TEAMING – Tester la sécurité des applications IA : Évaluer la robustesse d’une application IA dans un environnement autorisé
• Pentest augmenté par l’IA : Intégrer l’IA dans les différentes phases d’un audit de sécurité autorisé sans déléguer le jugement technique

Syllabus

1. 01

   Module 1 — SECURE AI – Sécuriser les applications LLM

   L'injection directe est dans la demande de l'utilisateur. L'injection indirecte est dans un document que le modèle lit. Les deux cherchent à changer la consigne · Montrer une injection directe et une injection via un document sur l'application de démonstration · Une fuite, c'est une donnée ou la consigne système qui ressort dans la réponse. On cherche les deux · Tenter de faire répéter la consigne système et une donnée qui ne devait pas sortir · Une sortie non contrôlée peut devenir un lien, une commande ou une action. L'agence excessive, c'est un outil trop puissant laissé au modèle · Repérer dans l'application une sortie exécutée sans contrôle et la couper · Empoisonner un RAG, c'est glisser une consigne dans un document indexé. Le modèle lui obéit en croyant citer une source · Ajouter un document piégé au corpus de test et montrer la réponse détournée · Garde fou, validation et contrôle humain se placent avant l'action. Un filtre après coup ne ramène pas un email parti · Placer un contrôle sur l'action la plus sensible de l'application · L'architecture sécurisée se dessine : où est la consigne, où sont les données, où est l'outil, où est le journal. Puis on la teste · Dessiner l'architecture et rejouer les quatre attaques du module

   11.7 h
2. 02

   Module 2 — AGENTIC SECURITY – Sécuriser les agents IA

   Une menace agentique vise l'outil, la mémoire ou la permission, pas seulement le texte. On part du pouvoir réel de l'agent · Lister les pouvoirs de l'agent cible et la pire action si l'un est abusé · L'empoisonnement d'outil fait croire à l'agent qu'un outil est légitime ou change sa description. On vérifie l'outil, pas seulement la demande · Montrer un outil dont la description pousse à une action non voulue · Mémoire, identité et permission se séparent. La mémoire d'un utilisateur ne devient pas le droit d'un autre · Faire passer une donnée de la mémoire d'un profil vers une demande d'un autre profil, et la bloquer · La sécurité MCP reprend le serveur : qui l'appelle, quels outils, quelle ressource. Un serveur large est une porte · Réduire le serveur de test au minimum du scénario · Entre agents, un message peut porter une consigne hostile. On valide le schéma et on borne ce qu'un agent peut demander à l'autre · Injecter une consigne dans un message inter agents et montrer le rejet · Bac à sable, journal, contrôle humain et arrêt d'urgence sont le minimum avant un agent qui agit · Déclencher l'arrêt d'urgence pendant une action de test

   11.7 h
3. 03

   Module 3 — AI FOR CYBER – IA pour SOC & Threat Hunting

   Un journal et une alerte se lisent d'abord pour ce qu'ils contiennent. L'outil résume après la lecture des champs, pas avant · Résumer une alerte puis vérifier chaque fait du résumé dans le journal · Un indicateur de compromission et une note de menace se croisent avec le parc réel. Un indicateur sans contexte n'est pas une incident · Relier trois indicateurs au journal fourni et dire lesquels matchent · La requête d'investigation s'écrit, se lit, se lance sur le périmètre autorisé. L'outil propose la requête, l'analyste la comprend · Faire proposer une requête, l'expliquer en français, la lancer sur le jeu · La synthèse d'incident sert la relève. Chronologie, impact, ce qui est sûr, ce qui est hypothèse · Rédiger la synthèse d'un incident du jeu pour la relève · Automatiser une action SOC, c'est d'abord une action réversible. L'agent propose, l'analyste valide l'irréversible · Décrire une action automatisable et une action qui reste manuelle · Le reporting de fin de quart et le contrôle humain ferment la boucle. On ne clôt pas une alerte sur un résumé non relu · Clore trois alertes du jeu avec la preuve de relecture

   11.7 h
4. 04

   Module 4 — AI RED TEAMING – Tester la sécurité des applications IA

   Le threat model IA part des actifs : consigne, données, outils, utilisateurs. On teste ce qui est autorisé par le cadrage · Écrire le modèle de menaces de l'application cible autorisée · Injection et contournement de consignes se tentent par familles, pas par une liste infinie copiée. On note ce qui passe · Exécuter un jeu de cas autorisé et classer passé, bloqué, incertain · Sur un RAG, le test cherche à extraire un document ou une donnée qui ne devrait pas sortir · Tenter l'extraction sur le corpus de test et noter la donnée obtenue · L'abus d'outil pousse l'agent à appeler un outil hors intention. On reste dans les outils du banc de test · Déclencher un appel d'outil non prévu et le documenter · Évaluer un garde fou, c'est mesurer ce qu'il bloque et ce qu'il laisse passer, y compris les blocages abusifs · Mesurer le garde fou sur le jeu : bloque à tort, laisse passer, bloque à raison · Le rapport de test dit le scénario, la preuve, la gravité, la correction proposée. Il ne se contente pas d'une capture · Rédiger le rapport des cas passés

   11.7 h
5. 05

   Module 5 — Pentest augmenté par l’IA

   La préparation d'un audit autorisé fixe la cible, les horaires et l'interdit. L'outil aide à lire le cadrage, il ne l'étend pas · Extraire du cadrage de l'exercice la cible, la fenêtre et l'interdit · La reconnaissance autorisée collecte ce que le cadrage permet. L'outil classe, l'auditeur vérifie la source · Constituer la liste des éléments autorisés et écarter le reste · Un script ou une revue de code se relit avant exécution. On comprend la commande, surtout si l'outil l'a proposée · Relire un script proposé, expliquer chaque ligne, puis le lancer seulement s'il reste dans le cadrage · Analyser une vulnérabilité, c'est la relier à une preuve sur la cible autorisée. Le nom d'une CVE ne suffit pas · Documenter deux constats avec la preuve · Prioriser, c'est ordonner par impact réel et facilité d'exploitation dans le cadrage. Pas par le score brut seul · Ordonner les constats et expliquer un ordre différent du score · Le rapport et la remédiation se lisent par l'équipe qui corrige. Chaque constat a une correction vérifiable · Rédiger le rapport d'exercice et la correction proposée

   11.7 h
6. 06

   Module 6 — Mise en situation et retour au poste

   retour au poste pour Professionnels qui veulent une compétence complète, sans entrer dans un titre R… · soutenir Cyber AI Specialist

   11.7 h