AGENTIC SECURITY – Sécuriser les agents IA

Überblick

Ziele

• Menaces agentiques
• Tool poisoning
• Mémoire, identité et permissions
• MCP Security
• Communication inter-agents
• Sandboxing, observabilité, Human-in-the-Loop et kill switch

Programm

1. 01

   Module 1 — Menaces agentiques

   Une menace agentique vise l'outil, la mémoire ou la permission, pas seulement le texte. On part du pouvoir réel de l'agent · Lister les pouvoirs de l'agent cible et la pire action si l'un est abusé

   2 h
2. 02

   Module 2 — Tool poisoning

   L'empoisonnement d'outil fait croire à l'agent qu'un outil est légitime ou change sa description. On vérifie l'outil, pas seulement la demande · Montrer un outil dont la description pousse à une action non voulue

   2 h
3. 03

   Module 3 — Mémoire, identité et permissions

   Mémoire, identité et permission se séparent. La mémoire d'un utilisateur ne devient pas le droit d'un autre · Faire passer une donnée de la mémoire d'un profil vers une demande d'un autre profil, et la bloquer

   2 h
4. 04

   Module 4 — MCP Security

   La sécurité MCP reprend le serveur : qui l'appelle, quels outils, quelle ressource. Un serveur large est une porte · Réduire le serveur de test au minimum du scénario

   2 h
5. 05

   Module 5 — Communication inter-agents

   Entre agents, un message peut porter une consigne hostile. On valide le schéma et on borne ce qu'un agent peut demander à l'autre · Injecter une consigne dans un message inter agents et montrer le rejet

   2 h
6. 06

   Module 6 — Sandboxing, observabilité, Human-in-the-Loop et kill switch

   Bac à sable, journal, contrôle humain et arrêt d'urgence sont le minimum avant un agent qui agit · Déclencher l'arrêt d'urgence pendant une action de test

   2 h
7. 07

   Module 7 — Mise en situation et retour au poste

   retour au poste pour RSSI, AppSec, architectes IA · soutenir AGENTIC SECURITY – Sécuriser les agents IA

   2 h