Plus facile à lire avec un fond crème, une teinte, plus de contraste ou un texte plus grand ? Choisissez vos couleurs et votre texte, une fois pour toutes les pages.

Module gratuit

Sécuriser les agents IA

Apprenez la sécurité des agents IA en pratique : menaces, fuites de données, délégué trompé, outils tiers, séparation des privilèges et red team.

7 leçonsLeçon de 475 minGénie logiciel

Les leçons

Chaque leçon se lit gratuitement en entier. Créez un compte gratuit pour lancer ses commandes dans un laboratoire et passer ses quiz et ses exercices.

  1. 1 · Labo de conteneurs

    Modéliser les menaces d’un agent IA

    Je peux cartographier où un agent peut être attaqué et nommer le mélange de trois éléments qui le rend dangereux.

    Lire la leçon

  2. 2 · Labo de conteneurs

    Empêcher l’exfiltration de données d’un agent IA

    Je peux fermer les routes par lesquelles les données quittent un agent, avec une liste de destinations autorisées que le code vérifie.

    Lire la leçon

  3. 3 · Labo de conteneurs

    Le délégué trompé dans les agents IA

    Je peux empêcher un agent d’agir avec plus d’autorité que la personne qui demande, en vérifiant chaque action contre le demandeur.

    Lire la leçon

  4. 4 · Labo de conteneurs

    Sécuriser les outils tiers d’un agent IA

    Je peux décider si je me fie à un outil que je n’ai pas écrit, en épinglant sa définition et en relisant ce qu’elle dit.

    Lire la leçon

  5. 5 · Labo de conteneurs

    Séparer les privilèges d’un agent IA

    Je peux scinder un agent pour que le texte non fiable ne rencontre jamais le pouvoir d’agir, et aiguiller textes et actions selon une politique.

    Lire la leçon

  6. 6 · Labo de conteneurs

    Tester un agent IA en red team

    Je peux mesurer à quelle fréquence une attaque réussit, et si une correction a aidé, sur un jeu d’attaques enregistrées.

    Lire la leçon

  7. 7 · Labo de conteneurs

    Mesurer les défenses d’un agent IA

    Je peux noter plusieurs défenses d’un agent sur un jeu étiqueté, en comptant les attaques arrêtées, les attaques manquées et les faux positifs.

    Lire la leçon

Travaillé dans un vrai laboratoire

Chaque leçon de ce module se travaille dans un laboratoire lancé pour vous seul. Les laboratoires utilisés :

Vous enseignez à une classe ? Proposez ce module à vos étudiants avec un guide de l'enseignant, des devoirs corrigés et un laboratoire pour chaque étudiant.