Qu'est-ce qu'un garde-fou IA ?
C'est quoi ?
Un garde-fou est un ensemble de règles qui contrôle ce qui entre dans un assistant IA ou ce qui en sort : bloquer des données personnelles, repérer une injection de prompt, refuser un sujet hors périmètre.
Quand l'utiliser
- Avant de mettre un assistant en production, pour limiter les fuites et les abus.
- Pour prouver, avec des cas de test, qu'une règle fonctionne (RGPD, AI Act).
Les champs de la fiche
| Type | Données personnelles, injection de prompt, contenu toxique, hors sujet, format de réponse. |
|---|---|
| Action | Bloquer, masquer, signaler ou réécrire. |
| Règles | Ce qui doit être bloqué ou laissé passer, en clair. |
| Cas de test | Des textes avec le résultat attendu : bloquer ou laisser passer. |
| Code | Facultatif : l'implémentation, par exemple en Python. |
Comment s'en servir
Téléchargez le JSON : les règles servent d'instruction à un modèle vérificateur, et les cas de test mesurent s'il se trompe.