¿Qué es una salvaguarda de IA?
¿Qué es?
Una salvaguarda es un conjunto de reglas que controla lo que entra o sale de un asistente de IA: bloquear datos personales, detectar una inyección de prompt, rechazar un tema fuera de alcance.
Cuándo usarlo
- Antes de poner un asistente en producción, para limitar fugas y abusos.
- Para demostrar con casos de prueba que una regla funciona (RGPD, Ley de IA).
Campos de la página
| Tipo | Datos personales, inyección de prompt, contenido tóxico, fuera de tema, formato de respuesta. |
|---|---|
| Acción | Bloquear, enmascarar, señalar o reescribir. |
| Reglas | Lo que se bloquea o se permite, en lenguaje claro. |
| Casos de prueba | Textos con el resultado esperado: bloquear o permitir. |
| Código | Opcional: la implementación, por ejemplo en Python. |
Cómo usarlo
Descarga el JSON: las reglas sirven de instrucción a un modelo verificador y los casos de prueba miden sus errores.