O que é uma salvaguarda de IA?
O que é?
Uma salvaguarda é um conjunto de regras que controla o que entra ou sai de um assistente de IA: bloquear dados pessoais, detetar injeções de prompt, recusar pedidos fora do tema.
Quando o usar
- Antes de pôr um assistente em produção, para limitar fugas e abusos.
- Para provar com casos de teste que uma regra funciona (RGPD, AI Act).
Campos da página
| Tipo | Dados pessoais, injeção de prompt, conteúdo nocivo, fora do tema, formato de resposta. |
|---|---|
| Ação | Bloquear, mascarar, assinalar ou reescrever. |
| Regras | O que deve ser bloqueado ou permitido, em linguagem simples. |
| Casos de teste | Textos com o resultado esperado: bloquear ou permitir. |
| Código | Opcional: a implementação, por exemplo em Python. |
Como o usar
Descarregue o JSON: as regras orientam um modelo de controlo e os casos de teste medem os seus erros.