Cos'è una salvaguardia IA?
Che cos'è?
Una salvaguardia è un insieme di regole che controlla ciò che entra o esce da un assistente IA: bloccare dati personali, rilevare una prompt injection, rifiutare argomenti fuori ambito.
Quando usarla
- Prima di mettere un assistente in produzione, per limitare fughe di dati e abusi.
- Per dimostrare con casi di test che una regola funziona (GDPR, AI Act).
Campi della pagina
| Tipo | Dati personali, prompt injection, contenuti tossici, fuori tema, formato di risposta. |
|---|---|
| Azione | Bloccare, mascherare, segnalare o riscrivere. |
| Regole | Cosa va bloccato o consentito, in parole semplici. |
| Casi di test | Testi con il risultato atteso: bloccare o consentire. |
| Codice | Facoltativo: l'implementazione, per esempio in Python. |
Come usarla
Scarica il JSON: le regole istruiscono un modello di verifica e i casi di test ne misurano gli errori.