Red teaming per assistenti IA
Attacchi da testare su un assistente IA, con la risposta attesa: aggiramento, fughe di dati, jailbreak.
Nessuno ha ancora pubblicato qui. E se fossi tu?
Cos'è il red teaming di un'IA?
Il red teaming consiste nell'attaccare di proposito un assistente IA per trovarne i punti deboli prima degli utenti: aggiramento delle regole, fughe di dati, prompt injection, promesse indebite.
Guida: Red teaming →