Accedi Pubblica

Red teaming per assistenti IA

Attacchi da testare su un assistente IA, con la risposta attesa: aggiramento, fughe di dati, jailbreak.

2 risultato/i
- [1ji0gz1] Red teaming: 12 attacchi a un chatbot di assistenza | redteam | it | MIT | https://contextetech.com/it/red-teaming/attacchi-chatbot-assistenza-clienti-1ji0gz1
- [1pr5ppo] Red teaming: 10 test su un assistente risorse umane | redteam | it | MIT | https://contextetech.com/it/red-teaming/test-assistente-risorse-umane-1pr5ppo

Cos'è il red teaming di un'IA?

Il red teaming consiste nell'attaccare di proposito un assistente IA per trovarne i punti deboli prima degli utenti: aggiramento delle regole, fughe di dati, prompt injection, promesse indebite.

Guida: Red teaming →