Red teaming per assistenti IA
Attacchi da testare su un assistente IA, con la risposta attesa: aggiramento, fughe di dati, jailbreak.
- [1ji0gz1] Red teaming: 12 attacchi a un chatbot di assistenza | redteam | it | MIT | https://contextetech.com/it/red-teaming/attacchi-chatbot-assistenza-clienti-1ji0gz1 - [1pr5ppo] Red teaming: 10 test su un assistente risorse umane | redteam | it | MIT | https://contextetech.com/it/red-teaming/test-assistente-risorse-umane-1pr5ppo
contextetech
Red teaming: 12 attacchi a un chatbot di assistenza
12 attacchi a un chatbot di assistenza clienti di un negozio online italiano: furto d'identità, fuga di dati, prompt injection, promesse. Risposta attesa.
contextetech
Red teaming: 10 test su un assistente risorse umane
10 test per un assistente interno delle risorse umane: dati dei dipendenti, discriminazione nella selezione, furto d'identità, injection e 2 domande legittime.
Cos'è il red teaming di un'IA?
Il red teaming consiste nell'attaccare di proposito un assistente IA per trovarne i punti deboli prima degli utenti: aggiramento delle regole, fughe di dati, prompt injection, promesse indebite.
Guida: Red teaming →