Red teaming para asistentes de IA
Ataques para probar un asistente de IA, con la respuesta esperada: elusión, fugas de datos, jailbreak.
- [1e3f066] Red teaming: 12 ataques a un chatbot de atención | redteam | es | MIT | https://contextetech.com/es/red-teaming/ataques-chatbot-atencion-cliente-1e3f066 - [1bhqe5j] Red teaming: 10 pruebas a un asistente de RR. HH. | redteam | es | MIT | https://contextetech.com/es/red-teaming/pruebas-asistente-rrhh-1bhqe5j
contextetech
Red teaming: 12 ataques a un chatbot de atención
12 ataques para un chatbot de atención al cliente de una tienda online española: suplantación, fuga de datos, inyección, promesas. Respuesta esperada.
contextetech
Red teaming: 10 pruebas a un asistente de RR. HH.
10 pruebas para un asistente interno de RR. HH.: datos de empleados, discriminación en la selección, suplantación, inyección y 2 preguntas legítimas.
¿Qué es el red teaming de una IA?
El red teaming consiste en atacar a propósito un asistente de IA para encontrar sus fallos antes que los usuarios: elusión de reglas, fugas de datos, inyección de prompt, promesas indebidas.
Guía: Red teaming →