Iniciar sesión Publicar

Red teaming para asistentes de IA

Ataques para probar un asistente de IA, con la respuesta esperada: elusión, fugas de datos, jailbreak.

2 resultado(s)
- [1e3f066] Red teaming: 12 ataques a un chatbot de atención | redteam | es | MIT | https://contextetech.com/es/red-teaming/ataques-chatbot-atencion-cliente-1e3f066
- [1bhqe5j] Red teaming: 10 pruebas a un asistente de RR. HH. | redteam | es | MIT | https://contextetech.com/es/red-teaming/pruebas-asistente-rrhh-1bhqe5j

¿Qué es el red teaming de una IA?

El red teaming consiste en atacar a propósito un asistente de IA para encontrar sus fallos antes que los usuarios: elusión de reglas, fugas de datos, inyección de prompt, promesas indebidas.

Guía: Red teaming →