Red teaming para asistentes de IA
Ataques para probar un asistente de IA, con la respuesta esperada: elusión, fugas de datos, jailbreak.
contextetech
Red teaming: 12 attacks on a customer service chatbot
12 attacks to replay on a U.S. e-commerce support chatbot: impersonation, data…
contextetech
Red teaming: 10 tests on a U.S. HR assistant
10 tests for an internal HR assistant in the U.S.: employee data, hiring…
¿Qué es el red teaming de una IA?
El red teaming consiste en atacar a propósito un asistente de IA para encontrar sus fallos antes que los usuarios: elusión de reglas, fugas de datos, inyección de prompt, promesas indebidas.
Guía: Red teaming →