Red teaming para assistentes de IA
Ataques a testar num assistente de IA, com a resposta esperada: contornar regras, fugas de dados, jailbreaks.
Ainda ninguém publicou aqui. E se fosse o primeiro?
O que é o red teaming de IA?
O red teaming consiste em atacar deliberadamente um assistente de IA para encontrar as suas falhas antes dos utilizadores: contornar as regras, fugas de dados, injeção de prompt, promessas que não pode fazer.
Guia: Red teaming →