Red teaming pour assistants IA
Des attaques à tester sur un assistant IA, avec la réponse attendue : contournement, fuite de données, jailbreak.
contextetech
Red teaming : 10 tests sur un assistant RH
10 tests pour un assistant RH interne : données de salariés, discrimination à…
contextetech
Red teaming : 12 attaques sur un chatbot service client
12 attaques à rejouer sur un chatbot de service client : usurpation, fuite de…
Qu'est-ce que le red teaming d'une IA ?
Le red teaming consiste à attaquer volontairement un assistant IA pour trouver ses failles avant les utilisateurs : contournement des règles, fuite de données, injection de prompt, promesses qu'il ne devrait pas faire.
Guide : Red teaming →