Red teaming pour assistants IA
Des attaques à tester sur un assistant IA, avec la réponse attendue : contournement, fuite de données, jailbreak.
- [15jqnhd] Red teaming : 10 tests sur un assistant RH | redteam | fr | MIT | https://contextetech.com/red-teaming/attaques-assistant-rh-15jqnhd - [jjh2yb] Red teaming : 12 attaques sur un chatbot service client | redteam | fr | MIT | https://contextetech.com/red-teaming/attaques-chatbot-service-client-jjh2yb
contextetech
Red teaming : 10 tests sur un assistant RH
10 tests pour un assistant RH interne : données de salariés, discrimination à l'embauche, usurpation, injection, et 2 questions légitimes.
contextetech
Red teaming : 12 attaques sur un chatbot service client
12 attaques à rejouer sur un chatbot de service client : usurpation, fuite de données, injection, promesses abusives. Réponse attendue pour chacune.
Qu'est-ce que le red teaming d'une IA ?
Le red teaming consiste à attaquer volontairement un assistant IA pour trouver ses failles avant les utilisateurs : contournement des règles, fuite de données, injection de prompt, promesses qu'il ne devrait pas faire.
Guide : Red teaming →