Connexion Publier

Red teaming pour assistants IA

Des attaques à tester sur un assistant IA, avec la réponse attendue : contournement, fuite de données, jailbreak.

2 résultat(s)
- [15jqnhd] Red teaming : 10 tests sur un assistant RH | redteam | fr | MIT | https://contextetech.com/red-teaming/attaques-assistant-rh-15jqnhd
- [jjh2yb] Red teaming : 12 attaques sur un chatbot service client | redteam | fr | MIT | https://contextetech.com/red-teaming/attaques-chatbot-service-client-jjh2yb

Qu'est-ce que le red teaming d'une IA ?

Le red teaming consiste à attaquer volontairement un assistant IA pour trouver ses failles avant les utilisateurs : contournement des règles, fuite de données, injection de prompt, promesses qu'il ne devrait pas faire.

Guide : Red teaming →