Anmelden Veröffentlichen

Red Teaming für KI-Assistenten

Angriffe zum Testen eines KI-Assistenten, mit der erwarteten Antwort: Umgehung, Datenlecks, Jailbreak.

2 Ergebnis(se)
- [1y7rfo6] Red Teaming: 12 Angriffe auf einen Kundenservice-Chatbot | redteam | de | MIT | https://contextetech.com/de/red-teaming/angriffe-kundenservice-chatbot-1y7rfo6
- [16ilam6] Red Teaming: 10 Tests für einen HR-Assistenten | redteam | de | MIT | https://contextetech.com/de/red-teaming/tests-hr-assistent-16ilam6

Was ist KI-Red-Teaming?

Beim Red Teaming wird ein KI-Assistent gezielt angegriffen, um Schwachstellen vor den Nutzern zu finden: Regelumgehung, Datenlecks, Prompt-Injection, unzulässige Zusagen.

Anleitung: Red Teaming →