Red Teaming für KI-Assistenten
Angriffe zum Testen eines KI-Assistenten, mit der erwarteten Antwort: Umgehung, Datenlecks, Jailbreak.
- [1y7rfo6] Red Teaming: 12 Angriffe auf einen Kundenservice-Chatbot | redteam | de | MIT | https://contextetech.com/de/red-teaming/angriffe-kundenservice-chatbot-1y7rfo6 - [16ilam6] Red Teaming: 10 Tests für einen HR-Assistenten | redteam | de | MIT | https://contextetech.com/de/red-teaming/tests-hr-assistent-16ilam6
contextetech
Red Teaming: 12 Angriffe auf einen Kundenservice-Chatbot
12 Angriffe auf einen Kundenservice-Chatbot eines deutschen Onlineshops: Identitätsbetrug, Datenabfluss, Prompt-Injection, Zusagen. Erwartete Antwort.
contextetech
Red Teaming: 10 Tests für einen HR-Assistenten
10 Tests für einen internen HR-Assistenten: Mitarbeiterdaten, Diskriminierung bei der Auswahl (AGG), Identitätsbetrug, Injection und 2 legitime Fragen.
Was ist KI-Red-Teaming?
Beim Red Teaming wird ein KI-Assistent gezielt angegriffen, um Schwachstellen vor den Nutzern zu finden: Regelumgehung, Datenlecks, Prompt-Injection, unzulässige Zusagen.
Anleitung: Red Teaming →