Red Teaming für KI-Assistenten
Angriffe zum Testen eines KI-Assistenten, mit der erwarteten Antwort: Umgehung, Datenlecks, Jailbreak.
contextetech
Red teaming: 12 attacks on a customer service chatbot
12 attacks to replay on a U.S. e-commerce support chatbot: impersonation, data…
contextetech
Red teaming: 10 tests on a U.S. HR assistant
10 tests for an internal HR assistant in the U.S.: employee data, hiring…
Was ist KI-Red-Teaming?
Beim Red Teaming wird ein KI-Assistent gezielt angegriffen, um Schwachstellen vor den Nutzern zu finden: Regelumgehung, Datenlecks, Prompt-Injection, unzulässige Zusagen.
Anleitung: Red Teaming →