Red teaming asystentów AI
Ataki do przetestowania na asystencie AI, z oczekiwaną odpowiedzią: obejścia, wycieki danych, jailbreaki.
Nikt jeszcze nic tu nie opublikował. Może Ty?
Czym jest red teaming AI?
Red teaming polega na celowym atakowaniu asystenta AI, aby znaleźć jego słabe punkty, zanim zrobią to użytkownicy: obchodzenie reguł, wycieki danych, wstrzyknięcia promptu, obietnice, których nie może składać.
Przewodnik: Red teaming →