Red teaming för AI-assistenter
Attacker att testa på en AI-assistent, med det förväntade svaret: kringgåenden, dataläckor, jailbreaks.
Ingen har publicerat här ännu. Varför inte du?
Vad är red teaming för AI?
Red teaming innebär att man medvetet angriper en AI-assistent för att hitta dess svagheter innan användarna gör det: kringgå reglerna, dataläckor, promptinjektion, löften den inte får ge.
Guide: Red teaming →