Was ist eine KI-Schutzregel?
Was ist das?
Eine Schutzregel kontrolliert, was in einen KI-Assistenten hineingeht oder herauskommt: personenbezogene Daten sperren, Prompt-Injection erkennen, themenfremde Anfragen ablehnen.
Wann verwenden
- Bevor ein Assistent in Betrieb geht, um Datenlecks und Missbrauch zu begrenzen.
- Um mit Testfällen zu belegen, dass eine Regel funktioniert (DSGVO, KI-Verordnung).
Felder der Seite
| Typ | Personenbezogene Daten, Prompt-Injection, toxische Inhalte, themenfremd, Antwortformat. |
|---|---|
| Aktion | Blockieren, maskieren, markieren oder umschreiben. |
| Regeln | Was blockiert oder zugelassen wird, in klaren Worten. |
| Testfälle | Texte mit dem erwarteten Ergebnis: blockieren oder zulassen. |
| Code | Optional: die Umsetzung, zum Beispiel in Python. |
So nutzt du es
JSON herunterladen: Die Regeln steuern ein Prüfmodell, die Testfälle messen seine Fehler.