Czym jest zabezpieczenie AI?
Co to jest?
Zabezpieczenie to zestaw reguł, który kontroluje, co trafia do asystenta AI lub z niego wychodzi: blokowanie danych osobowych, wykrywanie wstrzyknięć promptu, odrzucanie pytań nie na temat.
Kiedy go używać
- Przed wdrożeniem asystenta, aby ograniczyć wycieki i nadużycia.
- Aby przypadkami testowymi wykazać, że reguła działa (RODO, AI Act).
Pola strony
| Typ | Dane osobowe, wstrzyknięcie promptu, treści szkodliwe, nie na temat, format odpowiedzi. |
|---|---|
| Działanie | Zablokuj, zamaskuj, oznacz lub przepisz. |
| Reguły | Co ma być zablokowane lub dozwolone, zwykłym językiem. |
| Przypadki testowe | Teksty z oczekiwanym wynikiem: zablokuj lub zezwól. |
| Kod | Opcjonalnie: implementacja, na przykład w Pythonie. |
Jak go używać
Pobierz JSON: reguły sterują modelem kontrolnym, a przypadki testowe mierzą jego błędy.