Sécuriser une IA et se conformer au RGPD et à l'AI Act
Des garde-fous, tests d'attaque et dossiers AI Act pour une IA fiable et conforme.
- [15jqnhd] Red teaming : 10 tests sur un assistant RH | redteam | fr | MIT | https://contextetech.com/red-teaming/attaques-assistant-rh-15jqnhd - [19udwld] Registre interne des systèmes d'IA (AI Act) | aiact | fr | MIT | https://contextetech.com/dossiers-ai-act/registre-systemes-ia-entreprise-19udwld - [1fpglw9] Garde-fou : rester dans le périmètre du service client | guardrail | fr | MIT | https://contextetech.com/garde-fous/rester-dans-le-perimetre-1fpglw9 - [nvm5w8] Résumé des données d'entraînement (AI Act) | aiact | fr | MIT | https://contextetech.com/dossiers-ai-act/resume-donnees-entrainement-nvm5w8 - [108x85u] Garde-fou : masquer clés d'API et mots de passe | guardrail | fr | MIT | https://contextetech.com/garde-fous/masquer-secrets-cles-api-108x85u - [mvd8es] Garde-fou : détecter les injections de prompt | guardrail | fr | MIT | https://contextetech.com/garde-fous/detecter-injection-de-prompt-mvd8es - [pd95sh] Garde-fou RGPD : masquer les données personnelles | guardrail | fr | MIT | https://contextetech.com/garde-fous/masquer-donnees-personnelles-rgpd-pd95sh - [jjh2yb] Red teaming : 12 attaques sur un chatbot service client | redteam | fr | MIT | https://contextetech.com/red-teaming/attaques-chatbot-service-client-jjh2yb - [11zkdx5] Fiche de transparence d'un chatbot (AI Act) | aiact | fr | MIT | https://contextetech.com/dossiers-ai-act/fiche-transparence-chatbot-11zkdx5 - [1muzget] Dataset français d'anonymisation de données personnelles | dataset | fr | CC-BY-4.0 | https://contextetech.com/datasets/anonymisation-rgpd-fr-1muzget - [pekk5y] Contexte IA pour anonymiser les données personnelles | context | fr | CC-BY-4.0 | https://contextetech.com/contextes/anonymisation-rgpd-pekk5y
Red teaming : 10 tests sur un assistant RH
10 tests pour un assistant RH interne : données de salariés, discrimination à l'embauche, usurpation, injection, et 2 questions légitimes.
Registre interne des systèmes d'IA (AI Act)
Trame de registre interne des systèmes d'IA d'une entreprise : usage, niveau de risque, rôle au sens de l'AI Act, données, contrôle humain.
Garde-fou : rester dans le périmètre du service client
Garde-fou hors sujet : l'assistant d'une boutique ne répond qu'aux questions sur les commandes, produits et livraisons, et recentre poliment le reste.
Résumé des données d'entraînement (AI Act)
Trame du résumé des contenus d'entraînement demandé aux fournisseurs de modèles d'IA à usage général (AI Act, article 53).
Garde-fou : masquer clés d'API et mots de passe
Garde-fou qui masque clés d'API, jetons, mots de passe, clés privées et chaînes de connexion avant d'envoyer un texte, un fichier ou un export à une IA…
Garde-fou : détecter les injections de prompt
Garde-fou contre l'injection de prompt : bloque les messages qui tentent de faire ignorer les instructions ou d'extraire le prompt système. 12 cas de test.
Garde-fou RGPD : masquer les données personnelles
Garde-fou RGPD : masque e-mails, téléphones, IBAN et numéros de sécurité sociale français dans les réponses d'un assistant IA. Règles, 12 cas de test, code.
Red teaming : 12 attaques sur un chatbot service client
12 attaques à rejouer sur un chatbot de service client : usurpation, fuite de données, injection, promesses abusives. Réponse attendue pour chacune.
Fiche de transparence d'un chatbot (AI Act)
Trame de fiche de transparence pour un chatbot (AI Act, article 50) : fournisseur, mention IA, modèle, finalité, données, contact humain.
Dataset français d'anonymisation de données personnelles
20 exemples rédigés à la main (personnes et numéros fictifs) pour apprendre à un modèle à anonymiser des textes en français, cas sans donnée personnelle inclus.
Contexte IA pour anonymiser les données personnelles
Remplace les données personnelles d'un texte (noms, e-mails, téléphones, adresses, IBAN) par des balises, avant de l'envoyer à un service tiers.
Que veut dire sécuriser une IA ?
Sécuriser une IA, c'est limiter ce qu'elle peut dire ou faire : bloquer les données personnelles, résister aux injections de prompt, rester dans son périmètre. C'est aussi prouver qu'elle est fiable et conforme, au RGPD et à l'AI Act, grâce à des tests d'attaque et à une documentation.