Configuration QLoRA pour anonymiser avec Mistral 7B
# Configuration QLoRA pour anonymiser avec Mistral 7B code: 187bztw | type: lora | language: multi | licence: Apache-2.0 | version: v1 description: Configuration QLoRA de départ pour spécialiser Mistral 7B Instruct dans l'anonymisation RGPD, avec le dataset anonymisation-rgpd-fr. Tient sur un GPU de 24 Go. page: https://contextetech.com/lora/mistral7b-anonymisation-qlora-187bztw mcp: connect https://contextetech.com/mcp then call load_resource with code "187bztw" (or ask "load 187bztw") json: https://contextetech.com/api/resources/contextetech--mistral7b-anonymisation-qlora python: pip install contexte && contexte get 187bztw citation (required by the licence): contextetech. (2026). Configuration QLoRA pour anonymiser avec Mistral 7B (Version 1) [LoRA]. Contexte Tech. https://contextetech.com/lora/mistral7b-anonymisation-qlora-187bztw
Configuration QLoRA de départ pour spécialiser Mistral 7B Instruct dans l'anonymisation RGPD, avec le dataset anonymisation-rgpd-fr. Tient sur un GPU de 24 Go.
Hyperparamètres
| Modèle de base | mistralai/Mistral-7B-Instruct-v0.3 |
|---|---|
| Méthode | QLoRA 4-bit |
| r / alpha / dropout | 16 / 32 / 0.05 |
| Modules ciblés | q_proj, k_proj, v_proj, o_proj, gate_proj, up_proj, down_proj |
| Learning rate | 0.0002 |
| Epochs | 3 |
| Batch × accumulation | 4 × 4 = 16 |
| Longueur de séquence | 1024 |
Dataset associé
Notes
Configuration de départ : elle n'a pas encore été entraînée ni évaluée par ContexteTech. Avec 20 exemples seulement, le dataset sert à tester la chaîne ; pour un vrai usage, visez plusieurs centaines d'exemples. Mesurez le résultat avec l'évaluation eval-anonymisation-rgpd.
- Identifiant
- contextetech--mistral7b-anonymisation-qlora
- Fichier
- mistral7b-anonymisation-qlora.yaml
- Format
- YAML
- Taille
- 518 octets
- Encodage
- UTF-8
- Tokens estimés
- ≈ 144
- Usage commercial
- Autorisé
- Données personnelles
- Aucune
- Publié le
- 26 septembre 2026 à 18:12
- Mis à jour le
- 10 octobre 2026 à 18:25
- Stockage
- en base
Statistiques
J'aime : 0 · Commentaires : 0
Cliquez sur un compteur pour l’afficher ou le masquer, survolez le graphique pour le détail. Une vue par visiteur et par jour, robots exclus ; décompte commencé le 30 septembre 2026.
Coût estimé
- Tokens d'entrée par appel
- ≈ 260
| Modèle | Par appel | Par mois |
|---|---|---|
| GPT-6 Luna · OpenAImeilleur prix | 0,00002 € | 0,02 € |
| DeepSeek Flash · DeepSeek | 0,00007 € | 0,07 € |
| Mistral Large · Mistral AI | 0,00011 € | 0,11 € |
| DeepSeek V4 Pro · DeepSeek | 0,00030 € | 0,30 € |
| GPT-6 Sol · OpenAI | 0,00046 € | 0,46 € |
| Claude Sonnet 5.5 · Anthropic | 0,00046 € | 0,46 € |
| Claude Opus 5.5 · Anthropic | 0,00092 € | 0,92 € |
| Modèle open source hébergé chez soi (Ollama, vLLM) | 0 € d'API (coût du serveur seulement) | |
Coût d'entrée seulement, sans la réponse du modèle. Prix publics des fournisseurs (Mistral AI, DeepSeek, OpenAI, Anthropic), tarif standard en dollars converti en euros au taux BCE du 13 octobre 2026. Estimation : 1 token ≈ 3,6 caractères.
Commun aux 3 régions
Contenu créé par l'auteur, sans source extérieure.
Usage commercial autorisé · citer l'auteur · modifications permises.
Texte ou données seuls : aucun accès aux fichiers, au réseau ni aux commandes.
Hébergé en France (Scaleway, Paris). Aucun transfert hors UE.
Union européenne · 6/6
Aucune donnée personnelle.
AI Act : résumé des données d'entraînement (modèle de l'office européen de l'IA) :
- Type
- LoRA
- Langue
- Multilingue
- Origine
- Contenu créé par l'auteur, sans source extérieure.
- Créé en
- 2026
- Données personnelles
- Aucune donnée personnelle.
États-Unis · 6/6
Aucune donnée personnelle.
Californie (AB 2013) : documentation des données d'entraînement :
- Type
- LoRA
- Langue
- Multilingue
- Origine
- Contenu créé par l'auteur, sans source extérieure.
- Créé en
- 2026
- Données personnelles
- Aucune donnée personnelle.
Chine · 6/6
Aucune donnée personnelle.
Règles sur l'IA générative (2023) : données d'entraînement de source légale ; contenus générés par IA à marquer (2025). Éléments déclarés :
- Type
- LoRA
- Langue
- Multilingue
- Origine
- Contenu créé par l'auteur, sans source extérieure.
- Créé en
- 2026
- Données personnelles
- Aucune donnée personnelle.
Synthèse indicative au 30/09/2026, sans valeur de certification juridique. Méthode et sources →
Qualité du contenu
Le détail des critères est réservé aux membres.
Chaque critère, les points retirés et un conseil pour corriger.
MCP contexte
https://contextetech.com/mcp
charge 187bztw
Ajoutez l'adresse comme connecteur dans les pages des applications d'IA, puis envoyez la demande ci-dessus.
API
import json, urllib.request url = "https://contextetech.com/api/resources/contextetech--mistral7b-anonymisation-qlora" fiche = json.load(urllib.request.urlopen(url)) print(fiche["title"] or fiche["name"])
mistral7b-anonymisation-qlora.yaml
base_model: mistralai/Mistral-7B-Instruct-v0.3
load_in_4bit: true
adapter: qlora
lora_r: 16
lora_alpha: 32
lora_dropout: 0.05
lora_target_modules:
- q_proj
- k_proj
- v_proj
- o_proj
- gate_proj
- up_proj
- down_proj
sequence_len: 1024
micro_batch_size: 4
gradient_accumulation_steps: 4
num_epochs: 3
learning_rate: 0.0002
optimizer: adamw_torch
lr_scheduler: cosine
bf16: auto
datasets:
- path: anonymisation-rgpd-fr.jsonl
type: chat_template
output_dir: ./outputs/mistral7b-anonymisation-qloraPEFT / Transformers
from peft import LoraConfig, get_peft_model
from transformers import AutoModelForCausalLM, BitsAndBytesConfig
bnb = BitsAndBytesConfig(load_in_4bit=True, bnb_4bit_quant_type="nf4",
bnb_4bit_compute_dtype="bfloat16")
model = AutoModelForCausalLM.from_pretrained(
"mistralai/Mistral-7B-Instruct-v0.3", quantization_config=bnb, device_map="auto")
config = LoraConfig(
r=16, lora_alpha=32, lora_dropout=0.05,
target_modules=["q_proj","k_proj","v_proj","o_proj","gate_proj","up_proj","down_proj"],
task_type="CAUSAL_LM",
)
model = get_peft_model(model, config)
model.print_trainable_parameters()
# lr=0.0002, epochs=3, batch=4, grad_acc=4, max_seq_len=1024Cas d'usage
Anonymiser des tickets de support avant de les envoyer à un LLM
Vos tickets de support contiennent des données personnelles. Les envoyer tels quels à un service d'IA tiers est une fuite de données, et un problème RGPD.
Étape 4 sur 6 : Configurer l'entraînement (Avec le dataset de l'étape précédente)
Communauté
Pas encore de commentaire. Partagez votre retour, il aidera les suivants.