Spécialiser un modèle : datasets, LoRA, évaluations
Des datasets, configurations LoRA et évaluations pour adapter un modèle à votre domaine.
- [187bztw] Configuration QLoRA pour anonymiser avec Mistral 7B | lora | multi | Apache-2.0 | https://contextetech.com/lora/mistral7b-anonymisation-qlora-187bztw
Que veut dire adapter un modèle ?
Adapter un modèle, c'est le réentraîner sur vos propres exemples pour qu'il maîtrise votre domaine, votre vocabulaire ou vos formats : c'est le fine-tuning. Il faut un dataset, des réglages d'entraînement (souvent LoRA) et des évaluations pour vérifier qu'il a bien appris.