Configurations LoRA et QLoRA pour le fine-tuning
Des configurations LoRA et QLoRA pour réentraîner un modèle à moindre coût, avec Axolotl ou Unsloth.
- [187bztw] Configuration QLoRA pour anonymiser avec Mistral 7B | lora | multi | Apache-2.0 | https://contextetech.com/lora/mistral7b-anonymisation-qlora-187bztw
Qu'est-ce qu'une configuration LoRA ?
LoRA est une technique pour adapter un modèle existant à une tâche sans le réentraîner entièrement : on entraîne de petits adaptateurs. Une fiche LoRA regroupe tous les réglages de cet entraînement.
Guide : LoRA →