QLoRA 4-bit · LoRA

Des configurations LoRA et QLoRA pour réentraîner un modèle à moindre coût, avec Axolotl ou Unsloth.

- [187bztw] Configuration QLoRA pour anonymiser avec Mistral 7B | lora | multi | Apache-2.0 | https://contextetech.com/lora/mistral7b-anonymisation-qlora-187bztw

contextetech

Configuration QLoRA pour anonymiser avec Mistral 7B

Configuration QLoRA de départ pour spécialiser Mistral 7B Instruct dans l'anonymisation RGPD, avec le dataset anonymisation-rgpd-fr. Tient sur un GPU de 24 Go.

ConfigurationQLoRA 4-bitMistral-7B-Instruct-v0.3r=16 8 j