Vad är en LoRA-konfiguration?
Vad är det?
LoRA anpassar en befintlig modell till en uppgift utan att träna om den helt: bara små adaptrar tränas. En LoRA-sida samlar alla inställningar för den träningen.
När den ska användas
- Återskapa en finjustering som fungerade.
- Starta din egen träning från beprövade inställningar.
Sidans fält
| Metod | LoRA, eller QLoRA (modell komprimerad till 4 bitar, mindre minne). |
|---|---|
| Basmodell | Modellen som ska anpassas, t.ex. Qwen/Qwen2.5-7B-Instruct. |
| Rank, alpha, dropout | Adaptrarnas storlek och styrka. |
| Inlärningshastighet, epoker, batch | Träningens inställningar. |
| Kopplat dataset | Det dataset i katalogen som användes för träningen. |
Hur den används
Fliken ”Användning”: ladda ner YAML-konfigurationen för Axolotl, eller kopiera PEFT-exemplet i Python.