Cos'è una configurazione LoRA?
Che cos'è?
LoRA adatta un modello esistente a un compito senza riaddestrarlo del tutto: si addestrano solo piccoli adattatori. Una pagina LoRA raccoglie tutti i parametri di quell'addestramento.
Quando usarla
- Riprodurre un fine-tuning che ha funzionato.
- Avviare il tuo addestramento partendo da parametri collaudati.
Campi della pagina
| Metodo | LoRA, o QLoRA (modello compresso a 4 bit, meno memoria). |
|---|---|
| Modello di base | Il modello da adattare, es. Qwen/Qwen2.5-7B-Instruct. |
| Rank, alpha, dropout | Dimensione e intensità degli adattatori. |
| Learning rate, epoche, batch | Parametri di addestramento. |
| Dataset collegato | Il dataset del catalogo usato per l'addestramento. |
Come usarla
Scheda “Usa”: scarica la config YAML per Axolotl, o copia l'esempio Python PEFT.