Vad är RAG?
Vad är det?
En RAG-pipeline (retrieval-augmented generation) låter en modell svara utifrån dina dokument: de delas upp och omvandlas till embeddings, och vid varje fråga hämtas de användbara utdragen och ges till modellen.
När den ska användas
- Låta en assistent svara utifrån intern dokumentation eller en produktkatalog.
- Minska hallucinationer genom att låta modellen ange sina källor.
Sidans fält
| Källor | Använda dokument och hur de uppdateras. |
|---|---|
| Uppdelning | Bitarnas storlek och överlapp. |
| Embeddings och vektordatabas | Embeddingmodellen och var vektorerna lagras. |
| Sökning | Antal behållna utdrag och eventuell omrankning. |
| Promptmall | Texten som skickas till modellen, med {{context}} och {{question}}. |
Hur den används
Fliken ”Användning”: ladda ner JSON-konfigurationen; Python-exemplet beskriver varje steg.