Vad är en embeddingmodell?
Vad är det?
En embeddingmodell omvandlar en text till en serie tal (en vektor). Texter med liknande betydelse ger vektorer som ligger nära varandra: det är grunden för semantisk sökning och RAG.
När den ska användas
- Välja modell för en RAG efter språk, dokumentstorlek och poäng.
- Hitta rätt inställningar: prefix, avstånd, bitarnas storlek.
Sidans fält
| Modell | Hugging Face-identifierare eller namn i API:et. |
|---|---|
| Dimensioner | Vektorns storlek. |
| Max tokens | Maximal längd på en text. |
| Avstånd | Cosinus, inre produkt eller euklidiskt. |
| Prefix | Text att sätta före frågor och textavsnitt, om modellen kräver det. |
| Benchmarks | Publicerade poäng, t.ex. MTEB. |
Hur den används
Python-exemplet läser in modellen med sentence-transformers och använder rätt prefix.