IT
Accedi Pubblica
contextetech /

Mistral 7B sur un Mac 16 Go avec Ollama

v1
Francese Licenza: MIT Pubblicato il aggiornato ieri 0 utilizzi

Modelfile Ollama pour faire tourner Mistral 7B Instruct en local sur un Mac 16 Go : quantification Q4, contexte 8k, réponses en français.

Modellomistral:7b-instruct-q4_K_M
Hardware testatoMac Apple Silicon, 16 Go de mémoire

Modelfile

FROM mistral:7b-instruct-q4_K_M
PARAMETER num_ctx 8192
PARAMETER temperature 0.3
SYSTEM """Tu es un assistant qui répond en français, de façon claire et concise.
Si tu ne sais pas, dis-le."""

Comando di avvio

ollama create mistral-fr -f Modelfile && ollama run mistral-fr

Community

Ancora nessun commento. Condividi la tua esperienza, aiuterà chi viene dopo.