EN
Sign in Publish
contextetech /

Mistral 7B sur un Mac 16 Go avec Ollama

v1
French License: MIT Published on updated yesterday 0 uses

Modelfile Ollama pour faire tourner Mistral 7B Instruct en local sur un Mac 16 Go : quantification Q4, contexte 8k, réponses en français.

Modelmistral:7b-instruct-q4_K_M
Tested hardwareMac Apple Silicon, 16 Go de mémoire

Modelfile

FROM mistral:7b-instruct-q4_K_M
PARAMETER num_ctx 8192
PARAMETER temperature 0.3
SYSTEM """Tu es un assistant qui répond en français, de façon claire et concise.
Si tu ne sais pas, dis-le."""

Launch command

ollama create mistral-fr -f Modelfile && ollama run mistral-fr

Community

No comments yet. Share your feedback, it will help the next person.