DE
Anmelden Veröffentlichen
contextetech /

Mistral 7B sur un Mac 16 Go avec Ollama

v1
Französisch Lizenz: MIT Veröffentlicht am aktualisiert gestern 0 Nutzungen

Modelfile Ollama pour faire tourner Mistral 7B Instruct en local sur un Mac 16 Go : quantification Q4, contexte 8k, réponses en français.

Modellmistral:7b-instruct-q4_K_M
Getestete HardwareMac Apple Silicon, 16 Go de mémoire

Modelfile

FROM mistral:7b-instruct-q4_K_M
PARAMETER num_ctx 8192
PARAMETER temperature 0.3
SYSTEM """Tu es un assistant qui répond en français, de façon claire et concise.
Si tu ne sais pas, dis-le."""

Startbefehl

ollama create mistral-fr -f Modelfile && ollama run mistral-fr

Community

Noch keine Kommentare. Teile deine Erfahrung, sie hilft den Nächsten.