FR
Connexion Publier
contextetech /

Mistral 7B sur un Mac 16 Go avec Ollama

v1
Français Licence : MIT Mis en ligne le mis à jour hier 0 utilisations

Modelfile Ollama pour faire tourner Mistral 7B Instruct en local sur un Mac 16 Go : quantification Q4, contexte 8k, réponses en français.

Modèlemistral:7b-instruct-q4_K_M
Matériel testéMac Apple Silicon, 16 Go de mémoire

Modelfile

FROM mistral:7b-instruct-q4_K_M
PARAMETER num_ctx 8192
PARAMETER temperature 0.3
SYSTEM """Tu es un assistant qui répond en français, de façon claire et concise.
Si tu ne sais pas, dis-le."""

Commande de lancement

ollama create mistral-fr -f Modelfile && ollama run mistral-fr

Communauté

Pas encore de commentaire. Partagez votre retour, il aidera les suivants.