ES
Iniciar sesión Publicar
contextetech /

Mistral 7B sur un Mac 16 Go avec Ollama

v1
Francés Licencia: MIT Publicado el actualizado ayer 0 usos

Modelfile Ollama pour faire tourner Mistral 7B Instruct en local sur un Mac 16 Go : quantification Q4, contexte 8k, réponses en français.

Modelomistral:7b-instruct-q4_K_M
Hardware probadoMac Apple Silicon, 16 Go de mémoire

Modelfile

FROM mistral:7b-instruct-q4_K_M
PARAMETER num_ctx 8192
PARAMETER temperature 0.3
SYSTEM """Tu es un assistant qui répond en français, de façon claire et concise.
Si tu ne sais pas, dis-le."""

Comando de lanzamiento

ollama create mistral-fr -f Modelfile && ollama run mistral-fr

Comunidad

Aún no hay comentarios. Comparte tu opinión, ayudará a los siguientes.