Mistral 7B on a 16 GB Mac with Ollama

Ollama Modelfile to run Mistral 7B Instruct locally on a 16 GB Mac: Q4 quantization, 8k context, concise answers in English.

Modelfile

FROM mistral:7b-instruct-q4_K_M
PARAMETER num_ctx 8192
PARAMETER temperature 0.3
SYSTEM """You are a helpful assistant. Answer in clear, concise English.
If you don't know, say so."""

Comando de lanzamiento

ollama create mistral-en -f Modelfile && ollama run mistral-en

Coste estimado

Tokens de entrada por llamada : ≈ 191

Solo coste de entrada, sin la respuesta del modelo. Precios públicos estándar de los proveedores (Mistral AI, DeepSeek, OpenAI, Anthropic) convertidos de USD a euros al tipo del BCE del 29 de septiembre de 2026. Estimación: 1 token ≈ 3,6 caracteres.

Identificador

contextetech--mistral-7b-ollama-mac-16gb

Tipo

Configs. de inferencia

Archivo

Modelfile

Formato

MODELFILE

Tamaño

184 bytes

Codificación

UTF-8

Tokens estimados

≈ 51

Idioma

Inglés

Licencia

MIT

Uso comercial

Permitido

Datos personales

Ninguno

Versión

1.0

Publicado el

2 de octubre de 2026 a las 21:54

Actualizado el

2 de octubre de 2026 a las 21:54

Almacenamiento

en base de datos

Usos

0

Me gusta

0

Modelfile

FROM mistral:7b-instruct-q4_K_M
PARAMETER num_ctx 8192
PARAMETER temperature 0.3
SYSTEM """You are a helpful assistant. Answer in clear, concise English.
If you don't know, say so."""

Comando de lanzamiento

ollama create mistral-en -f Modelfile && ollama run mistral-en

Crear el modelo (Ollama)

# enregistrez le Modelfile, puis :
ollama create mistral-7b-ollama-mac-16gb -f Modelfile
ollama run mistral-7b-ollama-mac-16gb