DE
Anmelden Veröffentlichen
contextetech /

Mistral 7B en un Mac de 16 GB con Ollama

v1
Spanisch Lizenz: MIT Veröffentlicht am aktualisiert vor 21 Stunden 0 Nutzungen

Modelfile de Ollama para ejecutar Mistral 7B Instruct en local en un Mac de 16 GB: cuantización Q4, contexto de 8k, respuestas en español.

Modellmistral:7b-instruct-q4_K_M
Getestete HardwareMac con Apple Silicon y 16 GB de memoria

Modelfile

FROM mistral:7b-instruct-q4_K_M
PARAMETER num_ctx 8192
PARAMETER temperature 0.3
SYSTEM """Eres un asistente que responde en español, de forma clara y concisa.
Si no lo sabes, dilo."""

Startbefehl

ollama create mistral-es -f Modelfile && ollama run mistral-es

Community

Noch keine Kommentare. Teile deine Erfahrung, sie hilft den Nächsten.