DE
Anmelden Veröffentlichen
contextetech /

Mistral 7B su un Mac da 16 GB con Ollama

v1
Italienisch Lizenz: MIT Veröffentlicht am aktualisiert vor 20 Stunden 0 Nutzungen

Modelfile Ollama per eseguire Mistral 7B Instruct in locale su un Mac da 16 GB: quantizzazione Q4, contesto 8k, risposte in italiano.

Modellmistral:7b-instruct-q4_K_M
Getestete HardwareMac con Apple Silicon e 16 GB di memoria

Modelfile

FROM mistral:7b-instruct-q4_K_M
PARAMETER num_ctx 8192
PARAMETER temperature 0.3
SYSTEM """Sei un assistente che risponde in italiano, in modo chiaro e conciso.
Se non lo sai, dillo."""

Startbefehl

ollama create mistral-it -f Modelfile && ollama run mistral-it

Community

Noch keine Kommentare. Teile deine Erfahrung, sie hilft den Nächsten.