Mistral 7B auf einem Mac mit 16 GB und Ollama

Ollama-Modelfile, um Mistral 7B Instruct lokal auf einem Mac mit 16 GB zu betreiben: Q4-Quantisierung, 8k Kontext, Antworten auf Deutsch.

Modelfile

FROM mistral:7b-instruct-q4_K_M
PARAMETER num_ctx 8192
PARAMETER temperature 0.3
SYSTEM """Du bist ein Assistent, der klar und knapp auf Deutsch antwortet.
Wenn du etwas nicht weißt, sag es."""

Commande de lancement

ollama create mistral-de -f Modelfile && ollama run mistral-de

Coût estimé

Tokens d'entrée par appel : ≈ 198

Coût d'entrée seulement, sans la réponse du modèle. Prix publics des fournisseurs (Mistral AI, DeepSeek, OpenAI, Anthropic), tarif standard en dollars converti en euros au taux BCE du 29 septembre 2026. Estimation : 1 token ≈ 3,6 caractères.

Identifiant

contextetech--mistral-7b-ollama-mac-16gb-de

Type

Configs d'inférence

Fichier

Modelfile

Format

MODELFILE

Taille

195 octets

Encodage

UTF-8

Tokens estimés

≈ 54

Langue

Allemand

Licence

MIT

Usage commercial

Autorisé

Données personnelles

Aucune

Version

1.0

Publié le

3 octobre 2026 à 05:20

Mis à jour le

3 octobre 2026 à 05:20

Stockage

en base

Utilisations

0

J'aime

0

Modelfile

FROM mistral:7b-instruct-q4_K_M
PARAMETER num_ctx 8192
PARAMETER temperature 0.3
SYSTEM """Du bist ein Assistent, der klar und knapp auf Deutsch antwortet.
Wenn du etwas nicht weißt, sag es."""

Commande de lancement

ollama create mistral-de -f Modelfile && ollama run mistral-de

Créer le modèle (Ollama)

# enregistrez le Modelfile, puis :
ollama create mistral-7b-ollama-mac-16gb-de -f Modelfile
ollama run mistral-7b-ollama-mac-16gb-de