Ein KI-Modell selbst bereitstellen
LLMs, Inferenz-Konfigurationen und Stacks, um KI auf eigenen Rechnern zu hosten.
- [yf2bm9] Lokale Automatisierung: n8n und Ollama | stack | de | MIT | https://contextetech.com/de/stacks/lokale-automatisierung-n8n-ollama-yf2bm9 - [1newgs9] Privater Chat mit Dokumenten: Ollama, Qdrant, Open WebUI | stack | de | MIT | https://contextetech.com/de/stacks/privater-chat-mit-dokumenten-1newgs9
contextetech
Lokale Automatisierung: n8n und Ollama
docker-compose-Stack für Automatisierung mit lokaler KI: n8n (Workflows) und Ollama (Modell), ohne Daten an eine externe API zu senden.
contextetech
Privater Chat mit Dokumenten: Ollama, Qdrant, Open WebUI
docker-compose-Stack für einen privaten Chat mit Ihren Dokumenten: Ollama (Modell), Qdrant (Vektordatenbank) und Open WebUI (Oberfläche).
Was heißt ein KI-Modell bereitstellen?
Bereitstellen heißt, ein Modell auf eigenen Rechnern zu betreiben statt eine externe API zu nutzen: Die Daten bleiben bei dir. Man wählt ein Modell, eine Laufzeit (Ollama, vLLM, llama.cpp) und bei Bedarf einen kompletten Stack.