DE
Anmelden Veröffentlichen

Ein KI-Modell selbst bereitstellen

LLMs, Inferenz-Konfigurationen und Stacks, um KI auf eigenen Rechnern zu hosten.

3 Ergebnis(se)
contextetech

Private chat on your documents: Ollama, Qdrant, Open WebUI

docker-compose stack for a private chat on your documents: Ollama (model),…

3 Dienst(e) 002 Std.
contextetech

Minimal private AI chat: Ollama and Open WebUI

The simplest stack for a private AI chat: Ollama and Open WebUI with…

2 Dienst(e) 002 Std.
contextetech

Local automations: n8n and Ollama

docker-compose stack to automate with a local AI: n8n (workflows) and Ollama…

2 Dienst(e) 002 Std.

Was heißt ein KI-Modell bereitstellen?

Bereitstellen heißt, ein Modell auf eigenen Rechnern zu betreiben statt eine externe API zu nutzen: Die Daten bleiben bei dir. Man wählt ein Modell, eine Laufzeit (Ollama, vLLM, llama.cpp) und bei Bedarf einen kompletten Stack.