Private chat on your documents: Ollama, Qdrant, Open WebUI

docker-compose stack for a private chat on your documents: Ollama (model), Qdrant (vector database) and Open WebUI (interface).

Zugriffe Mittel

• ✓ Dateien oder Daten lesen
• ✓ Dateien ändern oder löschen
• ✓ Daten ins Internet senden
• — Befehle auf dem Rechner ausführen : Nein

Dienste

• Ollama: runs the model
• Qdrant: vector database
• Open WebUI: chat interface and document upload

Ports : 3000 (interface), 11434 (Ollama), 6333 (Qdrant)

1. docker compose up -d 2. Pull a model: docker compose exec ollama ollama pull llama3.1 3. Open http://localhost:3000, create the admin account, then upload your documents.

docker-compose.yml

services:
  ollama:
    image: ollama/ollama
    volumes:
      - ollama:/root/.ollama
    ports:
      - "11434:11434"

  qdrant:
    image: qdrant/qdrant
    volumes:
      - qdrant:/qdrant/storage
    ports:
      - "6333:6333"

  open-webui:
    image: ghcr.io/open-webui/open-webui:main
    depends_on: [ollama, qdrant]
    environment:
      - OLLAMA_BASE_URL=http://ollama:11434
      - VECTOR_DB=qdrant
      - QDRANT_URI=http://qdrant:6333
    volumes:
      - open-webui:/app/backend/data
    ports:
      - "3000:8080"

volumes:
  ollama:
  qdrant:
  open-webui:

Geschätzte Kosten

Eingabe-Tokens pro Aufruf : ≈ 374

Nur Eingabekosten, ohne die Antwort des Modells. Öffentliche Standardpreise der Anbieter (Mistral AI, DeepSeek, OpenAI, Anthropic) von USD in Euro umgerechnet zum EZB-Kurs vom 29. September 2026. Schätzung: 1 Token ≈ 3,6 Zeichen.

Kennung

contextetech--private-chat-on-your-documents

Typ

Stacks

Datei

docker-compose.yml

Format

YML

Größe

574 Bytes

Kodierung

UTF-8

Geschätzte Tokens

≈ 159

Sprache

Englisch

Lizenz

MIT

Kommerzielle Nutzung

Erlaubt

Personenbezogene Daten

Keine

Version

1.0

Veröffentlicht am

2. Oktober 2026 um 21:54

Aktualisiert am

2. Oktober 2026 um 21:54

Speicherung

in der Datenbank

Nutzungen

0

Gefällt mir

0

docker-compose.yml

services:
  ollama:
    image: ollama/ollama
    volumes:
      - ollama:/root/.ollama
    ports:
      - "11434:11434"

  qdrant:
    image: qdrant/qdrant
    volumes:
      - qdrant:/qdrant/storage
    ports:
      - "6333:6333"

  open-webui:
    image: ghcr.io/open-webui/open-webui:main
    depends_on: [ollama, qdrant]
    environment:
      - OLLAMA_BASE_URL=http://ollama:11434
      - VECTOR_DB=qdrant
      - QDRANT_URI=http://qdrant:6333
    volumes:
      - open-webui:/app/backend/data
    ports:
      - "3000:8080"

volumes:
  ollama:
  qdrant:
  open-webui:

Starten

# enregistrez docker-compose.yml, puis :
docker compose up -d
docker compose ps