ES
Iniciar sesión Publicar
contextetech /

Privater Chat mit Dokumenten: Ollama, Qdrant, Open WebUI

v1
Alemán Licencia: MIT Publicado el actualizado hace 21 horas 0 usos

docker-compose-Stack für einen privaten Chat mit Ihren Dokumenten: Ollama (Modell), Qdrant (Vektordatenbank) und Open WebUI (Oberfläche).

Accesos Medio

  • Leer archivos o datos
  • Modificar o borrar archivos
  • Enviar datos por Internet
  • Ejecutar comandos en la máquina : No

Servicios

  • Ollama: betreibt das Modell
  • Qdrant: Vektordatenbank
  • Open WebUI: Chat-Oberfläche und Dokumenten-Upload

Puertos : 3000 (Oberfläche), 11434 (Ollama), 6333 (Qdrant)

1. docker compose up -d 2. Modell laden: docker compose exec ollama ollama pull mistral 3. http://localhost:3000 öffnen, Admin-Konto anlegen und Dokumente hochladen.

docker-compose.yml

services:
  ollama:
    image: ollama/ollama
    volumes:
      - ollama:/root/.ollama
    ports:
      - "11434:11434"

  qdrant:
    image: qdrant/qdrant
    volumes:
      - qdrant:/qdrant/storage
    ports:
      - "6333:6333"

  open-webui:
    image: ghcr.io/open-webui/open-webui:main
    depends_on: [ollama, qdrant]
    environment:
      - OLLAMA_BASE_URL=http://ollama:11434
      - VECTOR_DB=qdrant
      - QDRANT_URI=http://qdrant:6333
    volumes:
      - open-webui:/app/backend/data
    ports:
      - "3000:8080"

volumes:
  ollama:
  qdrant:
  open-webui:

Comunidad

Aún no hay comentarios. Comparte tu opinión, ayudará a los siguientes.