IT
Accedi Pubblica
contextetech /

Chat privé sur vos documents : Ollama, Qdrant, Open WebUI

v1
Francese Licenza: MIT Pubblicato il aggiornato ieri 0 utilizzi

Stack docker-compose pour un chat privé sur vos documents : Ollama (modèle), Qdrant (base vectorielle) et Open WebUI (interface).

Accessi Medio

  • Leggere file o dati
  • Modificare o eliminare file
  • Inviare dati su Internet
  • Eseguire comandi sulla macchina : No

Servizi

  • Ollama : fait tourner le modèle
  • Qdrant : base vectorielle
  • Open WebUI : interface de chat et import de documents

Porte : 3000 (interface), 11434 (Ollama), 6333 (Qdrant)

1. docker compose up -d 2. Télécharger un modèle : docker compose exec ollama ollama pull mistral 3. Ouvrir http://localhost:3000, créer le compte administrateur, puis importer vos documents.

docker-compose.yml

services:
  ollama:
    image: ollama/ollama
    volumes:
      - ollama:/root/.ollama
    ports:
      - "11434:11434"

  qdrant:
    image: qdrant/qdrant
    volumes:
      - qdrant:/qdrant/storage
    ports:
      - "6333:6333"

  open-webui:
    image: ghcr.io/open-webui/open-webui:main
    depends_on: [ollama, qdrant]
    environment:
      - OLLAMA_BASE_URL=http://ollama:11434
      - VECTOR_DB=qdrant
      - QDRANT_URI=http://qdrant:6333
    volumes:
      - open-webui:/app/backend/data
    ports:
      - "3000:8080"

volumes:
  ollama:
  qdrant:
  open-webui:

Community

Ancora nessun commento. Condividi la tua esperienza, aiuterà chi viene dopo.