Distribuire un modello IA in proprio
LLM, configurazioni di inferenza e stack per ospitare l'IA sulle tue macchine.
- [de6n4u] Automazioni locali: n8n e Ollama | stack | it | MIT | https://contextetech.com/it/stacks/automazioni-locali-n8n-ollama-de6n4u - [j2wdns] Chat privata sui documenti: Ollama, Qdrant, Open WebUI | stack | it | MIT | https://contextetech.com/it/stacks/chat-privata-documenti-j2wdns
contextetech
Automazioni locali: n8n e Ollama
Stack docker-compose per automatizzare con un'IA locale: n8n (workflow) e Ollama (modello), senza inviare dati a un'API esterna.
contextetech
Chat privata sui documenti: Ollama, Qdrant, Open WebUI
Stack docker-compose per una chat privata sui tuoi documenti: Ollama (modello), Qdrant (database vettoriale) e Open WebUI (interfaccia).
Cosa vuol dire distribuire un modello IA?
Distribuire vuol dire far girare un modello sulle tue macchine invece di chiamare un'API esterna: i dati restano a te. Si sceglie un modello, un motore (Ollama, vLLM, llama.cpp) e, se serve, uno stack completo.