Configurazioni di IA: inferenza, stack, embedding e impostazioni
Impostazioni tecniche per eseguire o adattare un modello: inferenza, stack, embedding, LoRA, RAG…
Automazioni locali: n8n e Ollama
Stack docker-compose per automatizzare con un'IA locale: n8n (workflow) e Ollama (modello), senza inviare dati a un'API esterna.
Chat privata sui documenti: Ollama, Qdrant, Open WebUI
Stack docker-compose per una chat privata sui tuoi documenti: Ollama (modello), Qdrant (database vettoriale) e Open WebUI (interfaccia).
Mistral 7B su un Mac da 16 GB con Ollama
Modelfile Ollama per eseguire Mistral 7B Instruct in locale su un Mac da 16 GB: quantizzazione Q4, contesto 8k, risposte in italiano.
Embeddings multilingual-e5-large per un RAG in italiano
multilingual-e5-large per un RAG in italiano: 1024 dimensioni, 512 token, prefissi query:/passage: obbligatori, distanza coseno. Licenza MIT.
Cos’è una configurazione per l’IA?
Una configurazione raccoglie le impostazioni tecniche che fanno girare o adattano un modello: parametri di addestramento LoRA, pipeline RAG, modello di embedding, inferenza locale, stack di servizi, funzione di ricompensa o ricetta di dati sintetici. Si copia e si rilancia per ottenere lo stesso risultato.