Infraestructura: inferencia y stacks de IA
Ejecutar un modelo en tu equipo.
- [188zzhx] Automatizaciones locales: n8n y Ollama | stack | es | MIT | https://contextetech.com/es/stacks/automatizaciones-locales-n8n-ollama-188zzhx - [b2mu55] Chat privado con tus documentos: Ollama, Qdrant, Open WebUI | stack | es | MIT | https://contextetech.com/es/stacks/chat-privado-documentos-b2mu55 - [diaafq] Mistral 7B en un Mac de 16 GB con Ollama | inference | es | MIT | https://contextetech.com/es/inferencia/mistral-7b-ollama-mac-16gb-es-diaafq
Automatizaciones locales: n8n y Ollama
Stack docker-compose para automatizar con una IA local: n8n (flujos) y Ollama (modelo), sin enviar datos a una API externa.
Chat privado con tus documentos: Ollama, Qdrant, Open WebUI
Stack docker-compose para un chat privado sobre tus documentos: Ollama (modelo), Qdrant (base vectorial) y Open WebUI (interfaz).
Mistral 7B en un Mac de 16 GB con Ollama
Modelfile de Ollama para ejecutar Mistral 7B Instruct en local en un Mac de 16 GB: cuantización Q4, contexto de 8k, respuestas en español.
¿Qué es el despliegue de un modelo de IA?
El despliegue consiste en instalar y configurar un modelo para utilizarlo en una aplicación, un servidor o una máquina local. Esta familia reúne recursos para ejecutar el modelo, recibir solicitudes y generar respuestas con el hardware disponible.