Infrastruktur: inferenskonfigurationer och AI-stackar

Vad är driftsättning av en AI-modell?

Att driftsätta innebär att installera och konfigurera en modell för att använda den i en applikation, på en server eller på en lokal maskin. Den här familjen samlar resurser för att köra modellen, ta emot förfrågningar och generera svar med den hårdvara som finns.