Qwen2.5 7B avec vLLM sur un GPU de 24 Go
# Qwen2.5 7B avec vLLM sur un GPU de 24 Go code: 1m2r6x4 | type: inference | language: fr | licence: MIT | version: v2 description: Servir Qwen2.5 7B Instruct avec vLLM sur une carte graphique de 24 Go : API compatible OpenAI, contexte 8k, une seule commande. page: https://contextetech.com/inference/qwen2-5-7b-vllm-gpu-24go-1m2r6x4 mcp: connect https://contextetech.com/mcp then call load_resource with code "1m2r6x4" (or ask "load 1m2r6x4") json: https://contextetech.com/api/resources/contextetech--qwen2-5-7b-vllm-gpu-24go python: pip install contexte && contexte get 1m2r6x4 source: https://huggingface.co/Qwen/Qwen2.5-7B-Instruct citation (required by the licence): contextetech. (2026). Qwen2.5 7B avec vLLM sur un GPU de 24 Go (Version 2) [Config d'inférence]. Contexte Tech. https://contextetech.com/inference/qwen2-5-7b-vllm-gpu-24go-1m2r6x4. Source des données : https://huggingface.co/Qwen/Qwen2.5-7B-Instruct
Servir Qwen2.5 7B Instruct avec vLLM sur une carte graphique de 24 Go : API compatible OpenAI, contexte 8k, une seule commande.
| Modèle | Qwen/Qwen2.5-7B-Instruct |
|---|---|
| Matériel testé | Carte graphique NVIDIA 24 Go (par exemple RTX 4090 ou L4) |
Commande de lancement
vllm serve Qwen/Qwen2.5-7B-Instruct --max-model-len 8192 --gpu-memory-utilization 0.90 --host 127.0.0.1 --port 8000
- Identifiant
- contextetech--qwen2-5-7b-vllm-gpu-24go
- Fichier
- qwen2-5-7b-vllm-gpu-24go.inference.json
- Format
- JSON (application/json)
- Taille
- 547 octets
- Encodage
- UTF-8
- Tokens estimés
- ≈ 152
- Usage commercial
- Autorisé
- Données personnelles
- Aucune
- Version
- 1.0
- Publié le
- 1 octobre 2026 à 18:55
- Mis à jour le
- 16 octobre 2026 à 23:20
- Stockage
- en base
Statistiques
J'aime : 0 · Commentaires : 0
Cliquez sur un compteur pour l’afficher ou le masquer, survolez le graphique pour le détail. Une vue par visiteur et par jour, robots exclus ; décompte commencé le 30 septembre 2026.
Coût estimé
- Tokens d'entrée par appel
- ≈ 172
| Modèle | Par appel | Par mois |
|---|---|---|
| GPT-6 Luna · OpenAImeilleur prix | 0,00002 € | 0,02 € |
| DeepSeek Flash · DeepSeek | 0,00005 € | 0,05 € |
| Mistral Large · Mistral AI | 0,00008 € | 0,08 € |
| DeepSeek V4 Pro · DeepSeek | 0,00020 € | 0,20 € |
| GPT-6 Sol · OpenAI | 0,00030 € | 0,30 € |
| Claude Sonnet 5.5 · Anthropic | 0,00030 € | 0,30 € |
| Claude Opus 5.5 · Anthropic | 0,00061 € | 0,61 € |
| Modèle open source hébergé chez soi (Ollama, vLLM) | 0 € d'API (coût du serveur seulement) | |
Coût d'entrée seulement, sans la réponse du modèle. Prix publics des fournisseurs (Mistral AI, DeepSeek, OpenAI, Anthropic), tarif standard en dollars converti en euros au taux BCE du 13 octobre 2026. Estimation : 1 token ≈ 3,6 caractères.
Commun aux 3 régions
Sources sous licence compatible.
Sources : Modèle Qwen/Qwen2.5-7B-Instruct, licence Apache 2.0 (fiche Hugging Face)
Usage commercial autorisé · citer l'auteur · modifications permises.
Texte ou données seuls : aucun accès aux fichiers, au réseau ni aux commandes.
Hébergé en France (Scaleway, Paris). Aucun transfert hors UE.
Union européenne · 5/5
Aucune donnée personnelle.
Pas de données d'entraînement : pas de résumé à fournir.
États-Unis · 5/5
Aucune donnée personnelle.
Pas de données d'entraînement : pas de documentation à publier.
Chine · 5/5
Aucune donnée personnelle.
Pas de données d'entraînement ; les contenus générés par IA diffusés en Chine doivent être marqués (2025).
Synthèse indicative au 30/09/2026, sans valeur de certification juridique. Méthode et sources →
Qualité du contenu
Performances non mesurées : ni vitesse mesurée ni test réussi
Le détail des critères est réservé aux membres.
Chaque critère, les points retirés et un conseil pour corriger.
Analyse du contenu
Le détail des critères est réservé aux membres.
Chaque critère, les points retirés et un conseil pour corriger.
Calculé à partir du contenu de la fiche, par règles, sans IA. La note est dans l'onglet Qualité.
MCP contexte
https://contextetech.com/mcp
charge 1m2r6x4
Ajoutez l'adresse comme connecteur dans les pages des applications d'IA, puis envoyez la demande ci-dessus.
API
import json, urllib.request url = "https://contextetech.com/api/resources/contextetech--qwen2-5-7b-vllm-gpu-24go" fiche = json.load(urllib.request.urlopen(url)) print(fiche["title"] or fiche["name"])
qwen2-5-7b-vllm-gpu-24go.inference.json
{
"format": "contextetech/inference/v1",
"id": "contextetech/qwen2-5-7b-vllm-gpu-24go",
"description": "Servir Qwen2.5 7B Instruct avec vLLM sur une carte graphique de 24 Go : API compatible OpenAI, contexte 8k, une seule commande.",
"license": "MIT",
"language": "fr",
"runtime": "vllm",
"model": "Qwen/Qwen2.5-7B-Instruct",
"config": "",
"command": "vllm serve Qwen/Qwen2.5-7B-Instruct --max-model-len 8192 --gpu-memory-utilization 0.90 --host 127.0.0.1 --port 8000",
"quant": "bf16",
"contextLength": 8192,
"ramGb": 24
}Commande de lancement
vllm serve Qwen/Qwen2.5-7B-Instruct --max-model-len 8192 --gpu-memory-utilization 0.90 --host 127.0.0.1 --port 8000
Communauté
Pas encore de commentaire. Partagez votre retour, il aidera les suivants.