On this page
Votre propre GPU, votre propre modèle
Avec les instances dédiées, vous exécutez un modèle ouvert sur un GPU qui n'est qu'à vous. Nous déployons vLLM, lançons des readiness probes et vous remettons une URL compatible OpenAI et Anthropic. Idéal lorsque vous voulez des performances prévisibles ou une isolation complète.
Comment ça marche
- Choisissez un modèle dans la Model Garden ou un ID HuggingFace
- Réglez la VRAM et choisissez un GPU européen
- Nous déployons vLLM et lançons des readiness probes automatiques
- Vous obtenez un endpoint chaud et une clé API
Les nouvelles instances font tourner vLLM avec leur propre clé upstream chiffrée, de sorte que votre endpoint reste privé.
Ne payez que ce que vous exécutez
Les instances restent chaudes tant que quelqu'un est connecté et se mettent en veille quand personne ne les utilise, pour que vous ne payiez pas un GPU inutilisé. Facturation à l'heure sur un seul solde de crédit prépayé.
Exemple en code
Une fois votre instance chaude, vous l'appelez via le Router avec son slug de modèle, exactement comme vous appelleriez un modèle OpenAI :
from openai import OpenAI
client = OpenAI(
base_url="https://hostyourai.com/api/v1",
api_key="hyai-...",
)
resp = client.chat.completions.create(
model="your-instance-model",
messages=[{"role": "user", "content": "Bonjour"}],
)
print(resp.choices[0].message.content)Vous voulez déployer pas à pas ? Lisez le guide Déployer son propre LLM avec vLLM.
Quel GPU pour quel modèle
| Classe de GPU | VRAM | Usage typique |
|---|---|---|
| L40S / RTX 4090 | 24 à 48 Go | Modèles jusqu'à environ 20B de paramètres |
| A100 / H100 | 80 Go | Modèles jusqu'à environ 70B, quantifiés |
| 2× H100 | 160 Go | 70B en pleine précision ou haut débit |
| 4× H100 | 320 Go | Grands modèles et charges de production lourdes |
Au déploiement, nous appliquons un plancher de VRAM par modèle, afin que vous ne puissiez pas choisir un GPU sur lequel le modèle ne tient pas. Les prix horaires en direct s'affichent avant le déploiement et sur la page des tarifs.
Questions sur les instances dédiées
Puis-je exécuter mon propre modèle ou un modèle affiné ?
Oui. Collez un ID HuggingFace, y compris celui d'un dépôt privé avec vos propres poids, et nous le déployons via vLLM sur votre GPU.
Mon endpoint est-il privé ?
Oui. Les nouvelles instances font tourner vLLM avec leur propre clé API chiffrée, de sorte que seule votre clé de plateforme peut atteindre l'endpoint.
Continue-t-on à payer quand personne n'utilise le modèle ?
Les instances se mettent en veille quand personne n'est connecté, pour que vous ne payiez pas un GPU inutilisé. Vous êtes facturé à l'heure sur votre solde prépayé.
Quand choisir le dédié plutôt que le Router ?
Pour une charge stable, des modèles personnalisés, des exigences d'isolation plus strictes ou un contrôle total du comportement. Pour un trafic variable, le Router partagé est moins cher et plus rapide à mettre en place.
Puis-je lier une base de connaissances ?
Oui. Liez une base de connaissances à votre instance et chaque appel de chat reçoit automatiquement le contexte pertinent issu de vos propres documents. Voir le guide Construire un RAG sur des GPU européens.
Où sont les GPU ?
Dans des datacenters européens. Vos données ne quittent jamais l'UE et un accord de traitement des données (DPA) est disponible. Pour les exigences sectorielles, voir santé et secteur public.
