Déployer un LLM open source
Déployez n'importe quel LLM open source sans expertise DevOps.
EU Inference Router
‹ Insight 1 of 28 ›L'écart entre « Llama a l'air excellent » et « Llama répond à nos appels API » est normalement comblé par du DevOps : choix de GPU, piles de pilotes, frameworks de service, gestion des clés. HostYourAI réduit cet écart à quelques clics. Choisissez l'un des plus de 100 modèles ouverts ou collez un identifiant HuggingFace, déployez avec vLLM préconfiguré et un plancher de VRAM appliqué, puis vérifiez le résultat dans le Playground avant d'écrire la moindre ligne d'intégration.
Déployer sur une infrastructure européenne compte ici, car les modèles ouverts se choisissent généralement pour le contrôle, et le contrôle du lieu où se déroule l'inférence est précisément ce qu'un point d'accès hébergé aux États-Unis reprend discrètement.
Pourquoi déployer des LLM open source dans l'UE
Des poids ouverts méritent une juridiction ouverte
Les équipes choisissent des modèles ouverts pour échapper aux dépendances opaques. Les servir depuis des datacenters européens, par un fournisseur européen, complète le tableau : des poids transparents, des sous-traitants transparents grâce à une liste publique, et un traitement qui ne quitte jamais l'UE.
Conforme au RGPD par défaut
Un modèle ouvert déployé sur des GPU de l'UE, couvert par un DPA, chiffré en AES-256 au repos et en TLS en transit, et jamais entraîné sur vos données, ne demande aucune analyse de transfert. Le travail de conformité se réduit à décrire votre propre application.
Des coûts adaptés à votre façon d'expérimenter
Le travail sur les modèles ouverts est itératif : vous essayez un modèle 8B, puis un 70B, puis un fine-tuning. Les crédits prépayés avec des instances à l'heure qui se mettent en veille gardent l'expérimentation abordable, et la page des tarifs explique le modèle de paiement à l'usage.
from openai import OpenAI client = OpenAI( base_url="https://hostyourai.com/api/v1", api_key="hyai-...") client.chat.completions.create( model="llama-3.3-70b", messages=[{"role":"user","content":"Hallo!"}])
Ce qui se passe en coulisses pendant un déploiement
Lorsque vous lancez le déploiement, la plateforme commence par résoudre votre modèle, soit une entrée sélectionnée du catalogue de modèles, soit un identifiant HuggingFace brut, et estime la VRAM nécessaire. Cette estimation devient un plancher strict : un GPU inférieur ne peut pas être sélectionné, ce qui évite l'échec le plus courant de l'auto-hébergement, un plantage par manque de mémoire en plein chargement du modèle. Un GPU est ensuite provisionné dans une région européenne, les poids du modèle sont récupérés, et vLLM démarre avec des réglages raisonnables et une clé API chiffrée générée pour l'instance. L'instance signale quand le moteur est réellement prêt à servir, et pas seulement démarré, puis votre point d'accès compatible OpenAI devient actif. Ensuite, le Playground vous permet de vérifier sans code que le modèle se comporte comme prévu avant l'intégration.
| Famille de modèles ouverts | Réputation |
|---|---|
| Llama | Assistants généralistes performants, écosystème et fine-tunings immenses |
| Qwen | Force multilingue et petits modèles performants |
| Mistral | Modèles européens efficaces, avec une excellente qualité par paramètre |
| DeepSeek | Modèles axés sur le raisonnement, à des tailles ambitieuses |
| Gemma | Modèles compacts et bien documentés, qui tournent sur des GPU modestes |
Comment démarrer
Suivez Déployer son propre LLM avec vLLM pour le pas-à-pas complet, ou passez directement du catalogue au code. Une fois le point d'accès actif :
from openai import OpenAI
client = OpenAI(
base_url="https://hostyourai.com/api/v1",
api_key="hyai-your-key",
)
resp = client.chat.completions.create(
model="gemma-3-12b",
messages=[{"role": "user", "content": "Which open LLM family would you pick for a Dutch-language support bot, and why?"}],
)
print(resp.choices[0].message.content)Si vous préférez ne pas encore exploiter votre propre GPU, les mêmes modèles sont disponibles au token via l'EU Inference Router.
Questions sur le déploiement de LLM open source
Dois-je configurer vLLM moi-même ?
Non. vLLM est préconfiguré pour le modèle que vous déployez. Vous choisissez le modèle ; les paramètres de service, la gestion des clés et les contrôles de disponibilité sont pris en charge pour vous.
Puis-je déployer n'importe quel modèle HuggingFace ?
Tout modèle ouvert que vLLM sait servir, oui : collez l'identifiant HuggingFace au moment du déploiement. Le plancher de VRAM vous indique immédiatement si le GPU choisi est trop petit.
Comment savoir si le déploiement fonctionne réellement ?
Ouvrez le Playground et discutez avec le modèle dans le navigateur. Il utilise le même point d'accès que votre code : une conversation réussie dans le Playground signifie une API qui fonctionne.
Quelle API le modèle déployé expose-t-il ?
Un point d'accès /v1/chat/completions compatible OpenAI avec streaming SSE, plus une couche de compatibilité Anthropic /v1/messages : le code SDK existant n'a besoin que d'une nouvelle URL de base et d'une nouvelle clé.
Les licences sont-elles mon affaire ou la vôtre ?
Les licences des modèles (Apache 2.0, licence Llama, etc.) s'appliquent à votre cas d'usage : vérifiez-les modèle par modèle. Le catalogue indique l'état et la famille de chaque modèle pour faciliter cette vérification.
Tout ce qu'il faut pour l'IA
De l'hébergement de modèles à une API destinée à vos clients, tout est conçu pour les développeurs et les entreprises qui veulent que leur IA tourne sur une infrastructure qu'ils contrôlent réellement, au sein de l'UE.
Vos données et vos modèles restent sur des GPU européens. Conçu pour respecter le RGPD.
Llama, Qwen, DeepSeek, Mistral, FLUX et bien d'autres. Choisissez-en un et il est prêt en quelques minutes, sans DevOps de votre côté.
Pointez votre client existant vers le Router et gardez vos outils. Sans réécriture, sans dépendance.
De zéro à un endpoint prêt en quelques minutes
Aucune infrastructure à gérer. Choisissez un modèle, obtenez une URL compatible OpenAI et livrez.
Choisissez un modèle
Choisissez dans le Model Garden ou collez n'importe quel ID HuggingFace. Définissez la VRAM et choisissez un GPU européen.
Obtenez votre endpoint
Nous déployons vLLM, exécutons les sondes de disponibilité et vous remettons une URL prête, compatible OpenAI et Anthropic, ainsi qu'une clé d'API.
Routez et livrez
Pointez votre client vers le Router. Il route automatiquement vers une instance démarrée, met les GPU au repos quand personne n'est connecté et journalise chaque requête.
Compatible avec les outils que vous utilisez déjà
Le Router parle les API OpenAI et Anthropic, il s'intègre donc directement aux clients et SDK que votre équipe utilise déjà. Il suffit de changer l'URL de base.
Essayer HostYourAI gratuitement
Conçu pour les équipes qui ne peuvent pas envoyer leurs données ailleurs
Si un cloud américain est exclu, HostYourAI vous offre la même expérience développeur sur une infrastructure européenne.
Des données de citoyens qui doivent légalement rester dans l'UE, avec une auditabilité complète.
Équipes de la finance, de la santé et du juridique soumises au RGPD, à DORA et à l'AI Act.
Livrez des fonctionnalités d'IA en lesquelles vos clients ont confiance, sans sous-traitant américain.
Proposez une IA privée à vos clients, sur une infrastructure dont vous pouvez répondre.
Frequently asked questions
Can I run this in the EU?
Yes. HostYourAI runs open models on GPUs in European datacenters via vLLM. Your prompts and outputs never leave the EU and there is no US cloud provider in the chain.
Is it GDPR-compliant?
Yes. All processing happens inside the EU, a Data Processing Agreement (DPA) is available and the subprocessor list is public. Open weights also mean no training on your data.
Is the API OpenAI-compatible?
Yes. Point your existing OpenAI or Anthropic client at our Router (https://hostyourai.com/api/v1), change only the base URL and API key. No rewrite, no lock-in.
What does it cost?
Pay-as-you-go on one prepaid credit balance: the shared router per token or a dedicated GPU per hour. Free to start, no minimum, no fixed monthly fee.
Works with 390+ open models
Text and image models on dedicated EU GPUs. Every model tested on our own hardware.
Related pages
Explore more about EU-hosted AI on HostYourAI.
Hébergez Vicuna 13B sur NVIDIA A10 dédié dans des datacenters européens. Conforme au RGPD, €1.50/heure, API compatible OpenAI.
Read more →Utilisez votre client Anthropic avec des modèles ouverts sur des GPU européens. Une alternative à l'API Claude qui parle /v1/messages et garde vos données dans l'UE.
Read more →L'IA pour la santé sur des GPU européens. Les données patients ne quittent jamais l'UE, avec des modèles ouverts, un accord de traitement des données et un traitement conforme au RGPD.
Read more →Hébergez CodeLlama 70B sur NVIDIA A100 80GB dédié dans des datacenters européens. Conforme au RGPD, €4.00/heure, API compatible OpenAI.
Read more →Une alternative à Azure OpenAI qui tourne dans l'UE ? API compatible OpenAI en drop-in sur des modèles ouverts, des GPU européens et aucun cloud américain dans la chaîne.
Read more →L'IA pour les établissements financiers sur des GPU européens. Les données restent dans l'UE, avec des modèles ouverts, un DPA et une attention portée à DORA et au RGPD.
Read more →Hébergez. Routez. Livrez.
Aucune carte bancaire requise. Paiement à l'usage, résiliable à tout moment.
Commencer l'hébergement gratuitement dès aujourd'hui