Hébergement Llama 3
Déployez les modèles Llama 3.3 de Meta sur une infrastructure européenne dédiée.
La famille Llama de Meta est le cheval de bataille des LLM ouverts : sous licence permissive, bien documentée et disponible dans des tailles allant du modèle de poche au poids lourd de 70B. HostYourAI exécute les générations Llama 3.1, 3.2 et 3.3 avec vLLM sur des GPU européens : vous bénéficiez de la qualité de Llama sans envoyer un seul prompt en dehors de l'UE.
Vous pouvez appeler les modèles Llama de deux façons. L'EU Inference Router partagé donne un accès immédiat au token, avec les tailles populaires maintenues chaudes. Pour un trafic de production régulier ou des exigences d'isolation strictes, les instances GPU dédiées exécutent le Llama de votre choix avec sa propre clé API chiffrée.
Pourquoi un hébergement Llama dans l'UE
Des poids ouverts, un service souverain
Les poids de Llama sont publics : rien ne vous oblige à les exécuter sur une infrastructure américaine. Les héberger sur des GPU européens fait d'un modèle ouvert une pile véritablement souveraine : les poids, la couche de service vLLM et le matériel échappent tous au contrôle d'un fournisseur unique.
La protection des données reste simple
Les prompts envoyés à un modèle Llama ici sont traités dans des datacenters européens et ne servent jamais à l'entraînement. Avec un DPA et une liste publique des sous-traitants, votre documentation RGPD pour la fonctionnalité tient en une page, pas en un projet.
Payez des tokens, pas une capacité théorique inutilisée
Sur le Router, vous payez au token à partir d'un solde prépayé ; une instance Llama dédiée est facturée à l'heure et se met en veille lorsqu'elle n'est pas utilisée. Les deux puisent dans un même solde, expliqué sur la page des tarifs : tester un Llama plus grand est donc une décision que vous pouvez annuler le jour même.
from openai import OpenAI client = OpenAI( base_url="https://hostyourai.com/api/v1", api_key="hyai-...") client.chat.completions.create( model="llama-3.3-70b", messages=[{"role":"user","content":"Hallo!"}])
Choisir une taille de Llama pour votre charge de travail
Les générations de Llama se répartissent clairement selon les tâches. Les petits modèles 3.2 (1B et 3B) sont conçus pour les tâches à haut volume et faible enjeu : routage, étiquetage, extraction, garde-fous. Llama 3.1 8B est le choix par défaut pour le résumé et la sortie structurée, assez économique pour être appelé à chaque requête. En haut de gamme, Llama 3.3 70B offre à peu près la qualité d'assistant que l'on attend d'un modèle de chat de pointe, avec un bon suivi des instructions et une production multilingue, néerlandais compris.
Un schéma pratique consiste à démarrer chaque fonctionnalité sur 3.3 70B via le Router, à mesurer la qualité, puis à faire descendre chaque tâche vers des tailles plus petites jusqu'à ce que la qualité baisse. Le Model Garden indique quelles variantes de Llama sont chaudes en ce moment, et chacune peut être essayée dans le Playground avant d'écrire du code.
| Variante de Llama | Usage typique |
|---|---|
| Llama 3.2 1B | Classification, routage, contrôles de garde-fous à très haut volume |
| Llama 3.2 3B | Résumés courts, extraction d'entités, saisie semi-automatique |
| Llama 3.1 8B | Résumé généraliste, sortie JSON structurée, rédaction |
| Llama 3.1 70B | Raisonnement complexe et analyse à long contexte |
| Llama 3.3 70B | Assistants de chat en production, dialogue multilingue, réponses RAG |
Comment démarrer
Les modèles Llama se trouvent derrière le point d'accès standard compatible OpenAI : n'importe quel SDK OpenAI fonctionne sans modification.
from openai import OpenAI
client = OpenAI(
base_url="https://hostyourai.com/api/v1",
api_key="hyai-...",
)
response = client.chat.completions.create(
model="llama-3.3-70b",
messages=[
{"role": "system", "content": "You are a concise Dutch-speaking assistant."},
{"role": "user", "content": "Leg in twee zinnen uit wat vLLM doet."},
],
max_tokens=200,
)
print(response.choices[0].message.content)Questions sur l'hébergement Llama
Quelles versions de Llama sont disponibles ?
Les générations Llama 3.1, 3.2 et 3.3, du 1B jusqu'au 70B. Le Model Garden indique l'état en direct de chacune : chaude, en cours de réchauffement, servable ou sur demande.
Llama 3.3 70B est-il maintenu chaud sur le Router ?
Les modèles populaires sont maintenus chauds grâce à un pool chaud, afin que les requêtes commencent à générer immédiatement. La page du catalogue de chaque modèle affiche son état actuel avant que vous l'appeliez.
Llama peut-il répondre en néerlandais ?
Oui. Llama 3.1 et 3.3 sont multilingues et gèrent bien le néerlandais, ce qui explique en partie pourquoi les équipes néerlandaises choisissent le 70B pour le chat destiné aux clients.
De quel GPU un Llama 70B a-t-il besoin ?
D'une grande carte de la classe 80 Go ou d'une configuration multi-GPU. Vous n'avez pas à le dimensionner vous-même : le déploiement impose un plancher de VRAM, de sorte qu'une instance dédiée reçoit toujours un matériel sur lequel le modèle tient.
Puis-je combiner Llama avec mes propres documents ?
Oui. Liez une base de connaissances au Router ou à votre instance, et le contexte pertinent est injecté automatiquement dans les réponses. Le guide Construire un RAG sur des GPU européens présente la configuration de bout en bout.
Tout ce qu'il faut pour l'IA
De l'hébergement de modèles à une API destinée à vos clients, tout est conçu pour les développeurs et les entreprises qui veulent que leur IA tourne sur une infrastructure qu'ils contrôlent réellement, au sein de l'UE.
Vos données et vos modèles restent sur des GPU européens. Conçu pour respecter le RGPD.
Llama, Qwen, DeepSeek, Mistral, FLUX et bien d'autres. Choisissez-en un et il est prêt en quelques minutes, sans DevOps de votre côté.
Pointez votre client existant vers le Router et gardez vos outils. Sans réécriture, sans dépendance.
De zéro à un endpoint prêt en quelques minutes
Aucune infrastructure à gérer. Choisissez un modèle, obtenez une URL compatible OpenAI et livrez.
Choisissez un modèle
Choisissez dans le Model Garden ou collez n'importe quel ID HuggingFace. Définissez la VRAM et choisissez un GPU européen.
Obtenez votre endpoint
Nous déployons vLLM, exécutons les sondes de disponibilité et vous remettons une URL prête, compatible OpenAI et Anthropic, ainsi qu'une clé d'API.
Routez et livrez
Pointez votre client vers le Router. Il route automatiquement vers une instance démarrée, met les GPU au repos quand personne n'est connecté et journalise chaque requête.
Privé par défaut
HostYourAI garde vos modèles, vos prompts et vos données sur des GPU européens. Conçu pour les équipes qui tiennent à la conformité, à la fiabilité et à un contrôle réel.
GPUs and data residency inside Europe. Your prompts never leave the EU.
Run open-weight models with no black boxes or hidden telemetry.
GPUs idle when nobody is online, so you only pay for what you run.
Your infra, your keys, your models. Leave whenever you want.
Compatible avec les outils que vous utilisez déjà
Le Router parle les API OpenAI et Anthropic, il s'intègre donc directement aux clients et SDK que votre équipe utilise déjà. Il suffit de changer l'URL de base.
Essayer HostYourAI gratuitement
Frequently asked questions
Can I run this in the EU?
Yes. HostYourAI runs open models on GPUs in European datacenters via vLLM. Your prompts and outputs never leave the EU and there is no US cloud provider in the chain.
Is it GDPR-compliant?
Yes. All processing happens inside the EU, a Data Processing Agreement (DPA) is available and the subprocessor list is public. Open weights also mean no training on your data.
Is the API OpenAI-compatible?
Yes. Point your existing OpenAI or Anthropic client at our Router (https://hostyourai.com/api/v1), change only the base URL and API key. No rewrite, no lock-in.
What does it cost?
Pay-as-you-go on one prepaid credit balance: the shared router per token or a dedicated GPU per hour. Free to start, no minimum, no fixed monthly fee.
Works with 390+ open models
Text and image models on dedicated EU GPUs. Every model tested on our own hardware.
Related pages
Explore more about EU-hosted AI on HostYourAI.
Plateforme LLM auto-hébergée avec infrastructure gérée. La maîtrise de l'auto-hébergement, sans la complexité.
Read more →Hébergez Gemma 2 9B sur NVIDIA A10 dédié dans des datacenters européens. Conforme au RGPD, €1.50/heure, API compatible OpenAI.
Read more →Utilisez votre client Anthropic avec des modèles ouverts sur des GPU européens. Une alternative à l'API Claude qui parle /v1/messages et garde vos données dans l'UE.
Read more →Une alternative à AWS Bedrock qui tourne entièrement dans l'UE. Modèles ouverts sur des GPU européens, compatible OpenAI et Anthropic, sans cloud américain.
Read more →Hébergez Mistral 7B sur NVIDIA A10 dédié dans des datacenters européens. Conforme au RGPD, €1.50/heure, API compatible OpenAI.
Read more →Une alternative à ChatGPT sur des modèles ouverts et des GPU européens. API compatible OpenAI, conforme au RGPD et sans que vos données quittent l'UE.
Read more →Hébergez. Routez. Livrez.
Aucune carte bancaire requise. Paiement à l'usage, résiliable à tout moment.
Commencer l'hébergement gratuitement dès aujourd'hui