Vue d’ensemble
En bref : Gateways coordinate. Orchestrators compute.
| Rôle | Fonction | Effectue‑t‑il le travail GPU ? | Orienté vers l’extérieur ? |
|---|---|---|---|
| Passerelle | Réception des tâches, tarification, routage, correspondance des capacités | ❌ Non | ✅ Oui |
| Orchestrateur | Calcul GPU, inférence, transcodage, BYOC | ✅ Oui | ❌ Non |
Responsabilités de la passerelle
Les passerelles agissent comme la porte d’entrée du réseau :- Recevoir des tâches des applications
- Déterminer le modèle, le pipeline ou le GPU requis
- Sélectionner le meilleur orchestrateur en fonction des performances et du prix
- Acheminer la charge de travail avec une faible latence
- Retourner les résultats au client
- Publier les offres du marketplace (modèles, pipelines, coût par image, etc.)
Responsabilités de l’Orchestrateur
Les orchestrateurs sont des opérateurs GPU qui exécutent :- Inférence IA en temps réel
- Pipelines Daydream / ComfyStream
- Conteneurs BYOC
- Transcodage traditionnel
- Puissance GPU
- Exécution du modèle
- Sortie déterministe et vérifiable
- Garanties de performance