This page is a work in progress.
TODO: Proper copy, edit, Streamline, Format & Style
TODO: Proper copy, edit, Streamline, Format & Style
¿Qué hace un Operador de Gateway
Los operadores de Gateway manejan:- Entrada de trabajos y solicitudes de API
- Enrutamiento de cargas de trabajo al mejor Orchestrator (Nodo GPU)
- Gestión de precios, capacidades y metadatos del servicio
- Publicación de ofertas (inferencia de IA, transcodificación de video y más) en el Marketplace
- Monitoreo del rendimiento, latencia y fiabilidad
Características clave de la Tienda
1. Descubrimiento de capacidades
Lista de gateways y orquestadores:- Soporte para modelos de IA
- Versionado y pesos del modelo
- Compatibilidad de la pipeline
- Tipo de GPU y clase de cálculo
2. Precios dinámicos
Los precios pueden variar según:- Clase de GPU
- Complejidad del modelo
- Nivel de servicio de latencia (SLA)
- Requisitos de capacidad
- Región
3. Competencia de rendimiento
Los orchestrators compiten en:- Velocidad
- Fiabilidad
- Calidad de la GPU
- Eficiencia en costos
- Calidad de enrutamiento
- Características compatibles
- Latencia
- Ajuste de ecosistema para desarrolladores
4. Integración BYOC
Cualquier pipeline basado en contenedores puede traerse al mercado:- Ejecutar modelos de IA personalizados
- Ejecutar flujos de trabajo de ML
- Ejecutar cálculo arbitrario
- Soporte para cargas de trabajo empresariales
Beneficios de la plataforma
- Elección del desarrollador — elija el mejor modelo, precio y rendimiento
- Incentivos económicos — mejores nodos obtienen más trabajo
- Escalabilidad — la oferta de la red crece independientemente de la demanda
- Innovación desbloqueada — nuevos modelos y flujos de trabajo se pueden agregar instantáneamente
- Descentralización — ningún operador único controla el flujo de trabajo
Resumen
El Marketplace convierte Livepeer en una capa de cálculo de IA en tiempo real competitiva, descubrible.- Gateways exponen servicios
- Orchestrators los ejecutan
- Las aplicaciones eligen la mejor opción