Saltar al contenido principal

Proceso de descubrimiento

Los gateways descubren a los orquestadores a través del pool de orquestadores en discovery/discovery.go
1

Query orchestrators

Get OrchestratorInfo from each orchestrator
2

Filter capabilities & price

Match against required capabilities & pricing limits & optionally rank results
3

Expose results

Make matching orchestrator services available through HTTP endpoints
4

Route requests

Forward incoming requests to selected orchestrators

Buscar todos los orquestadores y ofertas

El endpoint en /getNetworkCapabilitiesserver/handlers.go exponen todas las ofertas disponibles del orquestador
/getNetworkCapabilities
func (s *LivepeerServer) getNetworkCapabilitiesHandler() http.Handler {
    return http.HandlerFunc(func(w http.ResponseWriter, r *http.Request) {
        // Returns orchestrators with their capabilities, pricing, and hardware
    })
}
Estructura de los datos de respuesta La respuesta utiliza la estructura NetworkCapabilities desde common/types.go types.go:166-176
NetworkCapabilities
type NetworkCapabilities struct {
    Orchestrators []*OrchNetworkCapabilities `json:"orchestrators"`
}

type OrchNetworkCapabilities struct {
    Address            string                     `json:"address"`
    LocalAddress       string                     `json:"local_address"`
    OrchURI            string                     `json:"orch_uri"`
    Capabilities       *net.Capabilities          `json:"capabilities"`
    CapabilitiesPrices []*net.PriceInfo           `json:"capabilities_prices"`
    Hardware           []*net.HardwareInformation `json:"hardware"`
}

Puerta de enlace

Los gateways exponen ofertas que describen:

1. Modelos compatibles

Ejemplo:
  • stable-diffusion-v1.5
  • depth-anything
  • controlnet_lineart
  • ip_adapter

2. Flujos de trabajo compatibles

  • Transferencia de estilo en tiempo real estilo Daydream
  • Flujos de trabajo de ComfyStream
  • Contenedores BYOC
  • Gráficos de inferencia personalizados

3. Precios

Una puerta de enlace puede establecer precios:
  • $0.004 / frame
  • $0.06 / second
  • $0.0005 / inference token

4. Regiones

Ejemplo:
  • us-east
  • eu-central
  • ap-southeast

5. Puntuaciones de confiabilidad

Los gateways pueden publicar:
  • Porcentaje de disponibilidad
  • Latencia promedio de inferencia
  • Configuración de conmutación por falla
Last modified on March 1, 2026