This page is a work in progress.
TODO: Proper copy, edit, Streamline, Format & Style
TODO: Proper copy, edit, Streamline, Format & Style
网关操作员的作用
网关操作员处理：- 工作输入和API请求
- 将工作负载路由到最佳协调器（GPU节点）
- 管理定价、功能和服务元数据
- 将服务（AI推理、视频转码等）发布到市场
- 监控作业性能、延迟和可靠性
关键市场功能
1. 能力发现
网关和协调器列表:- AI 模型支持
- 版本控制和模型权重
- 管道兼容性
- GPU 类型和计算类
2. 动态定价
定价可能会根据以下因素而变化：- GPU 类别
- 模型复杂度
- 延迟 SLA
- 吞吐量要求
- 区域
3. 性能竞赛
协调器竞争的方面是：- 速度
- 可靠性
- GPU 质量
- 成本效益
- 路由质量
- 支持的功能
- 延迟
- 开发者生态系统适配
4. BYOC 集成
任何基于容器的流程都可以带入市场：- 运行自定义 AI 模型
- 运行 ML 工作流
- 执行任意计算
- 支持企业工作负载
市场优势
- 开发者选择 — 选择最佳模型、价格和性能
- 经济激励 — 更好的节点可以获得更多工作
- 可扩展性 — 网络供应独立于需求增长
- 创新解锁 — 可以立即添加新的模型和流程
- 去中心化 — 没有单一的操作员控制工作流程
摘要
市场将 Livepeer 转换为一个竞争性、可发现的实时 AI 计算层。- 网关公开服务
- 协调者执行它们
- 应用程序选择最佳匹配