V2 独立版已交付
渠道管理
HeteroFlow 是本站的异构算力与大模型调度产品。渠道管理。渠道管理定义大模型网关到上游模型服务的接入配置:每条渠道声明上游协议类型、服务地址、多密钥轮用、模型清单与分组权重,上架前必须通过真实连通探测,确保模型目录没有调不通的空壳供给。
渠道管理
> 渠道管理定义大模型网关到上游模型服务的接入配置:每条渠道声明上游协议类型、服务地址、多密钥轮用、模型清单与分组权重,上架前必须通过真实连通探测,确保模型目录没有调不通的空壳供给。
渠道是什么
一条渠道描述「从平台到某个上游模型服务」的完整供货线路:
| 要素 | 说明 |
|---|---|
| 类型与地址 | 上游协议类型(OpenAI 兼容、Anthropic、Gemini 等)与服务地址 |
| 密钥 | 上游 API 密钥,支持一条渠道挂多把密钥轮用 |
| 模型清单 | 该渠道声明承载的模型;配合「模型重定向」可把请求模型名映射为上游实际模型名 |
| 分组 / 优先级 / 权重 | 参与调度排序:分组决定哪些密钥可用该渠道,优先级与权重决定多渠道并存时的选择 |
| 数据等级上限 | 该渠道可承载数据的最高等级(1 公开 / 2 内部 / 3 敏感),等级高于上限的流量不会被路由到此渠道 |
| 自动禁用开关 | 连续失败时自动下架,并与告警中心的事件流联动 |
渠道分共享(全平台可用)与租户专属两类;租户管理员只能看到共享渠道与本租户的专属渠道,看不到其他租户的供给。
连通性证明:保存渠道的硬门槛
平台不允许「闭眼保存渠道」。创建或变更渠道时,每把密钥 × 每个声明模型都必须先通过一次真实探测并拿到连通性证明,保存时逐条核销——缺任何一条,整单拒绝落库。
| 规则 | 语义 |
|---|---|
| 一证一组合 | 证明按「密钥 × 模型」组合逐条签发,不能用一条证明抵多个组合 |
| 真实探测 | 签发时对每个组合作真实调用验证,任一失败即拒绝 |
| 指纹绑定 | 证明与渠道类型、地址、密钥、模型的指纹绑定,改了配置证明即失效 |
| 短时效 | 证明有效期以分钟计,过期须重新测试;核销后不可复用 |
| 差集重测 | 更新渠道时只对新增模型、新密钥等变化项重测,已有部分不必重贴密钥 |
少数无法真实探测的类型(如部分绘图、视频任务类上游)走显式确认通道:管理员必须勾选「未经连通验证保存」的确认项,该操作写入审计日志——不是绕过治理,是把风险留痕。
这条门控的价值:模型目录与模型广场公示的每一个模型,背后都有至少一条被证实可达的供货线路,开发者不会撞上「目录里有、一调就 503」的空供给。
日常运维
- 分层测试四档:连通档验证网络可达、KEY 档验证密钥有效、获取模型档从上游拉回模型清单自动填入、全量档逐模型真实调用——从零接入一条渠道可以按「配地址 → 测连通 → 测密钥 → 拉模型 → 保存」的补齐链完成,不必一上来就全量测试;
- 查询余额 / 获取模型:行级操作,多密钥渠道逐把查询;
- 标签批量运维:按标签圈选一组渠道批量启停、改模型清单,变更同样走差集重测门控,任一条失败整体拒绝;
- 删除不可恢复:渠道删除是物理删除(含渠道上的密钥),不进回收站——与模型删除(软删可恢复)不同,删渠道前须确认清楚。