V2 独立版已交付

渠道管理

HeteroFlow 是本站的异构算力与大模型调度产品。渠道管理。渠道管理定义大模型网关到上游模型服务的接入配置:每条渠道声明上游协议类型、服务地址、多密钥轮用、模型清单与分组权重,上架前必须通过真实连通探测,确保模型目录没有调不通的空壳供给。

渠道管理

> 渠道管理定义大模型网关到上游模型服务的接入配置:每条渠道声明上游协议类型、服务地址、多密钥轮用、模型清单与分组权重,上架前必须通过真实连通探测,确保模型目录没有调不通的空壳供给。

渠道是什么

一条渠道描述「从平台到某个上游模型服务」的完整供货线路:

要素说明
类型与地址上游协议类型(OpenAI 兼容、Anthropic、Gemini 等)与服务地址
密钥上游 API 密钥,支持一条渠道挂多把密钥轮用
模型清单该渠道声明承载的模型;配合「模型重定向」可把请求模型名映射为上游实际模型名
分组 / 优先级 / 权重参与调度排序:分组决定哪些密钥可用该渠道,优先级与权重决定多渠道并存时的选择
数据等级上限该渠道可承载数据的最高等级(1 公开 / 2 内部 / 3 敏感),等级高于上限的流量不会被路由到此渠道
自动禁用开关连续失败时自动下架,并与告警中心的事件流联动

渠道分共享(全平台可用)与租户专属两类;租户管理员只能看到共享渠道与本租户的专属渠道,看不到其他租户的供给。

连通性证明:保存渠道的硬门槛

平台不允许「闭眼保存渠道」。创建或变更渠道时,每把密钥 × 每个声明模型都必须先通过一次真实探测并拿到连通性证明,保存时逐条核销——缺任何一条,整单拒绝落库。

规则语义
一证一组合证明按「密钥 × 模型」组合逐条签发,不能用一条证明抵多个组合
真实探测签发时对每个组合作真实调用验证,任一失败即拒绝
指纹绑定证明与渠道类型、地址、密钥、模型的指纹绑定,改了配置证明即失效
短时效证明有效期以分钟计,过期须重新测试;核销后不可复用
差集重测更新渠道时只对新增模型、新密钥等变化项重测,已有部分不必重贴密钥

少数无法真实探测的类型(如部分绘图、视频任务类上游)走显式确认通道:管理员必须勾选「未经连通验证保存」的确认项,该操作写入审计日志——不是绕过治理,是把风险留痕。

这条门控的价值:模型目录与模型广场公示的每一个模型,背后都有至少一条被证实可达的供货线路,开发者不会撞上「目录里有、一调就 503」的空供给。

日常运维

  • 分层测试四档:连通档验证网络可达、KEY 档验证密钥有效、获取模型档从上游拉回模型清单自动填入、全量档逐模型真实调用——从零接入一条渠道可以按「配地址 → 测连通 → 测密钥 → 拉模型 → 保存」的补齐链完成,不必一上来就全量测试;
  • 查询余额 / 获取模型:行级操作,多密钥渠道逐把查询;
  • 标签批量运维:按标签圈选一组渠道批量启停、改模型清单,变更同样走差集重测门控,任一条失败整体拒绝;
  • 删除不可恢复:渠道删除是物理删除(含渠道上的密钥),不进回收站——与模型删除(软删可恢复)不同,删渠道前须确认清楚。

与其他能力的关系

  • 数据等级上限与密钥管理的数据分级体系联动:敏感级密钥的流量只会进入等级上限足够的渠道,分级红线在选路层执行;
  • 渠道连续失败、供应商限流、自动下架事件进入告警中心事件流;
  • 渠道是否可用直接影响智能路由的候选集与 503 model_not_found 的判定(见错误码总表)。