演示说明（愿景/示意）

演示说明（愿景/示意）

本稿用于说明 HeteroFlow V2 管理面与推理主路径的示意能力，便于商务与技术评估沟通。

>

异构Gpu算力调度纳管平台演示

地址：http://43.133.65.61:5173/

默认账号：admin密码HeteroFlow@Admin2026

演示说明（愿景/示意）

以下能力为产品规划与示意说明，实际开通范围以书面确认与约定环境为准。

节点管理（示意）

• 查看已注册的 GPU 节点
• 节点状态监控（在线/繁忙/可疑/离线）
• GPU 详细信息（型号、显存、利用率、温度）
• 推理引擎检测状态

推理服务（示意）

• 创建推理服务（支持 vLLM/SGLang/llama.cpp）
• 服务生命周期管理（启动/休眠/唤醒/停止）
• API Key 管理
• OpenAI 兼容 API 调用示意

模型管理（示意）

• 模型扫描发现
• 注册模型
• 创建推理服务（示意流程）

任务管理（示意）

• 创建 GPU 计算任务
• 任务状态跟踪
• 重试策略示意

仪表盘（示意）

• 集群概览（节点数、GPU 数、任务数）
• 资源使用趋势
• GPU 监控曲线

节点监控（示意）

• GPU 利用率/显存/温度历史曲线
• CPU/内存使用率趋势
• 多时间范围查询（1h/6h/24h/3d/7d）

推理 API 示意

部署完成后，可在约定环境中使用 OpenAI 兼容接口（请替换为您的部署主机与端口）：

curl http://<您的部署主机:端口>/v1/chat/completions \
  -H "Authorization: Bearer <api-key>" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "<service-name>",
    "messages": [{"role": "user", "content": "你好"}]
  }'

注意事项

• 演示/评估环境数据可能定期重置
• 请勿上传敏感数据
• 性能与可用范围以约定环境为准
• 如需专属演示，请联系商务了解产品