V2 独立版愿景
环境检测
HeteroFlow 是本站的异构算力与大模型调度产品。环境检测。环境检测 硬件验证边界(截至 2026-10-20) :本文中的“10 种品牌/检测器”指代码检测与适配范围,不代表 10 种硬件都完成了真机端到端验证。现有项目记录显示 NVIDIA 多机型已有真机端到端证据;国产加速卡检测逻辑已做软件及厂商命令输出对照,真机端到端验证仍待对应…
环境检测
> 硬件验证边界(截至 2026-10-20):本文中的“10 种品牌/检测器”指代码检测与适配范围,不代表 10 种硬件都完成了真机端到端验证。现有项目记录显示 NVIDIA 多机型已有真机端到端证据;国产加速卡检测逻辑已做软件及厂商命令输出对照,真机端到端验证仍待对应硬件。
HeteroFlow V2 提供 Agent 一键部署和环境自动检测能力,帮助用户快速验证 GPU 节点是否满足部署要求。
一键部署
镜像预热(运维态镜像通道)
独立于任务生命周期的镜像拉取通路,面向大规模集群准备度管理:
- 后台拉取预算 2 小时,超时自动放弃不阻塞节点
- 分钟级进度心跳上报,环境检测页实时可见各节点预热进度
- 停摆判僵死:心跳停止的预热任务自动标记,不误杀慢速拉取
- 镜像存在性批量查询:秒级返回多节点镜像就绪状态
使用一键部署脚本快速安装 Agent:
curl -fsSL http://your-server:5173/deploy-agent-all-in-one.sh | bash
export EXTENDER_URL="http://your-server:3333"
export SKIP_DOCKER="true"自动检测项
Agent 启动时自动检测以下环境信息:
GPU 检测
按优先级顺序检测 10 种 GPU 品牌:
摩尔线程 → 海光DCU → 寒武纪 → 壁仞 → 昇腾 → 昆仑 → 天数智芯 → NVIDIA → 沐曦 → 燧原每种检测器执行:
HasGPU():检查 GPU 管理工具是否存在Detect():检测所有 GPU 设备CollectStats():采集实时运行指标
Docker 检测
- Docker 是否安装
- Docker 服务是否运行
- 当前用户是否有 Docker 权限
- GPU 运行时是否可用(如 nvidia-container-toolkit)
推理引擎检测
自动检测以下推理引擎:
| 引擎 | 检测方式 |
|---|---|
| vLLM | 检查 vllm Python 包或 Docker 镜像 |
| llama.cpp | 检查 llama-cpp 二进制或 Docker 镜像 |
| SGLang | 检查 sglang Python 包 |
| MindIE | 检查 MindIE 安装(昇腾专用) |
系统资源检测
- CPU 核心数
- 内存大小
- 磁盘空间
- 网络连接
检测结果
检测结果通过心跳上报到 Server,在节点详情中可查看:
- GPU 型号、显存大小
- Docker 可用状态
- 可执行状态(是否可运行任务)
- 推理引擎列表及版本
- 已发现的本地模型
常见问题
GPU 未被检测到
- 确认 GPU 驱动已正确安装
- 检查 GPU 管理工具是否在 PATH 中
- 查看是否有 GPU 工具的替代路径
Docker 不可用
- 确认 Docker 已安装:
docker --version - 确认 Docker 服务运行中:
systemctl status docker - 确认用户权限:
docker ps
推理引擎未检测到
- 确认推理引擎已安装
- 检查对应 Python 包或 Docker 镜像
- vLLM 需要 Compute Capability ≥ 7.5