V2 独立版愿景

环境检测

HeteroFlow 是本站的异构算力与大模型调度产品。环境检测。环境检测 硬件验证边界(截至 2026-10-20) :本文中的“10 种品牌/检测器”指代码检测与适配范围,不代表 10 种硬件都完成了真机端到端验证。现有项目记录显示 NVIDIA 多机型已有真机端到端证据;国产加速卡检测逻辑已做软件及厂商命令输出对照,真机端到端验证仍待对应…

环境检测

> 硬件验证边界(截至 2026-10-20):本文中的“10 种品牌/检测器”指代码检测与适配范围,不代表 10 种硬件都完成了真机端到端验证。现有项目记录显示 NVIDIA 多机型已有真机端到端证据;国产加速卡检测逻辑已做软件及厂商命令输出对照,真机端到端验证仍待对应硬件。

HeteroFlow V2 提供 Agent 一键部署和环境自动检测能力,帮助用户快速验证 GPU 节点是否满足部署要求。

一键部署

镜像预热(运维态镜像通道)

独立于任务生命周期的镜像拉取通路,面向大规模集群准备度管理:

  • 后台拉取预算 2 小时,超时自动放弃不阻塞节点
  • 分钟级进度心跳上报,环境检测页实时可见各节点预热进度
  • 停摆判僵死:心跳停止的预热任务自动标记,不误杀慢速拉取
  • 镜像存在性批量查询:秒级返回多节点镜像就绪状态

使用一键部署脚本快速安装 Agent:

curl -fsSL http://your-server:5173/deploy-agent-all-in-one.sh | bash
export EXTENDER_URL="http://your-server:3333"
export SKIP_DOCKER="true"

自动检测项

Agent 启动时自动检测以下环境信息:

GPU 检测

按优先级顺序检测 10 种 GPU 品牌:

摩尔线程 → 海光DCU → 寒武纪 → 壁仞 → 昇腾 → 昆仑 → 天数智芯 → NVIDIA → 沐曦 → 燧原

每种检测器执行:

  • HasGPU():检查 GPU 管理工具是否存在
  • Detect():检测所有 GPU 设备
  • CollectStats():采集实时运行指标

Docker 检测

  • Docker 是否安装
  • Docker 服务是否运行
  • 当前用户是否有 Docker 权限
  • GPU 运行时是否可用(如 nvidia-container-toolkit)

推理引擎检测

自动检测以下推理引擎:

引擎检测方式
vLLM检查 vllm Python 包或 Docker 镜像
llama.cpp检查 llama-cpp 二进制或 Docker 镜像
SGLang检查 sglang Python 包
MindIE检查 MindIE 安装(昇腾专用)

系统资源检测

  • CPU 核心数
  • 内存大小
  • 磁盘空间
  • 网络连接

检测结果

检测结果通过心跳上报到 Server,在节点详情中可查看:

  • GPU 型号、显存大小
  • Docker 可用状态
  • 可执行状态(是否可运行任务)
  • 推理引擎列表及版本
  • 已发现的本地模型

常见问题

GPU 未被检测到

  • 确认 GPU 驱动已正确安装
  • 检查 GPU 管理工具是否在 PATH 中
  • 查看是否有 GPU 工具的替代路径

Docker 不可用

  • 确认 Docker 已安装:docker --version
  • 确认 Docker 服务运行中:systemctl status docker
  • 确认用户权限:docker ps

推理引擎未检测到

  • 确认推理引擎已安装
  • 检查对应 Python 包或 Docker 镜像
  • vLLM 需要 Compute Capability ≥ 7.5