HeteroFlow 是本站的异构算力与大模型调度产品。系统要求。系统要求 硬件验证边界（截至 2026-10-20） ：本文中的“10 种品牌/检测器”指代码检测与适配范围，不代表 10 种硬件都完成了真机端到端验证。现有项目记录显示 NVIDIA 多机型已有真机端到端证据；国产加速卡检测逻辑已做软件及厂商命令输出对照，真机端到端验证仍待对应…
系统要求
> 硬件验证边界（截至 2026-10-20）：本文中的“10 种品牌/检测器”指代码检测与适配范围，不代表 10 种硬件都完成了真机端到端验证。现有项目记录显示 NVIDIA 多机型已有真机端到端证据；国产加速卡检测逻辑已做软件及厂商命令输出对照，真机端到端验证仍待对应硬件。
Server（管理节点）
最低配置
| 组件 | 要求 |
|---|
| 操作系统 | Linux (Ubuntu 20.04+ / CentOS 7+) / macOS |
| CPU | 2 核+ |
| 内存 | 2GB+ |
| 磁盘 | 10GB+ |
| 网络 | 可访问所有 Agent 节点 |
软件依赖
| 软件 | 版本 | 用途 |
|---|
| Go | 1.22+ | 编译后端 |
| Node.js | 18+ | 编译前端 |
| PostgreSQL | 14+ | 数据存储（可选 SQLite） |
| Git | 2.0+ | 拉取源码 |
网络端口
| 端口 | 用途 |
|---|
| 3333 | 后端 API + OpenAI 兼容网关 |
| 5173 | 前端开发服务器（Vite） |
Agent（GPU 计算节点）
最低配置
| 组件 | 要求 |
|---|
| 操作系统 | Linux (Ubuntu 20.04+ / CentOS 7+) |
| CPU | 4 核+ |
| 内存 | 8GB+ |
| GPU | 1 张+（支持 10 种品牌） |
| 网络 | 可访问 Server 的 3333 端口 |
软件依赖
| 软件 | 版本 | 用途 |
|---|
| Docker | 20.10+ | 容器化任务执行 |
| GPU 驱动 | 各厂商最新版 | GPU 检测和计算 |
GPU 驱动
| GPU 品牌 | 驱动/工具 | 验证命令 |
|---|
| NVIDIA | CUDA Driver | nvidia-smi |
| 海光 DCU | DTK | hy-smi |
| 华为昇腾 | CANN | npu-smi |
| 摩尔线程 | MUSA | mthreads-gmi |
| 寒武纪 | Cambricon Driver | cnmon |
| 壁仞 | Biren Driver | birensmi |
| 沐曦 | MetaX SDK | corex-smi |
| 天数智芯 | Iluvatar SDK | ixsmi |
| 百度昆仑 | XPU SDK | xpu_smi |
| 燧原 | Enflame SDK | enfma-smi |
Docker 运行时
NVIDIA GPU 需要额外安装 Container Toolkit：
sudo apt-get install -y nvidia-container-toolkit
sudo systemctl restart docker
磁盘空间
| 用途 | 建议 |
|---|
| 系统和 Agent | 5GB |
| Docker 镜像 | 20GB+（推理引擎镜像较大） |
| 模型存储 | 视模型大小，建议 100GB+ |
存储后端
| 类型 | 适用场景 | 系统要求 |
|---|
| SQLite | ≤5 节点，开发测试 | 无额外依赖 |
| PostgreSQL | >5 节点，生产环境 | PostgreSQL 14+ |
推理引擎镜像要求
| 引擎 | 镜像大小 | GPU 要求 |
|---|
| vLLM | ~8GB | NVIDIA CC ≥ 7.5 |
| llama.cpp | ~2GB | 兼容旧 GPU |
| SGLang | ~8GB | NVIDIA CC ≥ 7.5 |
| MINDIE | ~10GB | 华为昇腾 |
网络要求
- Server ↔ Agent：TCP 3333 端口双向可访问
- Agent → Docker Hub/Registry：可拉取推理引擎镜像
- 前端 → Server：TCP 3333 端口可访问