跳转到主要内容
控制平面负责认证、调度、元数据和控制台,无需 GPU 或 Docker socket。计算资源注册为 Fleet,与控制平面的部署位置独立。 单台计算机器也使用 Node Fleet:在计算机器上安装 Node daemon,再通过 Join Token 接入。平台不再提供控制平面上的 local 执行器。

推理服务

Node 和 Kubernetes Fleet 均支持临时 Playground 会话与模型部署。Node 预留宿主机端口,并回传所选机器的工作负载地址;控制平面需要能访问该地址和端口。Kubernetes 使用 API 代理。Slurm 不提供交互式推理服务。

安装

Node

接入一台或多台计算机器。

Kubernetes

连接已有 Kubernetes 集群。

Slurm

连接 HPC 集群。
通过 Docker Compose 或 Kubernetes 部署控制平面,再注册 Fleet。