发布固定版本任务集
将 Harbor 任务目录放在共同根目录下。每个任务必须有task.toml,目录名即任务 ID,且不得重复。
build 将文件摘要写入 taskset.json。混合训练和评估任务时,在发布前修改各任务的 split。任务正文发生变化后,需要更新摘要并发布新版本;build 不会覆盖已有清单。符号链接、重叠任务目录和路径越界会被拒绝。
控制台显示已封存版本、划分数量和内容摘要,不提供任务正文或参考答案下载。私有版本仅对有权限的用户可见。作业使用 owner/name@version 引用固定版本,不接受浮动版本。本地容器作业通过 TUNEPLANE_JOB_TASKSET_DIR 获得只读挂载;其他后端暂不支持独立任务集分发。
划分标签用于选择评估任务,不会对有权限作业内的任意代码隐藏文件。如果需要独立控制测试集访问权限,应将其发布为单独任务集。
准备 Harbor 评估
打开 Agent 评估,或从任务集版本进入,填写:- 已封存的任务集版本,仅运行其中的评估任务。
- 托管模型端点和固定模型版本。
- 运行镜像实际支持的 Docker 或 E2B 沙箱后端。
- 运行环境与评估框架的 SHA-256 标识、重复次数、并发数及单次超时。
harbor-evaluation.json,此时尚未启动作业。使用 tuneplane-examples 中的 harbor-eval 实验,将配置放在项目根目录,按实验 README 操作。--check-plan 可以在不加载 Harbor、不创建沙箱的情况下校验本地任务内容。平台提交使用 tp submit --taskset,指定已配置的本地资源配置和固定运行镜像。