把生产流量变成训练数据

curl -X PUT https://tuneplane.your-company.com/api/model-deployments/<id>/reflow \
  -H "Authorization: Bearer $TUNEPLANE_CLIENT_TOKEN" \
  -H "Content-Type: application/json" \
  -d '{"sample_rate": 0.05, "retention_days": 30, "capture_system_prompt": true}'

这会对 5% 的请求打开采集。控制台部署页的 Reflow 标签页里是同样这三个设置，多数人在那里设。 Reflow 是从一个 deployment 的流量回到它下一个版本训练数据的受管通路。它闭合了平台原本留着的那个口子：数据进去、模型出来、它提供服务，而它从服务中学到的东西无处可去。

被采集的是真实用户输入，是这个平台会持有的最敏感的数据。采集默认关闭，打开它的人会被记录，这些设置的每次改动都被审计。

它的形状

流量 → Reflow Buffer → 挖掘 → Candidate Set → [ 你来审核 ] → [ 你来提升 ] → 数据集版本
        （会过期）              （会被整体替换）   （被审计）      （被审计）      （不可变）

只有最后一步不可逆。它之前的一切都会过期或被替换，这正是”在采样、脱敏或挖掘上判断错了也没事”的原因。 direct 的 deployment 什么都不采集。proxied 的在网关处采集，external 的自己回报流量 —— 见模型部署。

三个设置

设置	默认	决定什么
`sample_rate`	`0.0`，关闭	采样在请求发出之前就决定，所以一个未被采样的请求不花任何成本
`retention_days`	`30`	到期是真删除。没有归档层
`capture_system_prompt`	`true`	它常常是你自己的 prompt 工程，也是这里最敏感的字段。不采它会让记录对训练更弱，因为那个行为是以记录里缺掉的那段文本为条件产生的

buffer 的字节算在所有者的存储配额上，而且配额压过保留期：超了之后最老的 buffer 文件会被提前回收，损失会被计数。共享盘被填满会让集群上所有人的训练停下来。从不采集的东西：任何请求头，所以 Authorization 头不可能意外到达；deployment 令牌本身，只记它的 id，那是一个 deployment 内部的租户边界；以及除 chat completions 以外的任何东西。

脱敏

掩码在任何东西落盘之前就跑完。事后才跑的脱敏不是脱敏，是筛选。默认规则集覆盖邮箱、中国大陆与 E.164 格式的电话号、美国 SSN、中国居民身份证号、银行卡形状的数字串和密钥形状的字符串。它有版本，版本被盖在每条记录上，所以之后你能分辨是哪套规则清过什么。它宁愿多掩一些。代码样本里一个长十六进制串会被当成可能的密钥掩掉。那个代价是一条稍差的训练样本；反过来犯错，就是把一个凭据放进了语料。

从你在别处运行的服务回报流量

curl -X POST https://tuneplane.your-company.com/inference/<id>/reflow/records \
  -H "Authorization: Bearer $DEPLOYMENT_TOKEN" \
  -d '{"records": [{
    "id": "log-8841", "user": "<subject>", "model": "qwen2.5-32b", "latency_ms": 812,
    "request":  {"messages": [{"role": "user", "content": "..."}]},
    "response": {"choices": [{"message": {"content": "..."}, "finish_reason": "stop"}]},
    "feedback": {"rating": "down", "correction": "..."}
  }]}'

适用于 external deployment：网关从未见过这些流量，所以由服务自己回报，形状就是它自己日志里已有的 OpenAI chat-completions。回报来的记录会走和网关采集的记录同一套脱敏、缓冲、保留期、挖掘和审核，下游无法区分两者。每次请求最多 500 条；响应里会给出被接受、被采样掉、被丢弃、被拒绝的数量，四者之和始终等于这一批的条数。

字段	含义
`request`、`response`	请求体和 completion 对象。`request.messages` 必填；响应也接受 `{"text": ...}`
`user`	提问的人，用你的身份提供方给出的标识。只保存摘要，用来区分两个人问了同一个问题和同一个人在重试
`model`	给出回答的模型。它占据 revision 的位置，提升后的每一行都会带上它
`feedback`	可选的 `rating`（`up`、`down`，或 0 到 1）、`correction`、`comment`

反馈是证据，不是标签。差评会让记录成为候选，回报来的修正会作为起点展示给审核人；在这边有人读过之前，两者都不会进入数据集。采样率为 0 时，回报会被拒绝而不是被丢掉，这样配置错了的集成能立刻发现。带反馈的记录不受采样率影响，一律保留。

挖出难例

curl -X POST https://tuneplane.your-company.com/api/reflow/<id>/mine \
  -H "Authorization: Bearer $TUNEPLANE_CLIENT_TOKEN" \
  -d '{"rubric": "alice/answer-quality", "threshold": 0.5, "limit": 200}'

一个 buffer 里有用的那一半很小，而且不是平均请求。

信号	意味着什么
请求失败	最便宜的标记
回答被截断	模型撞到长度上限，所以它没说完
工具调用格式错	参数不是合法 JSON，或调了一个请求里没声明的工具
用户差评	回报来的评分低于中点，或者带了修正。唯一一个是陈述而不是推断的信号
用户重试了	几分钟后同一个 prompt 又来了。客户已经替你做出了这个判断
分数低	你指定的一份 rubric 给出免费信号没抓到的那些。这是唯一会花裁判 token 的信号

rubric 可选；不填就只用免费信号。挖掘会替换掉上一次的候选集：它是一个工作建议，不是一份账本。

审核

curl https://tuneplane.your-company.com/api/reflow/<id>/candidates/41/exchange \
  -H "Authorization: Bearer $TUNEPLANE_CLIENT_TOKEN"

curl -X POST https://tuneplane.your-company.com/api/reflow/<id>/candidates/review \
  -H "Authorization: Bearer $TUNEPLANE_CLIENT_TOKEN" \
  -d '{"candidate_ids": [41], "disposition": "accepted"}'

上面每个信号都说明这条回答可疑，而提升后的记录会以这条回答作为 assistant 一轮 —— 也就是微调要学着复现的目标。所以在有人读过之前，一个候选就是一条疑似错误的回答，提升只接受读过的。

处置	含义
`pending`	还没人看过。每个候选的起点
`accepted`	你读了这段对话，回答原样就是对的
`corrected`	你读了，并写下了它本该给出的回答
`discarded`	你读了，它不该变成数据

信号只是怀疑：用户把同一个 prompt 贴了两次，不一定是不满意第一次的回答；评分模型也有误判。接受就是用来区分这些情况的。读取一段对话会被审计，每个决定都记下是谁做的；只要这条记录下次还是因为同一个原因被标出来，决定就会保留到下一次挖掘之后。管理员也不例外 —— 角色并不知道回答对不对。

修正

curl -X POST https://tuneplane.your-company.com/api/reflow/<id>/candidates/41/correction \
  -H "Authorization: Bearer $TUNEPLANE_CLIENT_TOKEN" \
  -d '{"text": "A latch is level-sensitive; a flip-flop samples on a clock edge."}'

挖掘找到的难例，正是模型答错的那些，所以只能接受或丢弃的话，大部分都会被扔掉。修正保留生产流量给出的 prompt，只替换回答。它还顺带得到一个偏好对 —— 你的回答为 chosen，模型原回答为 rejected —— 不需要第二轮标注。修正保存在它所回答的那份采集流量旁边，不进数据库，并且随它一起过期：想保留的请及时提升。缓冲在写入时已经脱敏，所以如果修正里引入了这段对话原本没有的敏感值，会被拒绝。空的修正也会被拒绝（应该丢弃），与原回答完全相同的也会（应该接受）。

提升

curl -X POST https://tuneplane.your-company.com/api/reflow/<id>/promote \
  -H "Authorization: Bearer $TUNEPLANE_CLIENT_TOKEN" \
  -d '{
    "candidate_ids": [41, 42, 57],
    "dataset": "alice/support-reflow",
    "against": ["alice/support-eval"],
    "note": "Q3 truncations and retries"
  }'

四项检查，都是 fail-closed：

审核。 选中的每个候选都必须是 accepted 或 corrected。有一个不是，整次提升就被拒绝，而不是跳过它 —— 这样产出的版本不会悄悄比选中的少。
可见性。 一个 deployment 的所有者和管理员能读它，所以唯一不构成权限扩大的目的地是那位所有者自己的私有数据集。提升到一个公开数据集，等于把你用户的流量发布给平台上每个账号。管理员可以这么做，审计记录会写明。
污染。 在 against 里写出要比对的评测数据集，或者显式设 skip_contamination_check。这个选择会记在版本上，因为没人检查过和检查过且干净在六个月后必须看起来不一样。生产流量与某个评测集重叠是正常情况 —— 那个集合很可能就是从同一分布建的。
不为空。 一个存在、可被引用、但什么都教不了的版本，比没有这个版本更糟。

shape 决定写出什么，一个版本只有一种形态。sft（默认）把选中的每个候选写成一段对话，以有人担保的回答结尾：已接受的用原回答，已修正的用修正。preference 只写已修正的候选，形如 prompt / chosen / rejected；已接受的候选没有可配对的内容，会被略过。每一行都带一个 source —— 记录、部署、产出这条回答的 revision、时间、被标出的原因和审核人 —— 这样一行数据出了问题，可以追到写出它的那个模型。污染估计用按 1/64 抽样的 13-gram 指纹。一次提升的量小、prompt 又短时，产生的 n-gram 太少，估计没有意义，此时结果报成不确定而不是通过。

确认成功

curl -H "Authorization: Bearer $TUNEPLANE_CLIENT_TOKEN" \
  https://tuneplane.your-company.com/api/reflow/<id>

返回 buffer 的大小、它的保留期时钟，以及被丢弃和被提前回收的计数。丢掉了什么和留下了什么一样明显，这是有意的。一次提升之后，tp dataset ls alice/support-reflow 能看到新版本，下一次运行就能引用它。

看整个回路

Models → 展开一个模型 → Data flywheel。它显示一个版本的整条链：来源、训练运行、评测结论、服务与采集量，以及回来的那些数据集。那里的”闭合”是严格的。采集流量不算闭合回路，挖掘它也不算。回路闭合的时刻，是那些流量变成了某人能拿去训练的数据集。

下一步

模型部署 · 数据集 · 评分标准

开始

核心概念

训练模型

评测与服务

Agent 环境

扩展平台

协作

集成

参考

帮助

把生产流量变成训练数据

它的形状

三个设置

脱敏

从你在别处运行的服务回报流量

挖出难例

审核

修正

提升

确认成功

看整个回路

下一步

​它的形状

​三个设置

​脱敏

​从你在别处运行的服务回报流量

​挖出难例

​审核

​修正

​提升

​确认成功

​看整个回路

​下一步

它的形状

三个设置

脱敏

从你在别处运行的服务回报流量

挖出难例

审核

修正

提升

确认成功

看整个回路

下一步