微调的上限在开训之前就定了：数据标注质量决定结果。LLM 的标注和图像标注不同，指令、偏好、边界情况都要人判断。这篇把四类数据、工具选型、LLM 辅助标注流程和质量控制说清楚。

📜 目录

• 一、LLM 项目到底要标什么
• 二、工具有三种，别一开始就用最重的
• 三、LLM 辅助标注：2026 年的默认做法
• 四、质量控制：四个可执行的检查
• 五、预算的现实
• 常见问题
• 相关文章

LLM微调数据标注2026：Label Studio、LLM辅助标注与质量控制

平庸模型配优秀数据，通常打赢优秀模型配平庸数据。这一点在微调项目里几乎每次都被验证：同样的基座、同样的训练参数，换一版标注更认真的数据集，效果差出一截。

所以标注不是训练前的杂活，它是项目的主线。这篇讲四件事：要标哪几类数据、用什么工具、LLM 辅助怎么用、质量怎么把关。

一、LLM 项目到底要标什么

四类里最容易被跳过的是评估集。没有它，你无法回答"这次微调到底有没有变好"，只能凭感觉。评估集要在训练之前就冻结，不能边训边改。

二、工具有三种，别一开始就用最重的

很多人低估了电子表格。2000 条以内、两三个人标注、评审意见用一列写清楚，它比配置任何平台都快，而且导出即训练格式。工具的价值在"多人并发、权限、进度统计"，不在标注界面本身。

三、LLM 辅助标注：2026 年的默认做法

纯人工标一千条 SFT 数据，大约 20-40 小时专注工作。LLM 辅助能把这段压下来，前提是流程设计对：

1. 草稿：用强模型对每条样本生成候选回答，给 2-3 个不同提示词版本。
2. 裁判：另一个模型（或同一模型换 prompt）对候选排序，挑出最好的。
3. 人工审：人只看两类——模型排序分歧的、得分低的。这部分通常占 20-40%。
4. 抽检：从"模型说没问题"的样本里随机抽 10% 复核。这一步不能省，否则裁判的系统性偏差会全量放大。

实践报告的成本降幅常在 50-70%，质量与纯人工持平。但有两个前提：人工审的那部分必须真的看，抽检必须真的随机。跳过任何一个，数据里就会混进一批语气正确、事实错误的样本，训出来的模型特别自信地胡说。

四、质量控制：四个可执行的检查

1. 标注者一致性。 让两个人独立标同样 10% 的样本，算一致率。SFT 数据低于 80%，说明指令本身写得含糊，先改标注手册，别急着扩量。

2. 对抗抽样。 专门挑裁判模型和人类判断不一致的案例看。这些是边界，也是模型最容易学歪的地方。

3. 训练后评估。 拿 5-10% 的数据切一个切片先训一轮，在冻结的评估集上打分。分数不动就回数据层找问题，不要加 epoch。

4. 分布检查。 统计指令类型、长度、难度的分布，看有没有某一类占了一半。真实使用里罕见的长尾任务，训练集里往往是零。

五、预算的现实

按这个估，一千条 SFT 大约 20-40 小时，一千条偏好数据要 40 小时以上。报价时把复核和返工算进去，实际通常是首轮的 1.3-1.5 倍。

常见问题

Q：能不能完全不用人工，全靠 LLM 标注？ A：小规模、低风险任务可以试，但一旦模型自己标自己训，错误会被放大成本风格。至少保留 10% 人工抽检和一份人工写的评估集。

Q：标注多少条才够？ A：SFT 500-5000 条高质量样本是有效区间；偏好数据通常要万级对比对才明显；评估集 100-500 条足够。数据质量对数量的替代性很强。

Q：Label Studio 和 Argilla 怎么选？ A：要覆盖分类、抽取、比较多种任务，选 Label Studio；主要做偏好标注、要和 Hugging Face 数据集打通，选 Argilla。两者都能自托管，数据不出内网。

Q：标注手册要写多细？ A：至少包含：任务定义、正例三条、反例三条、边界情况的判定规则、遇到不确定时怎么办。手册不清楚，一致性一定低。

Q：评估集能被"训进去"吗？ A：能，而且很常见——反复拿评估集调参，等于在评估集上过拟合。做法是留一份不常看的 holdout，只在最终验收时用一次。

注：工具功能与许可证以官方文档为准；标注耗时与成本降幅为行业实践的量级参考，随任务复杂度变化。

相关文章

• LLM微调工具横评2026：LLaMA-Factory、Unsloth、PEFT、TRL怎么选
• Unsloth QLoRA教程2026：8GB显存就能跑的4-bit微调
• Unsloth微调教程：用LoRA训练自己的AI模型