大模型微调数据怎么构建？数据量和数据质量哪个更重要？
面试怎么回答
我会先确认是否真的需要微调：让模型知道公司知识更适合 RAG，格式要求用提示词和结构化输出，微调更适合改变行为风格、提升特定任务稳定性或用小模型替代大模型。SFT 数据是指令到期望输出的样本，质量比数量更重要，几千条高质量多样化的样本往往胜过大量参差的数据，因为错误答案和不一致的风格都会被学会。数据来源包括清洗脱敏后的历史需求和 SQL、专家标注、强模型生成加人工审核、线上失败案例。工程上按任务类型、难度、业务域设计覆盖矩阵，去重，SQL 样本必须可执行且结果正确，训练集和评测集严格分离，数据版本化并和模型版本对应，训练后分析错误类型针对性补数据。
先把这段讲顺；面试官追问时，再展开下面的原理和细节。
详细讲解
公司要基于开源模型微调一个「数据分析助手」，让它更懂公司的数仓和业务口径。算法同学说：「给我准备 10 万条训练数据。」数据团队该怎么准备？面试官问这题，想看你对微调数据的理解，以及数据工程方法在这里怎么用。
先确认：真的需要微调吗
很多需求不用微调就能解决：
- 让模型知道公司的知识（表结构、口径）→ RAG 和元数据检索更合适，知识更新也方便；
- 让模型遵循特定格式 → 提示词和结构化输出；
- 微调更适合：改变模型的行为方式和风格、特定任务的稳定性（比如固定格式的抽取）、用小模型替代大模型降低成本和延迟。
微调数据的形式
监督微调（SFT）的数据通常是「指令 / 输入 → 期望输出」的样本，多轮对话的话是完整的对话记录。
质量比数量重要
经验上，几千条高质量、多样化的样本，往往比几十万条质量参差的样本效果更好。低质量数据的问题：
- 错误的答案会被模型学会；
- 风格不一致，模型学到的是混乱；
- 大量重复的简单样本，模型过拟合到少数模式。
数据从哪里来
- 真实数据：历史的取数需求和对应的 SQL、客服对话、工单处理记录。要清洗、筛选、脱敏；
- 专家标注：业务专家写标准答案，质量最高，成本也最高，适合核心场景；
- 模型生成 + 人工审核：用更强的模型生成候选样本，人工筛选和修改；
- 从失败案例中补充：线上答错的问题，修正后加入训练集。
数据构建的工程方法
- 覆盖度设计：按任务类型、难度、业务域列出矩阵，确保每个格子都有足够样本，避免集中在简单场景；
- 去重和去近似重复；
- 质量检查：SQL 类样本必须能执行且结果正确；格式类样本自动校验格式；
- 防泄漏：评测集和训练集严格分离，按问题去重；
- 版本化：每一版训练数据有版本、来源统计、构建规则，和模型版本对应；
- 评估闭环：训练后在评测集上评估，分析错误类型，针对性补充数据。