按问题选方法。
训练方法取决于数据量、基础模型、算力和部署要求,不是每个项目都要重新训练。
- 任务与行业微调
- 用领域资料和任务样本训练术语理解、表达方式与输出格式。可采用监督微调(SFT)、LoRA 或 QLoRA。
- 偏好与对齐训练
- 整理比较样本,围绕回答质量、业务规则和安全要求调整模型偏好。
- 多模态训练
- 针对图片、扫描件、表格等资料组织训练样本,检查视觉信息与文字回答是否一致。
- Agent 训练
- 围绕工具选择、参数生成、多步骤执行和错误恢复,整理任务轨迹并进行测试。
- 蒸馏与推理优化
- 结合延迟、显存和部署成本,评估模型压缩、蒸馏及推理配置。
训练前,先约定怎么判断结果。
- 01
确认任务与基线
收集典型问题和失败样本,测试现有方案。共同确定评测集、指标和人工复核方式。
- 02
整理数据与训练
处理数据授权、清洗与划分;确定训练策略,记录环境、配置、日志和模型版本。
- 03
比较结果
对照基线检查候选模型,分析失败样本和适用范围。根据结果决定是否继续训练。
- 04
部署与验收
在目标环境检查性能、资源占用、接口与异常处理,交付运行说明和回滚方案。
项目结束,你会拿到什么?
以下内容可纳入交付。具体清单、归属和验收要求在项目开始前写入协议。
- 数据与评测集
- 数据版本、处理脚本、质量说明,以及双方确认的评测样本。
- 代码与模型
- 训练代码、配置、依赖环境、日志、检查点、模型权重或适配器。
- 结果说明
- 基线对比、失败样本分析、人工复核记录和能力限制。
- 运行材料
- 推理配置、服务镜像、接口说明、部署手册和版本记录。
在哪里训练,由数据和环境决定。
- 约定的云环境
- 由团队完成训练和评测,按约定交付各阶段成果。
- 客户云或自有 GPU
- 使用客户指定的云账号、算力和网络,确认访问权限与操作记录。
- 私有化环境
- 在客户内网、私有云或本地受控环境中实施,提前核对模型、硬件和依赖要求。
开始前的几个问题
数据还没整理,可以先聊吗?
可以。提供业务目标、现有资料和遇到的问题即可。我们会先看数据质量与可行性,再建议下一步,不要求一开始就准备好完整训练集。
怎样确认训练有用?
先确定基线、测试集和指标,再比较训练前后的表现。上线还要检查响应时间、资源和失败情况,不能只看一次演示或训练损失。
能只做一个阶段吗?
可以从能力验证、专项训练或部署适配开始,也可以长期联合迭代。范围和产出按项目确认。
数据和成果归谁?
数据授权、访问方式、保留时间,以及代码和模型等成果归属均写入合作协议。客户敏感数据不用于其他项目或未经授权的训练。
先给我们看几个实际样本。
说明目标任务、当前效果与部署环境。周期、算力和费用在评估范围后讨论。