微调数据只准备了 2000 条，够吗？

垂类任务，人工标注了 2000 条指令数据。担心过拟合，LoRA rank 设多少合适？数据增强有什么好办法？

【管理员回复】2000 条高质量垂类数据，用 LoRA 微调通常是够的，关键在于数据质量和覆盖面。建议：rank 从 8 或 16 开始，不必太大；学习率不宜过高，训练 2～3 个 epoch，留出 10% 左右作为验证集观察验证损失；同时准备一组通用问题检查能力退化。数据增强方面，可以用强模型对指令做改写（同义表达、不同提问方式），但回答部分要人工抽检，避免引入错误；也可以混入少量通用指令数据防止遗忘。你们的任务是格式抽取类还是开放生成类？