基本信息
文件名称：智慧天地之大模型（LLMs）微调面.pdf
文件大小：2.89 MB
总页数：16 页
更新时间：2025-11-24
总字数：约1.21万字
文档摘要
大模型（LLMs）微调面
2023年12月24日00:44
大模型（LLMs）微调面
?1.如果想要在某个模型基础上做全参数微调，究竟需要多少显存？
?2.为什么SFT之后感觉LLM傻了?
?3.SFT指令微调数据如何构建?
?4.领域模型ContinuePreTrain数据选取？
?5.领域数据训练后，通用能力往往会有所下降，如何缓解模型遗忘通用能力？
?6.领域模型Cont