基本信息
文件名称:AI大模型开发实战 教案 10大模型瘦身术:轻量化与部署优化.docx
文件大小:27.29 KB
总页数:3 页
更新时间:2026-03-08
总字数:约1.82千字
文档摘要
一、课程概览
学时:90分钟(2×45′),多媒体教室。
先修:完成“医疗大模型”实训,会用PyTorch训练简单CNN并保存模型。
教学目标
知识:说出轻量化三支柱“量-馏-剪”;写出量化两步“校准→缩放”;列举边缘部署四策略“裁-量-加-推”。
能力:能把32位ResNet量化为INT8并drop模型大小60%;能用知识蒸馏训练一个小模型,Top-1精度保持≥80%。
情感:树立“绿色AI”观念——每毫瓦都有价值,每克碳都要负责。
教学重点:后训练静态量化、特征层蒸馏、结构化剪枝、低资源推理引擎选择。
教学难点:校准集代表性、蒸馏温度选取、剪枝后微调策略、