基本信息
文件名称：人工智能大语言模型应用教程 教案 模块12 大语言模型量化应用.docx
文件大小：68.5 KB
总页数：3 页
更新时间：2025-12-08
总字数：约小于1千字
文档摘要
授课题目
模块12大语言模型量化应用
计划课时
4
授课时间
授课地点
教学目的与要求
了解大语言模型量化的概念；
理解掌握llama.cpp量化方法；
了解大语言模型的GGUF格式；
会安装部署大语言模型量化应用环境；
能够运用llama.cpp解决方案，将大模型进行格式转换和量化，并在CPU环境下运行；
能够使用React.js开发Chat客户端连接量化模型进行推理；
教学重点及难点
1.安装部署大语言模型量化应用环境
2.运用llama.cpp解决方案，将大模型进行格式转换和量化
3.使用React.js开发Chat客户端连接量化模型进行推理
教学方法
案例分析，讲授，演示，实