基本信息
文件名称:大语言模型通识 课件 第5章 大模型预训练数据.pptx
文件大小:4.89 MB
总页数:10 页
更新时间:2025-12-12
总字数:约1.76万字
文档摘要

浙江省普通本科高校“十四五”重点教材

大语言模型通识

大语言模型通识

第5章大模型预训练数据

机械工业出版社

CHINAMACHINEPRESS

GeneralKnowledgeofBig

LanguageModels

大语言模型通识

周苏0蜿著

EE

⑨机械工业出版社

无水印

普通高等教育人工智能专业系列教材

大语言模型通识

周称口里带

C

9

第5章大模型预训练数据

一般情况下用于预训练的都是大模型,具备复杂网络结构,众多参数量,以

及在足够大的数据集下进行训练而产生的模型。在自然语言处理领域,预训练模型往往是语言模型,其训练是无