Ch7.大语言模型的外部安全威胁

教学目标教学目标?知识目标理解大语言模型面临的主要外部安全威胁理解常见的大语言模型安全防护策略?能力目标掌握识别与应对大语言模型对抗样本攻击的基本攻击方法及其防御?素养目标通过理解针对大语言模型的外部安全威胁及其防御方法，提升大语言模型的安全性和可靠性，为我国培养德才兼备的网络空间安全人才。【重点难点】理解大语言模型的外部安全威胁类型及其防御方法2

对抗样本7.1

7.1.1对抗样本攻击的概念4对抗样本的概念对抗样本是一种通过人为设计的输入数据，其在看似正常的情况下能够诱导模型产生错误预测。随着深度学习模型的广泛应用，特别是大语言模型在实际场景中的部署，对