人工智能大语言模型应用教程;学习

目标;2.2;2.1硬件设备安装;大语言模型应用系统的硬件环境是服务器和推理卡（或显卡）

服务器可以使用高端的PC机代替

硬件配置方面主要是对主板、电源有要求，

至少需要750W的电源

主板需要支持指定型号的显卡或推理卡。;以GERORCERTX2080Ti推理卡为例，在安装时，将卡插入主板上的插槽，上紧螺丝，确保卡固定牢固和正常散热;2.2运行环境安装（CentOS）;2.2.1更新操作系统;2.2.2安装依赖库;2.2.3安装推理卡驱动;2.2.4安装CUDA;2.2.4安装CUDA;2.2.5安装Anaconda;2.3运行环境安装（Ubuntu）