研究与开发
绿色AI效率评价模型的构建与应用
1,2,32,33,43,52,33,4
马晓亮，刘英，赵汝强，杨邦兴，高洁，邓从健
（1.西安电子科技大学，陕西西安710071；
2.中国电信股份有限公司广州分公司，广东广州510620；
3.马晓亮劳模与工匠人才创新工作室，广东广州510620；
4.广州云趣信息科技有限公司，广东广州510665；
5.中数通信息有限公司，广东广州510630）
摘要：随着人工智能（artificialintelligence，AI）的兴起，大模型（largelanguagemodel，LLM）日益成为
知识推介和多轮对话的核心技术。伴随而来，AI大模型在数据处理、模型训练和部署过程中的高能耗问题亟
须有效评估，以便在模型优化后进行前后量化对比。提出一种AI大模型能耗的评估方法，旨在量化评估AI模
型的服务效率（efficiency，E）。该模型使用训练收敛时间（time，T）、模型参数规模（parameter，P）和浮点
运算量（floating-pointoperations，F）等多维度因素，通过构建能源消耗函数C（T，P，F）实现量化分析；
同时，运用非线性最小二乘法，得出模型参数。该分析方法不仅适用于电信运营商客服AI模型的运行效率分
析，也可泛化于其他行业的AI模型能耗评估。
关键词：绿色AI；智能客服；能源效率评估；大语言模型
中图分类号：TP393
文献标志码：A
doi:10.11959/j.issn.1000?0801.2024184
Constructionandapplicationofaquantitative
efficiencyassessmentmodelforgreenAIinintelligent
customerservicesystems
MAXiaoliang1,2,3,LIUYing2,3,ZHAORuqiang3,4,YANGBangxing3,5,
GAOJie2,3,DENGCongjian3,4
1.XidianUniversity,Xi’an710071,China
2.ChinaTelecomCorporationGuangzhouBranch,Guangzhou510620,China
3.MaXiaoliangInnovationStudioforModelWorkersandCreativeTalents,Guangzhou510620,China
4.GuangzhouYunquInformationTechnologyCo.,Ltd.,Guangzhou510665,China
5.ChinaDataComCo.,Ltd.,Guangzhou510630,China
Abstract:TheriseofAIandtheincreasingprominenceofLLMarepositionedascoretechnologiesforknowledge
disseminationandmulti-turndialogues.Alongsidetheir