引言
近年来,人工智能(AI)的进展速度已远超摩尔定律,正迅速接近人类智慧的边界。刚刚过去的
2024年,GenAI产业迎来了前所未有的发展高峰。众多初创公司投身于生成式大语言模型的研究,争
先恐后地推出生成式LLM的应用工具、开发平台和开源框架。在我国,通用大模型、垂类大模型、大
模型服务等不同的AI产品也在快速推出,通义千问、豆包、Metaso、Deepseek等产品开始崭露头角。
随着GenAI的大规模推广,AI实践开始在多个应用中显现成效,涉及智能消费品、工业、医学、教育、
信息化、人形机器人等诸多领域。
2025年是AI技术商业化应用和服务模式创新方面的—个关键转折点,这—年被业界认定为智能体
(AIagent)商用元年。主要得益于大语言模型(LLM)的逐步成熟、对话式智能体的广泛验证,以及
企业对自动化与目标驱动型AI应用的迫切需求,这些因素共同推动了AIAgent的快速普及。与此同时,
AIAgent的应用也进—步驱动形成了AgenticAI这—新理念。在Gartner发布的《2025年十大技术趋
势》报告中,“AgenticAI”被列为2025年十大战略技术之首。
GenAI及AIAgent的技术进步也推动着国内网络安全领域大模型步入了高速发展时期。据安全牛
对产业的观察,国内主流的安全厂商正积极地在大模型安全能力上进行布局,形成了多样化的技术架构
和应用模式。基于LLM训练的各类安全应用模型和Agent已经开始实际应用,尤其是在风险治理管理、
高级威胁监测、数据分类分级、API资产识别、安全运营、事件响应等细分领域。
随着企业安全建设复杂度持续攀升与AI技术应用的深度渗透,企业网络安全智能化转型已成为必
然趋势。然而,智能体技术在商业场景与安全领域的融合应用,也催生新型安全风险与治理挑战。由于
AIAgent作为新兴技术形态,用户对其认知尚处于早期阶段,导致技术应用特征难以被有效掌握。同
时,AI技术本身的黑箱特性、安全缺陷等核心问题仍待突破,其中对抗样本攻击、提示词注入漏洞、
隐私合规风险及自主决策失控风险等,构成当前AIAgent安全防护体系中的重点威胁维度。
在企业向AI转型的关键时刻,如何选择和构建AgenticAI的安全能力,并有效地应对AI自身的安
全问题,成为当前首席安全官们(cs0)在规划和采用安全AI产品时面临的主要障碍。了解AgenticAI
自身的安全问题,及AgenticAI在网络安全领域技术研究进展、场景化方案和应用实践,对企业的首席
安全官(cs0)至关重要。
为帮助用户理解AIAgent的技术特性及其潜在的安全风险,并掌握AI技术在网络安全产品中的应
用现状,安全牛发起了《AgenticAI安全技术应用报告》的研究项目。报告采用问卷调查、深度访谈、
产品演示等多种研究手段,对用户侧、厂商侧进行了全面了解,并从技术、应用、产业发展等方面进行
深度分析,揭示了AI及AIAgent在网络安全领域的应用现状和发展动向,旨在为企业用户提供从传统
安全向AI安全转型的决策支持。本次调研成果将以多种形式呈现,涵盖技术概览、安全架构、应用指
导、数据图表、典型案例深度剖析、代表性厂商评估与推荐等,助力读者快速了解AgenticAI的产业生
态。
关键发现
?在国际政策方面。调研发现2023年是AI安全发展的—个重要转折点全球主要国家和地区政策
和标准出台的数量在2023年后都有显著增加,同时在AI安全可信、安全评估、产业协同等方面提出了
具有突破性的新要求,政策和监管焦点也逐步从单纯的技术追赶,转变为寻求发展与安全之间的平衡。
?我国的AI安全方面。调研发现近两年,我国针对AI法制治理力度在持续增强,表现相比美国和
欧盟更为积极。但目前阶段我国AI安全治理还缺乏足够的技术积累,安全评测技术仍处于早期探索和
验证阶段,相关合规要求和防护措施亦需进—步完善。
?在技术应用方面。调研发现国内网络安全行业的智能化应用水平,正在从传