CHECKPOINTRESEARCH
AI安全报告
CHECKPOINTAI安全年度报告?第一版
目录
01020403
01
02
04
03
企业人工智能用于研究的AI引言AI威胁面向AI的安全性、由AI实现的安全性以及借助AI实现的安全性
企业人工智能
用于研究的AI
引言
AI威胁
引言
CHECKPoiNTTM 01引言02
CHECKPoiNTTM
01引言
02AI威胁
暗网中的AI模型新型社交工程将LLM帐户作为目标面向恶意软件的AI
03用于研究的AI
用于APT搜寻的AI
人工智能漏洞研究
04企业人工智能
面向AI的安全性、由AI实现
05的安全性以及借助AI实现的安全性
CP
42025年AI安全报告
引言
AI在网络攻击者和防御者中加速发展的未来
人工智能正在彻底改变各行各业，网络犯罪和网络安全也不例外。企业采用人工智能——不幸的是，威胁行为者也采用了人工智能——可以提高效率、扩大规模和影响。此时此刻，我们认为有必要停下来，评估人工智能和网络安全的现状与未来。
AI威胁已不再停留在理论阶段—它们已经存在并迅速发展。随着AI工具的普及，威胁参与者在利用这一转变时主要有两种方式：利用AI来增强其能力，以及针对采用AI技术的组织和个人发起攻击。
以下页面将提供对这些威胁的全面理解，使读者能够驾驭复杂的人工智能安全环境。
为了一个安全、创新和成功的未来，
LotemFinkelstein，CheckPointResearch研究总监攻击者会如何使用AI，之后又会发生什么？作为网络防御者，您应如何利用AI来加强自身的安全工作并更有效地保护组织？
LotemFinkelstein，
CheckPointResearch研究总监
我们的关注点在于：
?跨文本、音频和视频的自主与互动式社交工程的兴起
?LLM的越狱与武器化
?恶意软件开发与数据挖掘的自动化
?企业采用人工智能及其相关风险
?数据中毒在实际环境中的出现以及由GenAI工具放大的大规模虚假信息
?以毒攻毒的AI工具-保护您的组织免受最先进的威胁
AI威胁
CHECKPoiNTTM
在迅速获得人气。随着阿里巴巴推出DeepSeek和Qwen等开
在迅速获得人气。随着阿里巴巴推出DeepSeek和Qwen等开源模型，网络安全解决方案的格局正在发生变化。这些模型增强了可访问性，使用限制极少，并且提供免费套餐，使其成为网络犯罪的重要资产。
01引言
网络犯罪分子正在密切关注主流人工智能应用的趋势。每当一个新的大型语言模型（LLM）向公众发布时，地下行为者都会迅速测试其被滥用的潜力（图1）。目前，
网络犯罪分子正在密切关注主流人工智能应用的趋势。每当一个新的大型语言模型（LLM）向公众发布时，地下行为者都会迅速测试其被滥用的潜力（图1）。目前，ChatGPT和
OpenAI的API是网络犯罪分子中最受欢迎的模型，而GoogleGemini、MicrosoftCopilot和AnthropicClaude等其它模型也
暗网中的AI模型
新型社交工程将LLM帐户作为目标面向恶意软件的AI
03用于研究的AI
用于APT搜寻的AI
人工智能漏洞研究
04企业人工智能
面向AI的安全性、由AI实现
05的安全性以及借助AI实现的安全性
CP图
CP
62025年AI安全报告
CHECKPoiNTTM
恶意AI模型的发展
01引言
网络犯罪分子正在利用主流平台，创建并销售专门为网络犯罪量身定制的恶意LLM模型（图2）。这些黑暗的LLM
网络犯罪分子正在利用主流平台，创建并销售专门为网络犯罪量身定制的恶意LLM模型（图2）。这些黑暗的LLM模型旨在规避为道德模型设立的安全措施，并被积极推销为黑客工具。
暗网中的AI模型
新型社交工程将