微信公众号：计算机与网络安全

基于TwinPrompts的LLM安全校准越狱

托尔斯滕·克劳什维尔茨堡大学

哈米德·达什特巴尼维尔茨堡大学

亚历山德拉·德米特里延科维尔茨堡大学

arXiv

arXiv：2506.07596v1[cs.LG]2025年6

摘要

机器学习正在迅速发展，应用程序带来了显着的好处，

例如翻译和代码生成方面的改进。像ChatGPT这样由大型语言模型（LLM）提供支持的模型越来越多地融入日常生活。然而，除了这些好处，LLM也带来了社会风险。恶意用户可以通过提交有害提示（例如请求非法活动的指令）来利用LLM。为了缓解这种情况，模型通常包括一个安全机制，可以自动拒