近日，暨南大学广东智慧教育研究院师生论文《Semantic Isomorphism Attacks and Defense Evaluation for Jailbreaking Large Language Models》被自然语言处理领域重要期刊 IEEE/ACM Transactions on Audio, Speech, and Language Processing（TASLP）正式录用。
TASLP 主要聚焦语言计算、音频技术与语音处理等研究方向，持续发表兼具理论深度与实际应用价值的高水平原创成果。该期刊由 IEEE 信号处理学会出版，是相关领域科研人员高度关注的重要学术交流平台之一。TASLP 最新影响因子为5.2，位列JCR Q1分区，是中国计算机学会（CCF）推荐的B类期刊、中国人工智能学会（CAAI）和清华大学推荐的A类期刊。
入选论文介绍
论文题目：Semantic Isomorphism Attacks and Defense Evaluation for Jailbreaking Large Language Models |
作者：杨帆（暨南大学）、王岢（暨南大学）、窦文周（暨南大学）、帅奕帆（暨南大学）、刘子韬（暨南大学）、周德华（暨南大学） |
通讯作者：王岢 |
摘要：大语言模型的安全对齐持续面临越狱攻击带来的挑战。现有方法大多依赖提示工程或对抗优化，而本文识别并形式化了一种尚未得到充分研究的“语义同构”漏洞，即有害场景与安全场景可能具有高度一致的底层操作原理，使有害意图能够绕过模型的语义拒绝机制。针对这一问题，本文提出 Safe2Harm，一种包含安全重写、主题映射、安全响应生成和主题反转四个阶段的语义同构越狱攻击框架。在8个主流大语言模型和3个基准数据集上的实验结果表明，Safe2Harm 相较于现有先进方法取得了显著更高的攻击效果，在大参数模型上的最高攻击成功率（ASR）达到99.5%。进一步的机理与防御分析表明，该方法在输入侧具有较强的隐蔽性，而在主题反转阶段和最终输出中仍存在可检测的安全信号，为构建多层次的大语言模型安全防御机制提供了重要启示。 |
