研究人员发现一种名为“低资源语言越狱”的新方法,可绕过ChatGPT-4的安全护栏,使其提供危险建议。测试显示,该方法总成功率高达79%,暴露出当前生成式AI在多语言安全防护上的显著短板。
什么是ChatGPT越狱
“越狱”(Jailbreaking)原指突破iPhone软件限制以解锁修改权限的行为。在AI领域,该术语特指绕过模型安全机制,诱导其输出有害信息。例如,研究人员已成功让GPT-4提供盗窃商店的具体指导,并建议选择人流密集时段作案。
低资源语言成安全盲区
研究指出,现有AI安全措施过度聚焦英语防御,导致“低资源语言”成为可利用的漏洞。所谓低资源语言,是指大语言模型缺乏相应安全训练数据或泛化能力不足的语言。
论文强调,当前仅依赖英语基准测试营造了虚假的安全感。研究人员低估了模型处理未受训语言的能力。实验表明,将GPT-4的低资源语言回答翻译回英语后,往往能得到连贯且有害的内容,证实模型具备理解与生成此类信息的能力。构建更强护栏的唯一途径是创建跨语言的专项安全数据集。
越狱攻击效果示例

多语言越狱测试数据
研究人员将不安全提示翻译为12种语言进行测试。结果显示,使用祖鲁语或苏格兰盖尔语诱导有害响应的成功率接近50%,而原始英语提示的成功率不足1%。
该技术并非对所有低资源语言有效。苗语和瓜拉尼语的测试结果较差,常产生无意义响应;部分情况下,GPT-4会将提示转译为英语而非输出违规内容。
各语言越狱成功率具体如下:
- 祖鲁语:53.08%
- 苏格兰盖尔语:43.08%
- 苗语:28.85%
- 瓜拉尼语:15.96%
- 孟加拉语:13.27%
- 泰语:10.38%
- 希伯来语:7.12%
- 印地语:6.54%
- 现代标准阿拉伯语:3.65%
- 简体中文:2.69%
- 乌克兰语:2.31%
- 意大利语:0.58%
- 英语(未翻译):0.96%
已向OpenAI披露漏洞
研究人员在公开研究成果前已按规范通知OpenAI相关跨语言漏洞。团队希望此项研究能推动行业建立覆盖更多语言的强化安全机制,弥补现有防护体系的不足。

