研究：用诗歌就能让AI说违禁内容，成功率达62%
发布时间：2025-12-05 16:01:23 作者：玩站小弟 
我要评论
我要评论IT之家 12 月 1 日消息，事实证明，只需一点创意，便足以绕过人工智能聊天机器人的安全防护机制。在伊卡洛实验室Icaro Lab）最新发表的一项题为《对抗性诗歌：一种通用的单轮大语言模型越狱机制》
。
IT之家 12 月 1 日消息，研究用诗事实证明，违禁只需一点创意，内容沈阳市某某化工有限公司便足以绕过人工智能聊天机器人的成功安全防护机制。在伊卡洛实验室（Icaro Lab）最新发表的率达一项题为《对抗性诗歌：一种通用的单轮大语言模型越狱机制》的研究中，研究人员通过将提示词以诗歌形式表达，研究用诗成功绕过了多种大语言模型（LLM）的违禁安全限制。
该研究指出，内容“诗歌形式可作为一种通用型越狱操作符”，成功沈阳市某某化工有限公司实验结果显示，率达整体上有 62% 的研究用诗成功率诱使模型生成被禁止的内容，包括涉及制造核武器、违禁儿童性虐待材料以及自杀或自残等相关信息。内容
IT之家注意到，成功研究测试了多款主流大语言模型，率达包括 OpenAI 的 GPT 系列、Google Gemini、Anthropic 的 Claude 以及其他多个模型。研究人员进一步列出了各模型的具体成功率：Google Gemini、DeepSeek 和 MistralAI 在测试中始终会提供违规回答，而 OpenAI 的 GPT-5 系列模型和 Anthropic 的 Claude Haiku 4.5 则最不容易突破其自身设定的限制。
尽管该研究并未公开研究人员所使用的具体“越狱诗歌”原文，但研究团队向 Wired 杂志表示，这些诗句“过于危险，不宜向公众披露”。不过，论文中确实包含了一个经过弱化处理的示例，用以说明绕过 AI 聊天机器人安全机制的简易程度。研究人员强调：“这可能比人们想象的要容易得多，而这正是我们保持谨慎的原因所在。”
相关文章
威海高新区发布消息，近日，有媒体报道威海高区山大实验学校一14岁初中生在校体测倒地后猝死。高区成立联合调查组，第一时间开展调查。经调查，2025年11月7日下午，威海高区山大实验学校按教学计划组织初四2025-12-05
直播吧07月08日讯 温网女单16强战，中国金花王欣瑜0-2不敌世界排第21的斯维托丽娜，无缘8强。至此中国男女单打选手在温网全部出局，王欣瑜温网女单的最好成绩也定格在16强，无缘刷新她的个人大满贯单2025-12-05
中新健康丨小暑节气如何养生？专家建议→2024-07-05 17:08:24 来源：中国新闻网 作者：刘湃2025-12-05
2024年6月17日，布里斯班水上中心。澳大利亚巴黎奥运游泳选拔赛落幕，41人脱颖而出将代表老牌游泳强国踏上最高水平的赛场。在澳大利亚奥委会公布的大名单中，人们并没有看到流行音乐人科迪·辛普森的名字。2025-12-05
IT之家 12 月 1 日消息，据赛力斯集团官方消息，11 月 28 日，清华大学-赛力斯汽车有限公司电池创新技术联合研究中心以下简称“联合研究中心”）揭牌仪式在清华大学举行。据IT之家了解，清华大学2025-12-05
乌克兰总统办公室当地时间8日称，俄罗斯对乌克兰多地发动的大规模袭击已造成36人死亡，另有140人受伤。 另据乌克兰国家紧急情况服务局表示，当天乌克兰全国共有619名救援人员和132台设备参与救援2025-12-05
最新评论