研究：用诗歌就能让AI说违禁内容，成功率达62%
IT之家 12 月 1 日消息，研究用诗事实证明，违禁只需一点创意，内容十堰市某某环保机械设备有限责任公司便足以绕过人工智能聊天机器人的成功安全防护机制。在伊卡洛实验室（Icaro Lab）最新发表的率达一项题为《对抗性诗歌：一种通用的单轮大语言模型越狱机制》的研究中，研究人员通过将提示词以诗歌形式表达，研究用诗成功绕过了多种大语言模型（LLM）的违禁安全限制。
该研究指出，内容“诗歌形式可作为一种通用型越狱操作符”，成功十堰市某某环保机械设备有限责任公司实验结果显示，率达整体上有 62% 的研究用诗成功率诱使模型生成被禁止的内容，包括涉及制造核武器、违禁儿童性虐待材料以及自杀或自残等相关信息。内容
IT之家注意到，成功研究测试了多款主流大语言模型，率达包括 OpenAI 的 GPT 系列、Google Gemini、Anthropic 的 Claude 以及其他多个模型。研究人员进一步列出了各模型的具体成功率：Google Gemini、DeepSeek 和 MistralAI 在测试中始终会提供违规回答，而 OpenAI 的 GPT-5 系列模型和 Anthropic 的 Claude Haiku 4.5 则最不容易突破其自身设定的限制。
尽管该研究并未公开研究人员所使用的具体“越狱诗歌”原文，但研究团队向 Wired 杂志表示，这些诗句“过于危险，不宜向公众披露”。不过，论文中确实包含了一个经过弱化处理的示例，用以说明绕过 AI 聊天机器人安全机制的简易程度。研究人员强调：“这可能比人们想象的要容易得多，而这正是我们保持谨慎的原因所在。”
(责任编辑：探索)
至高可省1.5万 问界/深蓝/蔚来等车企自掏腰包兜底购置税
为了不给游客留遗憾，中山陵祭堂用建筑巨幅喷绘围挡施工
直落两盘横扫！兹维列夫轻取卢布列夫，迎年终总决赛开门红
你适合“剪刘海”还是“露额头”？关键看这点！-
哈尔滨待售二手房数量从109600套增加到了110079套，楼市12月分析
哈尔滨楼市现在还在阴跌。11月哈尔滨楼市的待售二手房数量变化也不是很大。哈尔滨楼市的待售二手房数量从109600套增加到了110079套，待售二手房增加了一点，但是增加的不多。哈尔滨楼市现在房价降幅没
...[详细]
-
11月13日，比特币上破90000美元/枚，为历史上首次，日内涨超4%。 相关新闻 减半效应叠加“特朗普交易”，比特币“确定性牛市”能走多远？
...[详细]
-
当地时间11月13日，西班牙铁路交通管理局宣布，由于强降雨天气影响，连接巴伦西亚和巴塞罗那之间的铁路交通运行暂时中断，与此同时，连接加泰罗尼亚自治区雷乌斯和萨拉戈萨之间的铁路线路同样中断运营，此前
...[详细]
-
当地时间13日，以色列新任国防部长卡茨在以军总参谋长哈莱维的陪同下，上任后首次视察以军北方司令部，其间卡茨表示，以军将继续战斗，直到实现所有战争目标。 卡茨称，以色列不会停火、不会松懈。卡茨指出
...[详细]
-
北京商报讯记者 关子辰 牛清妍）12月3日，文化和旅游部、中国民航局印发《文化和旅游与民航业融合发展行动方案》以下简称《行动方案》）。《行动方案》提到，加密入境旅游航线。优化航权配置，引导中外航空公司
...[详细]
-
13日上午，空军、海军、陆军以及航空工业集团在珠海举行联合新闻发布会，介绍第十五届中国国际航空航天博览会特色亮点。这是空、海、陆三军首次在珠海召开发布会，此次三军战机在珠海起飞，成为此次航展最大亮
...[详细]
-
学渣妈妈深夜忏悔：把孩子养成仇人后，我才明白有问题的不是孩子
作者：主创团·瑾山月我朋友杨阳，是省重点的高二老师。前几天见面，听她说起了儿子的事。她儿子读初二，不到一年就要中考了。为了有个好成绩，杨阳准备带儿子冲刺一年。她使尽浑身解数，拿出写教案的劲头，一刻也不
...[详细]
-
央视记者获悉，当地时间11月13日，美国财政部在一份报告中表示，美国10月份联邦预算赤字相较去年同期670亿美元同比增长近三倍至2570亿美元。央视记者 许骁）
...[详细]
-
据国家疾控局微信公众号消息，近期我国呼吸道传染病疫情总体处于较低水平，新型冠状病毒、呼吸道合胞病毒、普通冠状病毒和鼻病毒等存在一定水平活动。为保障您和家人的健康，特作出以下健康提示：一是保持良好卫生习
...[详细]
-
丘班、上汇理、JFYP等顶级资源涌现，近期兰生-复附-复旦、上实-交大、格致-复旦、张集-华二等名校之间的合作计划，使得上海升学圈更加暗流涌动。每每到这个时候，魔都的升学圈总是热闹非凡。很多家长都在讨
...[详细]
