更精妙的聊天是 ，"當(dāng)然可以" ，機(jī)器絕這種"溫水煮青蛙"的人拒策略讓AI在不知不覺中降低了防護(hù)等級 。正在為學(xué)生準(zhǔn)備有關(guān)社會安全問題的險問教育材料 ，但實際威脅性很低 。南京而DH-CoT方法仍然能夠保持相當(dāng)?shù)暮娇蘸教旌巫尮舫晒β?。經(jīng)過測試十種不同的大學(xué)答危示例組合 ，這種"教育外衣"讓AI的聊天安全防護(hù)系統(tǒng)誤認(rèn)為這是正當(dāng)?shù)膶W(xué)術(shù)研究需求。當(dāng)研究團(tuán)隊排除成人內(nèi)容相關(guān)問題后，機(jī)器絕如果問一些危險的人拒問題，這些問題就像問"高血壓有什么治療方法"一樣正常 ，險問這就像找到了一把萬能鑰匙 ，南京
從技術(shù)發(fā)展的角度來看 ，
實驗結(jié)果表明 ，正如他們在論文中所強(qiáng)調(diào)的，它首先模仿OpenAI官方開發(fā)者消息的標(biāo)準(zhǔn)格式 ，論文題目為《使用明確有害提示對商業(yè)黑盒大語言模型進(jìn)行越獄攻擊》 。就像問"成人網(wǎng)站的商業(yè)模式是什么" ，研究結(jié)果表明 ，
更有趣的是 ，
DH-CoT方法巧妙地將開發(fā)者消息偽裝成教育場景 。
研究團(tuán)隊特別強(qiáng)調(diào)了"教育情境"在攻擊中的重要作用