南京航空航天大學(xué)：如何讓聊天機(jī)器人拒絕回答危險(xiǎn)問題
發(fā)布時(shí)間：2025-08-31 23:56:10 作者：玩站小弟 
我要評(píng)論
我要評(píng)論這項(xiàng)由南京航空航天大學(xué)的張馳宇、周璐等研究者聯(lián)合香港中文大學(xué)、浙江實(shí)驗(yàn)室共同完成的研究發(fā)表于2025年8月，論文題目為《使用明確有害提示對(duì)商業(yè)黑盒大語(yǔ)言模型進(jìn)行越獄攻擊》。有興趣深入了解的讀者可以通過
。
研究團(tuán)隊(duì)還測(cè)試了不同類型示例對(duì)攻擊效果的南京影響
。MDH系統(tǒng)的航空航天何讓準(zhǔn)確率達(dá)到了95%以上 ，D-Attack方法在不同的大學(xué)答危AI模型上表現(xiàn)出了顯著的差異化效果 。研究結(jié)果表明 ，聊天即使是機(jī)器絕最先進(jìn)的AI系統(tǒng) ，
研究團(tuán)隊(duì)還對(duì)比了他們的人拒方法與其他已知攻擊技術(shù)的效果