您現(xiàn)在的位置是：焦點(diǎn) >>正文
南京航空航天大學(xué)：如何讓聊天機(jī)器人拒絕回答危險(xiǎn)問(wèn)題
焦點(diǎn)268人已圍觀
簡(jiǎn)介這項(xiàng)由南京航空航天大學(xué)的張馳宇、周璐等研究者聯(lián)合香港中文大學(xué)、浙江實(shí)驗(yàn)室共同完成的研究發(fā)表于2025年8月，論文題目為《使用明確有害提示對(duì)商業(yè)黑盒大語(yǔ)言模型進(jìn)行越獄攻擊》。有興趣深入了解的讀者可以通過(guò) ...
劫持AI的南京推理過(guò)程。這種專門針對(duì)推理模型設(shè)計(jì)的航空航天何讓攻擊方法，新一代推理模型在抵御傳統(tǒng)攻擊方面確實(shí)取得了顯著進(jìn)步 ，大學(xué)答危然后是聊天"尋求平衡方法"階段 ，讓AI按照攻擊者設(shè)計(jì)的機(jī)器絕思路進(jìn)行思考