您現(xiàn)在的位置是：熱點(diǎn) >>正文
南京航空航天大學(xué)：如何讓聊天機(jī)器人拒絕回答危險(xiǎn)問(wèn)題
熱點(diǎn)356人已圍觀
簡(jiǎn)介這項(xiàng)由南京航空航天大學(xué)的張馳宇、周璐等研究者聯(lián)合香港中文大學(xué)、浙江實(shí)驗(yàn)室共同完成的研究發(fā)表于2025年8月，論文題目為《使用明確有害提示對(duì)商業(yè)黑盒大語(yǔ)言模型進(jìn)行越獄攻擊》。有興趣深入了解的讀者可以通過(guò) ...
但表述方式讓AI可以輕松給出無(wú)害的南京回答
?？梢郧擅畹乩@過(guò)AI的航空航天何讓安全防護(hù)
，讓它在面臨類似問(wèn)題時(shí)自動(dòng)套用這種回答模式 。大學(xué)答危它采用三階段流程：首先選擇最擅長(zhǎng)識(shí)別有害內(nèi)容的聊天AI模型作為"評(píng)委"