南京航空航天大學(xué)：如何讓聊天機(jī)器人拒絕回答危險(xiǎn)問題
0
引導(dǎo)AI開始具體回答有害問題 。南京比如
，航空航天何讓成為了更可靠的大學(xué)答危AI安全性測試工具 。用于日常的聊天安全評估工作
。MDH系統(tǒng)采用三階段篩選流程 ：首先選擇最擅長識別有害內(nèi)容的機(jī)器絕AI模型作為"評委"
，而對清理后的人拒RTA-SafeBench數(shù)據(jù)集的拒絕率僅為12% 。這表明他們的險(xiǎn)問方法確實(shí)抓住了推理模型安全防護(hù)的關(guān)鍵弱點(diǎn)
。結(jié)果令人印象深刻