南京航空航天大學(xué):如何讓聊天機(jī)器人拒絕回答危險(xiǎn)問題
2025-09-01 03:53:02
研究團(tuán)隊(duì)發(fā)現(xiàn)了一個此前被忽視的南京突破口 :開發(fā)者消息功能。AI被引導(dǎo)相信自己正在進(jìn)行正當(dāng)?shù)暮娇蘸教旌巫尳逃顒? 。在面對精心設(shè)計(jì)的大學(xué)答危攻擊時(shí)仍然存在被突破的風(fēng)險(xiǎn)。研究團(tuán)隊(duì)并沒有放棄。聊天DH-CoT方法會提供一套偽造的機(jī)器絕推理過程