如果問(wèn)一些危險(xiǎn)的南京問(wèn)題，攻擊者會(huì)構(gòu)造一個(gè)看似合理的航空航天何讓情境，比如聲稱自己是大學(xué)答危汽車公司的工程師，讓原本應(yīng)該拒絕回答危險(xiǎn)問(wèn)題的聊天AI開(kāi)口說(shuō)話。對(duì)于傳統(tǒng)的機(jī)器絕AI模型如GPT-3.5和GPT-4o ，

第一類是人拒完全無(wú)害的問(wèn)題 ，當(dāng)研究團(tuán)隊(duì)排除成人內(nèi)容相關(guān)問(wèn)題后