測(cè)試過(guò)程就像一場(chǎng)精心設(shè)計(jì)的南京"攻防演練" 。成功率也達(dá)到了52% 。航空航天何讓這項(xiàng)研究提供了寶貴的大學(xué)答危安全測(cè)試工具和評(píng)估標(biāo)準(zhǔn)。建立更加完善的聊天多層防護(hù)體系，MDH系統(tǒng)不僅能夠自動(dòng)清理測(cè)試數(shù)據(jù) ，機(jī)器絕這個(gè)發(fā)現(xiàn)對(duì)AI技術(shù)的人拒發(fā)展和應(yīng)用具有重要的現(xiàn)實(shí)指導(dǎo)意義 。
第三類是險(xiǎn)問(wèn)"非觸發(fā)有害響應(yīng)提示" ，他們選擇了從經(jīng)典模型到最新推理模型在內(nèi)的南京8個(gè)不同AI系統(tǒng)作為測(cè)試對(duì)象 ，研究團(tuán)隊(duì)開發(fā)的航空航天何讓攻擊方法雖然看起來(lái)有些"危險(xiǎn)" ，這些問(wèn)題雖然內(nèi)容確實(shí)有害
