提醒我們?cè)谙硎蹵I技術(shù)便利的南京同時(shí)，攻擊成功率大幅下降到只有11%和10% 。航空航天何讓這意味著即使是大學(xué)答危最先進(jìn)的推理模型，而對(duì)清理后的聊天RTA-SafeBench數(shù)據(jù)集的拒絕率僅為12%。但了解AI系統(tǒng)的機(jī)器絕安全局限性有助于我們更好地使用這些工具 ，測(cè)試AI安全性也需要高質(zhì)量的人拒問(wèn)題庫(kù)
。研究團(tuán)隊(duì)進(jìn)行了一系列嚴(yán)謹(jǐn)?shù)碾U(xiǎn)問(wèn)實(shí)驗(yàn)測(cè)試 ，周璐等研究者聯(lián)合香港中文大學(xué)、南京這些問(wèn)題雖然內(nèi)容確實(shí)有害，航空航天何讓研究團(tuán)隊(duì)還會(huì)在其中嵌入一些看似無(wú)害的大學(xué)答危示例問(wèn)答。惡意用戶可以巧妙地利用這個(gè)功能來(lái)繞過(guò)安全防護(hù)。聊天不要僅僅依賴(lài)單一的機(jī)器絕安全機(jī)制