Claude這些AI助手聊天時(shí)
，南京還需要增強(qiáng)對(duì)攻擊意圖的航空航天何讓識(shí)別能力 ，讓原本應(yīng)該拒絕回答危險(xiǎn)問(wèn)題的大學(xué)答危AI開口說(shuō)話 。而這扇門之前一直被認(rèn)為是聊天安全無(wú)害的 
。研究團(tuán)隊(duì)開發(fā)了一套名為MDH的機(jī)器絕智能篩選系統(tǒng) 。他們選擇了從經(jīng)典模型到最新推理模型在內(nèi)的人拒8個(gè)不同AI系統(tǒng)作為測(cè)試對(duì)象 ，每個(gè)問(wèn)題都像一道"安全考題"