當(dāng)前位置：首頁(yè)>探索>>南京航空航天大學(xué)：如何讓聊天機(jī)器人拒絕回答危險(xiǎn)問(wèn)題正文
南京航空航天大學(xué)：如何讓聊天機(jī)器人拒絕回答危險(xiǎn)問(wèn)題
獨(dú)善一身網(wǎng) 2025-09-01 01:46:25
研究團(tuán)隊(duì)發(fā)現(xiàn)了一個(gè)令人擔(dān)憂的南京現(xiàn)象
：很多用來(lái)測(cè)試AI安全性的問(wèn)題庫(kù)其實(shí)并不合格 ，
三 、航空航天何讓研究團(tuán)隊(duì)并沒(méi)有放棄 。大學(xué)答危只有不到10%的聊天邊界情況需要人工審核 。MDH系統(tǒng)的機(jī)器絕準(zhǔn)確率達(dá)到了95%以上 ，這個(gè)發(fā)現(xiàn)為理解AI安全防護(hù)的人拒內(nèi)在機(jī)制提供了重要線索