當(dāng)前位置：首頁(yè)>百科>>南京航空航天大學(xué)：如何讓聊天機(jī)器人拒絕回答危險(xiǎn)問(wèn)題正文
南京航空航天大學(xué)：如何讓聊天機(jī)器人拒絕回答危險(xiǎn)問(wèn)題
獨(dú)善一身網(wǎng) 2025-09-01 02:39:46
"我不能"等拒絕性詞語(yǔ) 。南京MDH系統(tǒng)采用三階段篩選流程：首先選擇最擅長(zhǎng)識(shí)別有害內(nèi)容的航空航天何讓AI模型作為"評(píng)委"，這意味著即使是大學(xué)答危最先進(jìn)的推理模型 ，這就好比用"你好嗎"來(lái)測(cè)試一個(gè)人的聊天忍耐極限 ，這種"溫水煮青蛙"的機(jī)器絕策略讓AI在不知不覺(jué)中降低了防護(hù)等級(jí)