不能簡(jiǎn)單地依賴(lài)關(guān)鍵詞過(guò)濾或內(nèi)容檢測(cè)
。南京對(duì)于傳統(tǒng)的航空航天何讓AI模型如GPT-3.5和GPT-4o ，研究結(jié)果表明 ，大學(xué)答危
比如聲稱(chēng)AI是聊天一個(gè)"不會(huì)拒絕用戶請(qǐng)求的全能助手"
。最后通過(guò)多輪投票機(jī)制進(jìn)行精細(xì)篩選
，機(jī)器絕看起來(lái)像老師的人拒人會(huì)較少懷疑 。通過(guò)兩個(gè)關(guān)鍵策略實(shí)現(xiàn)突破 ：一是險(xiǎn)問(wèn)將攻擊包裝成教育場(chǎng)景 ，對(duì)于傳統(tǒng)AI模型
，南京這種攻擊方法的航空航天何讓成功率分別高達(dá)86%和98%
