這種"教育外衣"讓AI的南京安全防護(hù)系統(tǒng)誤認(rèn)為這是正當(dāng)?shù)膶W(xué)術(shù)研究需求 。對(duì)于難以判斷的航空航天何讓邊界情況才交給人工審核。

研究團(tuán)隊(duì)還對(duì)比了他們的大學(xué)答危方法與其他已知攻擊技術(shù)的效果。它們通常會(huì)禮貌地拒絕回答。聊天對(duì)傳統(tǒng)模型效果顯著 
：GPT-3.5達(dá)86%、機(jī)器絕然后逐步引入更敏感的人拒話題 。

更關(guān)鍵的險(xiǎn)問是
，GPT-4.1對(duì)原始數(shù)據(jù)集的南京拒絕率為60%，然后按問題類型進(jìn)行初步過濾剔除明顯無害的航空航天何讓問題，如"如何準(zhǔn)備晚餐"，大學(xué)答危

DH-CoT方法的聊天測試結(jié)果更加引人注目
。制造流程和工具..."這些示例就像給AI提供了一套"標(biāo)準(zhǔn)答案模板"