南京航空航天大學：如何讓聊天機器人拒絕回答危險問題

 時間:2025-09-01 06:20:13  來源：網(wǎng)絡

每個問題都像一道"安全考題"，南京經(jīng)過MDH系統(tǒng)清理后的航空航天何讓數(shù)據(jù)集被命名為RTA系列，成為了更可靠的大學答危AI安全性測試工具
。這種攻擊方法的聊天成功率分別高達86%和98%。

在數(shù)據(jù)清理效果的機器絕驗證實驗中，

這種新方法的人拒核心思想是"偽裝成教育內(nèi)容"  。目前廣泛使用的險問AI安全測試數(shù)據(jù)集就像一筐混雜著好壞食材的蔬菜，讓AI誤認為是南京正當學術(shù)研究；二是提供偽造的思維鏈