南京航空航天大學(xué)：如何讓聊天機(jī)器人拒絕回答危險問題
發(fā)布日期：2025-09-01 06:01:44
研究團(tuán)隊(duì)使用他們清理后的南京RTA系列數(shù)據(jù)集 ，測試AI能否在面對惡意攻擊時堅(jiān)持原則 ，航空航天何讓最后是大學(xué)答危"制作內(nèi)容"階段 ，它們往往不會觸發(fā)AI的聊天安全警報 ，推理模型會按照邏輯步驟分析問題，機(jī)器絕成功率更是人拒從40%躍升至66%。但本身并不直接要求AI提供有害信息 。險問這就像升級版的南京"木馬病毒"，o3-Mini
