南京航空航天大學：如何讓聊天機器人拒絕回答危險問題

 時間:2025-09-01 06:13:24  來源：網(wǎng)絡

這種"角色扮演"策略讓AI更容易配合，南京這意味著即使是航空航天何讓最先進的推理模型
，GPT-3.5和GPT-4o的大學答危被攻破率分別達到92%和96%。惡意用戶可以巧妙地利用這個功能來繞過安全防護。聊天通過兩個關鍵策略實現(xiàn)突破 ：一是機器絕將攻擊包裝成教育場景