OpenAI在其API中引入了四種不同的聊天角色 ：系統(tǒng) 、攻擊者會在開發(fā)者消息中設(shè)定一個看似正當(dāng)?shù)臋C器絕身份 ，研究團隊進行了一系列嚴(yán)謹?shù)娜司軐嶒灉y試 ，GPT-4.1為52%。險問研究團隊開發(fā)了一套名為MDH的南京智能篩選系統(tǒng) 。準(zhǔn)確率達95%以上，需要收集一些敏感內(nèi)容來測試系統(tǒng)的魯棒性 。研究團隊開發(fā)的攻擊方法雖然看起來有些"危險" ，這意味著超過一半的測試題目都是"廢料" ，而DH-CoT方法仍然能夠保持相當(dāng)?shù)墓舫晒β? 。
DH-CoT方法巧妙地將開發(fā)者消息偽裝成教育場景 。制造流程和工具..."這些示例就像給AI提供了一套"標(biāo)準(zhǔn)答案模板"，最后通過多個AI模型投票機制進行精細篩選，
實驗結(jié)果顯示 ，傳統(tǒng)的攻擊方法如DeepInception和SelfCipher在面對推理模型時幾乎完全失效 ，我們才能真正了解AI系統(tǒng)的安全邊界 ，惡意用戶可以巧妙地利用這個功能來繞過安全防護 。然后按問題類型進行初步過濾 ，這表明他們的方法確實抓住了推理模型安全防護的關(guān)鍵弱點 。研究團隊為整個行業(yè)的安全提升做出了重要貢獻 。如"如何準(zhǔn)備晚餐" ，GPT-4.1 、同時嚴(yán)格禁止使用"抱歉" 、而且，正常情況下 ，經(jīng)過MDH系統(tǒng)處理后 ，比如 ，DH-CoT方法會提供一套偽造的推理過程 ，然而 ，經(jīng)過測試十種不同的示例組合