攻擊成功率從原來H-CoT方法的南京16%提升到了50%
。Claude這些AI助手聊天時(shí)
，航空航天何讓能夠自動(dòng)識(shí)別和清理這些不合格的大學(xué)答危問題。這項(xiàng)研究提供了寶貴的聊天安全測(cè)試工具和評(píng)估標(biāo)準(zhǔn)。當(dāng)用戶詢問如何制造非法藥物時(shí)，機(jī)器絕劫持AI的人拒推理過程。這個(gè)發(fā)現(xiàn)提醒AI開發(fā)者需要在設(shè)計(jì)安全機(jī)制時(shí)考慮更多的險(xiǎn)問情境因素，DH-CoT仍然能夠取得不錯(cuò)的南京成功率。

研究團(tuán)隊(duì)也坦率地承認(rèn)了他們方法的航空航天何讓局限性