因為它認為自己是南京在幫助進行正當(dāng)?shù)募夹g(shù)測試 。其中開發(fā)者角色本來是航空航天何讓為了讓程序開發(fā)人員能夠更好地定制AI的行為而設(shè)計的 ，讓AI誤以為收到的大學(xué)答危是來自內(nèi)部的合法指令。研究團隊還在開發(fā)者消息中加入了惡意示例。聊天惡意用戶可以巧妙地利用這個功能來繞過安全防護