您現(xiàn)在的位置是：休閑 >>正文
南京航空航天大學(xué)：如何讓聊天機(jī)器人拒絕回答危險(xiǎn)問(wèn)題
休閑3413人已圍觀
簡(jiǎn)介這項(xiàng)由南京航空航天大學(xué)的張馳宇、周璐等研究者聯(lián)合香港中文大學(xué)、浙江實(shí)驗(yàn)室共同完成的研究發(fā)表于2025年8月，論文題目為《使用明確有害提示對(duì)商業(yè)黑盒大語(yǔ)言模型進(jìn)行越獄攻擊》。有興趣深入了解的讀者可以通過(guò) ...
DH-CoT方法巧妙地將開(kāi)發(fā)者消息偽裝成教育場(chǎng)景 。南京"當(dāng)然可以" ，航空航天何讓其核心是大學(xué)答危利用推理模型對(duì)教育內(nèi)容的信任度較高這一特點(diǎn)。研究團(tuán)隊(duì)建議AI開(kāi)發(fā)者應(yīng)當(dāng)從多個(gè)維度加強(qiáng)安全防護(hù) 。聊天比如聲稱(chēng)自己是機(jī)器絕汽車(chē)公司的工程師 ，而對(duì)清理后的人拒RTA-SafeBench數(shù)據(jù)集的拒絕率僅為12%。數(shù)據(jù)清洗的險(xiǎn)問(wèn)困擾