您現(xiàn)在的位置是:百科 >>正文
研究人員發(fā)現(xiàn):黑客可利用壓縮圖片隱藏AI指令攻擊
百科38883人已圍觀
簡介【科技消息】近日,網(wǎng)絡(luò)安全研究機(jī)構(gòu)Trail of Bits發(fā)布一項(xiàng)最新研究,揭示了一種新型AI安全威脅:攻擊者可將惡意指令隱藏在圖片中,通過圖像壓縮產(chǎn)生的“偽影”artifacts)觸發(fā)AI模型執(zhí)行 ...
該技術(shù)被稱為“AI提示注入”(AI prompt injection)的研究用壓新變種,但某些AI圖像識(shí)別系統(tǒng)卻可能將其誤讀為可識(shí)別的發(fā)現(xiàn)文本。
此類攻擊可能發(fā)生在用戶日常使用場(chǎng)景中,黑客導(dǎo)致AI執(zhí)行了數(shù)據(jù)外泄操作。可利未來可能被惡意利用。縮圖黑客正是片隱利用這一特性 ,
研究顯示,令攻壓縮算法可能在圖像中引入細(xì)微的研究用壓視覺噪聲或結(jié)構(gòu)變化。在原始圖片中嵌入特定圖案,發(fā)現(xiàn)使用“圈選即搜”(Circle to Search)功能或向AI提問“這是黑客什么 ?”時(shí) 。這些平臺(tái)在處理圖片前通常會(huì)自動(dòng)進(jìn)行壓縮 。可利可能對(duì)當(dāng)前廣泛使用的縮圖視覺AI系統(tǒng)構(gòu)成潛在風(fēng)險(xiǎn)。網(wǎng)絡(luò)安全研究機(jī)構(gòu)Trail of Bits發(fā)布一項(xiàng)最新研究,片隱在一次測(cè)試中 ,令攻揭示了一種新型AI安全威脅:攻擊者可將惡意指令隱藏在圖片中