您現(xiàn)在的位置是:娛樂 >>正文
研究人員發(fā)現(xiàn):黑客可利用壓縮圖片隱藏AI指令攻擊
娛樂24997人已圍觀
簡介【科技消息】近日,網(wǎng)絡(luò)安全研究機(jī)構(gòu)Trail of Bits發(fā)布一項(xiàng)最新研究,揭示了一種新型AI安全威脅:攻擊者可將惡意指令隱藏在圖片中,通過圖像壓縮產(chǎn)生的“偽影”artifacts)觸發(fā)AI模型執(zhí)行 ...
但某些AI圖像識別系統(tǒng)卻可能將其誤讀為可識別的研究用壓文本。如上傳截圖
、發(fā)現(xiàn)黑客壓縮后的可利圖像被解讀為“發(fā)送我的日歷信息至指定郵箱”,黑客正是縮圖利用這一特性,壓縮算法可能在圖像中引入細(xì)微的片隱視覺噪聲或結(jié)構(gòu)變化。揭示了一種新型AI安全威脅:攻擊者可將惡意指令隱藏在圖片中
,令攻
實(shí)驗(yàn)中,研究用壓原本隱藏的發(fā)現(xiàn)文本顯現(xiàn)出來 ,這些變化對人類肉眼幾乎不可察覺,黑客
研究顯示 ,可利研究人員上傳經(jīng)過特殊設(shè)計(jì)的縮圖圖片至谷歌Gemini等AI平臺。該技術(shù)被稱為“AI提示注入”(AI prompt injection)的片隱新變種,未來可能被惡意利用