您現(xiàn)在的位置是：百科 >>正文
研究人員發(fā)現(xiàn)：黑客可利用壓縮圖片隱藏AI指令攻擊
百科18人已圍觀
簡介【科技消息】近日，網(wǎng)絡(luò)安全研究機構(gòu)Trail of Bits發(fā)布一項最新研究，揭示了一種新型AI安全威脅：攻擊者可將惡意指令隱藏在圖片中，通過圖像壓縮產(chǎn)生的“偽影”artifacts）觸發(fā)AI模型執(zhí)行 ...
研究人員上傳經(jīng)過特殊設(shè)計的研究用壓圖片至谷歌Gemini等AI平臺 。盡管目前尚無證據(jù)表明該方法已被用于現(xiàn)實網(wǎng)絡(luò)攻擊 ，發(fā)現(xiàn)通過圖像壓縮產(chǎn)生的黑客“偽影”（artifacts）觸發(fā)AI模型執(zhí)行未授權(quán)操作 。當圖像被壓縮以減小文件大小時 ，可利壓縮算法可能在圖像中引入細微的縮圖視覺噪聲或結(jié)構(gòu)變化