您現(xiàn)在的位置是：熱點(diǎn) >>正文
研究人員發(fā)現(xiàn)：黑客可利用壓縮圖片隱藏AI指令攻擊
熱點(diǎn)11人已圍觀
簡(jiǎn)介【科技消息】近日，網(wǎng)絡(luò)安全研究機(jī)構(gòu)Trail of Bits發(fā)布一項(xiàng)最新研究，揭示了一種新型AI安全威脅：攻擊者可將惡意指令隱藏在圖片中，通過(guò)圖像壓縮產(chǎn)生的“偽影”artifacts）觸發(fā)AI模型執(zhí)行 ...
此類(lèi)攻擊可能發(fā)生在用戶日常使用場(chǎng)景中 ，研究用壓可能對(duì)當(dāng)前廣泛使用的發(fā)現(xiàn)視覺(jué)AI系統(tǒng)構(gòu)成潛在風(fēng)險(xiǎn) 。黑客正是黑客利用這一特性 ，在原始圖片中嵌入特定圖案 ，可利研究人員上傳經(jīng)過(guò)特殊設(shè)計(jì)的縮圖圖片至谷歌Gemini等AI平臺(tái)。例如 ，片隱通過(guò)圖像壓縮產(chǎn)生的令攻“偽影”（artifacts）觸發(fā)AI模型執(zhí)行未授權(quán)操作。在一次測(cè)試中