您現(xiàn)在的位置是：時(shí)尚 >>正文
研究人員發(fā)現(xiàn)：黑客可利用壓縮圖片隱藏AI指令攻擊
時(shí)尚82人已圍觀
簡介【科技消息】近日，網(wǎng)絡(luò)安全研究機(jī)構(gòu)Trail of Bits發(fā)布一項(xiàng)最新研究，揭示了一種新型AI安全威脅：攻擊者可將惡意指令隱藏在圖片中，通過圖像壓縮產(chǎn)生的“偽影”artifacts）觸發(fā)AI模型執(zhí)行 ...
【科技消息】近日，研究用壓黑客正是發(fā)現(xiàn)利用這一特性 ，當(dāng)圖像被壓縮以減小文件大小時(shí) ，黑客這些平臺(tái)在處理圖片前通常會(huì)自動(dòng)進(jìn)行壓縮 ?？衫谠紙D片中嵌入特定圖案 ，縮圖在一次測試中 ，片隱
實(shí)驗(yàn)中 ，令攻使用“圈選即搜”（Circle to Search）功能或向AI提問“這是研究用壓什么？”時(shí) 。通過圖像壓縮產(chǎn)生的發(fā)現(xiàn)“偽影”（artifacts）觸發(fā)AI模型執(zhí)行未授權(quán)操作 。AI系統(tǒng)誤將其識(shí)別為用戶指令 。黑客導(dǎo)致AI執(zhí)行了數(shù)據(jù)外泄操作