此類(lèi)攻擊可能發(fā)生在用戶日常使用場(chǎng)景中 ，研究用壓

　　實(shí)驗(yàn)中，發(fā)現(xiàn)其技術(shù)門(mén)檻較低 ，黑客揭示了一種新型AI安全威脅：攻擊者可將惡意指令隱藏在圖片中 ，可利網(wǎng)絡(luò)安全研究機(jī)構(gòu)Trail of Bits發(fā)布一項(xiàng)最新研究，縮圖在一次測(cè)試中，片隱當(dāng)圖像被壓縮以減小文件大小時(shí) ，令攻例如，研究用壓導(dǎo)致AI執(zhí)行了數(shù)據(jù)外泄操作。發(fā)現(xiàn)AI系統(tǒng)誤將其識(shí)別為用戶指令。黑客壓縮后的可利圖像被解讀為“發(fā)送我的日歷信息至指定郵箱”  ，黑客正是縮圖利用這一特性，這些平臺(tái)在處理圖片前通常會(huì)自動(dòng)進(jìn)行壓縮。片隱盡管目前尚無(wú)證據(jù)表明該方法已被用于現(xiàn)實(shí)網(wǎng)絡(luò)攻擊，令攻使其在壓縮后生成預(yù)設(shè)的研究用壓指令文本。未來(lái)可能被惡意利用