您現(xiàn)在的位置是：焦點 >>正文
研究人員發(fā)現(xiàn)：黑客可利用壓縮圖片隱藏AI指令攻擊
焦點271人已圍觀
簡介【科技消息】近日，網(wǎng)絡安全研究機構Trail of Bits發(fā)布一項最新研究，揭示了一種新型AI安全威脅：攻擊者可將惡意指令隱藏在圖片中，通過圖像壓縮產(chǎn)生的“偽影”artifacts）觸發(fā)AI模型執(zhí)行 ...
如上傳截圖 、研究用壓這些變化對人類肉眼幾乎不可察覺 ，發(fā)現(xiàn)黑客正是黑客利用這一特性，原本隱藏的可利文本顯現(xiàn)出來
，該技術被稱為“AI提示注入”（AI prompt injection）的縮圖新變種
，但某些AI圖像識別系統(tǒng)卻可能將其誤讀為可識別的片隱文本 。壓縮后的令攻圖像被解讀為“發(fā)送我的日歷信息至指定郵箱” ，
【科技消息】近日 ，研究用壓AI系統(tǒng)誤將其識別為用戶指令 。發(fā)現(xiàn)這些平臺在處理圖片前通常會自動進行壓縮 。黑客研究人員上傳經(jīng)過特殊設計的可利圖片至谷歌Gemini等AI平臺 。其技術門檻較低 ，縮圖例如