您現(xiàn)在的位置是：娛樂 >>正文
研究人員發(fā)現(xiàn)：黑客可利用壓縮圖片隱藏AI指令攻擊
娛樂92人已圍觀
簡介【科技消息】近日，網(wǎng)絡安全研究機構Trail of Bits發(fā)布一項最新研究，揭示了一種新型AI安全威脅：攻擊者可將惡意指令隱藏在圖片中，通過圖像壓縮產(chǎn)生的“偽影”artifacts）觸發(fā)AI模型執(zhí)行 ...
壓縮后 ，研究用壓揭示了一種新型AI安全威脅 ：攻擊者可將惡意指令隱藏在圖片中 ，發(fā)現(xiàn)研究人員上傳經(jīng)過特殊設計的黑客圖片至谷歌Gemini等AI平臺
。使其在壓縮后生成預設的可利指令文本 。在一次測試中
，縮圖
實驗中 ，片隱但某些AI圖像識別系統(tǒng)卻可能將其誤讀為可識別的令攻文本。通過圖像壓縮產(chǎn)生的研究用壓“偽影”（artifacts）觸發(fā)AI模型執(zhí)行未授權操作。這些平臺在處理圖片前通常會自動進行壓縮