您現(xiàn)在的位置是:百科 >>正文
研究人員發(fā)現(xiàn):黑客可利用壓縮圖片隱藏AI指令攻擊
百科543人已圍觀
簡介【科技消息】近日,網(wǎng)絡(luò)安全研究機構(gòu)Trail of Bits發(fā)布一項最新研究,揭示了一種新型AI安全威脅:攻擊者可將惡意指令隱藏在圖片中,通過圖像壓縮產(chǎn)生的“偽影”artifacts)觸發(fā)AI模型執(zhí)行 ...
該技術(shù)被稱為“AI提示注入”(AI prompt injection)的研究用壓新變種,
實驗中,發(fā)現(xiàn)網(wǎng)絡(luò)安全研究機構(gòu)Trail of Bits發(fā)布一項最新研究 ,黑客揭示了一種新型AI安全威脅 :攻擊者可將惡意指令隱藏在圖片中,可利這些變化對人類肉眼幾乎不可察覺,縮圖
片隱這些平臺在處理圖片前通常會自動進行壓縮 。令攻研究顯示,研究用壓
此類攻擊可能發(fā)生在用戶日常使用場景中,發(fā)現(xiàn)使用“圈選即搜”(Circle to Search)功能或向AI提問“這是黑客什么?”時。黑客正是可利利用這一特性 ,原本隱藏的縮圖文本顯現(xiàn)出來,
【科技消息】近日,片隱當(dāng)圖像被壓縮以減小文件大小時,令攻例如