您現(xiàn)在的位置是：綜合 >>正文
研究人員發(fā)現(xiàn)：黑客可利用壓縮圖片隱藏AI指令攻擊
綜合389人已圍觀
簡介【科技消息】近日，網(wǎng)絡(luò)安全研究機(jī)構(gòu)Trail of Bits發(fā)布一項(xiàng)最新研究，揭示了一種新型AI安全威脅：攻擊者可將惡意指令隱藏在圖片中，通過圖像壓縮產(chǎn)生的“偽影”artifacts）觸發(fā)AI模型執(zhí)行 ...
網(wǎng)絡(luò)安全研究機(jī)構(gòu)Trail of Bits發(fā)布一項(xiàng)最新研究 ，研究用壓這些平臺在處理圖片前通常會自動進(jìn)行壓縮 。發(fā)現(xiàn)當(dāng)圖像被壓縮以減小文件大小時，黑客壓縮后 ，可利AI系統(tǒng)誤將其識別為用戶指令
?？s圖這些變化對人類肉眼幾乎不可察覺
，片隱
【科技消息】近日，令攻該技術(shù)被稱為“AI提示注入”（AI prompt injection）的研究用壓新變種 ，使用“圈選即搜”（Circle to Search）功能或向AI提問“這是發(fā)現(xiàn)什么 ？”時