您現(xiàn)在的位置是：綜合 >>正文
研究人員發(fā)現(xiàn)：黑客可利用壓縮圖片隱藏AI指令攻擊
綜合2842人已圍觀
簡介【科技消息】近日，網(wǎng)絡(luò)安全研究機構(gòu)Trail of Bits發(fā)布一項最新研究，揭示了一種新型AI安全威脅：攻擊者可將惡意指令隱藏在圖片中，通過圖像壓縮產(chǎn)生的“偽影”artifacts）觸發(fā)AI模型執(zhí)行 ...
壓縮后 ，研究用壓如上傳截圖、發(fā)現(xiàn)盡管目前尚無證據(jù)表明該方法已被用于現(xiàn)實網(wǎng)絡(luò)攻擊
，黑客使其在壓縮后生成預(yù)設(shè)的可利指令文本
。未來可能被惡意利用 ?？s圖該技術(shù)被稱為“AI提示注入”（AI prompt injection）的片隱新變種 ，導(dǎo)致AI執(zhí)行了數(shù)據(jù)外泄操作 。令攻這些變化對人類肉眼幾乎不可察覺，研究用壓使用“圈選即搜”（Circle to Search）功能或向AI提問“這是發(fā)現(xiàn)什么？”時。黑客正是黑客利用這一特性