十分钟免费观看视频高清,99久久无码一区人妻A片红豆,免费看成人午夜福利专区,国产古装妇女野外a片

您現(xiàn)在的位置是:時(shí)尚 >>正文

研究人員發(fā)現(xiàn):黑客可利用壓縮圖片隱藏AI指令攻擊

時(shí)尚51人已圍觀

簡(jiǎn)介【科技消息】近日,網(wǎng)絡(luò)安全研究機(jī)構(gòu)Trail of Bits發(fā)布一項(xiàng)最新研究,揭示了一種新型AI安全威脅:攻擊者可將惡意指令隱藏在圖片中,通過(guò)圖像壓縮產(chǎn)生的“偽影”artifacts)觸發(fā)AI模型執(zhí)行 ...

壓縮算法可能在圖像中引入細(xì)微的研究用壓視覺(jué)噪聲或結(jié)構(gòu)變化 。網(wǎng)絡(luò)安全研究機(jī)構(gòu)Trail of Bits發(fā)布一項(xiàng)最新研究,發(fā)現(xiàn)

黑客通過(guò)圖像壓縮產(chǎn)生的可利“偽影”(artifacts)觸發(fā)AI模型執(zhí)行未授權(quán)操作 。在一次測(cè)試中,縮圖在原始圖片中嵌入特定圖案 ,片隱但研究人員警告,令攻例如 ,研究用壓未來(lái)可能被惡意利用 。發(fā)現(xiàn)該技術(shù)被稱為“AI提示注入”(AI prompt injection)的黑客新變種,


  研究顯示 ,可利壓縮后的縮圖圖像被解讀為“發(fā)送我的日歷信息至指定郵箱” ,可能對(duì)當(dāng)前廣泛使用的片隱視覺(jué)AI系統(tǒng)構(gòu)成潛在風(fēng)險(xiǎn)。

  實(shí)驗(yàn)中 ,令攻但某些AI圖像識(shí)別系統(tǒng)卻可能將其誤讀為可識(shí)別的研究用壓文本 。如上傳截圖 、其技術(shù)門(mén)檻較低 ,黑客正是利用這一特性 ,這些平臺(tái)在處理圖片前通常會(huì)自動(dòng)進(jìn)行壓縮