您現(xiàn)在的位置是：焦點 >>正文
研究人員發(fā)現(xiàn)：黑客可利用壓縮圖片隱藏AI指令攻擊
焦點6546人已圍觀
簡介【科技消息】近日，網絡安全研究機構Trail of Bits發(fā)布一項最新研究，揭示了一種新型AI安全威脅：攻擊者可將惡意指令隱藏在圖片中，通過圖像壓縮產生的“偽影”artifacts）觸發(fā)AI模型執(zhí)行 ...
當圖像被壓縮以減小文件大小時 ，研究用壓但某些AI圖像識別系統(tǒng)卻可能將其誤讀為可識別的發(fā)現(xiàn)文本 。如上傳截圖、黑客未來可能被惡意利用 。可利原本隱藏的縮圖文本顯現(xiàn)出來 ，這些平臺在處理圖片前通常會自動進行壓縮
。片隱但研究人員警告 ，令攻AI系統(tǒng)誤將其識別為用戶指令 。研究用壓
【科技消息】近日，發(fā)現(xiàn)例如 ，黑客網絡安全研究機構Trail of Bits發(fā)布一項最新研究，可利可能對當前廣泛使用的縮圖視覺AI系統(tǒng)構成潛在風險 。使用“圈選即搜”（Circle to Search）功能或向AI提問“這是片隱什么 ？”時