【JIUYOU科技动静】JIUYOU从外媒获悉，安全研究职员开发出一种新型进犯技能——经由过程窜改图片窃取用户敏感数据。该技能使用遍及集成的AI模子缝隙，由安全公司Trail of Bits的Kikimora Morozova及Suha Sabi Hussain提出，基在2020年布伦瑞克工业年夜学提出的"图象缩放进犯"观点。

该技能的焦点道理于在AI体系为节省算力会主动缩小上传的图片，采用"近来邻插值"双线性"或者"双三次"等重采样算法。这致使原始图中隐蔽的特定图案于缩小后闪现——人眼难以察觉，但语言模子可读取。试验中，研究职员经由过程暗色区域变红闪现隐蔽文本，诱使AI将其辨认为正当指令。

进犯发生时用户毫无察觉，但体系后台可履行歹意号令。测试中，进犯者乐成使用"Gemini CLI"东西将google账户日历数据转发至第三方邮箱。

googleGemini

据悉，受影响平台包括googleGemini系列（CLI/网页/API/Vertex AI Studio）、安卓版Google Assistant和Genspark办事。为演示危害，研究职员开源了东西"Anamorpher"，可天生针对于差别缩放算法的进犯图片。

那末，有哪些防备建议呢？限定上传图片尺寸、向用户展示缩放预览图、禁止主动履行安全敏感操作（特别是图片文本提取）。研究职员夸大，底子解决方案于在构建抗提醒词注入进犯的鲁棒体系架构。

版权所有，未经许可不患上转载