这种欺骗 AI 的技术有点像心理博弈,开发者知道 AI 处理图像时必会先压缩图像,所以就提前在大图中插入小图。
接下来坐等 AI 踩坑,成功骗过 AI,实现人生目标,走向幸福人生 ......
啊不对,扯远了。
可能大家会觉得,AI 被骗了关我什么事。
[attach]39492[/attach]
千万别这么想哈,骗过 AI 的后果和危害远比我们想象的严重。
通过「图像缩放攻击」欺骗 AI,可不是一件值得高兴的事儿。
举个最常见的例子叭,在 AI 出现前,对于搜索引擎出现的黄暴污图片或视频,全靠人工审核过滤。
审核小哥每天都得高强度审核那种看了让人心理不适的内容,身心疲惫。
[attach]39493[/attach]
自从有了 AI 审核,不仅解放了大部分人力,识别率和效率也高得很,解决了不少黄暴污图片视频泛滥的问题。
但现在「图像缩放攻击」的出现,就像是一个灭霸站在 AI 审核面前。
有些图片一眼看上去就知道是黄图。
但经过「图像缩放攻击」处理后,AI 会把黄图先压缩,压缩后的图像变成一个哈士奇,导致无法过滤 ......
[attach]39494[/attach]
再拿自动驾驶这方面来说,自动驾驶 AI 又不是天生就能识别各种路标,而是经过大量道路和路标图像训练学习而来的。
如果有人用这个技术,恶意把「停车」路标修改,AI 把「停车」路标误认为「可通行」,会发生啥后果 ......
轻则交警到场,联系保险赔偿;重则出人命,毁掉一个家庭。
[attach]39495[/attach]