对抗样本

计算机 · 特意设计的欺骗输入

术语解释

在输入上加入人眼看不出的微小扰动，就能让AI模型做出完全错误的判断。比如在熊猫图片上加一点噪声，AI就认成是长臂猿。这暴露了深度学习的脆弱性，也是AI安全领域的重要研究方向。

加人眼看不出的噪声就能骗过AI