
当我亮出99%+的攻击成功率时,我都纳闷。 检测了好几遍,确实是99%+,但是问题在于,模型的预测成功率只有30%,即使去掉了错误预测的样本(做了过滤),model仍然有30%的预测错误几率。存在盲点,有限的数据训练出来的model不可能覆盖世间所有样本,也就是存在盲点。 收到的建议: ppt慎用深色背景。一般3种颜色,攻击成功率有问题(模型存在30%的错误,不可能是100%)
下步要做的: 0.更换ppt,如图同学的浅色可以采用,但是注意字体大小。 豆包 1.增强模型的能力80+。 图像增强 2.拆分下,特别是那30%使得模型不那么?参考相关论文的处理方法 3.加入对抗样本,增强鲁棒性。ai来做。

