对抗攻击

本文讨论了神经网络的可解释性和鲁棒性问题，并通过引入自然基和随机基两个公式证明了单个高层神经元无法对应具体语义信息。此外，介绍了对抗样本的概念及其构造方法。文章指出神经网络具有高表达能力但低可解释性和低鲁棒性。