人工智能深度网络模型鲁棒性评估系统
技术描述
深度神经网络在众多重要的视觉任务中取得了令人印象深刻的成果，比如在图像分类任务上已经达到了超越人类的准确性。然而与人类视觉系统相比，深度学习视觉模型出人意料的在对不同于训练分布的，仅仅添加了很小的扰动的样本上预测效果不佳。这些被称为“对抗样本(adversarial example)” 的输入的存在，为深度学习在许多安全关键性的场景中的应用如自动驾驶，人脸识别，恶意软件检测等带来了威胁与不确定性。 本系统可以对深度神经网络模型进行安全鲁棒性评估，分析该模型存在哪些脆弱点，如何进行安全加固。
技术优势
1、本系统支持算法模型白盒和黑盒鲁棒性评估。 2、自动生成鲁棒性评估报告。 3、可以支持对抗评估、模型后门评估。 4、不仅对模型算法评估，还支持对人工智能模型框架进行评估。
效果指标
1、智能系统安全评估。 2、算法模型脆弱性分析。