深度学习在近十年取得了长足发展。由于其在复杂领域表现出优异的性能，逐渐被集成到软件体系中形成深度学习系统。这一方面推动了深度学习的发展，另一方面也对深度学习的安全性提出了巨大挑战：由于模型过拟合、欠拟合，训练数据不平衡等问题，模型在面对极端样本时往往会做出不正确的预测行为。在对预测正确性至关重要的领域，错误的预测行为将会造成灾难性后果，如何测试深度学习系统也成为了当前系统测试中的一大难题。本报告重点讲述深度学习安全性测试的发展历史，并详细介绍其子领域—测试样本优先级排序的最新研究。
深度学习系统安全性测试及测试样本优先级排序-王若辉原创文章，作者：BFS，如若转载，请注明出处：https://www.isclab.org.cn/2021/11/29/%e6%b7%b1%e5%ba%a6%e5%ad%a6%e4%b9%a0%e7%b3%bb%e7%bb%9f%e5%ae%89%e5%85%a8%e6%80%a7%e6%b5%8b%e8%af%95%e5%8f%8a%e6%b5%8b%e8%af%95%e6%a0%b7%e6%9c%ac%e4%bc%98%e5%85%88%e7%ba%a7%e6%8e%92%e5%ba%8f/