AI模型鲁棒性检测

产品功能

鲁棒性检测

对上传的AI模型进行鲁棒性检测，可按需设置评测属性、评测标准、以及鲁棒性度量标准。

欺骗性样本

如果用户需要，平台可以提供欺骗模型的输入样本数据集。

检测报告

提供检测结果，支持对不同的安全属性，展示与其他预训练模型之间的比较。

开始检测

适用场景

新开发AI模型

对新开发的AI模型做鲁棒性检测，提前发现问题并进行修复，提高模型的安全性。

AI模型升级

AI模型升级后进行鲁棒性检测，发现升级问题，提高模型的安全性。

AI模型不定期检测

鲁棒性检测会持续更新检测能力，更新后可为AI模型做多检测。

产品特色

多平台支持

鲁棒性测试代码可以无需修改地对多种热门深度学习框架下的模型进行标准化评测，支持的框架包括：Keras, PyTorch

多任务支持

目前所有的对抗机器学习库都仅支持基础的图像分类任务，Perceptron 支持包括对无人驾驶意义重大的目标检测模型在内的多种视觉任务

云端黑盒模型支持

Perceptron同时也支持对 MLaaS 场景下封装后的云端模型API的鲁棒性度量，我们为包括Google Cloud Vision, Baidu AIP, Amazon Rekognition在内的多个商用AI平台提供了便于测试的接口

标准化度量

Perceptron Robustness Benchmark 所给出的模型鲁棒性度量可以用来进行多任务，多模型间的比较，并可被用来作为对模型鲁棒性上界的估计

可验证的鲁棒性

Perceptron Robustness Benchmark 使用形式化验证的方法，通过符号区间分析 (symbolic interval analysis) 为模型计算出可信赖的鲁棒性下界，即当叠加在样本上的扰动小于该下界，模型能够确保预测结果的一致性

鲁棒性排行榜

分类错误鲁棒性排行榜

查看更多排行榜信息

目标识别错误鲁棒性排行榜

查看更多排行榜信息