背景介绍

据Gartner预测，到2020年将有20%的公司使用人工智能技术提升企业内部应用和流程，到2030年人工智能将促使全球生产总值增长14%，人工智能技术将会在众多领域中得到应用。

然而，训练一个深度学习模型通常意味着大量训练数据、庞大的计算资源和拥有人性化专业知识的专家学者，这使得模型的知识产权保护成为非常关键的问题。另一方面，研究发现深度神经网络对于输入中带有的轻微扰动较脆弱，会导致错误的输出。这些都限制了人工智能深度模型的广泛应用。

解决方案

• (1)借鉴传统数字水印技术思想，研发出能够确认深度学习模型所有权的框架，该框架会为模型所有者生成定制水印和预定义标签；生成水印后，通过训练，它会将生成的水印嵌入到目标模型中；完成嵌入后，新生成的模型能够进行所有权验证，一旦发现模型被盗用，所有者可以把水印作为输入，检查它的输出。
• (2)在对抗样本攻防上，攻击方法上从经典的快速梯度攻击、雅克比映射攻击、深度欺骗攻击和边界攻击等上发展演化出新的攻击算法；防御方法上在完全防御和检测防御方向均有所突破。

方案特色

• (1)鲁棒性高，加入水印的深度学习模型，不影响训练过程和模型性能，有效确认所有权;
• (2)建立对深度学习系统安全评估方法和评估指标，对抗攻击具有很强的迁移性;
• (3)算法成熟，具体内容可定制。