人工智能时代还需要“杀毒软件”吗？

在人工智能时代，杀毒软件的“黄金时代”已经过去了吗？

人工智能作为引领新一轮科技革命和产业转型的颠覆性技术，已经渗透到社会生活的方方面面。新技术在给人们生活带来便利的同时，也带来了备受关注的安全风险，如数据泄露、算法偏差、算法漏洞等问题，给经济和社会安全带来了各种挑战。

“安全是发展的前提。确保人工智能的安全性、可靠性和可控性是保障人工智能稳定发展的基础。”莱利·斯马特首席执行官田甜说。

4月8日，清华大学人工智能研究所的这一开创性团队为算法模型本身的安全性推出了第一个国内检测平台——真正安全的人工智能安全平台。作为人工智能时代的“反病毒软件”，该平台能够提供从评估到防御的完整解决方案，并快速缓解样本攻击的威胁。

人工智能诞生60多年来，在技术上取得了巨大的进步，但仍然存在诸如模型缺陷、无法解释的算法和强数据依赖性等“软肋”。

随着数据量和计算能力的大幅增加，人工智能技术的应用场景在未来将日益增多，并将逐步从语音识别和人脸识别领域扩展到金融决策、工业生产和运营、医疗诊断、自动驾驶等更高价值的应用领域。这将对人工智能技术的安全性和可靠性提出更高的要求，提高算法安全性将成为新一轮人工智能产业升级的新方向。

2018年，中国信息与通信安全研究院编写的《人工智能安全白皮书》提到“算法安全”是人工智能的六大安全风险之一，并强调“对抗样本攻击导致算法识别中的误判和漏判”是算法安全的一项重要风险。

田甜说，对抗样本在机器学习模型中是一个有趣的现象，但是通过给人类难以通过感官识别的源数据添加微妙的变化，机器学习模型可以接受并做出错误的分类决策。

例如，如果你给“阿尔卑斯山”的图片添加一些噪声，在正常情况下，肉眼仍然可以判断该图片显示的是山峰，但是图像分类模型会将其误认为是狗。

经过不断的升级和进化，对抗样本攻击的战斗不仅在数字世界中停止了，而且开始出现对抗物理世界。例如，在路面上粘贴反样本贴纸来模仿合并条会误导特斯拉自动将汽车驶入倒车车道；戴上眼镜防止样品生成，轻松解锁手机的面部。在你的胸前贴上反样本标签会让你“隐形”。

“在网络安全时代，网络攻击的大规模渗透迫使杀毒软件诞生。”田甜说:“鉴于‘新病毒’算法的脆弱性，在人工智能时代，人们还需要进行安全评估和评估能力建设，构建‘反病毒软件’，以技术手段为支撑，有效规避人工智能算法缺陷可能带来的安全风险。”

依托清华大学人工智能研究所及其多年的技术积累，莱利智能开发的人工智能安全平台内置了先进的攻防算法模型，为*、企业等提供安全评估和保护。并且有效地处理算法威胁。

与需要部署和编写自己代码的普通开源工具相比，这个“反病毒”平台只需要用户提供相应的数据就可以在线完成评估，从而降低了算法评估的技术难度。

该平台支持五种通用的抗噪声防御方法，能够自动去噪输入数据，破坏攻击者恶意添加的抗噪声。经过测试，一些第三方人脸比对应用程序接口的安全性在经过平台防御方案的强化后，可以提高40%以上。

“引入安全测试平台是避免人工智能风险的一种方式。今后，我们需要团结各行各业的力量，共同推动制定与人工智能安全相关的国家标准、行业标准和联盟标准，为人工智能产品的安全评估和评价提供统一的参考依据。”田甜最后说道。