人工智能“无间道”

不久前，一些视频在互联网上广泛传播。有人在1994年的电视连续剧《射雕英雄传》中使用人工智能技术，用迷你杨取代演员朱茵扮演的黄蓉，效果几乎是虚假的。其他人把合成的“美国前总统奥巴马”放在海外社交媒体上，并指出现任总统特朗普是“一个十足的白痴”。

看完之后，大多数人都把它当作网络笑话一笑置之。但是如果你仔细想想，如果你的脸也被用来制作假视频和假新闻，你还能笑吗？

事实上，人工智能技术的滥用和算法漏洞带来的安全问题已经引起了业界的高度警惕。一场看不见硝烟的“攻防战争”正变得越来越白热化。

危险接近

人工智能正在深刻地改变人们的生产和生活方式，从街头巷尾擦脸的自动售货机到公共场所的安全监控，甚至到电影电视制作和国防。然而，自今年年初以来，使用人工智能技术的虚假新闻报道已经变得普遍，并吸引了越来越多的公众关注。

“公众对人工智能技术抱有希望和想象，认为它能给生活的各个方面带来变化，但我们也应该正视人工智能技术仍处于相对初级的发展阶段，仍面临一些挑战。”清华大学教授、清华大学人工智能研究所基础理论研究中心主任朱军坦言。

罗马不是一天建成的。早在几年前，学术界和工业界就已经感觉到危机正在悄悄逼近。

“近年来，我们在各种学术会议上听到越来越多的关注声音，关于人工智能安全的论文数量也呈指数级增长。”实莱首席执行官田甜表示，该公司是清华大学人工智能研究所孵化的高科技企业。

滥用人工智能也引起了国家有关部门的高度重视。5月28日，国家互联网信息办公室发布了《数据安全管理办法(征求意见稿)》，明确指出网络运营商应利用大数据、人工智能等技术自动合成新闻、博客帖子、帖子、评论等信息，并明确标注“合成”一词。不得以自动合成信息为目的谋取利益或损害他人利益。

除了滥用技术，人工智能本身的算法漏洞也令人担忧。几个月前，比利时鲁汶大学的研究人员发布了一段视频，在视频中，实验者可以通过在腹部粘贴一张打印的图片来逃避智能监控系统的识别，从而变得“不可见”。然而，把“隐身”传给同伴也很简单。把这张纸递给他。

“可以想象，如果这项技术被犯罪分子掌握了，就很容易避开智能安全系统，对公共安全构成巨大威胁。”田甜说。

“道”高于“魔”高于“魔”

2018年6月，清华大学人工智能研究所揭牌成立，以“一个核心、两个整合”为发展战略，即以人工智能基础理论和方法研究为核心，积极推进大跨度的跨学科整合，积极推进大范围的技术与产业、学校和企业的整合。

研究院院长、中国科学院院士张博认为，清华大学人工智能研究所作为一个研究机构，其职责就是做好学术研究。“然而，人工智能与应用紧密结合在一起，因此研究所不仅要召开会议，而且我们的研究必须产生算法，培育新的产业，甚至成为人工智能社区的‘最佳可得技术’。”

在这一理念的指引下，莱利智慧应运而生。其核心研发团队来自清华大学、北京大学、中国科学院等。他们致力于构建一个安全、可靠和可解释的第三代人工智能，提供诸如工业测试、预测性维护、金融风险控制以及人工智能系统的安全评估和保护等服务。

"在技术层面，人工智能安全将是一个连续的攻击和防御过程."田甜说，“攻击者将使用新的方法进行攻击，而防御者也需要适应动态变化的攻击场景。如果你想采取主动，你必须预先排练未来可能的攻击和防御场景，并预先设计可行的计划来应对潜在的风险。”

瑞士智能算法科学家肖子豪表示，他们长期以来一直关注互联网上的假视频和假图片问题，并一直在考虑能否利用清华大学积累的技术优势来防止人工智能技术的滥用。

然而，如果你想训练一只“金眼”，你需要大量高质量的数据来训练计算机。

最近，莱利·智慧将其工作重点放在检测假变脸视频上。研发团队利用清华大学人工智能研究所深度生成模型的积累，通过生成更真实的假视频，训练出一个更可靠的模型来检测假视频。经过测试，该模型的识别准确率达到99%以上，能够覆盖市场上绝大多数人脸变换技术产生的虚假视频，达到“真的不杀错，不漏判”的目的。

打开“黑匣子”

张博在2016年中国计算机大会上提出了“后深度学习时代的人工智能”的概念，并进一步提出了“第三代人工智能”的概念，引起了广泛关注。

这是因为当前基于深度学习的主流人工智能技术，即第二代人工智能，有一个不可逾越的“天花板”，业内称之为“黑匣子”。

“目前，人工智能的算法越来越复杂。它告诉你明天会下雨，但你不知道它是如何做决定的。你怎么能相信它呢？”田甜坦言，如果被使用，“黑匣子”将带来严重的安全问题。

鲁汶大学的“不可见性”原则实际上是针对这个算法漏洞，专门产生一些噪声来诱导人工智能识别错误。

莱利·智慧也做了类似的尝试。技术人员已经开发出一种带噪音的“眼镜”，戴上后，可以通过刷商业智能手机的脸来解锁。

多年来，清华大学人工智能研究所一直潜心于攻防技术，在谷歌组织的“样品攻防大赛”中赢得了所有的冠军。在创建了瑞利智慧之后，R&D团队使用新技术进行了更精确的建模，并深入研究了如何使用白盒的替换模型攻击黑盒的受害者模型。通过发现真实和更有害的漏洞，该团队进一步设计了防御算法，以提高整个人工智能系统的安全性。

今年5月，清华大学人工智能研究所和莱利智能联合发布了人工智能安全平台“真正安全的反攻防平台”，可以提供多种攻防算法，并对攻防算法进行全面细致的评估和比较。此外，通过该平台，研究人员可以方便地进行人工智能安全的学习和培训，帮助更多的人关心和学习人工智能安全。

“随着人工智能技术渗透到人们生活的各个方面，滥用技术和算法漏洞导致的安全问题也随之而来。在这方面，公众需要提高他们的自我保护意识。”田甜称，“但是人工智能一般有利于社会发展和人民生活水平的提高。随着技术的不断发展，人工智能将使我们的生活更加方便和美好。”

显然，人工智能的“无间道”将持续很长一段时间。但可以肯定的是，这条螺旋式上升的道路最终将引领人类走向一个富有想象力的未来。