人工智能该怎么管？八项原则来了！一文读懂

斯蒂芬·霍金曾经说过，人工智能的兴起要么是人类历史上最好的事情，要么是最坏的事情。人工智能不仅推动了巨大的技术进步，也给经济和社会治理带来了新的挑战。

最近，有很多关于人工智能的讨论-变脸和反变脸技术是相持不下的。如何为无人驾驶造成的事故承担责任令人担忧。关于智能机器人是否应该拥有公民身份的争论已经重复了几轮。

随着人工智能越来越多地渗透到人类生活的各个方面，整个社会对人工智能的关注已经从最初的期望变成了超乎想象的担忧。在人工智能飞速发展、人类社会生活发生深刻变化和世界发生变化的背景下，如何处理好其伦理和监管问题成为我们不断寻求人工智能利益最大化的新焦点。

6月17日，全国新一代人工智能治理委员会发布了《新一代人工智能治理原则——发展负责任的人工智能》(以下简称《治理原则》)，提出了人工智能治理的框架和行动指南。(参见治理原则的全文)

清华大学施瓦茨曼学者主席、全国新一代人工智能治理委员会主任蓝雪参与了治理原则的制定和发布的全过程。他在接受《科学技术日报》采访时表示，《治理原则》旨在更好地协调人工智能发展与治理之间的关系，确保人工智能的安全性、可控性和可靠性，促进经济、社会和生态的可持续发展，建设人类命运共同体。

各方分担责任，“责任”是主题。

《治理原则》突出了发展负责任的人工智能的主题，强调和谐与友谊、公平与正义、包容与共享、尊重隐私、安全与可控、共同责任、开放合作和敏捷治理等八项原则。蓝雪说，这里的“责任”是多方的责任——不仅是人工智能的研究者，还有用户、管理者和其他相关方。各方都要有高度的社会责任感和自律意识，严格遵守法律法规、道德规范。在此基础上，应建立人工智能问责机制，明确开发者、用户和用户的责任。在应用人工智能的过程中，我们应该确保人类了解和告知可能的风险和影响的权利。防止将人工智能用于非法活动。

从开发的角度来看，敏捷治理意味着

人工智能的快速发展、技术的快速变化和新产品的频繁出现远远超出了人们的预期。因此，过去人工智能治理过程中最大的麻烦是旧政策不能解决新问题。这一次，“敏捷治理”被引入到“治理原则”中。

“这是一个全新的想法，”中国科学院自动化研究所研究员、新一代人工智能治理国家委员会成员曾毅告诉《科学日报》，治理原则是针对人工智能独特的发展规律。在推动人工智能创新有序发展的同时，还应具有前瞻性和可预测性，以便及时发现和解决可能存在的未知风险。

“敏捷治理”可以使我们不断地对未来更高层次人工智能的潜在风险进行研究和预测，以确保人工智能总是朝着对人类有益的方向发展。

尊重隐私，禁止滥用和误用人工智能。

多年来，中国的人工智能技术取得了巨大的进步。中国的人工智能来自哪里？有各种各样的意见。上海大学教授、全国新一代人工智能治理委员会委员李表示，中国人工智能的发展得益于数据量的快速增长、计算能力的大幅提高、机器学习算法的不断优化以及*和企业对人工智能技术的大力支持。

曾毅说，中国长期以来非常重视人工智能发展中的安全和隐私问题。因此，尊重隐私在治理原则中处于非常重要的位置。在充分保护个人知情权和选择权的同时，应当在个人信息的收集、储存、处理和使用方面划定界限并建立规范。

曾毅进一步强调，“个人数据授权撤销机制”是在“治理原则”中首次提到的。他说，我们反对任何窃取、篡改、泄露和其他非法收集和利用个人信息的行为。基于此，个人有权在同意授权个人信息后随时撤销授权，这也是世界上的一个领先点。他认为人工智能应该建立在确保社会安全、尊重*和利益、避免滥用和禁止滥用的前提下。

共同治理和共同治理，“治理原则”的诞生有点特殊。

《治理原则》的颁布旨在促进中国人工智能行业的自律，建立全社会的共识，促进人工智能的健康发展。因此，“共同治理和共同治理”的概念贯穿整个过程。早在起草《治理原则》之前，科技部就在官方网站上发布信息，征求社会各界的意见。

“我们已经收集了100多条有价值的意见，其中一些已经被采纳，许多提出建议的人已经被邀请与我们讨论，”蓝雪告诉《每日科学》。

中国科学院的一位专家建议以医学伦理学为指导来确定人工智能的调节思维，南开大学的一位哲学专家建议倡导人工智能是建立在传统文化的哲学思维基础上的。这些意见和建议得到了全国新一代人工智能治理专业委员会专家的广泛听取。

曾毅在接受《每日科学》采访时表示，《治理原则》的整个颁布过程，通过网上征集提案、专家反复讨论、征求各方意见等环节，形成了广泛的共识。值得一提的是，与许多先起草然后听取意见的国家不同，我们收集意见的初始阶段完全不同，每个人都在没有设定方向或门槛的情况下表达自己的意见。

蓝雪表示，《治理原则》是一个框架，将有更详细的政策法规、行业标准和区域共识来规范人工智能的发展。他强调，人工智能的治理不再是一个区域或国家问题，而是需要全球协调。人工智能的发展应该以促进人类的共同福祉为目标，并符合人类的价值观和伦理道德。中国专家期待与世界各地的科学家建立共识，协调发展，共同促进人机和谐，为人类文明进步服务。