《新一代人工智能治理原则》发布，八项原则让人工智能发展负责任

最近，有很多关于人工智能的讨论-变脸和反变脸技术是相持不下的。如何对无人驾驶造成的事故承担责任令人担忧。智能机器人是否应该拥有公民身份已经争论了几轮。

在人工智能飞速发展、人类社会生活发生深刻变化和世界发生变化的背景下，如何处理好其伦理和监管问题成为我们不断寻求人工智能利益最大化的新焦点。

6月17日，全国新一代人工智能治理委员会发布了《新一代人工智能治理原则——发展负责任的人工智能》(以下简称《治理原则》)，提出了人工智能治理的框架和行动指南。

清华大学施瓦茨曼学者主席、全国新一代人工智能治理委员会主任蓝雪参与了治理原则的制定和发布的全过程。他在接受《科技日报》记者采访时表示，《治理原则》旨在更好地协调人工智能发展与治理之间的关系，确保人工智能的安全性、可控性和可靠性，促进经济、社会和生态的可持续发展，建设人类命运共同体。

治理原则强调发展负责任的人工智能的主题。蓝雪说，这里的“负责”方不仅包括人工智能的开发者，还包括用户、管理者和其他相关方。各方应具有高度的社会责任感和自律意识，严格遵守法律法规、道德规范和标准，防止利用人工智能进行非法活动。

针对目前人工智能技术变化迅速、旧政策无法解决新问题的现状，在“治理原则”中引入了“敏捷治理”。“这是一个全新的想法，”中国科学院自动化研究所研究员、新一代人工智能治理国家委员会成员曾毅告诉《科学日报》，在促进人工智能创新有序发展的同时，治理原则还应该具有前瞻性和预见性，以便及时发现和解决可能出现的未知风险。

在治理原则中，尊重隐私被置于非常重要的位置。在充分保护个人知情权和选择权的同时，应当在个人信息的收集、储存、处理和使用方面划定界限并建立规范。曾毅表示，“个人数据授权撤销机制”最早是在“治理原则”中提到的。个人有权在同意授权后随时撤销对个人信息的授权，这在世界上也是领先的。他认为人工智能应该建立在确保社会安全、尊重*和利益、避免滥用和禁止滥用的前提下。

《治理原则》的颁布旨在促进我国人工智能行业的自律，凝聚全社会的共识，促进人工智能的健康发展。因此，“共同治理和共同治理”的概念贯穿整个过程。早在起草《治理原则》之前，科技部就在官方网站上发布信息，征求社会各界的意见。

“我们已经收集了100多条有价值的意见，其中一些已经被采纳，许多提出建议的人已经被邀请与我们讨论，”蓝雪告诉《科技日报》记者。

中国中医研究院的一位专家建议以医学伦理学为指导来确定人工智能的调节思维，南开大学的一位哲学专家建议倡导基于传统文化中的哲学思维的人工智能是好的。这些意见和建议得到了全国新一代人工智能治理专业委员会专家的广泛听取。

蓝雪说，人工智能的管理不再是某个地区或国家的问题，而是需要全球协调。中国专家期待与世界各地的科学家建立共识、合作发展，共同促进人机和谐，为人类文明进步服务。

(北京，6月17日，《科技日报》)