发展负责任的人工智能

资料来源:中国新一代人工智能发展报告2019

核心阅读

我国数据资源丰富，对应用场景的需求十分迫切。基础研究和技术发展水平显著提高，人工智能发展迅速。与此同时，治理问题也出现了。

全国新一代人工智能治理专业委员会发布了以“发展负责任的人工智能”为主题的“治理原则”，希望“负责任”能够渗透到人工智能的研究和应用中，促进技术的健康发展。

近年来，人工智能发展迅速。人工智能作为引领新一代科技革命和产业转型的战略技术，深刻影响着社会生活，改变着世界。它同时带来了巨大的变化和许多风险。人工智能如何健康发展？

6月17日，全国新一代人工智能治理委员会发布了《新一代人工智能治理原则——发展负责任的人工智能》(以下简称《治理原则》)，提出了人工智能治理的框架和行动指南。这是中国促进新一代人工智能健康发展、加强人工智能法律、伦理和社会问题研究、积极推进人工智能全球治理的重要成果。

治理问题已引起广泛关注，学术界和产业界正在探索自律。

“自2017年国家新一代人工智能发展规划发布以来，人工智能与我国各行业、各领域的融合日益深化，显示出巨大的发展潜力。”清华大学施瓦茨曼学者校长兼新一代人工智能治理国家委员会主任蓝雪表示，人工智能正在对*的经济管理模式、社会结构、国家安全乃至国际关系产生深远影响。随着科技的发展和应用，治理问题不断出现，引起了科技界、产业界和社会的广泛关注。“许多国际组织、行业联盟和知名企业正在研究和制定人工智能的相关标准。我国的一些学术组织和行业联盟在这方面非常活跃，行业也在积极探索行业自律。”蓝雪说。

为了促进新一代人工智能的健康发展，成立了新一代人工智能管理全国委员会，以协调和促进人工智能管理的相关工作。起草这一“治理原则”是委员会今年的主要任务之一。

在起草过程中，委员会注意听取各方面的意见。"我们在互联网上公开动员公众参与，形成了数百条重要建议."蓝雪说，委员会还就科研机构和高校企业代表的参与举行了多次座谈会，广泛凝聚了学术界、业界和社会的共识。

中国科学院自动化研究所研究员、新一代人工智能治理国家委员会成员曾毅表示，世界各国*、非*组织和行业组织已经发布了40多条人工智能指南，这些指南之后往往会有评论。“治理原则收集员工甚至普通人工智能用户的期望和愿景，而不发布任何内容。这是治理原则最重要的特征。”

“负责任”是主题，涵盖了人工智能应用的基础研究和开发。

“发展负责任的人工智能”已经成为“治理原则”的主题。受访专家认为，“负责任”涵盖了人工智能的基础研发层到应用层，应该是贯穿人工智能发展的主线。例如，蓝雪说:“例如，我们提出了‘和谐与友谊’的原则，强调人工智能提供的产品和服务都应该是负责任的和全面的，应该旨在促进人类的共同福祉，应该符合人类的价值观和道德，避免误用，并禁止滥用和误用。”

“治理原则”旨在更好地协调人工智能发展与治理之间的关系，确保人工智能的安全性、可控性和可靠性，促进经济、社会和生态的可持续发展，共同构建人类命运共同体，这也是“治理原则”的四大亮点。

更好地协调人工智能发展与治理的关系，实现“两轮驱动”。上海大学教授、全国新一代人工智能治理委员会委员李说:“人工智能是一个新生事物，发展是第一位的。为了促进人工智能在我国的发展，我们还必须解决发展过程中的问题。”他认为人工智能的健康发展应该及时纳入治理框架。科技部战略规划司副司长张旭表示，要平衡发展与治理的关系，针对一些常见问题，要加强标准和规范的制定。同时，“治理原则”的内容应通过一些具体的规范更好地融入，以更好地将示范和推广与产品应用相结合，促进“治理原则”的实施。

确保人工智能的安全性、可控性和可靠性，避免潜在风险。“由于人工智能对技术和社会的潜在影响，在人工智能的发展中仍然存在双重‘不确定性’。因此，我们需要不断对高层次人工智能的潜在风险进行研究和预判，确保人工智能健康稳定发展。”曾毅指出，目前一些技术开发人员还没有接受过这方面的专业培训。他们在通过创新给社会带来积极影响的同时，却不重视或没有意识到相关风险，给社会带来了更大的隐患。他希望“治理原则”的颁布将促进“适应性”治理，并确保人工智能朝着有利于全人类、社会和自然生态的方向发展。“我们现在把这些原则写在纸上，并最终希望把它们写进每个人工智能开发者和用户的心中。”他说。

我们将促进经济、社会和生态的可持续发展，促进包容和共享。曾毅认为，人工智能作为一种使能技术，应该与自然和社会和谐发展。“我国是一个发展中国家。要发展人工智能，我们应该正视发展中的一些新情况和新问题。”他说:“人工智能应该积极推动绿色发展，满足环境友好和资源节约的要求。同时，要缩小地区发展差距，增强弱势群体的适应性，努力消除数字鸿沟，这符合中国人工智能发展的实际需要。”

我们将建设人类命运共同体，倡导开放与合作。“许多国家有不同的发展阶段，人工智能也可能面临不同的应用场景，这需要基于交流的合作研究和对话。”蓝雪说，只有充分尊重各国人工智能治理的原则和实践，推动形成具有广泛共识的国际人工智能治理框架和标准，才能增进人类的共同福祉。

人工智能治理的原则将根据未来的变化进行调整。

《2019年中国新一代人工智能发展报告》显示，中国在人工智能领域的论文发表数量居世界首位，在企业数量等诸多指标上位居世界第二。李认为，中国数据资源丰富，应用场景需求迫切，基础研究和技术开发水平明显提高。这些因素共同推动了人工智能在中国的快速发展。

曾毅认为，在中国人工智能技术飞速发展的同时，人工智能治理的能力和水平也在不断提高。“相关部门和全社会在数据隐私和安全治理方面付出了巨大努力，这是有目共睹的。”他说，例如，“以《治理原则》提出的“个人数据授权撤销机制”为例，这也是世界上非常领先的概念。这表明我们一直非常重视这方面的工作，并以非常负责任的态度向前推进。”

“考虑到人工智能发展的高度复杂性和不确定性，有必要按照进步思维推进人工智能管理。”蓝雪表示，《治理原则》是一份框架文件，主要对人工智能的健康发展起到宏观指导作用，并将根据未来形势的变化和需要不断充实和调整。在蓝雪看来，人工智能的发展也面临着一些基础工作，立法就是其中之一。“我们颁布的《治理原则》也为今后的立法工作提供了重要基础。”他认为人工智能发展很快，立法周期长，仅靠法律框架很难支持人工智能的发展。“这需要相关的原则和规范、行业规范，包括从业人员的自律，共同促进其健康发展。”