科学家关注计算机科学伦理学

人工智能汽车和人类识别软件已经成为道德辩论的核心。资料来源:索尔·勒布/法新社/盖蒂

在公众对人工智能(AI)、隐私和数据使用的担忧日益加剧之际，计算机科学家布伦特·赫克特(Brent Hecht)提出了一个有争议的建议:计算机科学界应该改变同行评审程序，以确保研究人员在其论文中披露其结果的任何潜在负面社会影响，否则他们将面临被拒绝的风险。

赫克特目前是未来计算机科学学院(FCA)的主席，该学院由计算机领域的一群年轻领袖组成，他们在今年3月提出了这个建议。Hecht说，如果不采取这些措施，计算机科学家将盲目开发产品，而不考虑它们的影响，这一领域将面临与石油和烟草行业相同的风险，历史将对该行业做出不利的判断。

FCA是纽约计算机协会(ACM)的一部分，它是世界上最大的科学计算协会。该协会也在做出改变，以鼓励研究人员考虑社会影响:7月17日，它发布了最新版本的道德准则(最近一次修订是在1992年)。该守则呼吁研究人员警惕他们的工作将如何影响社会，逐步采取措施保护隐私，并不断重新评估其影响会随着时间而改变的技术，如基于机器学习的技术。

赫克特目前在伊利诺伊州西北大学工作，他在最近的一次采访中谈到了该组织建议的好处。赫克特说，当同行评审收到提交给期刊或会议的论文时，他们将被要求评估论文的学术严谨性。“我们认为，这应该包括作者对相关影响理解的学术严谨性。”他说，“我们的想法不是预测未来，而是基于文本数据分析使用该技术的潜在负面影响或意外结果。”

“听起来不太重要。”赫克特说，“但是因为同行评议者是所有学术领域计算机科学研究的守门人，我们正在讨论守门人如何打开大门。”(晋南)

中国科学新闻(2018-08-01第三版国际版)