欢迎您访问科普小知识本站旨在为大家提供日常生活中常见的科普小知识,以及科普文章!
您现在的位置是:首页  > 科普文章

牛津大学教授:人工智能如何把控?

科普小知识2022-02-18 07:41:33
...

近年来,随着人工智能技术的迅速发展,公众的关注也越来越多。其中最响亮的声音来自已故的斯蒂芬·霍金教授,他认为人工智能可能会毁灭人类。那么,我们应该如何看待人工智能的威胁呢?应该采取行动来控制人工智能吗?是否有必要制定法律甚至国际条约来控制人工智能的发展,比如核能和其他潜在的危险技术?

在回答这些问题之前,应该清楚人工智能的成就仍然是有限的。今天的人工智能系统能够完成20年前计算机无法完成的任务。例如,全世界数百万人每天都在使用自动文本翻译工具。无人驾驶汽车正在出现,并将在未来10年出现在道路上。计算机现在比人类更擅长识别人脸。尽管这些成就令人印象深刻,但人们仍然不知道如何让机器有意识和自我意识。因此,在可预见的未来,人工智能接管世界仍将是科幻小说的情节。当然,这并不意味着我们可以高枕无忧。

人工智能系统越来越多地用于决策,这直接影响到人们。例如,银行发现人工智能系统擅长预测潜在客户是否会成为高质量的客户——他们是否会按时偿还债务,等等。他们可以通过使用大量的客户记录来“训练”人工智能系统。一段时间后,该系统将能够分析潜在客户的详细信息并预测他们的质量。对于银行来说,它可以快速而廉价地决定是否需要特定的客户。但是对于客户自己来说,他们应该担心:如果银行的人工智能系统在某种程度上有偏见呢?

这是算法偏见。当前人工智能浪潮的特征之一是,系统不能像人们那样解释或合理解释其决策。因此,银行可能会使用人工智能系统来决定不与你做生意,但他们无法解释原因。这公平吗?银行这样经营合乎道德吗?谁将对这个决定负责?

这些问题不容忽视。一个解决方案是建议监控人工智能技术的使用。我认为通过一般法律来管理人工智能的使用是不现实的。这似乎有点像试图通过立法来管理数学的使用。一种似乎被接受的方法是,如果软件做出了影响你的决定,那么你应该有权知道这个决定是如何做出的,使用了什么数据,使用了什么标准。我认为这更合理。使人工智能具有可解释性和透明性是当今该领域最大的挑战之一。

在某些情况下,人工智能决策可能会直接影响生死,比如在战场上使用人工智能系统。虽然没有证据表明这种“致命自主武器”已经被使用,但它确实有这种可能性。在过去的五年里,人工智能领域的科学家们采取了积极的行动,希望*能够认识到这个问题的严重性并做出回应。最近,英国*在一份报告中明确表示,它永远不会赋予人工智能系统伤害人类的权力。

人工智能只是一种技术,就像任何技术一样,它可以用来造福人类,也可能带来危害。有条件的立法不可能有效控制人工智能。我们需要以负责任和合乎道德的方式使用人工智能。正如最近关于自主武器的全球讨论取得进展一样,国际社会需要应对人工智能带来的挑战。

(作者是英国牛津大学计算机系主任)

《人民日报》(2018年5月15日,第22版)